道高一尺魔高一丈 AI助力“深伪”难辨

在AI时代，透过深伪技术已可做到“换脸”和“换声”，许多公众人物成了仿造目标。记者通过访问技术研发者，了解深伪视频和音频的制作过程，以及如何辨别真伪。也看到深伪技术正面之处。

常言道，“有图有真相”，但在AI时代，这句话似乎要打上一个问号。随着内容生成技术成熟普遍，基于深度学习与影音合成的深度伪造（简称“深伪”，deepfake）也愈发真假难辨。公众人物成了深伪技术的主要目标对象，近来YouTube弹窗经常出现打着名人效应旗号的广告，推荐理财产品。

不久前，不法分子利用深伪技术窜改李显龙总理的访谈片段，宣传加密货币骗局。总理在脸书帖文，呼吁公众提高警惕，切勿上当受骗。也有仿造CNA新闻播报关于淡马锡控股发布的一款新基金，鼓励公众购买。一系列近乎逼真的视频，乍一看难辨真假，回过神来才有警觉这可能是一种新兴的仿造技术。

深伪技术Deepfake早在2014年问世，2017年随着一款可以换脸的影片制作软件走入大众视野。踏入AI时代，深伪技术已经可以做到“换脸”和“换声”，这就意味着写好“剧本”后，可以将任何话放在任何人口中。不仅在本地，而是全球范围内，利用深伪技术制造假消息的例子屡见不鲜，公众人物如马斯克、奥巴马、普京等，都成为被深伪的对象。