开复解读

《假面神祇》讲述了一个利用技术手段欺骗人类视觉的故事。

如果AI不仅可以看见、识别物体，还能对其加以理解及合成，那么就可以巧妙利用这些能力，创造出让人们无法分辨真伪的图像和视频。在《假面神祇》所描绘的未来中，人们再也无法单纯依靠肉眼来辨别一段视频究竟是实地拍摄的，还是利用技术手段伪造的，为此，政府不得不出台相关法律，要求网站和App安装防伪检测器（类似于如今的杀毒软件），以保护用户权益免受伪造视频的侵害。在这样的大环境下，深度伪造（Deepfake）攻守双方的拉锯战就将演变成一场军备竞赛——拥有更多算力的一方会获得最终的胜利。

上述情况在2042年之前就会在发达国家出现，因为发达国家在大约10年内就能部署昂贵的计算机来防御Deepfake，也有足够好的复杂工具和AI专家来进行防御，进而率先实施相关的反Deepfake法案。而较落后的国家，如尼日利亚，可能到2042年左右才会碰到Deepfake的攻守拉锯战。

那么，AI是如何（通过摄像头和预先录制好的视频）掌握“看”这项能力的？一旦能看，将出现什么样的应用？基于AI的Deepfake究竟是如何实现的？人类或AI能够看穿Deepfake的真面目吗？社交网络是否将被假视频占领？人与人之间的信任会因此而被粉碎吗？怎样才能阻止Deepfake的滥用？AI技术还存在哪些安全漏洞？Deepfake背后的技术难道就不能给人类带来好处吗？

我们将在下面就这些问题展开讨论。