向深度伪造宣战

深度伪造在巴以冲突中扮演了重要的角色，包括篡改了约旦王后拉尼娅（左中）和时尚模特贝拉·哈迪德（右上）的视频，以及俄乌冲突（左下）和电子游戏《武装突袭3》（右下）的战斗镜头。图片插图来源：FORTUNE ; 图片来源：SCREENSHOTS CLOCKWISE FROM TOP LEFT: @GLOOOUD/X, VERIFY/YOUTUBE, @AG_JOURNALIST/X, @GLOOOUD/X, THE QUINT/YOUTUBE

2023年10月7日破晓时分，以色列的特拉维夫市响起了空袭警报，迈克尔·马蒂亚斯（Michael Matias）和他的女朋友从床上跳起来，跑到公寓大楼的防空洞。在防空洞里，他们手机上的信息显示了触发警报的恐怖场景：哈马斯的武装分子正在向以色列发起大规模军事行动，并且扣押了数百名人质，距离他们安全聚集的地方不到一个小时的车程。

在令人惊愕的余波中，马蒂亚斯突然意识到这对他的科技新创企业的影响。2022年年底，他创办了人工智能公司Clarity，专注于检测竞选活动中的深度伪造信息；他认为，这种虚假信息对国家构成了紧迫威胁。但由于在10月7日大约有1,200名以色列人丧生，而且该国正处于战争状态，因此这一任务需要暂时搁置。那天早上，他与Clarity的团队紧急召开会议，以启动一项行动计划。“我们对彼此说：‘在此次事件里，我们的技术将大有用武之地。’”Clarity的首席执行官马蒂亚斯说道。

这次袭击是以色列建国75年来最致命的一次，在之后的混乱中，以色列对加沙地区进行了封锁，切断了区域内的一切水、电、物资供应，并向沿海飞地（居住着200万名巴勒斯坦人）的哈马斯目标投掷了数千枚炸弹。随着以色列的行动升级，出现了全面的人道主义灾难，在一个月内有超过10,000名巴勒斯坦人丧生，其中包括平民，恐怖的画面充斥着电视和手机屏幕，引发了全世界的愤怒和抗议活动。这不仅是一场弹药战争，而且是一场信息战争——真假信息混杂。在对交战双方义愤填膺的同时，一些人质疑这些令人毛骨悚然的可怕场景是否真实，或是这些图像是否是在人工智能的助力下生成的所谓深度伪造图像。

事实上，随着技术的进步，人工智能生成的虚假信息越来越难以辨别。马蒂亚斯表示，这让Clarity这样的新创企业陷入了“一场猫和老鼠的博弈”。

问题是，最后是猫赢，还是老鼠赢？一些人担心，生成技术的便利性会让恶意用户比那些远不是那么灵活的科技公司和试图控制他们的政府智高一筹。常驻英国剑桥、为英国政府以及包括Adobe和Facebook的母公司Meta在内的企业提供咨询服务的人工智能技术顾问亨利·艾德尔（Henry Ajder）说：“该技术的发展速度快得令人难以置信。20年或10年后会是什么样子？这些工具将变得越来越容易获得。当确实发现大量的深度伪造内容时，我们可能会全然不知所措。”

俗话说，军事宣传和战争本身一样古老。但自从OpenAI在2022年推出第一版人工智能聊天机器人ChatGPT以来，生成式人工智能爆炸性的流行增强了普通用户创造自己叙事的能力。当涉及到教皇方济各（Pope Francis）身穿白色大号羽绒服或者金·卡戴珊（Kim Kardashian）担任公交车司机时，其影响相对微不足道。但在战争里，深度伪造技术可以用来制造混乱，可能会产生生死攸关的后果。

2022年2月，俄乌冲突爆发，引发了欧洲几代人以来最大规模的陆地冲突。几天之内，乌克兰总统弗拉基米尔·泽连斯基（Volodymyr Zelensky）在Facebook上露面，命令士兵投降。几天后，俄罗斯总统弗拉基米尔·普京（Vladimir Putin）在推特（Twitter）上也命令军队放下武器。抽搐的动作和模糊的镜头很快就暴露了这两段视频是虚假的。但这预示着，一旦人工智能工具得到改进，有朝一日可能会发生的事情。

现在，这一天已经到来，无论是在政府办公室还是在家里，都能够轻松地获得生成式人工智能工具。这项技术带来了大量经过篡改的内容，而这些内容以前需要熟练的技术人员才可以制作出来。大西洋理事会（Atlantic Council）的数字取证研究实验室（Digital Forensic Research Lab）的研究人员莱拉·马什库尔（Layla Mashkoor）称，在以色列战争中，这些内容来自四面八方。该实验室隶属于一家密切追踪冲突中的社交媒体网站的美国智库。她指出，双方人士都在传播深度伪造内容，她举例道，一个亲以色列的Instagram账户里有一张人工智能处理过的照片，显示成群的以色列人在阳台上为士兵欢呼。对许多人而言，手机屏幕上闪过的如海啸般袭来的信息让一切都显得不可靠。马什库尔说：“即便是真实的图像，也会有反驳的声音，所以人们很难弄清楚真相。”

当马蒂亚斯为他的人工智能新创企业取名Clarity时，这正是他想要解决的问题。战争爆发后，团队立即行动起来。据马蒂亚斯介绍，随着数以百计的视频和照片在互联网上流传，其中一些是哈马斯在袭击期间拍摄的，还有一些是加沙居民在遭到摧毁的社区拍摄的，国际媒体机构开始给Clarity发送电子邮件，寻求帮助，以剔除深度伪造的视频和照片。马蒂亚斯拒绝让《财富》杂志透露他的客户信息。

这场战争在网上催生了大量的假新闻：时装模特贝拉·哈迪德（Bella Hadid）为她的亲巴勒斯坦言论道歉的视频实际上是合成音频。约旦王后拉尼娅（Rania）说她的国家“与以色列站在一起”，这是在她露面接受美国有线电视新闻网（CNN）采访的视频基础上，利用人工智能生成的音频。一段据称是哈马斯的战士摧毁以色列坦克的视频，实际上来自俄乌冲突。另一段显示哈马斯击落两架以色列的直升机的视频呢？那是从电子游戏《武装突袭3》（Arma 3）中截取的。

总部位于美国加利福尼亚州帕洛阿尔托和以色列特拉维夫的Clarity还在战争里与以色列的情报机构合作，以检测战争录像的真假。几乎所有的Clarity团队的成员，包括马蒂亚斯在内，都在义务服兵役期间，在以色列国防军（Israeli Defense Forces）的精锐技术部队中花了数年时间磨练技能。马蒂亚斯本人曾经在被称为“8200部队”的情报机构服役（人才选拔极其严格），该机构的成员在服兵役后创办了无数的全球新创企业。

凭借这样的背景，马蒂亚斯利用经验丰富的创始人网络为公司提供建议和资金。Clarity的一位天使投资人乌迪·莫卡迪（Udi Mokady）说：“Clarity正在一个新的领域进行创新。”莫卡迪也是“8200部队”的退伍军人，他创立了身份安全公司CyberArk。莫卡迪现在是CyberArk的执行主席，他预测深度伪造检测市场将急剧上升。莫卡迪称：“随着ChatGPT的出现，人们对它的兴趣一夜之间急剧上升：在家里就能够创建深度伪造内容。”

Clarity并没有对内容进行纯粹的真假认证，而是使用人工智能来追踪视频中的一系列数据点，例如一个人的面部抽搐或语调的抑扬顿挫，然后利用神经网络将它们置于仪表板上显示的从绿色到红色的确定性范围内。“这是人工智能与人工智能的较量。”马蒂亚斯说道。有些视频，比如伊朗支持的（黎巴嫩）真主党（Hezbollah）组织领导人谴责10月7日袭击事件的视频，显然是深度伪造的内容（“遗憾的是”马蒂亚斯打趣道）。但其他视频就不那么一目了然了，需要人工进行判断，而不是由人工智能训练出来的机器进行判断。

在打击深度伪造内容方面，Clarity并非孤军奋战。过去几年里，还有几家类似的新创企业相继成立，包括美国纽约的Reality Defender和爱沙尼亚的Sentinel。科技巨头也在关注假新闻问题：从2024年1月开始，Meta将要求政治竞选活动在Facebook的广告中标注任何人工智能生成的内容，而谷歌现在也包含了有关图像来源的数据。

各国政府也在努力打击深度伪造。2023年10月，美国总统乔·拜登（Joe Biden）发布了一项关于“安全、可靠和值得信赖”的人工智能的行政命令，授权美国商务部（Commerce Department）寻找方法来验证内容的真实性，并在人工智能生成的媒体内容上添加水印。但该行政命令并没有威胁要对违规者实施制裁。

同样是在2023年10月，在包括中国在内的28个国家参加的、在英国举办的首届全球人工智能安全峰会（AI Safety Summit）上，官员们同意采取类似的措施。在由27个国家组成的欧盟（European Union），一项旨在执行安全标准并为新创企业提供资金的《人工智能法案》（AI Act）正在逐步通过错综复杂的程序，欧盟的高层官员希望对未能打击虚假信息的社交媒体平台处以巨额罚款。

“越来越多的国家达成的共识是：人工智能会带来灾难性的风险。”英国人工智能顾问艾德尔表示，“他们希望避免我们在过去18个月里看到的‘狂野西部’（Wild West）局面持续下去，从某种程度上说，风险会进一步加剧。”

但其中的风险无法和以色列对加沙地区发动的激烈战争相提并论，美国的军舰驻扎在靠近海岸的地方，伊朗和黎巴嫩也为可能发生的战争做好了准备。在长达数周的战争里，Clarity团队一直在努力解决这一问题，同时分析了让他们筋疲力尽的数百个视频和照片。

经常观看令人毛骨悚然的视频对Clarity的小团队的影响是显而易见的，马蒂亚斯称，在战争结束后，他们肯定需要进行创伤后治疗。他说：“我们知道，我们正在进入一场高度个性化的战争。”他补充道，这项工作让他的团队感到“沉重的情感负担，以及令人难以置信的重要性意识。”

*****

侦探力量

随着深度伪造内容的激增，企业巨头和新创企业都在竞相对其进行监测。以下是一些参与其中的公司：

DeepMedia

该公司由斯坦福大学（Stanford University）和耶鲁大学（Yale University）的人工智能专业的毕业生于2017年创立。该公司总部位于美国加利福尼亚州奥克兰，与美国国防部（U.S. Department of Defense）、联合国（United Nations）和科技公司合作，利用神经网络处理技术发现虚假内容。

Reality Defender

这是一家总部位于美国纽约州纽约市曼哈顿的公司，由高盛集团（Goldman Sachs Group）的前高管本·科尔曼（Ben Colman）于2021年创立，他表示，在深度伪造内容病毒式传播之前阻止它至关重要。该公司在2023年10月的一轮融资中筹集了1,500万美元，旨在推出能够实时识别合成语音的新工具。

英特尔（Intel）

该公司在2022年推出了一款名为FakeCatcher的深度伪造内容检测器，据称可以实时分析视频，并在几毫秒内提供准确率高达96%的检测结果。其中一种罕见的工具是分析像素中的血流，从而判断图像是否描绘的是真人。

译者：Zhy