人工智能之战转向权力走廊

插图来源：BRATISLAV MILENKOVIC

到了午夜，饼干吃光了，自动售货机里的咖啡也卖完了，晚餐点的三明治也早已入肚。尽管如此，仍然有约700名议员躲在欧盟（European Union）位于比利时布鲁塞尔的高耸入云的议会大厦里。最后，在天寒地冻的2023年12月8日太阳升起之时，他们踉踉跄跄地回家打盹、洗澡，然后又返回来继续争论了17个小时。直到出于精疲力竭或权宜之计，他们就一系列法律达成了一致，这些法律涉及他们曾经投票表决过的最棘手的问题之一：人工智能。

就欧盟的《人工智能法案》（AI Act）展开的马拉松式谈判，是欧盟有史以来最紧张的谈判之一，并为这项影响深远、体系庞杂的新技术制定了世界上第一本规则手册。欧盟的27个成员国并不是唯一试图实现这一立法壮举的国家。2023年10月，美国总统乔·拜登（Joe Biden）发布了一项行政命令，制定了保护美国人免受人工智能造成的歧视和大量失业的指导方针。该命令相当于一个占位符，但美国国会和美国商务部（Department of Commerce）等机构则试图把该命令转化为硬性规定。与此同时，日本、英国、韩国和其他主要经济体也都发布了类似的提案，从打击虚假信息和深度伪造，到保护个人隐私和披露用于人工智能机器训练的数据，不一而足。2023年11月，在英国首相里希·苏纳克（Rishi Sunak）召开的人工智能安全峰会（AI Safety Summit）上，28个国家同意打击该技术带来的“严重甚至灾难性的危害”。

规则泛滥以及有可能不断增加，为开发和使用人工智能的公司开辟了一个新战场。如何解释和执行这些细则将对科技行业的未来产生深远的影响，原因是这些细则将决定企业可以打造什么类型的产品，以及如何利用客户数据。这关系到未来数千亿美元的企业营收和市场价值。国家利益亦是如此。各国正在保护其公民免受隐私侵犯、生物武器和大规模网络攻击等危险的损害，与成为技术领导者以便在至关重要的全球军备竞赛中促进经济实力与军事实力同步提升的愿望之间进行权衡。欧盟的首席人工智能谈判代表德拉戈什·图多拉凯（Dragos Tudorache）表示：“不仅对我们而言，而且对整个世界来说，人工智能都至关重要，而且极具变革性。”

对美国和欧洲的监管机构而言，难题在于：监管过松可能会带来意想不到的危险，而监管过严又会扼杀创新——这正是投资者和科技公司的高管在主张允许公司实现相对自由放任式的发展时提出的核心论点。

更重要的是，随着人工智能以迅雷不及掩耳之势发生变化，目前世界各地正在讨论的法规可能很快就会过时。Tech Dynamics的总裁比尔·怀曼（Bill Whyman）说：“你试图监管的是一个不断变化的目标，很少有人技术能力强到足以理解这个目标，而政府机构也很难吸引到合适的人才来进行有效监管。当你打开监管的潘多拉魔盒时，你不知道最终会得到什么。”Tech Dynamics是一家总部位于美国华盛顿特区，为科技公司提供咨询服务的公司。

当欧盟的政客们打开潘多拉魔盒时，他们发现有两个问题必然会在欧盟的27个成员国之间引发激烈争论。首先是面部识别——欧洲制定了严格的个人隐私保护法，许多议员认为面部识别侵犯了个人权利，强化了固有偏见。最终，欧盟的议员们同意把人工智能面部识别技术的使用限制在执法领域，而且即便是在执法领域，也只能用于侦破恐怖主义等严重犯罪。

其次是关于人工智能公司需要达到多大的规模，才会受到全部欧盟法规的约束的争论。非政府组织欧洲企业观察站（Corporate Europe Observatory）的活动家布拉姆·弗兰肯（Bram Vranken）指出：“这确实给这些公司敲响了警钟。”该组织的总部位于比利时布鲁塞尔，负责监督企业在欧洲各国首都的活动。弗兰肯所在的组织发现，在人工智能相关法案投票表决前的数月里，谷歌（Google）、微软（Microsoft）和其他科技巨头花费了数百万美元来游说欧盟议员。

欧盟的首席谈判代表图多拉凯称，他遭到游说者和行业组织的短信和电子邮件轰炸，这些短信和电子邮件都在重复科技公司的谈话要点，他说：“都是要求召开成百上千次会议。”这对人工智能专家来说不足为怪。耶鲁大学（Yale University）新成立的数字伦理中心（Digital Ethics Center）的创始主任卢恰诺·弗洛里迪（Luciano Floridi）指出：“这些公司的权力比以往任何时候都大。它们的财力比世界上数百个国家都雄厚。”

笼罩在布鲁塞尔谈判上空的阴影是，各大公司的人工智能基础模型，比如人工智能聊天机器人ChatGPT，用途多到几乎不胜枚举，如果落入恶意行为者的手中是否会带来严重伤害。随着OpenAI于2022年推出的ChatGPT的爆炸式流行，这种担忧大大增加了。法国和德国极力主张保护本国的人工智能领军企业，尤其是总部位于法国巴黎的新创企业Mistral AI（由Meta和谷歌的前科学家创立）和德国的Aleph Alpha，这两家公司都已经筹集了数亿美元的风险投资。

最终，欧盟的相关法案迫使大型科技巨头（主要是美国公司）完全遵守规定，而欧洲的新创企业则可能要经过数年的发展，才会受到同样的规则的约束。美国吉布森律师事务所（Gibson Dunn & Crutcher）驻法国巴黎和英国伦敦专攻人工智能相关法律的律师罗伯特·斯帕诺（Robert Spano）说：“我们正处于对这一全新现象进行监管的早期阶段。可能在未来十年内，人工智能都将是前进两步，后退一步。对于监管的要求将会出现很多争议。”

与欧盟的《人工智能法案》不同，美国总统乔·拜登政府的行政命令是一套供约50个联邦机构遵循的指导方针。根据该命令，企业需要为人工智能生成的内容添加水印，测试其模型是否存在潜在的安全风险，并投资于更多的人工智能工程师。但批评人士认为，该命令缺乏执行机制，淡化了人权问题。虽然欧洲严格限制使用面部识别软件，但美国将依靠其联邦标准和技术机构来测试这些新应用程序。监控美国和欧盟人工智能法规的非政府组织Don’t Spy EU在分析拜登的行政命令时表示：“这听起来一点也起不到安抚人心的作用。”同样，该组织批评欧盟允许安全部门使用面部识别软件，称“无法预测执法部门实际上会如何使用这些系统”。

对各国政府而言，人工智能竞赛对于巩固本国在未来数年的政治影响力都至关重要。俄罗斯总统弗拉基米尔·普京（Vladimir Putin）早在2017年就说过：“谁成为这一领域的领导者，谁就将统治世界。”同样，中国已经宣布把人工智能技术作为一项重要的国家战略。它向海外出口人工智能面部识别技术。

尽管意识形态存在冲突，甚至会出现敌对状况，但各大企业坚持认为，全球范围内繁杂的规则应该尽可能地实现标准化，以便于开展业务。前沿模型论坛（Frontier Model Forum）是由OpenAI、微软、谷歌和新兴人工智能巨头Anthropic于今年1月成立的行业组织，旨在推动制定有利的人工智能相关法律。

欧盟的《人工智能法案》的墨迹还未干，欧盟的高级官员玛格丽特·维斯塔格（Margrethe Vestager）就在今年1月初抵达美国加利福尼亚州旧金山，阐述该法案对大型科技公司的影响。维斯塔格有着不切实际的头衔：建设适合数字时代的欧洲的执行副主席。她也是丹麦政治家，过去十年曾经在布鲁塞尔发起对谷歌和苹果（Apple）的反垄断诉讼。在旧金山湾区为期两天的闪电战中，维斯塔格在与苹果首席执行官蒂姆·库克（Tim Cook）、谷歌首席执行官桑达尔·皮查伊（Sundar Pichai）、英伟达（Nvidia）首席执行官黄仁勋（Jensen Huang）和OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）的会面中来回奔波。

维斯塔格在上述会面中留出一小时与记者见面，她说她已经告诉所有人，人工智能法律不能再等了。她说：“当ChatGPT推出时，突然之间，全球所有人都或多或少地意识到，这是一件非常重要的事情。”当持怀疑态度的记者问到，为什么大型科技公司会听从来自5,000英里（约8,046.72千米）外的议员的意见时，维斯塔格直言不讳地说：“如果出现不合规的现象，我们随时准备立案调查。”她补充道，根据《人工智能法案》，欧盟国家可以对违规企业处以最高3,000万美元的罚款，相当于其全球收入的2%至6%，或者勒令其分拆实力雄厚的公司。

如果真能实现这一目标的话，也可能需要数年时间。欧洲的相关法律要到2026年才能全面生效，而美国和英国的相关法律则落后于欧洲。然而，布鲁塞尔的活动已经打响了发令枪。Tech Dynamics的怀曼说：“成功的几率很小，但这并不意味着我们无计可施。”

*****

监管轮盘赌

世界各国政府已经提出人工智能法规或进行相关的投票表决，形成了繁杂的规则。以下是它们如何解决一些首要问题的：

面部识别

这是最具争议的人工智能类别之一，受到民权组织的严厉批评。欧盟的《人工智能法案》把面部识别技术限制在执法部门侦破恐怖主义等严重犯罪时使用。但美国总统乔·拜登的行政命令更为灵活，指示联邦机构在新系统推出时对其进行评估。

版权

另一个热点问题是，作家和艺术家在美国法院提起了一系列诉讼，声称数家公司在未经他们同意的情况下使用其内容来训练算法。欧盟将要求各大公司披露它们使用的数据，而拜登的命令则指示美国专利局（U.S. Patent Office）研究这个问题并作报告。

深度伪造

全球监管机构在这一问题上基本达成一致。欧盟和拜登都希望打击人工智能生成的虚假图像（或称深度伪造图像）的泛滥，并要求各大公司在虚假或合成内容上添加水印，以便用户能够辨别图片的真伪。

译者：Zhy