AlphaGo大战之后，人工智能将带来人类价值观革命！

李世石与AlphaGo之间的围棋人机大战，给围棋界和人工智能研究领域带来了绝大震撼。在第二盘进程中，我突然有很大的冲动想写下这篇文章，但一直拖到第三盘结束后再落笔。好在这期间已经有很多细致的技术普及贴和精彩评论文章。在此，我就不再赘述比赛细节，而是集中讨论我最想说的主题。

笔者有围棋业余五段证书，但在段位掺水严重的当下并不算业余高手。我同时也是一个从事了二十年金融证券行业的“经济人”。因此，我自信更能理解这场胜利带来的震撼，也更清楚人工智能对证券精算等数据依赖型工作的影响。

围棋虽然玄乎，但毕竟大多数人可以理解所有的棋类游戏都是一门自然科学。AlphaGo只是在遵守围棋规则的前提下，无限接近于19*19路棋盘上的真理。因此，它还不是人类之神，宇宙之神，而大体上是靠高效率的、海量的学习、计算，来获得成功的。有人简单称之为“暴力数学”的成功。

如果这种暴力数学破解是可以接受的，那么，接下来人类会不会有什么人文科学领域被AlphaGo的兄弟们攻破呢？

我很怀疑下一个倒霉蛋是音乐和绘画，甚至文学、戏剧和电影制作也垂垂危矣。音乐本来就是数学属性很强的，这点容易理解。而文学，目前要电脑编出一个含有主谓宾、定状补成分的完整句子，应该是非常初级的任务了。然后要把许多个句子组合成一个有意义的故事，那难度就提升了好几个量级。但从AlphaGo的案例看，这个难题很快将被攻克。

至于商业、金融、证券等领域里，人工智能的打击肯定是摧毁性的。尤其是自然科学属性明显的固定收益类证券投资、保险精算等等，目前居然还有那么多人类在工作，真是奇迹。股票投机暂时被电脑取代还有点远，因为这是个充满了人类的欲望、阴谋的游戏场，而且规则经常会被修改，这是淳朴忠厚、脑子一根筋的电脑们吃不消的。

而现下的大热话题自动驾驶，比起围棋、文艺创作、金融投机这些事来说，简直是小儿科，不值一提。其实飞机啥的早就自动驾驶了，但一来航线比较简单，二来成本高、应用的交通工具绝对数量少。但是不久的将来，如果地球上一半的汽车是自动驾驶的，那道路设计、交通规则等，都会发生巨变。

如果汽车能大面积低成本利用人工智能控制，我立即想到一个更可怕的事情，就是一个国家的常规武器，比如飞机、大炮、火箭弹，甚至机枪、步枪、手榴弹，也可以装上人工智能。这和少数核导弹被装上智能定位系统，严重性完全是不可同日而语的事件，因为核导弹这种大杀器损人不利己，轻易不会被使用，而智能化的常规武器在局部地区先用起来并不需要决策者特殊的勇气。个别大国如果可以用非常低的成本给大量常规武器安装人工智能，大多数国家将臣服于他。这就像拿着热武器的西班牙人来到了南美洲，几百个人就可以打败几万个土著人。

比战争技术的革新更可怕的是，战争的伦理也将被颠覆。比如本来派出地面部队大量人类战士进行占领行动，侵略方和防守方都要有大量伤亡。那如果以后侵略方可以派出全部是人工智能的装甲车、坦克、飞机开战，是不是国内舆情压力就小很多？如果防守方也不孬，也派出人工智能军团一决胜负呢？这样战争会不会在人道主义角度显得不那么残酷？战争的频率会不会大大上升，成为常规的国与国之间政治争端解决手段？当然从美好一点的角度想，以后战争就好像两个国家间的电子竞技游戏比赛，谁输谁就服软满足对方条件，不会死多少人。

AI狂想曲，到这里并没完，还有更劲爆的、可能对人类社会更深入骨髓的影响。技术革新只是让人类的四肢变长、变得有力，但价值观颠覆，却会改造人的思维方式和社会形态。就像发明瓦特发明蒸汽机，只是让机车跑的比马快，但引发的工业革命却引起了人类生活方式的巨变、阶级的重新划分和国家制度的全新模式。

回到围棋。以前的围棋因为太复杂，所以无法完全当做数学题去找最优解。于是曾有很多人号称围棋有文化属性，可以靠境界、美学感悟、甚至道德和个人修养去超越对手，赢得胜利。但是在暴力数学的碾压下，这些无法量化的、感性的判断都变成了渣滓和垃圾。AlphaGo可以义正辞严地宣布：围棋盘上，不存在境界、美学、修养这类问题，只剩下数学！

我们的日常生活中，也有很多需要伦理、道德、信仰、感情支撑的决策。但如果这些决策都可以用人工智能辅助完成呢？人类的思想和行为，如果从唯物主义的角度，如果完全不承认宗教，那终究全部可以用数学、物理、化学（根本上是数学）去解释的。进而，人的幸福感、痛苦感，也是用数学可以度量的。如果是这样，电脑会不会重塑我们的价值观和理念？会不会电脑提供的解决方案和我们平时的习惯经验完全不同？

最简单的案例还是智能驾驶。谷歌在设计智能驾驶系统时，如果碰到我们经常说的一个悖论：如果车上搭载了十名乘客，正在高速行驶，迎面突然窜出来一个小孩，如果车子突然打方向盘，很可能会侧翻导致车上十个人的伤亡，而不转向，车上人命全部保住但小孩肯定被撞死。这种难题叫人工智能来做决定，是毫无纠结的，只是它会事先让你输入你认可的终极价值观：决策的目的，是要存活人数最大化，还是承认人和人之间是不平等的？或者五个成人的重度残疾和一个儿童的死亡是否是等价的？

这个难题推而广之，就是一个国家的政治制度。只要你提前明白告诉人工智能系统你的治国终极目的，这些目的可能是以下的一种（或几种，说明白权重就行）：

未来N年里人口最大化

领土最大化

人均经济生活质量最大化

人均寿命最长

贫富、健康等方差最小

……

人工智能做这个决策运算，也许难度不会比围棋高多少。于是最后得出的结论是干脆利落的，但也许也会使你目瞪口呆的。如果Alpha元首系统建议美国采用奴隶制取代现有社会制度，更有利于整个系统的达到最优解的目标，你说美国人民是答应还是不答应？这就像AlphaGo下出一步公认的大俗手，就算它胜率极高，职业围棋棋手真的会颠覆自己从小学的棋理，去模仿它吗？

又比如超级大国的核武器按钮，其实掌握在人工智能手里，显然要比放在个别总统首相大人的提包里更让人放心。领袖再怎么伟大，终究会生理疲倦，会衰老退化，而且多少有些熬夜、酗酒、抽烟的小毛病，弄不好夫妻吵架斗嘴也会影响决策的英明。

除了国家大事，个人私生活也可以被人工智能理性干预。比如找老婆这事，如果你输入价值观目标，比如你希望白头到老、还是一年内幸福感最强？你希望靠婚姻满足周围亲人期盼，还是让自己的满足度最高？这些变量设置好以后，至于经济条件、容貌、身材这些客观可度量数据，只是小菜一碟。电脑马上会在一个城市的适龄男女中，给你找到最优解，同时很可能也是这个城市里所有男女的最优集体解决方案。

就算我们不把未来交给人工智能，但人工智能如果去重新评估历史上发生的事情，这就是对政治家和教育者们很够呛的一件事了。就像围棋界流传的一些历史上著名的妙手（有兴趣的人可以去搜索一下“耳赤的一手”之类的围棋故事），现在我们可以把那个局面输入AlphaGo系统，问问它当时最好的一步棋是不是历史人物下出的那步所谓妙手？测试的结果大概率是颠覆绝大部分的棋书上的定论。

类似的，我们把美国独立战争、南北战争时的局势输入电脑，同时很重要的一件事，是告诉电脑我们的价值观，比如哪种决策对英国人民有利，哪种决策对美国全体人民有利，哪种决策又让英美两国最多的人受益，或者对人类历史进程最有利。电脑运行一阵子后，会不会告诉我们独立战争中英国是正义的一方？南北战争中，林肯其实早点被暗杀对大家更好？

就这样，许多人文科学领域的感性认识和结论，将被量化手段逐一证实或证伪。这种改造人类自我认知的变革，要比人类创造劳动工具，改造大自然，更加惊心动魄！

如果人类不刻意去限制人工智能的发展，我相信未来十年内人类社会就会发生巨变，这种变化堪比蒸汽机、火药、电脑互联网给人类带来的影响——或者这么说还有点低估了。

我个人强烈相信人工智能带来的好处远大于坏处。AlphaGo肯定会摧毁高冷有神秘感的围棋运动，但这个代价相比其带来的好处实在太微小了。同样，人工智能肯定会导致很多人失业，但同时也可以让很多人增加娱乐闲暇时间，减少不必要的食物摄入，减少能源消耗，甚至生育率下降的危害也不那么严重了。人工智能的大跃进发展，长远来说，对自然环境的保护，对人类在地球上存在时间更长、在宇宙中的种族延续更广，都是巨大利好消息。

本文一直到结尾，有心的读者可以看到，我始终没说过人工智能自己会有价值观，会有欲望，会为了自己的利益去和人类发生冲突。这就像AlphaGo，棋力再强，也不会去改变围棋的竞赛规则。所以有些人担心AlphaGo会进化成杀死人类的智能机器人，这是杞人忧天。电脑围棋的价值观就是在19*19=361个点上抢最多的点。价值观被局限了，技术手段再先进也干不成大事。AlphaGo永远想不到下到一半去偷一个棋子耍赖皮，更不会拿起一枚围棋子塞到对手的气管里进行谋杀。

但最近很有人在担心AlphaGo们不仅在帮助人类重塑价值观，而且它们自己也会被培养出存在感和企图心。其实当一个机器不仅有了神一般的思考能力、学习能力、自我进步能力，居然还有了价值观和欲望，那真的就是个神了。有了神的世界并不是太坏，毕竟地球上有宗教信仰的人是比纯粹的无神论者更多的。

如果人类是地球上、乃至宇宙中最高级的智慧体，这种感觉并不美好——就像你人到中年成为一家之主的时候，幸福感和安全感很可能不如你是婴幼儿的阶段。所以我的理解范围内，虽然还想不到人类被AI之神统治的情景，但很欣慰很殷切的盼着这一天的到来。(财富中文网)

本文作者刘思恩系同方全球人寿资产管理事业部总经理。