人工智能“伪造”新书公然售卖，作家回应：会越来越糟

人工智能“伪造”新书公然售卖，这让我想起在互联网早期，一些线上论坛和贴吧上会有人擅自发布顶着一些名人旗号的文章和言论，结果当事人出面澄清，但负面效应已产生。

这次人工智能伪造新书，所体现的问题，一方面在于伪造者假借ChatGPT的内容制作能力侵犯了人类作家的名誉权；而另一方面也体现出亚马逊平台，在内容审核上的不严谨，很显然，在上架图书的时候没有经过署名作者本人同意和检验，甚至都没有提前沟通，这是一个系统流程问题，当然，相信亚马逊发现了这样的漏洞之后，图书审核也会更加严谨。

实际上对于人工智能进行内容造假的事，网上担忧的声音很多，一方面互联网上出现大量以人工智能口吻书写的文字内容和图片，这些文字内容看起来信誓旦旦，实际上很多时候逻辑不清，甚至扭曲了事实，而有些AI图片看起来毫无合成痕迹，对于那些不明真相的人，会以为这是真实场景。

所有这些存在误导性的文字和图片，当达到一定量级就会产生质变。对于整个互联网环境是某种意义上的“污染”。想象一下，当有一天你在搜索引擎里搜到的内容都出自人工智能合成，那么这些毫无来源的文本和图片，你如何确认他的可信度？这会给普通人类用户带来很多困扰。更深远的影响在于它会形成某些错误的共识，并把这种错误进行放大和传播，以至于我们需要费心思在一大堆AI内容里寻找人类世界的真相，那样就有些细思极恐了。

AI时代更深刻体会到谷歌所讲的科技“不作恶”是件多么难的事情。