传奥特曼被解雇前OpenAI取得技术突破
2023-11-23 17:00
文本设置
小号
默认
大号
Plus(0条)
知情人士周三透露,在山姆·奥特曼上周五被OpenAI前董事会突然罢免之前,数位研究人员曾向董事会发送了一封信,警告称他们发现了一种能够威胁到人类的强大人工智能。 | 相关阅读(腾讯科技)
53
韵宁
教育学者
OpenAI 戏剧般的管理层变动基本告一段落,然而似乎还没完,好事者们紧跟着进入了对其技术突破的探讨。今天最热门的话题当属Q*(Q star)
这种科幻故事般的AI威胁情节,让我想起《终结者》的天网。不过说实话,对于技术突破产生威胁而辞退奥特曼的说辞,我是有些质疑的。一个目前只能解决小学生水平数学问题的模型开发出来,就因为觉得非常有潜力,董事会一看这超级人工智能马上要出现,为了防止商业化过度,把自己CEO给开除了?确实太科幻。
Q*也许是一种更先进的强化学习技术。它通过学习逐渐掌握解决小学数学问题的能力,并且它的学习上限尚未被发现。要实现这一目标,需要投入更多的计算资源和数据。那么,如果持续投入,我们是否真的就站在未来的门槛上了?这仍有待观察,但不可否认,这些进展确实令人激动。也许从未来回看Q*,这可能是人类通向 AGI 的关键节点。