OpenAI将组建新团队 以控制“超级智能”人工智能系统
来源 | Tech Web2023-07-06 18:17:01
据外媒报道,当地时间周三,OpenAI 宣布,将成立一个新的团队,以开发引导和控制 超级智能 人工智能系统的方法。

据外媒报道,当地时间周三,OpenAI 宣布,将成立一个新的团队,以开发引导和控制 " 超级智能 " 人工智能系统的方法。

OpenAI 表示,该团队由首席科学家、联合创始人之一伊利亚 · 苏斯克维尔(Ilya Sutskever)以及该公司协调团队负责人简 · 莱克(Jan Leike)共同领导。

这两人预测,智能超过人类的人工智能将在十年内出现。他们还称,这种人工智能不一定是仁慈的,因此有必要研究控制和限制它的方法。

除了苏斯克维尔和莱克外,该团队还将包括其他 OpenAI 部门的研究人员以及新的研究人员和工程师。

据悉,这并不是 OpenAI 第一次谈论超级智能人工智能。2023 年 5 月,OpenAI 首席执行官萨姆 · 奥特曼(Sam Altman)与苏斯克维尔共同撰写了一篇论文,他在论文中描述了对超级智能人工智能进行特殊监管的必要性,以及在它与人类社会融合之前必须如何安全地处理它。

人工智能的潜在危险一直是人工智能研究人员和公众最关心的问题。今年 3 月份,马斯克等千名科技人士曾签署公开信,呼吁暂停训练比 GPT-4 更强大的 AI 系统至少 6 个月。