英国将举办首届全球峰会以阻止潜在的人工智能“终结者”
来源 | cnBeta2023-06-09 16:41:06
英国政府宣布将于今年秋季(秋季)举办首届全球人工智能安全会议。 在此次峰会上,主要国家、领先的科技公司和研究人员将齐聚一堂,讨论安全措施,以评估和监测人工智能带来的最重大风险。

英国政府宣布将于今年秋季(秋季)举办首届全球人工智能安全会议。 在此次峰会上,主要国家、领先的科技公司和研究人员将齐聚一堂,讨论安全措施,以评估和监测人工智能带来的最重大风险。

“人工智能具有不可思议的潜力,可以让我们的生活变得更美好,”英国首相 Rishi Sunak 说。 “但我们需要确保以安全可靠的方式开发和使用它。”

“纵观历史,我们一次又一次地发明了颠覆范式的新技术,并利用它们造福人类。 这是我们必须再次做的事情。没有一个国家可以单独做到这一点。 这需要全球的努力。 但凭借我们丰富的专业知识和对开放、民主国际体系的承诺,英国将与我们的盟友站在一起,引领潮流。”

从日常生活到科幻小说,人工智能所带来的潜在风险已经被多方面关注。 目前人工智能最常见的危险是它会产生称为幻觉的虚假信息。

OpenAI 正在研究其 LLM 中的处理方法,验证每个阶段的逻辑以减少"胡说八道"的发生率,但该模型尚未部署用于广泛使用。 除了这个问题,人工智能还可以被恶意黑客用来生成可用于攻击的恶意代码。

虽然这不直接构成人工智能安全问题,但围绕人工智能抢走工作的情况是政客们必须应对的另一件事。 例如,上周报道说,一些公司已经开始用生成人工智能取代人类。

在本次峰会宣布之前,Rishi Sunak 的 AI 顾问 Matt Clifford 表示,如果不受监管,AI 可能会在短短两年内变得非常强大,这显然会让人类难以控制。 虽然终结者 AI 场景现在感觉像是科幻小说,而且可能会持续两年多,但政府最好在为时已晚之前调查潜在风险。