OpenAI Altman:十年内可能就有非常强大的AI系统,我们要立刻做好准备

来源:华尔街见闻 | 2023-06-10 14:20:21

作为全球AI大佬齐聚的人工智能巅峰盛会,由北京智源人工智能研究院主办的2023北京智源大会于6月9-10日在北京召开。

Sam Altman:更多开源没有时间表,不会很快有GPT-5

OpenAI联合创始人Sam Altman在演讲中表示,需要国际合作,在安全部署人工智能(AI)方面建立全球信任。他提出三种方式:


【资料图】

问答环节:

智源研究院院长张宏江提问:我们距离通用人工智能(AGI)还有多远?

Sam Altman:这很难评估具体时间。很可能未来十年我们会有非常强大的AI系统,新技术从根本上改变世界的速度比我们想象的快。

张宏江:您刚才在前期的介绍中也提到了几次,正在进行全球合作。我们知道,在过去世界面临着相当多的危机。不知何故,对他们中的许多人来说,我们设法建立了共识,建立全球合作。你也在进行一次全球巡演,你正在努力推动怎样的全球合作?

Sam Altman:是的,我对到目前为止大家的反应和回答都非常满意。我认为人们非常认真地对待AgI的风险和机遇。

我认为在过去的6个月里,对于安全的讨论已经取得了相当大的进展。人们似乎真的致力于找出一种结构,让我们能够享受这些好处,同时在全球范围内共同努力降低风险。我认为我们非常适合做这件事。全球合作总是困难的,但我认为这是一种将世界团结在一起的机会和威胁。我们可以为这些系统提出一个框架和安全标准,这将非常有帮助。

张宏江:关于GPT-4和AI安全的后续问题。我们是否有可能需要更改AGI模型的整个基础架构或整个体系结构。为了让它更安全,更容易被检查.

Sam Altman:无论是从功能角度还是从安全角度来看,我们确实需要一些非常不同的架构,这是完全可能的。

我认为我们将能够取得一些进展,在解释我们目前各种模型的能力方面取得良好进展,并让他们更好地向我们解释他们在做什么以及为什么。但是,是的,如果在Transformer之后有另一个巨大的飞跃,我不会感到惊讶。自从最初的Transformer以来,我们已经改变了很多架构。

张宏江:OpenAI会开源大模型吗?

Sam Altman:我们未来会有更多开源大模型,但没有具体模型和时间表。

张宏江:AGI和大模型的下一步是什么?会很快看到GPT-5吗?

Sam Altman:我也很好奇,我们没有答案。我们不会很快有GPT-5。

Stuart Russell:我们还没达到AGI,ChatGPT和GPT-4没有在“回答”问题

在2023北京智源大会上,加州伯克利分校教授Stuart Russell表示,通用人工智能(AGI)还没达到,大语言模型只是其中一块拼图,我们连拼图最终会是什么样子,缺哪些还不确定。他表示,ChatGPT和GPT-4没有在“回答”问题,它们不理解世界。

(文章来源:华尔街见闻

标签:

责任编辑:techtoutiao

本文相关推荐