首页 > 热点 > > 内容页

世界通讯!专访ChatGPT之父Altman,GPT最酷及最令人害怕之处在于

发表时间:2023-02-10 15:58:34 来源:首席访谈

以下文章来源于福布斯,作者Alex Kenrick Cai


(相关资料图)

在1月中旬参观了OpenAI的旧金山办公室后,《福布斯》采访了这位最近不愿在媒体上露面的投资人和企业家,与他聊了聊ChatGPT、通用人工智能(AGI),以及他的人工智能工具是否会对谷歌搜索构成威胁等话题。

为保证文本清晰连贯,以下采访内容经过编辑整理。

福布斯:随着ChatGPT的流行、将其变现的驱动力以及大家对你们与微软合作的关注,这一技术正处于一个拐点。从你的角度来看,OpenAI觉得它正处于一个什么样的阶段?你会如何描述这个拐点呢?

山姆·阿尔特曼:

这绝对是一个激动人心的时刻,但我认为这仍是它的一个非常早期的阶段。事实上,这将是一条持续的指数式的技术改进之路,并且它对社会的积极影响也将呈指数性攀升。

在发布GPT-3或DALL-E的时候,我们本就可以这样说了,但我们现在(对于ChatGPT)才这样说。我想我们今后还可以继续说这样的话。虽然我们有可能是错的,也可能会遇到一个此前或现在都没有预料到的绊脚石,但我认为,我们很有可能已经发现了一些重要的东西,而这种范式带我们走得很远很远.

福布斯:人们对ChatGPT的反应有让你感到惊讶吗?

山姆·阿尔特曼:

我一开始做它就是因为我认为它会成功。所以,虽然我对人们的反应规模感到有些惊讶,但我确实此前就希望并预料到它会受到人们的关注和喜爱。

福布斯:格雷格·布罗克曼 (Greg Brockman)告诉我,你们的团队此前甚至不确定这款软件是否值得推出,所以不是每个人都是这么想。

山姆·阿尔特曼:

长期以来,我们的团队对于推出新产品的确都不太兴奋。我们只是会说,“我们试试吧,试试看会发生什么。”但是这一次,我为了这个项目做出了很大的努力,因为我真的认为它能成功。

OpenAI联合创始人格雷格·布罗克曼,图源:ETHAN PINES FOR FORBES

福布斯:你曾经说过,你认为人们可能会对ChatGPT真正的构成和运行方式感到惊讶。你认为这中间存在哪些误解?

山姆·阿尔特曼:

其中一件事是,ChatGPT的基本模型已经在API中存在很长时间了,大概10个月吧,甚至更久。[编者注:ChatGPT是GPT-3模型的更新版本,于2020年首次作为API发布。]

我认为其中一个令人惊讶的情况就是,如果你做出一点微调,让(模型)以特定的方式对人们有所用途,并找出正确的交互范式,那么你就可以得到这个结果。实际上,这并不是一项全新的技术。(让它产生这个效果的)是其他的调整。我认为这一点还没有得到很好的理解。比如,很多人仍然不相信我们,他们认为这一定是GPT-4。

福布斯:人工智能生态系统的泡沫化是一个对你有帮助的趋势吗?还是说它会制造干扰,让你们的工作更加复杂?

山姆·阿尔特曼:

都有。肯定是两者都有。

福布斯:你认为该领域是否正在形成一个真正的生态系统,例如除了OpenAI之外,其他公司也在做着重要的工作?

山姆·阿尔特曼:

是的,我认为这个领域对一家公司来说太大了。实际上,我希望这里出现一个真正的生态系统。我觉得那样会更好。我认为在某个时候,世界上应该会出现多个AGI(通用人工智能),所以我真的很欢迎它的出现。

福布斯:你认为今天的人工智能市场与云计算、搜索引擎或其他技术的出现有什么相似之处吗?

山姆·阿尔特曼:

我认为它们总有相似之处,但同时也会有一些特异性的东西。大多数人会犯的一个错误是过多地谈论事物之间的相似之处,而不是谈论使它们不同于彼此的细微差别。

因此,假如你说,“啊,是的,这就像云计算之争一样,未来将会有多个这样的平台,而你只需要使用其中一个作为API就行了”——用这样的方式来谈论OpenAI是非常容易的,也是可以理解的,但事实上它们也有很多东西是大相径庭的,而且人们会做出非常不同的功能选择。不同公司的云在某些方面有很大的不同,但你把东西传上去,它就可以得到服务。我认为各种人工智能产品之间的差异会更大。

福布斯:人们想知道ChatGPT是否会取代传统的搜索引擎,比如谷歌搜索。这是让你感到兴奋或有所激励的事情吗?

山姆·阿尔特曼:

我不认为ChatGPT会取代搜索引擎,但我认为将来某一天的某个人工智能系统可能可以做到。

更重要的是,我认为如果你只关注昨天的新闻,你就会完全错过现在的机会。我更感兴趣的是思考搜索引擎之外的东西。我不记得在网络搜索引擎出现之前我们是怎么搜索信息的,我有点太年轻了。我想你也是如此……

福布斯:在我小的时候,我们有一张《大英百科全书》的光盘。

山姆·阿尔特曼:

是的,没错,我想起来了,就是那样。但是,过去没有人说:“啊,我要把《大英百科全书》的光盘做成一个稍微好一点的版本。”他们只会说,“嘿,实际上我们可以用一种非常不同的方式来做这件事。”

因此,让我对这些模型感到兴奋的并不是“如何用它们取代上网和使用搜索引擎查询信息的体验”,而是“我们能用它们做一些什么完全不同、而且更酷的事情?”

福布斯:这是AGI会实现的东西吗?还是在那之前就会发生了?

山姆·阿尔特曼:

哦,不,我希望它很快就会发生。

福布斯:你觉得我们是否已经接近了类似AGI的目标?以及我们怎么知道实现这一目标的是GPT的哪个版本,或者其他什么软件呢?

山姆·阿尔特曼:

我不认为我们已经快要实现AGI了。但是,我们如何知道(它何时会实现)是我最近一直在思考的问题。在过去五年里,或者说从我刚开始做这件事的时候算起——那还不止五年——我对此只有一个新的认识,那就是它不会是一蹴而就,而将是一个渐进的过程。这就是人们所说的“缓慢起飞”。人们对我们是什么时候实现AGI的不会达成共识。

福布斯:你认为这与你在OpenAI之外的其他兴趣有关系吗?比如你创办的Worldcoin和其他公司,它们是否都符合AGI理论?

山姆·阿尔特曼:

是的,有关系,至少这是我思考的框架。AGI是驱动我所有行动的推动力。可能我的有些行动比其他行动(与它的关联)更直接,但许多看起来不大相关的行动背后其实仍然是受它驱动。此外,我还有一个目标,那就是实现一个富足的世界。例如,我认为能源是非常重要的,而能源对创建AGI也非常重要。

OpenAI首席执行官山姆·阿尔特曼拒绝为这篇报道拍照,以下是他的生成式人工智能工具DALL-E想象的“山姆·阿尔特曼登上福布斯杂志封面”的画面。图片来源:DALL-E

福布斯:格雷格·布罗克曼说过,虽然OpenAI是受研究驱动的,但它并不反对资本主义。你如何在以营利为目的的投资者希望获得回报和OpenAI更广泛的目标之间取得平衡?

山姆·阿尔特曼:

我认为资本主义很了不起。我热爱资本主义。在世界上所有的坏体系中,它是最好的一个,或者说是我们迄今为止发现的最不坏的一个。我希望我们能找到比它更好的体系。但我认为,如果AGI真的可以完全实现,我可以想象它会以各种方式打破资本主义。

据我所知,我们试图设计的是一种不同于其他任何公司结构的结构,因为我们真的相信我们正在做的事情。如果我们只是认为它将成为另一家科技公司,那我会说:“太好了,我知道这个剧本,因为我的整个职业生涯都在做这个,那就让我们做一家真正的大公司吧。”

但如果我们真的实现了AGI,而且它打破了(资本主义的范式),我们就需要(在公司结构上)有所不同。因此,我为我们的团队和我们的投资者能做到这么好而感到非常兴奋,但我认为人工智能领域不能被任何一家公司单独所有。如何分享AGI的利润,如何分享它的使用权,以及如何分配它的治理权限,这三个问题都需要新的思考。

福布斯:格雷格向我介绍了第三方API未来与第一方产品(也许是企业工具)并存的想法。在你们产品化的过程中,你们如何保持OpenAI的开放精神?

山姆·阿尔特曼:

我认为最重要的方法是推出像ChatGPT这样的开放工具。谷歌没有将这样的东西公之于众,其他一些研究实验室也因为一些原因没有这么做,还有人担心它不安全。但我真的相信,我们需要全社会去感受它,去与它互动,去看到它的好处,同时也理解它的缺点。所以我认为我们做的最重要的事情就是把它们向公众开放,这样全世界就可以开始了解接下来将要发生什么。在我为OpenAI感到骄傲的所有事情中,最令我感到骄傲的是,我们能够在AGI上以一种我认为是健康和重要的方式推动“奥弗顿之窗”的实现 [编者注:奥弗顿窗口是一种在特定时间内主流人群在政治上可以接受的一系列政策的模型。]——即使它有时会让人不舒服。

除此之外,我们还希望提供越来越强大的API,因为我们能够使它们更安全。另外,我们还会像开源CLIP [编者注:CLIP是Open AI于2021年发布的一款人工神经网络] 那样继续对一些软件进行开源。最近,我们又开源了Whisper和Triton(分别是一款自动语音识别程序和一个编程语言)。所以我认为这是一个多管齐下的策略,在平衡每件事情的风险和收益的同时,把这些东西推向世界。

福布斯:有些人可能会担心你在搭Satya Nadella (微软CEO)和微软公司的便车,对于这些人你想说些什么?

山姆·阿尔特曼:

我想说的是,我们与他们达成的任何协议都是经过仔细考虑的,以确保我们仍然能够履行我们的使命。而且,Satya和微软都很棒。我认为到目前为止,他们是与我们的价值观最一致的科技公司。每次我们去找他们说,“嘿,我们要做一件奇怪的事情,你可能会讨厌它,因为它与标准交易的做法非常不同,比如限制你们的回报或设定一些安全优先条款”,他们都会说:“这太棒了。”

福布斯:所以你觉得OpenAI在盈利方面的商业压力或现实情况不会与公司的整体使命相冲突?

山姆·阿尔特曼:

一点也不。你可以去向任何人打听我。我是出了名的不会忍受任何我不想忍受的事情。如果我认为它们之间存在冲突,我就不会做任何交易。

福布斯:你们不是说“我们不想从中获利”的苦行僧,但与此同时,你们似乎也不以创造财富为动机。

山姆·阿尔特曼:

我认为这当中肯定有一种平衡。我们希望让员工获得很大的成功,让(他们的股权)获得很高的回报,那很好,只要它是处于一个正常、合理的水平。但如果整个AGI的事情真的实现了突破,那么我们想要一些不同的范式。我们现在想要的是如何与社会分享这些的能力。我认为我们已经以一种很好的、平衡的方式做到了这一点。

福布斯:到目前为止,你看到有人用GPT做过的最酷的事情是什么?最让你害怕的事情又是什么?

山姆·阿尔特曼:

要选出一件最酷的事情真的很难。我看到了人们(用GPT)做的各种各样的事情,这是很了不起的。但我可以告诉你我在其中发现的最有个人价值的事情。(GPT的)总结概括功能对我来说意义重大,甚至比我之前想象的还要大得多。事实上,我可以用它来概括完整的文章或长邮件,这比我想象的要有用得多。此外,我还能向它问一些深奥的编程问题,或者让它帮我调试代码,这感觉就像我有一个超级出色的程序员可以与之交谈。

至于说最让我害怕的事情?我确实一直在密切关注开源图像生成器所生成的报复性色情图片。我认为这会造成巨大且可预见的伤害。

福布斯:你认为这些工具背后的公司有责任确保这种事情不会发生吗?还是说这只是人性中不可避免的一面?

山姆·阿尔特曼:

我认为两者都有。有一个问题是,你想在哪里监管它?从某种意义上来说,如果我们能指着这些公司说,\"嘿,你不能做这些事\",那就太好了。但我认为,人们无论如何都会采用开源模型,而且这么做的结果在大多数情况下都是好的,但也会有一些不好的事情发生。在此基础上建立的公司,以及与终端用户有最后关系的公司也将不得不承担一些责任。因此,我认为这种情况将会采用共同责任和问责制度。■

—END—

来源:福布斯

作者:Alex Kenrick Cai

往期首席

推荐阅读

转载:请微信后台回复“转载”

最近更新