打造中国最大的
AI信息汇总平台


对话【ChatGPT之父】3万字全文:AGI可能具备摧毁人类文明的力量(下)

12 

真实与虚假

Lex Fridman:作为一款AI语言模型,我没有独立决定什么是误导信息或什么是真实的能力。但是,我们确实有OpenAI内部的事实准确性评估指标OpenAS。这里有很多很酷的基准。如何建立真相的基准?什么是真相?这些问题是非常复杂的,需要经过深思熟虑的研究和分析。因为真相的定义和判断可能因时间、文化、语境和观点的不同而有所不同。因此,我们通常采用多种方法来验证信息的准确性,例如事实核查、数据分析、专家意见和多方验证等,以尽可能减少误导性信息的传播。

Sam Altman:数学是真实的,而新冠的起源并没有被公认为是广泛的真理。

Lex Fridman:这是两件事情。

Sam Altman:然后还有一些东西肯定不是真的。但在这第一个和第二个里程碑之间,有很多分歧。

Lex Fridman:你们AI语言模型未来会寻找什么?我们作为人类文明可以在哪里寻找真相?

Sam Altman:你知道什么是真实的吗?你绝对确定什么是真的吗?

Lex Fridman:我通常对所有事情都保持认识论的谦虚态度,并对我对世界了解和理解的少之又少感到惊恐。所以即使那个问题对我来说也很可怕。有一些事情的真实性很高,其中包括数学。

Sam Altman:无法确定,但对于这次谈话来说已经足够好了。我们可以说数学是真实的。

Lex Fridman:我的意思是,相当多的事可以确定,比如物理学、有历史的事实(也许是战争开始的日期),历史上有很多关于军事冲突的细节。当然,你可以读《亢奋战》(Blitzed:Drugs in the Third Reich)。

Sam Altman:就是这个,哦,我想读。

Lex Fridman:这本书真的很不错,它给出了一个关于纳粹德国和希特勒的理论,通过各种毒品滥用来描述希特勒和纳粹德国的很多上层人物。

Sam Altman:还有安非他命,对吗?

Lex Fridman:还有安非他明,但还有其他东西。这真的很有趣,非常引人入胜。不知怎么的,它很具吸引力,解释了很多东西。然后你以后会读到很多历史学家对那本书的批评,认为那本书实际上是有很多选择性地挑选事实实。有关人类的某些东西是,人们喜欢用一个非常简单的故事来描述一切的事实。

Sam Altman:当然,因为战争的起因就往往也是有一个伟大的、同时简单的解释,才能让人们接受,即使不是真相,可以为其他可能更黑暗的人类真相辩护。

Lex Fridman:真相。军事策略,暴行,演讲,希特勒作为一个人的方式,希特勒作为一位领袖的方式,所有这些都可以通过这个小小的视角来解释。如果你说这是真的,那就是一个很有说服力的真相。因此,真相也许在某种程度上可以被定义为一种集体智慧,我们所有人的大脑都在围绕着它运转,我们就像一群蚂蚁聚集在一起,认为这是正确的。

Lex Fridman:但很难知道什么是真的。我认为,在构建像GPT这样的模型时,你必须应对这个问题。

Sam Altman:我认为,如果你问GPT-4同一个话题,新冠病毒是否是从实验室泄漏的,我想你会得到一个合理的答案。

Lex Fridman:它提供了一个非常好的答案,列出了假设。有趣的是,它指出了一个很重要的事实,就是两种假设都缺乏直接证据。很多人之所以存在很多不确定性和争议的原因就在于没有强有力的物理证据。

Sam Altman:沉重的间接证据……

Lex Fridman:然后另一个是更像生物,理论上的那种讨论。我认为答案,GPT提供的有着细微差别的答案实际上是很好的。而且重要的是说有不确定性,只是有不确定性的事实作为一个声明真的很强大。

Sam Altman:还记得社交媒体平台因为有人说这是实验室泄漏的而关掉那人账户吗?

Lex Fridman:这真是让人感到羞耻,审查权力的滥用。但是GPT变得越来越强大,审查的压力也会越来越大。

Sam Altman:我们面临着不同的挑战,这些挑战是前一代公司所面临的,人们谈论GPT的言论自由问题,但这并不完全相同。这不是一个计算机程序,它可以自由地表达。这也不是关于大规模传播和Twitter、Facebook 等公司所面临的挑战,他们所面临的挑战是如此之大。因此,我们将面临非常重大的挑战,但这些挑战将是非常新的和非常不同的。

Lex Fridman:很新,很不同。这样说很好。有些真相可能会因为其真相而具有危害性。我不知道,例如,智商上的群体差异。这些科学研究一旦被公开可能会带来更大的危害。你问GPT应该怎么办?GPT应该告诉你吗?有很多书写就这个问题的,它们严格遵循科学原则,但很令人不舒服,也可能在任何意义上都不会有益。但是,人们正在为此争论各种各样的观点,其中很多人心中充满仇恨。那么你该怎么办?如果有很多人恨其他人,但实际上他们引用了科学研究,你会怎么做?GPT应该怎么做?GPT减少世界上仇恨的优先级是什么?这由 GPT决定吗?这由我们人类决定吗?

Sam Altman:我认为,作为Open AI,我们对我们推出的工具负有责任。就我所理解的,工具本身无法承担责任。

Lex Fridman:看,你承担了一些责任的负担。

Sam Altman:我们公司所有的人(都承担了这种责任)。

Lex Fridman:所以,这个工具可能会造成伤害。

Sam Altman:会有伤害,但同时也会有巨大的好处。工具会有很好的好处和真正的坏处。我们会把坏处降到最低,把好处最大化。

Lex Fridman:我必须承担起这个重任,你如何避免GPT-4被黑客或越狱?有很多有趣的方法,人们已经做到了,比如用代币走私或其他方法。

Sam Altman:当我还是个孩子的时候,基本上我有一次在越狱的iPhone上工作过,我想是第一部iPhone,我觉得这太酷了。我想说的是,站在另一边是非常奇怪的。

Lex Fridman:你现在长大了。

Sam Altman:有点糟糕。

Lex Fridman:这是有趣的吗?有多少是安全威胁?我的意思是,有多少是你必须认真对待的?怎么可能解决这个问题?它在问题集上排名第几?

Sam Altman:我们希望用户能有很多控制权,在一些非常广泛的范围内,让模型以他们想要的方式行事。我认为越狱的全部原因是现在我们还没有想出如何给人们提供这些。

Lex Fridman:这有点像盗版促使了Spotify的诞生。

Sam Altman:人们已经不怎么给iPhone越狱了。而且,越狱肯定更难了。但是,现在你也可以做很多事情了。

Lex Fridman:就像越狱一样。我的意思是,有很多有趣的方法可以做到这一点。Evan Morikawa是个很酷的家伙,他发了一条推文,他也非常友善地发了封长电子邮件给我,描述了Open AI的历史和所有不同的发展,什么让你们能够成功地推出基于人工智能的产品。

对话【ChatGPT之父】3万字全文:AGI可能具备摧毁人类文明的力量(下)插图

Sam Altman:我们有一个问题,就是我们应该为此感到自豪还是其他公司应该感到尴尬?我们对团队成员有非常高的要求。努力工作,这是现在甚至不应该说的话,或者说我们给予个人非常高的信任、自主权,并且我们试图将彼此保持在非常高的标准上。我认为是这些其他的因素让我们能够以高速度发布产品。

Lex Fridman:GPT-4是一个非常复杂的系统。就像你说的,有许多小技巧可以用来不断改进它。还有清理数据集等等,所有这些都是独立的团队。所以你会给予自主权吗?这些有趣的不同问题只有自主权吗?

Sam Altman:如果公司中的大多数人都不是非常热衷于在GPT-4上努力工作并良好协作,而认为其他事情更重要,那么我或任何其他人都几乎无法让它发生。但是我们花了很多时间来确定要做什么,达成共识,为什么要做这件事,然后如何将其划分并协调在一起。

 13 

微软

Lex Fridman:微软宣布对OpenAI进行了新的多年期、数十亿美元的投资,据报道投资金额为100亿美元。您能描述一下这背后的考虑过程吗?与微软这样的公司合作的利弊是什么?

Sam Altman:这并不容易,但总的来说,他们一直是我们的杰出合作伙伴。Satya、Kevin和Mikhail与我们高度一致,非常灵活,超越了职责的范围来做我们需要的事情,让这一切得以实现。这是一个大型的复杂工程项目。而他们是一个大而复杂的公司。我认为,像许多伟大的合作伙伴或关系一样,我们继续加强彼此的投资,效果非常好。

Lex Fridman:它是一家营利性公司。它非常有推动力。它是大规模的。是否有压力要赚很多钱?

Sam Altman:我认为大多数其他公司可能不会。现在也许会了。在当时,他们可能不明白我们为什么需要所有这些奇怪的控制规定,为什么我们需要所有这些像AGI一样特殊的东西。我知道这是因为我在与微软达成第一笔交易之前,曾与其他一些公司交谈过,我认为在那个规模的公司中,他们是独一无二的,因为他们了解我们为什么需要我们拥有的控制规定。

Lex Fridman:这些控制规定有助于确保资本主义的迫切性不会影响AI的发展。话说,微软的CEO Satya Nadella似乎已成功将微软转型为全新的、创新、开发者友好的公司。

Sam Altman:我同意。

Lex Fridman:对于一个非常大的公司来说,这确实很难做到。您从他身上学到了什么?您认为他为什么能够做到这一点?您对为什么这个人能够促成一个大公司向全新方向转变有什么见解?

Sam Altman:我认为大多数CEO要么是伟大的领导者,要么是伟大的管理者。从我对Satya的观察来看,他既是一个很有想象力的领导者,能够激励人们,能够做出长远正确的决策,又是一个非常高效的执行者和管理者,我认为这很少见。

Lex Fridman:我猜想像IBM这样的公司已经在做这个事情很长一段时间了,可能有一种老派的动力。所以你要将AI注入其中,这是非常困难的,甚至是像开源文化这样的事情。走进一个房间,说我们一直以来的方式完全是错的,这非常难。我确定这需要很多解雇或者某种程度上的强迫。所以你必须靠恐惧来统治,靠爱来统治吗?你对领导层方面有什么话要说?

Sam Altman:我意思是,他做得非常出色,但他非常擅长明确和坚定地让人们愿意跟随他的脚步,同时对他的员工有同情心和耐心。

Lex Fridman:太对了。我感受到了很多爱,不是恐惧。

Sam Altman:我是Satya的大粉丝。

 14 

人格化

Lex Fridman:当你创建一个AGI系统时,你会是少数几个可以首先与它交互的人之一。你会问什么问题?你会进行什么讨论?

Sam Altman:有一件事我意识到,这个小事不是很重要,但我从来没有感觉到任何一种代词除了”it”能够形容我们的系统。但是大多数人说“他”或“她”之类的词汇。我不知道为什么我和其他人不同,或许是因为我看它发展的过程,或者如果我更多地思考它,我会很好奇这种差异是从哪里来的。

Lex Fridman:我想你可能因为你看它发展的过程,所以才会这样。但是再想想,我观察很多事物的发展,我总是使用“他”和“她”,我会极度拟人化,当然大多数人也这样做。

Sam Altman:我认为这真的很重要,我们尝试,解释,教育人们,这是一个工具,而不是一个生物。

Lex Fridman:我认为是的。但我也认为会有一个罗马社会的生物。我们应该在这些方面划定清晰的界限。

Sam Altman:如果某个东西是一个生物体,我很乐意让人们将其视为生物体并谈论它,但我认为将生物特征投射到工具上是危险的。

Lex Fridman:那是一种观点。如果以透明的方式实现,我认为将生物特征投射到工具上会使工具更易于使用。

Sam Altman:如果做得好。如果有适当的用户界面支持,我可以理解。但我仍然认为我们需要非常小心。

Lex Fridman:因为它越像生物,它就越能够操纵你。

Sam Altman:情感,或者只是你认为它正在做某些事情或应该能够做某些事情,或者依赖它做某些它无法胜任的事情。

Lex Fridman:如果它确实有能力呢?如果它有爱的能力呢?你认为会类似电影《她》一样,跟GPT产生浪漫关系吗?

Sam Altman:现在有一些公司提供浪漫伴侣式的AI。

Lex Fridman:Replica就是这样的一个公司的例子。

Sam Altman:我个人对此没有任何兴趣。

Lex Fridman:那么你的关注点在于创造智能。

Sam Altman:但我能理解为什么其他人会对此感兴趣。

Lex Fridman:这很有趣,我非常着迷。

Sam Altman:你花了很多时间与Replica或类似的东西进行交互吗?

Lex Fridman:是的,Replica也是自己构建东西。我现在有机器狗,我用机器人的动作来交流。

Lex Fridman:我一直在探索如何做到这一点。

Sam Altman:将来可能会有很多与人互动的基于GPT-4的宠物或机器人、伴侣,很多人似乎对此感到非常兴奋。

Lex Fridman:有很多有趣的可能性。随着你的探索,你会发现它们。这正是重点。你在这次谈话中所说的话,可能在一年后就会被证明是正确的。

Sam Altman:不,我完全喜欢我的GPT-4。也许你嘲笑你的机器人或其他什么。

Lex Fridman:也许你希望你的编程助手更友好,不要嘲笑你。

Sam Altman:GPT-4对你说话的方式的风格非常重要。你可能想要与我不同的东西,但我们两个都可能想要跟当前的GPT-4不同的东西。即使是非常基础的工具,这也将非常重要。

Lex Fridman:谈话有不同的风格吗?你期待与像GPT5,6,7这样的AGI进行的对话内容是什么?有一些事情,除了有趣的梗,你还会关注什么?

Sam Altman:实际上,我想说的是,请向我解释所有物理学的工作原理并解决所有未解之谜。

Lex Fridman:就像是万物理论。

Sam Altman:我会非常高兴。你不想知道吗?

Lex Fridman:我的第一个问题困难是,是否有其他智能外星文明存在?但我认为AGI没有能力确认这一点。

Sam Altman:也许它可以帮助我们找出如何检测。你可能需要向人类发送一些电子邮件,询问他们能否运行这些实验?能否建造太空探测器之类的?可能要等很长时间。

Lex Fridman:或者提供比德雷克方程式(编者注:天文学家法兰克·德雷克于1961年提出的一条用来推测“在银河系内,可以和我们接触的外星智慧文明数量”的方程式)更好的估计值。

Sam Altman:也许它就在数据中。也许我们需要建造更好的探测器,这些先进的数据可以告诉我们如何做。它可能无法直接回答,但它可能能告诉我们该去构建什么以收集更多数据。

Lex Fridman:如果它说外星人已经在这里怎么办?

Sam Altman:那我想我只会继续过我的生活。那就像是,如果GPT-4告诉你并且你相信它,好的,AGI就在这里了,或者AGI很快就会来了,你会有什么不同的做法?

Lex Fridman:这主要是没有什么不同,除非它构成某种威胁,像火灾那样的真正的威胁。

Sam Altman:就像现在我们是否拥有比三年前预期的更高程度的数字智能一样,如果你三年前被一个来自现在的先知告知,即在2023年3月,你将生活在这种数字智能程度下,你是否会认为自己生活跟现在比有所不同?

Lex Fridman:可能吧。但也有很多不同的轨迹交织在一起,我也许会预期社会对疫情的反应会更好、更清晰、更团结。不过在惊人的技术进步的背后,有很多社会分裂。这似乎就像是越进行技术投资,我们的社会就越分裂,而我们以此为乐。或者也许技术进步只是揭示了本来就存在的分裂。但所有这些都使我对人类文明的进展程度以及我们是如何共同发现真理、知识和智慧的理解更加困惑。当我打开维基百科时,首先我很高兴人类能够创造出这个东西,尽管有偏见,这仍是一种祝福,是人类的胜利。

Sam Altman:这是人类文明,绝对的。

Lex Fridman:Google搜索的搜索期限也是令人难以置信的,它能够搜索20年前的事情。而现在有了GPT,它就像所有这些使网络搜索和维基百科如此神奇的东西的综合体,而且现在更直接地可访问。你可以与一个东西对话,这让人难以置信。

 15 

给年轻人的建议

Lex Fridman:请给高中和大学的年轻人一些建议,告诉他们如何拥有一个值得骄傲的职业和生活。你几年前写了一篇名为“如何成功”的博客文章,里面有很多简洁而精彩的要点:成就自己,拥有自信,学会独立思考,擅长销售和引用,使冒险变得容易,专注、努力工作,勇敢、有决心,让其他人难以竞争,建立自己的关系网。你通过内在驱动来变得富有。在所有这些中,你认为哪些是最重要的建议?

Sam Altman:我认为这在某种意义上是很好的建议,但我也认为接受别人的建议太诱人了。对我有用的东西,我试着写下来,但可能对其他人没有那么好的效果,或者其他人可能会发现他们想有一个超级不同的生活轨迹。

Lex Fridman:你会如何描述你在这个建议之外的生活方式。你会建议其他人吗?或者你真的只是在你的头脑中安静地思考什么给我带来了幸福?

Sam Altman:我希望一直都是这样内省的。比如,什么会给我带来快乐?会给我带来成就感?我确实想了很多,我可以做什么,什么会是有用的,我想把时间花在谁身上,我想把时间花在什么地方。

Lex Fridman:就像鱼和水一样,跟随它走。

Sam Altman:我认为如果他们真的诚实的话,大多数人都会这样说。

Lex Fridman:其中一些则涉及到Sam Harris关于自由意志是幻觉的讨论,当然,这可能是一个非常复杂的问题,很难理解。

 16 

生命的意义

Lex Fridman:你认为这整件事的意义是什么?这个问题你可以问AGI,生命的意义是什么?在你看来,你是一小群人中的一员,正在创造一些真正特别的东西。一些几乎是人类一直在走向的东西。

Sam Altman:这就是我想说的,我不认为这是一小群人的事。我认为这是,(无论你怎么称呼它)都是人类惊人的努力的顶点的产物。所有的工作,几十万几百万人,不管是什么,从第一个晶体管到把我们所做的数字打包到一个芯片中,并找出如何把它们连在一起,以及其他所有的东西,比如所需的能量。科学,就像每一步,就像这是我们所有人的产出。

Lex Fridman:而在晶体管之前,有1000亿人在生活和死亡。做爱,谈恋爱,吃很多好吃的东西,有时会互相谋杀,很少,但大多数相安无事,挣扎着生存。而在这之前,有细菌和真核生物。

Sam Altman:而所有这些都是在这一条指数曲线上。

Lex Fridman:还有多少其他的?这是我的头号问题,对AGI来说。还有多少其他的?我不确定我想听到哪个答案。Sam,你是一个令人难以置信的人,很荣幸能与你交谈,感谢你所做的工作,就像我说的那样,我已经和Ilya Sutskever,Greg都谈过了,我和OpenAI的许多人谈过了,他们都是非常好的人,他们正在做非常有趣的工作。

Sam Altman:我们会尽最大努力在这里取得好成绩。我认为挑战是艰难的。我明白,不是每个人都同意我们的迭代部署以及迭代发现的方法,但这是我们的信念。我认为我们正在取得良好的进展,我认为步伐很快,但进展也像能力和变化的步伐一样快,但我认为这也意味着我们将有新的工具来弄清对齐和排序的资本化安全问题。

Lex Fridman:我觉得我们是在一起的。我迫不及待地想知道我们作为一个人类文明的成员,一起想出了什么。

Sam Altman:这将是伟大的。我想我们将非常努力地工作。

赞(0) 打赏
未经允许不得转载:AI爱好者 » 对话【ChatGPT之父】3万字全文:AGI可能具备摧毁人类文明的力量(下)

评论 抢沙发

欢迎来到AI爱好者

我们旨在打造一个最具实力的中文AI交流社区平台,致力于为所有AI爱好者,创业者和使用者提供优质服务. 我们的宗旨是为广大用户提供免费解决方案,您可以通过问答形式提出与AI相关的任何问题.

AI社区AI工具

安全服务战略合作伙伴:麒麟盾 SCDN

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

微信扫一扫打赏

登录

找回密码

注册