打造中国最大的
AI信息汇总平台


对话【ChatGPT之父】3万字全文:AGI可能具备摧毁人类文明的力量(中)

07 

竞争

Lex Fridman:将会有很多开源的、很多大型语言模型。在这种压力下,如何始终优先考虑安全问题?我的意思是,有好几个压力来源。其中一个是来自其他公司的市场驱动压力。(比如)谷歌、苹果、Meta以及一些小公司。你如何抵制来自这方面的压力,或者说你如何应对这种压力?

Sam Altman:坚持你的信念,坚持你的使命。我相信人们会在各种方面超越我们,采取我们不会采取的捷径。我们就是不会那么做。你如何与他们竞争?

Sam Altman:我认为世界上会有许多AGI,所以我们不必与所有人竞争。我们将贡献一些,其他人也将贡献一些。这些AGI的构建方式、所做的事情和关注的焦点会有所不同,这是好事。我们公司是有限盈利的组织,所以我们没有追求无限利润的动力,我担心那些有这个动力的人,但希望一切都能顺利进行。我们是一个有些奇怪的组织,擅长拒绝项目。像我们这样的组织长期以来一直被误解和嘲笑。当我们2015年底宣布要研究AGI时,人们认为我们疯了。我记得当时一个著名的人工智能科学家在一家大型工业人工智能实验室私信给一些记者,说这些人并不很优秀,谈论AGI是荒谬的,我不敢相信你们会关注他们。这就是当一个新团队说要尝试构建AGI时,圈子里会出现何种程度的小气和恶意。

Lex Fridman:在嘲笑面前,OpenAI和DeepMind是少数敢于谈论AGI的人。

Sam Altman:我们现在很少被那么取笑了。

 08 

非营利到有限营利

Lex Fridman:现在不再那么被嘲笑了。那么说说组织的结构吧。OpenAI不再是非营利组织,还是分裂了?你能用一种方式描述一下整个过程吗?

Sam Altman:我们开始是一个非盈利组织,但我们很早就意识到,我们需要的资本远远超过了我们作为一个非盈利组织所能筹集到的。我们的非盈利组织仍然完全控制,同时我们成立了一个有限利润的子公司,使我们的投资者和员工可以获得一定的回报。除此之外,其他所有东西都流向非盈利组织,非盈利组织具有投票控制权,让我们做出一系列非标准决策,可以取消股权,还可以做其他一些事情,比如让我们与另一个组织合并,保护我们不做出任何不符合股东利益的决策等。所以我认为这个结构对我们做出的很多决策都很重要。

Lex Fridman:从非盈利转为有上限的盈利组织的决策过程中,你当时在权衡哪些利弊?

Sam Altman:真正转变的原因是为了完成我们需要做的事情。我们尝试过以非盈利组织的身份筹集资金,但失败了。所以我们需要资本主义的一些优势,但不要太多。我记得当时有人说,作为一个非盈利组织,我们很多事还没做到;作为一个盈利组织,我们做到的事太多了。所以我们需要这种奇怪的中间状态。

Lex Fridman:你的态度很随和。那你担心那些与AGI打交道的以盈利为目的公司吗?你能详细说明一下你的担忧吗?因为AGI是我们手中所有技术中,最有潜力使OpenAI的上限提高100倍的。

Sam Altman:这个数字对于新进的投资者的预期来说要低得多。

Lex Fridman:AGI能赚的钱远不止100倍。

Sam Altman:当然。

Lex Fridman:那么,你是如何在OpenAI之外进行竞争的?你如何看待一个谷歌、苹果和Meta等公司参与其中的AI世界?

Sam Altman:我们无法控制其他人会做什么。我们可以尝试去构建一些东西,谈论它,影响他人,为世界提供有价值和良好的系统,但他们最终还是会按照自己的意愿行事。我认为现在某些公司内部的发展速度非常快,但并非十分深思熟虑。然而,随着人们看到进步的速度,他们已经开始意识到这里面所涉及的利害关系,并为之努力。我相信最终善良的一面将会战胜恶劣的一面。

Lex Fridman:能详细说明一下什么是“更好的天使般的个体”吗?

Sam Altman:资本主义创造和捕获无限价值的动力让我有点担忧,但同样,我认为没有人想要摧毁这个世界,没有人醒来就说,今天我想摧毁这个世界。所以我们一方面面临着这个问题,另一方面,我们有很多人非常清楚这一点,我认为关于我们如何合作以降低这些非常可怕的副作用的讨论已经非常健康了。

 09 

权力

Lex Fridman:好吧,没人想毁灭世界。让我问你一个难题,你很有可能是创建AGI的人之一,虽然不是唯一的人。

Sam Altman:我们是一个多人团队,而且将会有很多团队。

Lex Fridman:但还是相对较少的人数。最终会有一个房间里有几个人说:“哇。”这是世界上一个美丽的地方。令人恐惧,但主要是美丽。这可能使你和少数几个人成为地球上最有权力的人类。你担心权力可能会腐化你吗?

Sam Altman:当然。我认为你希望这项技术的决策,以及谁来运营这项技术的决策,会随着时间的推移变得越来越民主。我们还没有完全弄清楚如何做到这一点,但部署这样的技术的部分原因是让世界有时间去适应、反思并思考这个问题,通过监管、制定新的规范,让人们共同努力。这就是我们部署这个技术的一个重要原因。尽管你之前提到的许多AI安全专家认为这很糟糕,但他们也承认这有一定的好处。我认为任何一个人完全掌控这个技术都是非常糟糕的。

Lex Fridman:所以试着分散权力。

Sam Altman:(这是一种)解决方案。我不想要任何超级投票权或者类似的特殊权力。我不喜欢控制OpenAI的董事会或者类似的事物。

Lex Fridman:但是,如果创建了AGI,它将拥有很大的权力。

Sam Altman:你认为我们做得怎么样?诚实地说,你觉得我们的决策是好是坏?我们还能做得更好吗?

Lex Fridman:因为我认识很多OpenAI的人,我非常喜欢你们的透明度。你所说的一切,比如公开失败、撰写论文、公开发布有关安全问题的各种信息,这些都非常好,尤其是与其他一些公司相比,他们更加封闭。话虽如此,你可以更加开放。

Sam Altman:你认为我们应该开源GPT-4吗?

Lex Fridman:因为我认识OpenAI的人,我的个人观点是不。Sam Altman:认识OpenAI的人和这个问题有什么关系?

Lex Fridman:因为我知道他们都是好人。我认识很多人。我知道他们是好人。从那些不了解这些人的人的角度来看,把如此强大的技术掌握在少数人手中的做法令人担忧,这是封闭的。

Sam Altman:从某种意义上说,这是封闭的,但我们提供了更多的访问权限。如果这是谷歌来操盘,我觉得他们很难开放API。这其中存在公关风险,我因为这个一直受到个人威胁。我认为大多数公司不会这样做。所以,也许我们没有像人们希望的那样开放,但我们已经相当广泛地开放了。

Lex Fridman:你个人和OpenAI的文化并不是那么担心公关风险和所有这些事情,你更担心实际技术的风险。而且你揭示了人们的紧张情绪,因为技术现在还处于早期阶段,随着时间推移,你会关闭。这是否因为你们的技术越来越强大了?如果你受到了太多煽动恐惧、标题党新闻的攻击,你会不会产生一种疑问:我为什么要处理这个?

Sam Altman:我认为对我来说,标题党新闻更让你烦。我觉得没什么大不了的。在我失去的所有东西中,这并不是排在很高的位置。

Lex Fridman:因为这很重要。有一些公司和一些人正在大力推动这一进程。他们是很了不起的人,我不希望他们对世界其他地方变得愤世嫉俗。

Sam Altman:我认为OpenAI的人们感受到了我们所做事情的责任重大。如果新闻记者对我们更友好,Twitter上的喷子给我们更多的疑虑余地,那当然会很好。但我认为我们在做什么、为什么以及其重要性方面有很大的决心。但我真的很想知道,我问过很多人,不仅仅是在摄像机拍摄的时候,你有什么建议可以让我们做得更好。我们现在置身于未知的领域。与聪明人交谈就是我们如何找出做得更好的方法。

Lex Fridman:你是如何从Twitter上获取反馈的?

Sam Altman:我的Twitter无法阅读,所以有时候我会从信息流中取一点样本,但我主要是通过像跟你这样的对话来得到反馈。

 10 

Elon Musk

Lex Fridman:你们在OpenAI背后的一些想法上与Elon Musk紧密合作,并在很多事情上达成了一致,在某些事情上存在分歧。你们在哪些有趣的事情上达成一致和分歧?谈论一下在Twitter上的有趣辩论。

Sam Altman:我认为我们在AGI的潜在劣势、确保AI安全性,以及使人们因为AGI的存在而比从未构建AGI时更好的世界方面,达成了一致。

Lex Fridman:你们在哪里产生了分歧?

Sam Altman:Elon显然现在在Twitter上针对我们的某些方面进行了攻击,我感同身受,因为我相信他对AGI安全性的担忧是可以理解的。我敢肯定还有其他一些动机,但这肯定是其中之一。很久以前,我看过一段Elon谈论SpaceX的视频。也许他在某个新闻节目里,很多早期的太空先驱们都在严厉地批评SpaceX和Elon,他显然对此非常受伤,说他希望他们能看到团队正在努力。尽管他在Twitter上是个混蛋,但我从小就把Elon当作我的英雄。我很高兴他存在于这个世界,但我希望他能更关注我们为了做对这些事情而付出的努力。

Lex Fridman:多一点爱。在爱的名义下,你钦佩Elon Musk的什么?

Sam Altman:太多了,他以重要的方式推动了世界的发展。我认为如果没有他,我们会比现在更慢地实现电动汽车的普及。如果没有他,我们也会更慢地进入太空。作为世界公民,我对此非常感激。此外,除了在Twitter上偶尔像个混蛋外,在很多情况下,他都是一个非常幽默和热情的家伙。

Lex Fridman:在Twitter上,作为一个喜欢观察人类复杂性与人性光辉的粉丝,我很享受各种观点之间的紧张碰撞。我之前提到很钦佩你的透明度,但我更喜欢看到这些观点之争就在我们眼前展开,而不是每个人都在封闭的会议室里进行。这一切都非常吸引人。

Sam Altman:也许我应该反击,也许有一天我会这么做,但这并不符合我的一贯风格。

Lex Fridman:观察这一切非常有趣。我认为你们两个都是非常聪明的人,早早对人工智能产生了关注,并对其抱有很大的担忧和希望。看到这些伟大的思想家们进行这些讨论,即使有时候会产生一种紧张的氛围,但是真的很酷。我想是Elon说GPT太过“觉醒”了,你觉得呢?这关乎我们的偏见。

Sam Altman:我现在几乎不知道“觉醒”是什么意思了。我曾经知道,但我觉得这个词已经变味了。所以我会说,我认为它有偏见,世界上永远不会有一个公认为无偏见的GPT版本。我认为我们已经取得了很大的进展,甚至我们最严厉的批评者也在谈论3.5和4的比较时感叹说,“哇,这些人真的变得好多了”。不是说不需要继续努力,我们当然也要努力,但我很欣赏那些表现出诚实的批评者,这些人比我想象中的要多。我们会尽量让默认版本尽可能中立,但如果要为每个人做到中立,那可能就不是那么中立了。所以,我认为真正的发展方向是让用户有更多的操控能力,特别是通过系统消息。正如你指出的,这些微妙的答案可以从多个角度来看待问题。

Lex Fridman:这真的非常非常迷人,很有趣。关于公司员工会影响系统偏见这一点,你有什么想说的吗?

Sam Altman:100%会。我们试图避免旧金山的团体思维泡沫,更难避免的是到处的AI团体思维泡沫。

Lex Fridman:我们100%生活在各种泡沫中。

Sam Altman:我很快就要进行一个为期一个月的环球用户调研,去不同的城市和我们的用户交谈。我非常期待,这么多年来我从来没有这样做过。我过去在YC时经常这样做,和处在非常不同背景下的人交谈。这在互联网上是行不通的。(你得)亲自去见他们,坐下来,去他们去的酒吧,像他们一样走过城市。你会学到很多东西,摆脱泡沫。我认为我们比我所知道的任何一家旧金山公司都更擅长避免陷入旧金山的疯狂,但我相信我们仍然深陷其中。

Lex Fridman:是否有可能区分模型的偏见和员工的偏见?

Sam Altman:我最担忧的偏见是人类反馈评价者的偏见。

Lex Fridman:人类评价者是怎么选拔的?你能从一个较高的层次谈谈关于人类评价者的选拔吗?

Sam Altman:这是我们理解得最不好的部分。我们在预训练机器方面做得很好,现在正试图弄清楚如何选择这些人,如何验证我们得到了具有代表性的样本,如何针对不同地区采用不同的方法。但我们尚未构建出这样的功能。

Lex Fridman:这是一门令人着迷的科学。

Sam Altman:你显然不希望所有美国精英大学的学生都给你贴标签。

Lex Fridman:这不是关键。

Sam Altman:我明白。我只是忍不住讽刺。

Lex Fridman:但这是个好方法。你可以使用一百万种方法,因为任何一个你认为拥有特定信仰的人类类别,实际上可能非常开明,有趣,你必须优化你在执行这些评价任务时的实际回答效果。你对其他人类经历的共情能力有多强?

Sam Altman:这是一个很重要的问题。

Lex Fridman:实际上,各种群体的人们在回答这个问题时的世界观是什么样的?我的意思是,我必须不断地去做这件事。

Sam Altman:你问过我们几次,这是我经常做的事情。我在面试中要求人们去想他们真正不同意的人的观点,包括Elon。许多人甚至都不能假装他们愿意这样做,这是非常值得注意的。

Lex Fridman:不幸的是,自从新冠病毒以来,我发现情况变得更糟,几乎存在一种情感障碍。这甚至不是一种智力障碍。在他们达到智力层面之前,就有一种情感障碍在说,不,任何可能相信这个观点的人,他们都是笨蛋、邪恶的、恶毒的。你想怎么指责都行,就像他们甚至没有把数据加载到脑子里一样。

Sam Altman:你看,我认为我们会发现,我们可以让GPT系统比任何人类更少的偏见。

Lex Fridman:所以希望不会有(偏见)。

Sam Altman:因为AI不会有那种情感负担。

Lex Fridman:但可能会有政治压力

Sam Altman:哦,可能会有制造偏见系统的压力。我要说的是,我认为这项技术将能够更少地产生偏见。

 11 

监管

Lex Fridman:对于来自外部的压力(比如来自社会的、政治的、金钱的),你是期待还是担心?

Sam Altman:我既担心它,又想戳破这个泡沫。我们不应该做所有决定,就像我们希望社会在AI有巨大程度的投入一,这在某种程度上是压力。

Lex Fridman : 嗯,有些事情在某种程度上被透露出来了,Twitter的文件显示不同组织对某些事情施加了压力。疫情期间,CDC或其他政府组织可能会对我们不太确定的事情施加压力,现在类似这种微妙的对话是很有风险的,所以会让我们审查所有话题。你会收到很多这样的邮件,来自不同地方的不同人,以施加微妙的、间接的、直接的、财政的、政治的压力,等等。如果GPT变得越来越智能,并成为人类文明的信息和知识来源,像这样的事情,你如何应对,你有多担心这些?

Sam Altman:我认为我有很多怪癖,(这些怪癖)让我觉得自己对OpenAI来说不是一个合格的CEO。但积极的一点是,我认为我相对擅长不易被压力所影响。

Lex Fridman:题外话,(刚刚的发言真是)美丽的谦逊声明。但我想要问,有哪些负面的影响呢?

Sam Altman:首先什么是好的(影响)。我认为我不是一个AI浪潮的最佳代言人,我想说,可能会有更加热爱这个领域的人,也可能会有更加有魅力的人,或者更加善于与人沟通的人。我认为,这些人可能更好地与人们建立联系。

Lex Fridman:我认为“卡里斯玛”(魅力型领袖)可能是一件危险的事情。在沟通方式上的缺陷和瑕疵,至少对于掌权的人来说通常来说是一种特征,而不是一个错误。

Sam Altman:我觉得我还有比这更严重的问题。我认为我与大多数人的生活现实相当脱节,试图不仅仅是感同身受,而是内化AGI对人类的影响。相比其他人,我可能感受到得更少。

Lex Fridman:说得很好。你说过你会环游世界去感同身受地了解不同的用户。

Sam Altman:不是共情,比方说给我们的用户、开发者,买杯饮料,问问他们希望改变什么。目前我们做的还不够好。但我认为一家好公司应该具有的特点是,以用户为中心。我目前感受到,当信息层层过滤到我这里时,已经完全没有意义了。因此,我真的想和来自不同背景的用户进行交流。

Lex Fridman:就像你说的,“和用户喝一杯”。不过我在编程方面有些担忧,从情感上讲,我认为这没有任何意义。GPT让我对未来感到紧张,不是出于人工智能安全方面的考虑,而是变革,是对变革的紧张感。

Sam Altman:相比于兴奋,更多的是紧张?

Lex Fridman:如果我忽略了我是一个AI人,是一个程序员,那我会更兴奋,但仍然会感到有些紧张。

Sam Altman:那些说他们不紧张的人,很难让我相信。

Lex Fridman:但是你很兴奋。对变化感到紧张,对重大激动人心的变化感到紧张。我最近开始使用,我一直是一个Emacs(文本编辑器)用户,用了很长时间,然后我换成了VS code(微软开发的免费开源代码编辑器)。

Sam Altman:和 Copilot 一起工作。

Lex Fridman:这正是很多开发者活跃的原因之一。当然,你可能可以在Emacs中使用copilot。

Sam Altman:也很不错。

Lex Fridman:VS Code有很多优点。我很高兴,并且在与其他人交流时也得到了很多正面的反馈。但是在做出这个决定的时候,我也有很多不确定性和紧张。即使是采用Copilot这样的新技术,也会让人感到紧张。但是,就我作为一个纯程序员而言,我的生活变得更好了,不论是从什么角度来看。但是,我们在面对这种不确定性时,应该如何安慰人们的紧张和担忧,通过与他们交流,我们可以更好地理解这些问题。

Sam Altman:你用得越多,紧张感越多,而不是越少吗?

Lex Fridman:是的,我不得不说是的,因为我变得更善于使用它。

Sam Altman:因此,学习曲线是相当陡峭的。

Lex Fridman:然后,有时你会发现它能够很美妙地生成一个函数。你坐下来,既像一个父母一样感到自豪,又几乎像是感到害怕,因为这个东西将比我聪明得多。既感到骄傲又感到悲伤。像是一种忧郁的感觉,但最终是喜悦的。我想知道,你认为 GPT 语言模型会比人类更擅长哪些工作?

Sam Altman:全部流程?整个端到端做得更好,像它帮助你提高生产率可能达到10倍那样。

Lex Fridman:这个问题很好,如果我变得更有效率,那么意味着在这个领域中需要的程序员数量将大大减少。

Sam Altman:我认为世界会发现,如果你以相同的价格可以得到十倍的代码量,你就可以使用更多的代码。

Lex Fridman:要写更多的代码。

Sam Altman:这代表了更多的代码。

Lex Fridman:的确,还有很多东西可以被数字化。可以有更多的代码和更多的东西。

Sam Altman:这里有一个供应问题。

Lex Fridman:那么,在真正取代工作方面,这对你来说是一个担忧吗?

Sam Altman:我在思考一个我认为可能会受到巨大影响的大类别。我想我会说客户服务是一个我可以看到在不久的将来有更少工作的类别。我不确定这一点,但我相信它会。

Lex Fridman:所以像有关何时服用这种药物的基本问题,如何使用这个产品的问题?就像我们的员工现在在做的呼叫一样?

Sam Altman:我想要明确一下,我认为这些系统会让很多工作消失,每一次技术革命都是如此。它们将增强许多工作,使它们变得更好、更有趣、更高薪,并且将创造一些我们很难想象的新工作,我们已经开始看到它们的雏形。

上周我听到有人谈论GPT-4,说工作的尊严真的很重要。我们确实必须担心那些认为自己不喜欢工作的人,他们也需要工作,这对他们和整个社会都非常重要。还有,你能相信法国试图提高退休年龄是多么糟糕吗?我认为我们这个社会对于人们是想要更多地工作、还是更少地工作感到困惑,而且关于大多数人是否喜欢自己的工作并从中获得价值的问题,我们也存在一些困惑。有些人喜欢自己的工作,我也喜欢我的工作,我猜你也是。这是一种真正的特权,不是每个人都能说得出这句话。

如果我们可以让更多的人拥有更好的工作,并将工作变成一个更广泛的概念,而不是为了吃饭而必须做的事情,而是一种创造性的表达方式和找到满足和幸福的方式,即使那些工作看起来与今天的工作极为不同。我认为这很好。

Lex Fridman:你一直是人工智能背景下普遍基本收入(UBI)的支持者。你能描述一下对于有了UBI后的人类未来吗?您为什么喜欢它?还有哪些限制呢?

UBI(Universal Basic Income,全球基本收入)是一种社会保障制度,旨在为每个公民或居民提供定期的无条件现金支付。这个金钱可以用来满足基本生活需求,如食物、住房和医疗。UBI的支持者认为这种制度可以减少贫困、缩小贫富差距,并提高生活质量。然而,反对者担心它可能导致通货膨胀、劳动力减少以及对福利制度的削减。全球基本收入的实施和影响因国家和地区而异。

Sam Altman:我认为UBI是我们应该追求的一部分,但不是全部的解决方案。人们工作除了为了钱之外还有很多原因,我们会发现令人难以置信的新工作,整个社会和个人的生活水平会大大提高。但作为一个在巨大转变中的缓冲阶段,就像我认为世界应该消除贫困一样,如果能够这样做,我认为这是一件好事。作为解决方案的一小部分,我参与创立了一个名为Worldcoin的项目,这是一个技术解决方案。我们还资助了一个非常大型、最全面的UBI研究,由Open AI赞助。我认为这是一个我们应该继续研究的领域。

Lex Fridman:你从这项研究中获得了哪些启示?

Sam Altman:我们将在今年年底完成,希望我们能够在明年的早些时候谈论它。

Lex Fridman:当人工智能成为社会的一个普遍组成部分时,经济和政治系统会发生什么变化?这是一个有趣的哲学问题,从现在起看向未来10年、20年、50年,经济是什么样子?政治是什么样子的?你认为在民主运作的方式上会有重大的转变吗?

Sam Altman:我很喜欢你把它们放在一起问,因为我认为它们非常相关。我认为经济转型将驱动政治转型,而不是相反。我过去5年的工作模型是,在接下来的几十年里,智能和能源成本将从今天的水平急剧下降。它的影响,你已经可以看到了,比如你现在有了超越个人编程能力的工具,社会将变得更加富裕,更加富有,这可能是难以想象的。我认为每次这种情况发生时,它的经济影响也会带来积极的政治影响。我认为它也是相互关联的,启蒙时期的社会政治价值观促成了我们过去几个世纪以来持续不断的技术革命和科学发现过程,但我认为我们只会看到更多的变化。我相信形式会改变,但这会是一个长而美丽的指数曲线。

Lex Fridman:你认为会有更多民主社会主义的系统吗?

Sam Altman:本能的来说。是的,我希望如此。

Lex Fridman:重新分配资源,支持提升那些处境困难的人。

Sam Altman:我对提升底层人们生活的处境非常有自信,而且不必担心上限。

Lex Fridman:有些部分已经被人类反馈的强化学习所处理。但我觉得必须要有工程化的东西。

Lex Fridman:不确定性。

Lex Fridman:如果用一个浪漫的词来形容它,比如说“人性”,你认为这有可能做到吗?

Sam Altman:这些词的定义真的很重要。基于我对AI的理解,是的,我觉得有可能做到。

Lex Fridman:什么会是那个开关呢?

Sam Altman:就像有一个我们没有告诉任何人的红色按钮,在数据的正中心。

Lex Fridman:你认为有可能有一个开关吗?更具体地说,关于不同的系统,你认为有可能随意开放、关闭、重新开放吗?

Sam Altman:我们当然可以把一个模型收回,我们可以把一个API关掉。

Lex Fridman:作为一款人工智能语言模型,它没有情感或忧虑。然而,对于开发人员和设计师来说,考虑其产品和服务的潜在后果是非常重要的,特别是当它拥有数百万用户时,意识到用户正在使用它时,可能需要担心各种可怕的使用情况。

Sam Altman:我们确实对此非常担忧。我是说,我们尽量多地进行红队测试和提前检验,以找出避免这些问题的方法。然而,我必须强调,全球的集体智慧和创造力比所有我们能雇佣的红队成员更知道怎么做。所以我们推出了这个有缺陷的版本,同时让人们可以进行调整。

Lex Fridman:在使用Chatgpt和GPT-4的数百万人中,我们能从中了解到人类文明的一般情况吗?我的意思是,我们大多数人是善良的吗?还是人类精神中存在很多恶意?

Sam Altman:需要明确一点,我和OpenAI的其他人都没有阅读所有ChatGPT消息的权力。但是从我听到的说法,至少是我与之交谈的人和我在Twitter上看到的内容来看,我们大多数人肯定是善良的。但是,一方面,并非所有人总是如此;另一方面,我们想要推动这些系统的边界,也想要测试一些更黑暗的世界理论。

Lex Fridman:这非常有趣。我认为这并不意味着我们内心本质上是黑暗的,但我们喜欢去一些黑暗的地方,也许是为了重新发现光明,感觉黑色幽默是其中的一部分。一些最黑暗的、最艰难的经历,例如在战争区域中生活的人们,我与之互动过的人,他们…

Sam Altman:还在身边开着玩笑。

Lex Fridman:对身边的一切开着玩笑,而且是黑色的笑话。

Sam Altman:我完全同意。

赞(0) 打赏
未经允许不得转载:AI爱好者 » 对话【ChatGPT之父】3万字全文:AGI可能具备摧毁人类文明的力量(中)

评论 抢沙发

欢迎来到AI爱好者

我们旨在打造一个最具实力的中文AI交流社区平台,致力于为所有AI爱好者,创业者和使用者提供优质服务. 我们的宗旨是为广大用户提供免费解决方案,您可以通过问答形式提出与AI相关的任何问题.

AI社区AI工具

安全服务战略合作伙伴:麒麟盾 SCDN

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

微信扫一扫打赏

登录

找回密码

注册