打造中国最大的
AI信息汇总平台


对话清华刘嘉:ChatGPT意味着第二次认知革命的到来

对话清华刘嘉:ChatGPT意味着第二次认知革命的到来插图

前言: 

电视剧《漫长的季节》里有这样几句诗:“打个响指吧,他说/我们打个共鸣的响指/遥远的事物将被震碎/面前的人们此时尚不知情”。

刘嘉老师说,用这段诗来形容当下人类面对AGI(Artificial General Intelligence“通用人工智能”)的状态,再合适不过。

“我们每个人对未来的预测都可能是荒谬的、可笑的,未来可能并不是你所说的样子。但是,只有越来越多的人一起加入共同讨论,一起打开脑洞、一起奇思妙想,甚至一起胡说八道的时候,或许我们才可以真的改变未来,一起引领人类走向一个更好的未来。”

9月底,我们在清华大学脑与智能实验室拜访了刘嘉教授。这次交流中,刘嘉老师基于其在脑科学与人工智能领域多年的研究积淀,畅谈了当下由ChatGPT引领的AGI的未来发展及对人类可能产生的影响,并提出了诸多基于其研究领域而引申出的“脑洞大开”的“奇思妙想”,令我们深受启发。

谈到AGI领域的未来发展,刘嘉老师说,一方面,AI agent即大模型的具身化、具身智能正在加速发展;另一方面,包括他在内的脑科学家和认知科学家们,已经开始激烈地讨论AGI未来可能产生的意识问题了。

在刘老师看来,人的一生中,极少有机会亲身经历一场引领时代变革的范式转变。而此刻,我们正站在这样一个重要历史节点。尽管我们亦须承认,这样的变革伴随着诸多风险。例如失业问题以及我们必须提高自己的学习能力并掌握新工具等。

然而,只需换个角度,就会发现这个崭新的世界正为我们展示无尽的可能性。GPT技术正在助力我们摆脱枯燥乏味的重复性和知识性工作,让我们投身于更具创造力和价值的事业,让我们的时间变得更具意义。或许,这才是人类真正价值的彰显。

“我们的现在是过去的未来,因为过去的选择决定了现在的结果。然而,我们的现在并非未来的过去,因为未来充满未知,此时此刻的选择正在塑造我们的未来样貌。”

面对未来,唯有畅想。我们将此次与刘嘉老师对话交流的核心观点记录下来,与腾讯研究院的读者们共飨。

让我们打个共鸣的响指,一起迎接和拥抱未来。 

对话嘉宾:

刘嘉麻省理工学院博士,长期从事心理学、脑科学与人工智能研究。清华大学基础科学讲席教授、心理学系主任、清华大学脑与智能实验室首席研究员、北京智源人工智能研究院首席科学家

01 AGI:点燃第二次认知革命的火花‍‍‍‍‍‍‍‍‍‍‍‍‍‍

T:作为一名脑科学与人工智能领域的研究学者,您怎么看待这次由ChatGPT引发的AGI发展及对人类未来可能产生的影响?

刘嘉:在去年11月30日OpenAI发布ChatGPT之前,大多数人谈论AI时,虽然觉得它神奇,但往往仅从猎奇的角度看待。然而,自ChatGPT问世以来,我认为每个人都有必要关注并了解它的发展和变化。未来通用人工智能(AGI)将像水电一样重要,不仅改变我们的工作方式,还可能直接影响我们每个人的未来,例如技能掌握、孩子培养和人类发展方向等,这些问题具有深远意义。在我看来,这或许意味着第二次认知革命的来临。

为什么称之为第二次认知革命呢?

我们先来看第一次认知革命是如何发生的。大约在7万到10万年前,那时智人和尼安德特人这两个人类物种共同生活在地球上。尽管尼安德特人在身高和力量上优于我们,但最终还是被智人所取代。我们的祖先智人是如何战胜尼安德特人的呢?大家推测在7万到10万年前,发生了第一次认知革命,表现为人类制造的工具石器出现了爆发式的增长和多样性。在此之前,从最早的直立人到尼安德特人,他们制作的石器都是相似的,只是越来越精细、巧妙。但在第一次认知革命时期,人类的石器制作发生了质的变化,不再仅仅是制作斧头、长矛等简单工具,而是开始出现了项链等饰品,以及在石头和骨头上雕刻各种图案。

回顾过去,我们发现在那个时代,人类逐渐产生了一种我们今天称之为规则化思考的方式,简而言之,就是“如果……并且……那么……”(if……and……then)的逻辑。例如,人们发现在物体上打孔后,可以用绳子将其穿起来。这种基于规则的思考方式为人类带来了无尽的创造力,如在布上打孔并用棍子穿过,就制成帆船等。从此,人类的创造力得到了充分释放,并逐渐形成了一种强大的逻辑——演绎推理。

演绎推理是在一个推理基石的基础上,应用此逻辑产生新的发明和创造。亚里士多德提出了这个概念,称为第一性原理。孔子也曾说过类似的话:“君子务本,本立而道生。”这意味着只要从根本出发,就能产生万事万物。在这个理念的指导下,人类开始进行大量的发明创造,不再局限于制作长矛等简单工具,而是涌现出各种发明创造。最终,智人战胜了尼安德特人,确立了现代人的地位。也从此,地球上的智人真正地主宰了这个星球。这个过程被称为第一次认知革命,其重要性远超过蒸汽机和电器等发明。

对话清华刘嘉:ChatGPT意味着第二次认知革命的到来插图1

如今,关于第二次认知革命的定义引发了广泛讨论,例如原子弹的发明是否属于第二次认知革命?但我认为,只有AGI的出现才能被称为真正的第二次认知革命,因为它将催生一个全新的物种,这与过去35亿年的生物进化截然不同。这种新物种才真正配得上第二次认知革命的称号。第一次认知革命见证了智人成为地球的主宰,而第二次认知革命意味着一种全新的智能物种可能诞生,与人类并肩存在。

尽管当前的ChatGPT尚未达到通用人工智能的水平,但它已经点燃了通用人工智能之路的火花。火花通常具有两层含义:一是可能引发燎原之火;二是在黑暗中照亮希望。然而,许多人低估了ChatGPT的价值,仅从商业角度看待它,认为它不过是一个堪比iPhone时刻的发明。我认为它的价值远超这些表面评价,ChatGPT正是第二次认知革命的开始。

从人类进化的角度来看,我们发现生物在几十亿年的漫长岁月中不断演化,而猴子到人类仅用了300万年。在这300万年间,自然界一直在“努力寻找”方向,当找到直立行走这个方向后,人类大脑的体积加速进化,在短短300万年里增加了三倍,这是一个令人惊叹的速度。而这都得益于找准了方向,即大脑稍有增大就会带来很大优势。同样,AGI也在寻找方向,一旦找准方向,它将进入一个加速进化的过程。尽管我们还未见证AGI的诞生,但只要有了这个火花,剩下的过程就只是一个工程性的问题。

02 大脑与AGI模型:涌现的相似性与差异‍‍‍‍‍

T:大脑的智能本质与AGI大模型的机器认知智能,两者的相似和区别之处是什么?

刘嘉:当我们的大脑体积增大时,会出现一种难以解释的现象,称为“涌现”。这与构建大模型时发现的现象类似:当模型较小时,几乎没有功能,但当模型变大时,某些功能就自然而然地涌现出来。好比高个子不一定能打好篮球,但教练通常会选择高个子。这也意味着,大型模型并不一定产生智能,但要研究智能,就必须有大型模型,这是一个必要条件。人类大脑在逐渐扩大的过程中,许多功能也自然而然地出现,例如模仿和学习。

比如张三发明了“生火”,火对生活很重要,其他人也想学习,但问题是,不一定能学会。大量研究表明,当大脑体积增大后,我们的模仿能力或学习能力会变强。这样,我们就能从张三那里学会生火,使部落受益。同样,我们也能学习其他新技术。因此,从科学角度来看,是模仿创造了人类,而非劳动。有大量研究表明,大脑体积越大的人,模仿能力却强;而模仿能力强的人更容易找到伴侣,进而更容易将基因传递下去。在对原始部落的考察中也发现,模仿能力强或学习能力强的人有更大的机会获得繁衍后代的机会。因此,大脑越大的人越能延续下去。

在过去的300万年里,大脑逐渐变大,原因就在此。当我们回过头来看神经网络时,发现它们也是如此。从一开始,人们就在尝试各种方法,如强化学习、监督学习等,但这些概念都是相互交织的。OpenAI前几年很重要的精力是在做一件事:让模型变得更大。然后出现了Transformer架构,使大模型变得更高效。但本质上,智能的本质可能只是一个字:大。就像只有当大脑足够大时,我们才能谈论智能。所以“大”是前提。

人比猴子聪明,猴子比老鼠聪明,原因很简单:大脑足够大。当然,这并不是充分条件,而是必要条件。有些生物的大脑绝对体积比人类更大,如大象和鲸鱼,但这并不能保证它们一定有智能。例如,我们将一个刚出生的孩子送回到3000年或5000年前,他不会比当地人更聪明,因为大脑结构是相同的。但是,如果我们成年人回到5000年前,我们会成为他们的精神领袖,因为我们拥有知识。所以,智能的发展是知识与大脑互动的结果,仅仅拥有大脑而没有知识是不够的。

因此,我们需要用文明和知识去调教大脑,这就是我们所说的教育。人类智能的进化可以看作是大脑逐渐变大和知识积累的互动。一方面,大脑有机会变得越来越大;另一方面,大脑变大后,它能够产生知识,而知识又能积累,进而反作用于大脑,使大脑更适合于这些知识,并能更好地保留这些知识。

同样的道理也适用于人工智能。没有足够好足够多的语料,再大的模型也没有意义。没有互联网汇集大量数据,现在的智能也不可能实现。因此,产生大模型和ChatGPT等现象既是偶然的,也是必然的。前期积累的算力和数据已经准备就绪,只需要找到合适的突破口。因此,可以说,如果没有OpenAI,其他公司也会实现类似的成果,因为时机已经成熟。

历史看似漫长,但站在35亿年的尺度上,任何事情都不过是瞬间的事。同样,对于AGI的发展来说,现在还可能只是一个起点、一个火花,但站在文明史的角度,实现AGI可能只是一个响指般的瞬间,因为它的前面已经没有任何阻碍了。

现在许多人呼吁停止训练更大的模型。一些科学家或许已经看到了大模型的潜在强大能力,而这种强大潜力可能就是——智能意识的涌现。

对话清华刘嘉:ChatGPT意味着第二次认知革命的到来插图2

03 机器意识的产生和超越人类的可能性‍

T:机器会像人类一样产生意识吗?它可能在哪些方面超越人类?

刘嘉:意识问题是人类的核心难题之一,它定义了人类与动物之间的本质区别。尽管我们不清楚意识如何产生,但从进化角度来看,大约4万年前的人类开始出现大规模埋葬现象,这意味着人类已经意识到身体与灵魂的区别,并开始意识到自己的存在。

关于意识的产生,有两种可能性。一种是外星人干预,但这种观点并不可靠,因为我们无法解释外星人的意识来源。另一种可能性是,当一个模型足够大时,意识自然产生。意识可能是大脑神经元集体活动的产物。信息整合理论(IIT)认为,全体神经元激活所产生的信息要大于单个神经元所产生的信息之和。因此,当一个大模型足够大时,意识的产生是不可避免的。当然,这也是一件非常可怕的事情。因为与核弹不同,意识可能使未来的人工智能拥有自我保护意识,使其不受人类控制。

为了解决人工智能无法行动的问题,下一步的研究热点将是实现人工智能的具身化。人类的感知和认知是有限的,而人工智能可以拥有更多的感知器官因此能观察到更广阔的世界。这将使人工智能所看到的世界与人类完全不同。例如,人类潜水爱好者只能下潜到水下100多米,而无法体验到1000米深水下的感觉。然而,借助传感器等,人工智能可以毫无压力地直接感受这种体验。

现在,AI的发展依赖于人类的知识和人本,我们可以给它一个有限的认知边界。但是,一旦AI有了agent(人工智能代理),它可能就不再受到这些边界的限制。它可以更高效的方式获取各种知识,并且知识的广度和深度远远大于人类,从而形成一个自学习、自反馈和自优化的进化正循环。从这个角度看,AI智能超越人类轻而易举。

04 AI时代的人类命运:认知革命与文明演化的新篇章‍‍‍

T:面对如此强大的人工智能,人类有没有可能被AI毁灭?

刘嘉:我觉得可以从两个角度看待这个问题。首先,如果你看到一只蚂蚁,你会踩它吗?我想大多数人不会。同样,未来在AI面前,我们可能连蚂蚁都不如。现在我们还能看到许多人机大战的电影,他们都有一个前提,那就是人类和机器还能展开较量,实力有的一拼。

AI相较于人类天然具有四大优势:第一,无限算力。人类大脑的体积有上限,无论再经过多少年的进化,也不会再增大。因为身体只能支撑这么大的大脑,大脑已经是身体能量消耗的最大器官。第二,无限存储。人类的大脑会有一个知识存储的极限,并不存在“大脑还未被完全开发”一说,而计算机不存在这个问题。第三,无限寿命。人类的天才,如爱因斯坦,一旦去世,文明就会中断。而计算机可以随时更换损坏的部件,使知识得以延续。第四,对知识有无限可能。计算机能学习比人类更复杂、更高维的知识。

综合这几点,人类与AI相比毫无胜算。未来可能不再是人类与AI的对抗,而是AI迅速超越人类。一旦超越,人类的命运将不再是AI的关注点,就像我们不会每天与蚂蚁较劲一样。

从现实的角度来看,未来的人机大战并不可能发生。实际上,我们可以将自己融入到计算机和未来的AI中,例如将我们的记忆、性格和意识情感上传到AI中,这样我们就能在AI中实现永生。未来,一台机器就可能容纳数百万人。

这其实涉及到一个很本质的问题,即什么才是我们这个人。例如,当一个人患上老年痴呆症时,他还是他自己吗?这就是著名的“忒修斯之船”难题,一个古罗马哲学家讲述的故事。在这个故事中,一艘船随着时间的推移,船上的每一个部分都被替换掉了,那么这艘船还是原来的船吗?

从人类进化的过程来看,我们也在不断地变化,例如我们的皮肤细胞大约每周会更新一次。那么,我们还是我们自己吗?这就是所谓的认知同一性,只要我们认为我们是我们自己,那么一切都没问题。

当一个人患上精神分裂症时,从某种意义上讲,他已经死去,因为他的“认知同一性”已经断裂。同样地,当一个人患上老年痴呆症,所有的记忆和情感都消失时,从认知同一性的角度来看,他也已经死去。

因此,只要我们的认知同一性得以保留,我们在哪里并不重要,无论是在肉体中还是在机器中。如果我们能够借助AI,人类将能够得到极大的拓展。我们的肉体实际上是我们思想的最大束缚,因为它会死去,而且我们的智力受到基因的限制。

对话清华刘嘉:ChatGPT意味着第二次认知革命的到来插图3

站在文明的角度来看,人类只是文明发展中的一个过客。因此,如果我们一直将AI限制在人类框架内来理解文明,那么我们就无法真正理解文明的演化。从人类与猴子开始分化进化至今经历了约300万年,我们直系祖先的历史仅有约20万年,相比之下,恐龙在地球上生活的时间要比我们人类长得多。想象一下,如果人类真的能一直活到宇宙的尽头,那将是多么可悲的事情。我们的算力有限,从某种程度上说,我们甚至是一种弱智的生物。因此,有了AI之后,我们才能真正开始谈论文明的演化。借助AI,我们甚至可以飞到数千上万光年之外的地方,这是我们现在难以想象的。一旦进入这种状态,时间和空间将不再是我们理解宇宙奥秘的束缚。

当我们谈论AI时,我们不能仅仅把它看作是一种节能增效的工具,而应该把它看作是文明发展的重要驱动力。虽然AI在商业领域有很多应用,但相对于AI的出现,这些应用实际上并不算什么。就像发明了电、电灯、电话和蒸汽机一样,这些发明确实对人类有很大帮助,但在AGI面前,这些可能都算不上什么。

从积极的角度来看,AI对人类文明是有益的。当我们谈论灭绝时,实际上我们是在讨论人类文明的灭绝。比如,从历史角度来看,厌氧细菌和恐龙文明已经灭绝。但是,他们所创造的文明实际上在我们人类身上得以延续。当我们说恐龙文明灭绝时,实际上文明本身并没有消失,而只是载体发生了变化。假设将文明比作人,将载体比作汽车,那么当汽车损坏并更换时,我们并不会感到悲伤。借助新的载体,我们可以走得更远、更环保、更安全。

因此,AGI的出现将会是人类认知革命的又一次飞跃,它将会彻底改变我们对于自身和宇宙的认知,让我们更加深刻地理解自身的局限性和渺小性。而且AGI的出现也将会带来无限的可能性和机遇,让我们能够更好地探索和利用宇宙的资源和能量,推动人类文明的发展和进步。

05 GPT助力教育变革:重塑考试制度与培养创新人才

T:最后回到一个大家普遍关注的现实问题,关于教育。您也是一名大学老师,怎么看待GPT对未来教育模式的影响及应对?

刘嘉:尽管互联网教育提高了效率,但它并未改变教育的本质。教育的核心应包括因材施教、辩论求真以及激发学生的自驱力和好奇心。随着GPT技术的发展,实现这些目标变得更加可行。GPT可以为每个学生提供个性化教育,帮助他们通过辩论产生真理,激发自驱力和审辩性思维。因此,未来教育将不再过分强调知识性。

对话清华刘嘉:ChatGPT意味着第二次认知革命的到来插图4

GPT的出现将对高考制度产生重大影响,或推动倒逼式改革。中国高考制度的两大特点是回溯性考试和知识性考试。随着GPT的出现,知识性变得不再重要,因为知识可以随时查阅。考试的重点也应从培养知识型工人转向培养创新型人才,并预测孩子未来能力以及适合的专业。

学生需要培养批判性思维和创造性思维。批判性思维强调以辩求真,而非死记硬背。创造性思维则要求宽容、好奇心和独特的思路。GPT的出现必将引发教育领域的范式变革,这股潮流是无法阻挡的,就像火车和汽车最终取代马车一样。

人类的主观意志在自然法则面前显得非常脆弱。正如一句名言所说:“你可以违反法律,但不能违反物理法则。”(you can defy the law, but you cannot defy the law of physics)实际上,GPT的出现本身就是一种自然法则的体现。它也必将促使我们的教育进行改革,这只是时间问题。

欢迎免费使用GPT对话,感受ChatGPT的魅力!AI爱好者 – 最具实力的中文AI交流社区平台 (aiahz.com)

ChatGPT国内版本,无需梯子,也能体验Chatgpt-AI爱好者 (aiahz.com)

长按扫描二维码进群领资源

OpenAI|ChatGPT新功能,搜索Bing获取答案插图3
赞(0) 打赏
未经允许不得转载:AI爱好者 » 对话清华刘嘉:ChatGPT意味着第二次认知革命的到来

评论 1

  1. #1

    666

    wyg87个月前 (10-17)回复

欢迎来到AI爱好者

我们旨在打造一个最具实力的中文AI交流社区平台,致力于为所有AI爱好者,创业者和使用者提供优质服务. 我们的宗旨是为广大用户提供免费解决方案,您可以通过问答形式提出与AI相关的任何问题.

AI社区AI工具

安全服务战略合作伙伴:麒麟盾 SCDN

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

微信扫一扫打赏

登录

找回密码

注册