打造中国最大的
AI信息汇总平台


OpenAI CEO:十年内超强AI系统或将诞生

OpenAI CEO:十年内超强AI系统或将诞生插图

萨姆·奥特曼(Sam Altman),OpenAI的联合创始人兼CEO,在2023智源人工智能大会上发表了演讲。他表示,目前全球关注的焦点主要集中在解决当今人工智能问题上,许多问题的解决变得迫切。人工智能的能力正在迅速增长,现在需要负责任地将其应用到世界中。

OpenAI CEO:十年内超强AI系统或将诞生插图1

萨姆·奥特曼认为,在未来的十年里,超级人工智能(AGI)将超过上世纪90年代初期人类的专业水平,并最终可能超过全球最大公司的总体生产力。这意味着AGI具有巨大的潜在收益。然而,管理风险和共同努力实现预期目标也变得至关重要。随着越来越强大的人工智能系统的出现,全球合作的利益变得前所未有地重要。如果没有合理规划,未经调整的AI系统可能通过提供不平衡的建议来破坏整个集体系统。因此,奥特曼强调,推动AGI的安全性是业界寻找共同立场的最重要领域之一。

萨姆·奥特曼表示,行业必须对开发和部署可能引发问题的AI系统负责。其中,最重要的两个领域是建立包容性的国际准则和标准,以及在全球范围内建立对日益强大的AGI系统的安全开发的信任。他强调,需要国际合作以可验证的方式建立这种信任,并推动增加AGI安全技术进展的透明度和共享知识的机制。同时,需要深入思考如何在推动国际合作的同时尊重和保护知识产权,推动与安全研究一致的投资。

OpenAI CEO:十年内超强AI系统或将诞生插图2

他提到,《道德经》中有一句话:“千里之行,始于足下”。他认为,与国际科技界展开合作是最有建设性的第一步,以推动增加AGI安全技术进展的透明度和共享知识的机制。他鼓励研究人员共享他们发现的紧急问题,并思考如何在鼓励国际合作的同时保护知识产权。奥特曼指出,他们正在投资可扩展的监督方法,试图使用AI系统协助人类监督其他AI系统,并加强对模型内部发生情况的解释能力。最终目标是培养AI系统具备更好的自我优化能力。

萨姆·奥特曼还表示,AI系统需要在没有安全威胁的前提下发挥积极作用,并主动应对AGI可能带来的挑战,将未来可能的灾难性后果的风险降到最低。他提到GPT-4的开发过程中,团队投入了大量时间研究如何预测和应对风险。对于更高级的系统来说,对齐仍然是一个未解决的问题,需要新的技术方法和加强治理监督。萨姆·奥特曼认为,国际研究人员在应对AI领域技术挑战方面有着巨大的合作潜力。

关于GPT源代码是否重新开放的问题,萨姆·奥特曼表示,目前OpenAI已经开源了部分模型,并预计未来会有更多模型开源。然而,随着模型变得越来越大,确保正确性将变得昂贵,所以开源一切可能不是最佳路径。

总的来说,萨姆·奥特曼强调了AGI的安全性和全球合作的重要性,并提出了建立国际准则和标准、增加安全技术进展的透明度、共享知识以及构建安全分类器和检测器等措施的重要性。他还鼓励国际科技界展开合作,共同推动AI领域的发展,并在解决AGI时代的挑战上取得进展。

欢迎免费使用GPT对话,感受ChatGPT的魅力!AI爱好者 – 最具实力的中文AI交流社区平台 (aiahz.com)

长按扫描二维码进群领资源

OpenAI CEO:十年内超强AI系统或将诞生插图3
赞(0) 打赏
未经允许不得转载:AI爱好者 » OpenAI CEO:十年内超强AI系统或将诞生

评论 抢沙发

欢迎来到AI爱好者

我们旨在打造一个最具实力的中文AI交流社区平台,致力于为所有AI爱好者,创业者和使用者提供优质服务. 我们的宗旨是为广大用户提供免费解决方案,您可以通过问答形式提出与AI相关的任何问题.

AI社区AI工具

安全服务战略合作伙伴:麒麟盾 SCDN

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

微信扫一扫打赏

登录

找回密码

注册