AI爱好者
萨姆·奥特曼（Sam Altman），OpenAI的联合创始人兼CEO，在2023智源人工智能大会上发表了演讲。他表示，目前全球关注的焦点主要集中在解决当今人工智能问题上，许多问题的解决变得迫切。人工智能的能力正在迅速增长，现在需要负责任地将其应用到世界中。
萨姆·奥特曼认为，在未来的十年里，超级人工智能（AGI）将超过上世纪90年代初期人类的专业水平，并最终可能超过全球最大公司的总体生产力。这意味着AGI具有巨大的潜在收益。然而，管理风险和共同努力实现预期目标也变得至关重要。随着越来越强大的人工智能系统的出现，全球合作的利益变得前所未有地重要。如果没有合理规划，未经调整的AI系统可能通过提供不平衡的建议来破坏整个集体系统。因此，奥特曼强调，推动AGI的安全性是业界寻找共同立场的最重要领域之一。
萨姆·奥特曼表示，行业必须对开发和部署可能引发问题的AI系统负责。其中，最重要的两个领域是建立包容性的国际准则和标准，以及在全球范围内建立对日益强大的AGI系统的安全开发的信任。他强调，需要国际合作以可验证的方式建立这种信任，并推动增加AGI安全技术进展的透明度和共享知识的机制。同时，需要深入思考如何在推动国际合作的同时尊重和保护知识产权，推动与安全研究一致的投资。
他提到，《道德经》中有一句话：“千里之行，始于足下”。他认为，与国际科技界展开合作是最有建设性的第一步，以推动增加AGI安全技术进展的透明度和共享知识的机制。他鼓励研究人员共享他们发现的紧急问题，并思考如何在鼓励国际合作的同时保护知识产权。奥特曼指出，他们正在投资可扩展的监督方法，试图使用AI系统协助人类监督其他AI系统，并加强对模型内部发生情况的解释能力。最终目标是培养AI系统具备更好的自我优化能力。
萨姆·奥特曼还表示，AI系统需要在没有安全威胁的前提下发挥积极作用，并主动应对AGI可能带来的挑战，将未来可能的灾难性后果的风险降到最低。他提到GPT-4的开发过程中，团队投入了大量时间研究如何预测和应对风险。对于更高级的系统来说，对齐仍然是一个未解决的问题，需要新的技术方法和加强治理监督。萨姆·奥特曼认为，国际研究人员在应对AI领域技术挑战方面有着巨大的合作潜力。
关于GPT源代码是否重新开放的问题，萨姆·奥特曼表示，目前OpenAI已经开源了部分模型，并预计未来会有更多模型开源。然而，随着模型变得越来越大，确保正确性将变得昂贵，所以开源一切可能不是最佳路径。
总的来说，萨姆·奥特曼强调了AGI的安全性和全球合作的重要性，并提出了建立国际准则和标准、增加安全技术进展的透明度、共享知识以及构建安全分类器和检测器等措施的重要性。他还鼓励国际科技界展开合作，共同推动AI领域的发展，并在解决AGI时代的挑战上取得进展。
欢迎免费使用GPT对话，感受ChatGPT的魅力！AI爱好者 – 最具实力的中文AI交流社区平台 (aiahz.com)
长按扫描二维码进群领资源
