打造中国最大的
AI信息汇总平台


每日AI前沿术语:负责任AI(Responsible AI)

每日AI前沿术语:负责任AI(Responsible AI)插图

近日,谷歌Jeff Dean发表了深度学习研究的黄金十年文章,其中提到未来深度学习的发展趋势是负责任的AI开发。这引出了一个话题:负责任AI。

知识点

1.负责任AI的目的是构建一个AI治理的框架,能够规定一个组织在研发、部署和应用AI算法、程序和系统过程中,所应该采取的伦理和法律准则。

2.负责任AI的内涵大致包括包容性、公平性、以人为本、透明和可解释性、安全性、隐私和可被问责性等。

每日AI前沿术语:负责任AI(Responsible AI)插图1

图注:负责任AI的主要基本原则 [9]

定义

负责任的AI是近年来人工智能领域兴起的讨论议题,其目的是构建一个AI治理的框架,能够以文本的形式规定一个组织在研发、部署和应用AI算法、程序和系统过程中,所应该采取的伦理和法律准则。[1]

遗憾的是,目前国际组织、科技巨头和咨询公司对负责任的AI的内涵,并没有进行统一的界定。本词条仅列举其中一部分。

1.OECD

经济合作组织(OECD)在2019年发布的AI原则(AI Principle)中提出 [2],AI的应用应当兼具创新性和可信性,并需要尊重人类的价值观。其中,负责任的AI应包含以下原则:

(1)包容性增长、可持续地发展和谋取福利;

(2)以人为中心的价值和公平性;

(3)透明度和可解释性;

(4)鲁棒性和安全性;

(5)能够被问责。

每日AI前沿术语:负责任AI(Responsible AI)插图2

目前,这一原则已被某些机构所接受,作为AI研发和使用所遵守的准则。例如,负责任AI研究所(Responsible Artificial Intelligence Institute,RAII)基于OECD原则,提出了负责任AI认证项目,是全球首个独立、被认可的认证。[3]

2.谷歌

谷歌认为负责任AI应当包含以下原则:公平性、可解释性、隐私、安全。同时,谷歌在其网站上提到了负责任AI实践,其中包含六条推荐的技术实践原则[4]:

(1)使用以人为中心的设计方法;

(2)找到用于评价训练和监控AI的多种指标;

(3)可能的话,直接使用原始数据进行评测;

(4)理解数据集和模型的限制;

(5)测试、测试、测试;

(6)开发完成后,持续监控和更新系统。

每日AI前沿术语:负责任AI(Responsible AI)插图3

目前负责任AI的实践已经在谷歌的多项产品中使用,包括谷歌云、TensorFlow等。

3.微软

微软定义了六大负责任AI原则[5],包括:

(1)公平性

(2)可靠性和安全性

(3)隐私和安全

(4)包容性

(5)透明性

(6)可问责性

每日AI前沿术语:负责任AI(Responsible AI)插图4

实现负责任AI的具体方法

1.制度和管理措施

在实现负责任AI的发展方面,科技巨头普遍会制定相关战略。例如,微软设立了负责任AI办公室(ORA)、Aether委员会等机构。ORA从公司层面制定负责任AI的规定,并通过治理、团队赋能、评估敏感用例、公共政策四大方式实施这些规定。同时,Aether委员会定期向管理层提出AI创新所面临的挑战和机会,其中包括了负责任AI方面的内容。

谷歌在实施负责任AI方面,建立了一个中心团队,用于对所有将要上线的AI技术和系统提供流程化的审核,所有团队都可以获得支持。审核的主要流程包括接入、分析、调整和决策四大组成部分。

每日AI前沿术语:负责任AI(Responsible AI)插图5

同时,该团队会每年发布AI原则更新文档,及时更新所有技术规范。此外,在公共政策领域,谷歌发布了多份提案、政策咨询文件等,推动负责任AI原则在各国成为长期的政策。[8]

2.技术措施

谷歌在负责任AI方面,建立了人与AI研究项目(People+AI Research,PAIR)。这是一个专门负责制定负责任AI技术指导原则和技术研发的团队,帮助工程师了解用户日常使用AI的实际体验。[7]

微软设立了面向工程的负责任AI战略(Responsible AI Strategy in Engineering,RAISE)项目。该项目团队会构建负责任AI的工具和系统,为公司内的团队提供开发工具和技术实践案例。例如,该团队正在研发统一工程系统(One Engineering System,1ES)。这是一系列部署在Azure ML上的工具,能够帮助用户使用负责任AI实践,也能支持微软内部团队在公司内执行负责任AI规范。[6]

参考链接

[1] Responsible AI:https://www.techtarget.com/searchenterpriseai/definition/responsible-AI

[2] OECD AI Principle Overview:https://oecd.ai/en/ai-principles

[3] RAII Certification Beta:https://www.responsible.ai/certification

[4] Responsible AI practices:https://ai.google/responsibilities/responsible-ai-practices/

[5] Responsible AI:https://www.microsoft.com/en-us/ai/responsible-ai

[6] Putting principles into practice:https://www.microsoft.com/en-us/ai/our-approach

[7] People + AI Research (PAIR):https://research.google/teams/brain/pair/

[8] Policy perspectives:https://ai.google/responsibilities/public-policy-perspectives/

[9] What is Responsible AI? https://towardsdatascience.com/what-is-responsible-ai-548743369729

欢迎免费使用GPT对话,感受ChatGPT的魅力!AI爱好者 – 最具实力的中文AI交流社区平台 (aiahz.com)

长按扫描二维码进群领资源

每日AI前沿术语:负责任AI(Responsible AI)插图6
赞(0) 打赏
未经允许不得转载:AI爱好者 » 每日AI前沿术语:负责任AI(Responsible AI)

评论 抢沙发

欢迎来到AI爱好者

我们旨在打造一个最具实力的中文AI交流社区平台,致力于为所有AI爱好者,创业者和使用者提供优质服务. 我们的宗旨是为广大用户提供免费解决方案,您可以通过问答形式提出与AI相关的任何问题.

AI社区AI工具

安全服务战略合作伙伴:麒麟盾 SCDN

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

微信扫一扫打赏

登录

找回密码

注册