打造中国最大的
AI信息汇总平台


欧盟通过AI监管草案后,斯坦福研究显示:全球主流AI模型均不达标 | 最前线

欧盟通过AI监管草案后,斯坦福研究显示:全球主流AI模型均不达标 | 最前线插图

如今,AI监管脚步正在快速迫近。

作者 | 黄金琼

编辑 | 邓咏仪

以ChatGPT为代表的AI大模型技术席卷全球的同时,也引起了广泛争议。如今,监管脚步正在快速迫近。

6月中旬,斯坦福大学AI研究实验室发布了一项对AI大模型的研究的结果。研究以十个AI大模型为研究对象,评估他们是否达到欧盟AI法案的标准。结果显示,这些顶尖的AI模型均没有达标。

斯坦福研究团队在报告中表示:“主要基础模型提供商目前基本上没有遵守这些草案要求。他们很少披露有关其模型的数据、计算和部署以及模型本身的关键特征的足够信息。尤其是,他们不遵守草案要求来描述受版权保护的训练数据的使用、训练中使用的硬件和产生的排放,也不披露如何评估和测试模型的方式。”

欧盟AI法案是世界上第一个AI监管相关法案,从被提出开始即引起全球广泛关注,也会影响大多数AI大模型在欧洲的发展前景。

6月14日,欧洲议会以299票赞成、28票反对、93票弃权的表决结果通过了关于人工智能法案的草案。人工智能草案的内容中,包括明确了关于Open AI和谷歌等模型的义务。法规旨在确保人工智能技术对用户能够保持透明、公平和安全,计划将于2024年生效。

欧盟通过AI监管草案后,斯坦福研究显示:全球主流AI模型均不达标 | 最前线插图1

来源:斯坦福

在斯坦福大学的研究中,研究团队先从监管草案选取出22项要求,再以是否有意义地使用公众信息作为标准,最终选择出12项评估要求,为每个评估要求配备了5点评分标准。在此基础上,研究人员将这12项要求进行维度划分为四个层次,分别是数据来源、数据处理、模型本身和实践应用。

各大AI模型的得分与满分仍有很大差距。主要的问题集中在:版权责任不明确;能源使用报告不均衡;风险缓解方面披露不充分;缺乏评估标准或审计生态系统等等。

各家大模型提供商的合规性差异也很大。一些AI大模型公司的得分低于 25%(AI21 Labs、Aleph Alpha、Anthropic)。目前综合得分最高的,是AI大模型开源社区Hugging Face。

最近几个月,大公司的AI发布会同样是证明。在Open AI的GPT-4和谷歌的PaLM2的发布会上,他们也都没有披露关于数据、评估方式等相关内容。

斯坦福团队表示,欧盟所出台的法规具备可行性,目前的AI模型遵守法规要求并非难题。他们在报告中也对欧盟政策制定者、全球政策制定者、模型提供商数方提供建议。比如,AI模型的政策制定者需要在欧盟AI法规的要求下,优先考虑模型的透明度,对于基础模型的开发、使用和性能有关的披露等,这都会提高整个人工智能生态系统的透明度。

而对于模型提供商而言,行业标准是比较大的挑战。在AI大模型领域尚没有成型标准前,斯坦福团队也提出了一些实用的建议——比如改善为大模型开发人员提供的文档。“提供商可以而且应该通过模仿最合规的大模型提供商,来提高自身的合规性。”

欢迎免费使用GPT对话,感受ChatGPT的魅力!AI爱好者 – 最具实力的中文AI交流社区平台 (aiahz.com)

长按扫描二维码进群领资源

欧盟通过AI监管草案后,斯坦福研究显示:全球主流AI模型均不达标 | 最前线插图2
赞(0) 打赏
未经允许不得转载:AI爱好者 » 欧盟通过AI监管草案后,斯坦福研究显示:全球主流AI模型均不达标 | 最前线

评论 抢沙发

欢迎来到AI爱好者

我们旨在打造一个最具实力的中文AI交流社区平台,致力于为所有AI爱好者,创业者和使用者提供优质服务. 我们的宗旨是为广大用户提供免费解决方案,您可以通过问答形式提出与AI相关的任何问题.

AI社区AI工具

安全服务战略合作伙伴:麒麟盾 SCDN

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

微信扫一扫打赏

登录

找回密码

注册