打造中国最大的
AI信息汇总平台


AI存在信任问题,区块链能提供帮助吗?

AI存在信任问题,区块链能提供帮助吗?插图

区块链的商业应用,比如供应链追踪,一直以来都没有取得成功。但有人表示,该技术可能作为一种验证人工智能算法的工具而找到其存在的价值。

确保人工智能算法的安全性、公正性和准确性的困难正使一些公司转向一种曾被吹捧为革命性但在商业领域未能获得成功的技术,那就是区块链。

AI存在信任问题,区块链能提供帮助吗?插图1

区块链以支持比特币和其他加密货币而闻名,它是一种数据结构,可以创建数字交易账本,并在计算机网络中共享。它利用密码学,使网络中的每个参与者能够安全地向账本添加信息,而无需中央机构的参与。一旦交易完成,区块链将保留其不可变的记录。

鉴此,数据分析公司FICO和区块链初创企业Casper Labs表示,他们正在应用该技术来跟踪构建和训练人工智能算法的过程。

他们表示,这是一个及时而紧迫的应用,因为人工智能在各个业务领域大量应用,而公司发现自己不能总是信任其输出结果。与此同时,政府监管机构正在对公司施加更多压力,要求增加算法的透明度和可审计性。

以前的区块链商业应用,包括供应链追踪,在市场上未能获得推广。人工智能的大规模应用是否能成为区块链发展的助力尚有待确定。

FICO的首席分析官Scott Zoldi表示,**区块链可以追踪算法训练时使用的数据,以及训练时间、训练人员以及对数据的验证和核实所采取的其他步骤。**通常情况下,构建人工智能模型的公司会尝试跟踪这些数据,但使用区块链可以更容易地获得共享的、一致的、可信赖的记录,他说。

“区块链无法阻止算法出错或展现偏见,但它可以提供可审计的记录,以说明其中原因”,他说。

“我们发现区块链可以将事情分解为小而可行的小型合同。我们可以验证每一个步骤都是在一个非常高的粒度级别上完成的,” Zoldi说道。”具备这种不可变性,可以带来透明度和诚实度。”

区块链并不能解决人工智能模型的可解释性问题,或者说AI模型的“黑匣子”问题。单独使用区块链无法确定为什么人工智能模型会给出特定的答案。但它承诺提供更好的记录,以帮助回答这个问题,Zoldi表示。

一些首席信息官对此持怀疑态度。支付公司Fleetcor Technologies的首席信息官Scott duFour表示:”我们完全赞成更严格的AI治理,但使用区块链有点像找钉子的锤子。”他说,区块链可能有助于增强对人工智能系统的信任,但前提是它必须与已经在使用的其他工具相辅相成,这些工具帮助设计师理解和解释人工智能模型的预测。

目前,FICO的工具正在内部使用,但计划在今年晚些时候向客户推出。

与此同时,总部位于瑞士的Casper Labs正在与IBM合作开发自己的工具,该工具将提供“版本控制”:它记录了在某个特定时间对某个模型产生影响的数据和参数,如果公司开始发现模型中存在偏见或错误,他们可以恢复到较早的版本,首席执行官Mrinal Manohar说。

改正算法中的偏见仍然是一个困难而耗时的过程,公司通常缺乏相应的系统和工具。

Casper Labs的工具目前正在进行测试阶段,预计将在今年第三季度与IBM的watsonx AI治理平台集成上市,尽管它并不仅限于watsonx平台,Manohar说道。AI治理平台旨在指导技术的使用,并管理与之相关的风险。

欢迎免费使用GPT对话,感受ChatGPT的魅力!AI爱好者 – 最具实力的中文AI交流社区平台 (aiahz.com)

ChatGPT国内版本,无需梯子,也能体验Chatgpt-AI爱好者 (aiahz.com)

长按扫描二维码进群领资源

OpenAI|ChatGPT新功能,搜索Bing获取答案插图3
赞(0) 打赏
未经允许不得转载:AI爱好者 » AI存在信任问题,区块链能提供帮助吗?

评论 抢沙发

欢迎来到AI爱好者

我们旨在打造一个最具实力的中文AI交流社区平台,致力于为所有AI爱好者,创业者和使用者提供优质服务. 我们的宗旨是为广大用户提供免费解决方案,您可以通过问答形式提出与AI相关的任何问题.

AI社区AI工具

安全服务战略合作伙伴:麒麟盾 SCDN

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

微信扫一扫打赏

登录

找回密码

注册