打造中国最大的
AI信息汇总平台


AI换声、换脸诈骗引发关注,科技应向善,防范重要

AI换声、换脸诈骗引发关注,科技应向善,防范重要插图

近期,利用人工智能(AI)进行的“换声”和“换脸”电信诈骗事件引起了广泛关注。新一代信息技术,以AI为代表,就像一把双刃剑,带来了便利和效率的同时,也引发了对数据安全和治理的高度关注。

AI换声、换脸诈骗引发关注,科技应向善,防范重要插图1

在某软件公司的网站上,只需上传一个人的简短音频,几分钟后,这个声音就能说出任何指定的话。甚至AI可以模仿中国脱口秀明星“马斯克”,或是翻唱周杰伦的歌曲。AI技术的快速发展不仅大幅降低了成本,还使诈骗变得更容易和更加隐蔽。中国拥有大量的自然语言和人脸识别训练数据,基于AI大模型的小样本学习效率高、成本低。这使得AI这把“双刃剑”一方面可以用于善良的目的,另一方面却可能被滥用。

AI的应用可以让已故者的声音继续“活”在当下,例如通过音频合成让邓丽君演唱新歌;也可以通过根据亲人的生前录音,使其在现实场景中再现,以慰思念之情。然而,AI也可以被用于恶意目的,例如合成亲人的声音实施诈骗,通过伪造紧急情况利用AI语音技术诱使亲人交出现金或私人信息。

面对AI诈骗,个人需要提高防范意识。与传统电信诈骗相比,AI诈骗更加隐蔽、逼真,更加高效和精准,也更加难以防范和追查。在面对生成AI时,大多数人缺乏防范意识,他们往往把“朋友”的脸和声音视为可信的来源。传统的防诈技术无法及时拦截和预警AI诈骗。要预防此类诈骗,当事人首先要保持警惕,避免个人信息被盗用。

AI换声、换脸诈骗引发关注,科技应向善,防范重要插图2

面对AI诈骗,需要关注数据治理水平的提升和根源追溯。一方面,相关监管部门需要跟进防诈措施,加强防诈技术管理手段的升级,及时识别并发出警示。宣传新型AI诈骗的特点、提示风险和提供识别手段也是必要的。另一方面,需要从法律法规、产业自律和AI接口管理等多个层面入手,遏制AI技术背后的危害源头,切断AI诈骗的灰色产业链,确保AI应用的合理合法。今年4月,国家网信办公开征求意见《生成式人工智能服务管理办法(征求意见稿)》中规定,提供生成式人工智能产品的聊天、文本、图像、声音生成等服务的组织和个人,要承担生成内容生产者的责任,并履行个人信息保护义务。

面对AI诈骗,我们还要运用对策,不断进行技术创新。例如,在身份认证的基础需求方面,各行各业加快了人脸识别等AI技术的应用,但这也给了不法分子通过图片、3D打印等物理手段攻击,突破人脸识别系统进行资金盗取和诈骗的机会。为应对人脸识别攻击,我们应在技术上采取多模态融合防护。通过设计融合算法,综合利用人脸几何特征、声纹、虹膜等多种特征,弥补某些生物特征容易被伪造的弱点,提升识别的准确性,从而形成对人脸识别攻击的技术防御。

在防止AI技术被滥用的同时,我们不能因噎废食,也不能否定AI作为新一代信息技术的应用。ChatGPT等前沿AI技术对社会生产力的推动作用显而易见。面对新技术变革,我们除了积极拥抱,也要心怀敬畏,提升风控能力,让AI技术在推动产业数字化转型、提升实体经济服务质效方面发挥更大的作用。

欢迎免费使用GPT对话,感受ChatGPT的魅力!AI爱好者 – 最具实力的中文AI交流社区平台 (aiahz.com)

长按扫描二维码进群领资源

AI换声、换脸诈骗引发关注,科技应向善,防范重要插图3
赞(0) 打赏
未经允许不得转载:AI爱好者 » AI换声、换脸诈骗引发关注,科技应向善,防范重要

评论 抢沙发

欢迎来到AI爱好者

我们旨在打造一个最具实力的中文AI交流社区平台,致力于为所有AI爱好者,创业者和使用者提供优质服务. 我们的宗旨是为广大用户提供免费解决方案,您可以通过问答形式提出与AI相关的任何问题.

AI社区AI工具

安全服务战略合作伙伴:麒麟盾 SCDN

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

微信扫一扫打赏

登录

找回密码

注册