AI爱好者
最近，多起声称利用AI技术进行诈骗的案件引起了人们的关注，包括利用AI换脸和拟声技术骗取资金等手段。然而，公安部门核实确认了“AI诈骗全国爆发”的消息不实，目前此类诈骗案件的发生率仍然很低。尽管如此，公安机关已经注意到这种新的犯罪手法，并将加大力度与相关部门合作进行技术反制和宣传防范。
专家表示，随着AI技术的快速发展，由于使用边界不明确，AI涉诈风险正在积聚，因此需要高度警惕。
近期在内蒙古包头警方通报的一起利用AI实施诈骗的案件引发了焦虑。据通报，一名公司法人代表在短短10分钟内被骗取了430万元，骗子利用AI换脸和拟声技术佯装成熟人进行诈骗。此后，多起类似案件的报道也引起了广泛关注，使得人们对“AI诈骗潮”提高了警惕。
然而，AI诈骗潮是否真的到来还有待观察。AI技术确实能够实现换脸和拟音，但要进行“广撒网”式的诈骗需要具备许多条件。公安部门的一位民警表示，这种诈骗需要收集被换脸对象的个人身份信息、大量人脸图片和语音素材，并利用AI生成以假乱真的音视频；还需要窃取被换脸对象的微信号，并详细了解被换脸对象与诈骗对象的社会关系。综合起来，这种犯罪手法的成本非常高。
公安机关判断，虽然网上流传着“AI换脸诈骗全国爆发”的消息，但实际上全国范围内此类案件的发生数量不到10起，尽管这个趋势值得高度关注。公安机关还指出，一些提供一键换脸功能的App和小程序存在技术滥用风险，需要加强技术防范和反制措施。
随着AI技术的快速迭代，涉及诈骗的风险正在积聚。据香港科技大学（广州）的专家表示，AI技术发展已经来到了快速上升的拐点，未来几年技术迭代将会越来越快。工信部的数据显示，随着合成技术门槛的降低，利用AI进行网络诈骗、虚假信息传播和色情等方面的风险正在增加。
因此，业内人士建议加强AI技术的反制研究，通过使用AI对抗AI的方式来防范犯罪。同时，加强源头治理和行业引导，及时更新和完善相关法律、标准和规则，以确保AI技术的安全可控性。此外，加强针对性的反诈宣传也是必要的，通过教育提高公众对AI合成技术的辨识力。
公安部门表示，当前诈骗集团正在利用新技术和新业态进行犯罪活动，如区块链、虚拟货币、远程操控等。公安机关将与诈骗分子进行斗争，并不断研究调整打击和防范措施，以确保始终保持主动权。工信部也将加强监管执法，推动企业加强技术防范，制定相关行业标准和自律管理制度。
总之，尽管“AI诈骗潮”消息不实，但AI涉诈风险的存在需要引起足够的重视。在AI技术迅速发展的同时，加强技术防范、源头治理和法规制度的建设都是必要的，以确保AI技术的安全应用和社会可控。
欢迎免费使用GPT对话，感受ChatGPT的魅力！AI爱好者 – 最具实力的中文AI交流社区平台 (aiahz.com)
长按扫描二维码进群领资源
