打造中国最大的
AI信息汇总平台


9秒被骗245万,AI诈骗正在爆发

9秒被骗245万,AI诈骗正在爆发插图

“AI诈骗的门槛越来越低”

AI诈骗正在爆发, 据迈克菲安全技术公司最新报告, 受到AI诈骗, 77%的人会遭受经济损失。

诈骗者通过被害人的社交媒体、上网记录, 采集其各方面的生活信息和行动轨迹, 合成对方的声音、人脸, 诈骗其朋友、亲人、同事, 让人防不胜防。

9秒被骗245万,AI诈骗正在爆发插图1

去年,AI在诈骗案频发,“9秒被骗245万,10分钟被骗430万”等诈骗案件多次登上热搜

据安徽警方通报,去年4月,有人换脸成被害人的好友,称有一个项目招标需要周转资金,视频通话仅9秒钟,

就诈骗到245万。

去年10月, 有博主发文称, 有人通过AI换脸, 制作她的裸照进行敲诈。

如何识别AI诈骗, 碰到后应该怎么办? 我们和AI诈骗的亲历者、 AI工程师聊了聊。

声音和脸都像我朋友,其实却是诈骗犯

自述:安安,20岁,大学生‍‍

我目前正在读大二。有一天我在QQ上收到了一个好朋友发来的消息。她问我在干嘛,寒暄了几句,就说她的微信被限制了,想转钱到我的银行卡号,让我帮她买个东西。

涉及到钱,我就比较谨慎了,我说我们先视频一下。她也没犹豫,打开了视频。长相、声音和我朋友一摸一样,我们视频了5秒钟就挂了。确认了脸,我就放松了警惕。

9秒被骗245万,AI诈骗正在爆发插图2

安安和对方的聊天截图‍‍

我问她想买什么,她没回复,直接让我发银行卡号过去,她转钱给我。我没有多想,把卡号发给她了。她给我发了个充值Q币的链接,让我点链接帮她买3500元的Q币。

我当时也挺奇怪的,无缘无故为什么要买Q币?我问她是不是在做暑假工,但她跳过了我的问题,说已经把钱转过来了,问我收到没有。我并没有收到。她开始兜圈子,说再去问问客服,确认一下,让我先帮她买一下,钱一会儿就能到账。

如果我大意一些,钱也就转过去了,但我再次起了疑心,就让她再接一次视频电话。这时候她也有些不耐烦,说,就是我本人你放心。

我怎么放心呢?我们平常基本都在微信联系,她怎么突然QQ联系我?况且是买虚拟货币,发过来的也是陌生链接。我就去微信跟我这位朋友确认,她说根本没有在QQ上找我。

9秒被骗245万,AI诈骗正在爆发插图3

说实话我当时都快被吓哭了,又去QQ问对方,让她打开视频给我看,打开后还是我朋友的样子。她为了让我放心,甚至拿出了身份证给我看,根本看不出来脸是AI合成的。挂了电话,我骂了骗子几句,她看我迟迟不转账,好像也识破了,就没有继续装了。

后来我朋友才发现她的QQ账号被盗了。至于身份证,她觉得可能是之前在某个网站上上传过身份证照片。但是想来想去,我们也不知道到底是哪个环节出了问题。如果不是去微信多问了一句,我差点就被骗了。

留学生被骗:骗子会利用“时空差”

自述:Mike,23岁,留学生

我今年23岁,目前在美国读书。说实话,第一次碰到AI诈骗的时候我真的一身冷汗。

去年圣诞节我和同学去南美玩,那阵子和我爸妈联络也比较少。有一天半夜我突然接到我妈的微信电话,接上的时候发现她已经打了3、4个了。我当时也吓一跳,以为家里发生什么事。她当时带着哭腔,问我怎么样,还好吗。我当时也有点懵。

9秒被骗245万,AI诈骗正在爆发插图4

编造“留学生被绑架”,是诈骗犯常用的手段‍‍‍‍‍‍‍‍‍‍

她告诉我,她白天接到我的电话,来电显示是我国内的手机号,电话那头也是我的声音,我说自己在南美洲被绑架了,跟我妈要10万美元赎金,否则就活不了了,没说几句电话就挂了。

我妈当时差点就信了,她尝试给我的手机打电话,发现打不通,当时隔着太平洋,她也没办法确认真假,只感觉声音是我的,她甚至报了警,警察告诉她再通过别的途径确认一下,因为当时是夜里,我的微信也连续打不通。

她有点儿着急了,后来我爸给我打手机电话,我妈尝试给我打微信电话,两个人折腾了半天,幸好我的手机平常不会关声音,最后我还是接到了。

我安慰她我没事,就是在旅游。她当时都将信将疑的,问我刚才我的声音是怎么回事。我当时根本不知道还有AI诈骗这回事,也是吓得够呛。

后来我们打开了视频,她看到我真的没事,才放心下来。后来我上网去查,才知道有些AI诈骗不仅会黑你的手机通讯录,还会黑进你的微信,除了声音,连脸都是可以伪造的。

9秒被骗245万,AI诈骗正在爆发插图5

电影《孤注一掷》剧照,主线故事围绕电信诈骗展开

平常我和爸妈的联系频率还是比较高的,基本上每周都要打两三个电话,就是那次,我恰好在外面旅行,也发了自己旅行城市的定位,和家里联络比较少了。

所以我后来想,可能就是因为这样,诈骗犯利用了这个“空档”,他们通过我的社交媒体知道了我的位置,也不知道怎么黑到了我国内的号码,提取了我的声音,来诈骗我爸妈。还特意选择了我晚上在睡觉,可能接不到电话的时间。

我是比较小心谨慎的性格,之前也比较保护自己的隐私,比如我在国内的时候,每次收到快递一定会把自己的个人信息涂抹掉再扔快递盒,也不轻易在外面留自己的电话号码,上网记录也会定时删除,但是有时候难免会泄露一些信息,太难防了。

“AI诈骗的门槛越来越低”

9秒被骗245万,AI诈骗正在爆发插图6

Q:AI诈骗主要指的是什么?

A:AI诈骗主要采用的技术是Deep fake,意思就是深度伪造。它是一项人工智能的人体图像合成技术。AI诈骗主要就是利用这项技术,进行换声、换脸,再通过电话、社交媒体进行的欺诈。

9秒被骗245万,AI诈骗正在爆发插图7

在《速度与激情7》拍摄过程中,保罗·沃克意外车祸去世,片方讨论后,邀请保罗-沃克的两个弟弟担任替身,正脸则用AI技术复制保罗的脸

Q:正常情况下,这项技术运用于哪些领域?它的发展经历了哪几个阶段?

A:早期,这项技术主要用于影视的后期剪辑,比如说最出名的《速度与激情》,保罗·沃克意外车祸去世后,片子的后半部分就是用了deep fake的换脸技术。

2018年,当时出现过一个政治的恶搞视频,一个美国演员用Deep fake技术制作合成了一个视频,奥巴马大骂特朗普是个笨蛋,其实他本人从没说过这种话。这个视频在推特上获得200多万次的播放,影响力非常大。也就是因为这个虚假新闻,让这个技术慢慢走进大众视野。

后来在日本,这个技术也被用来造黄谣,有年轻人通过换脸技术,出售伪造的不雅影片。再后来,就开始出现电话语音诈骗,还有我们看到的更高级的换脸变身诈骗。其实一直到2022年,AI诈骗才开始集中大量出现。

9秒被骗245万,AI诈骗正在爆发插图8

去年10月,一位自称裸体绘画艺术家的人称自己受到委托,按要求制作某博主的裸体图片,因委托人没有付费,所以他向博主索要500 USDT(加密货币,约合人民币3500元),否则自己将会公开出售其裸照

Q:AI诈骗爆发有哪些原因?

A:在早期,硬件设施还不是非常完善,deep fake也有一定技术门槛,需要有一点代码能力的人才会去使用。所以AI诈骗没有那么猖獗。2023年,被称为“AI元年”,让人惊叹的chatgpt也出现了,可以说AI技术突飞猛进,加上这几年计算机硬件革新,算力大幅提升,让能使用deep fake的硬件比较容易获得。

而且,这项技术是开源的,比较容易获取。在专业的软件网站、应用商店,甚至网购平台就能找到。任何人都可以下载、学习和使用。

而且经过不断的优化整合,现在的技术壁垒越来越低。比如说在网上,有些人会出售“一键安装包”,让普通小白一键安装后就能使用。甚至在某些渠道,你花几块钱就能找人帮做一条换脸视频,所以主要是因为AI技术的学习、获取门槛越来越低,导致AI诈骗的门槛也越来越低。

9秒被骗245万,AI诈骗正在爆发插图9

图片来源:petapixel

Q:AI诈骗常见的一些方式和手段包括哪些?

A:首先就是语音诈骗,比如通过一些唱歌、配音软件提取你的声音,通过骚扰电话来提取你的声音,进行后期合成。还会通过盗号,用一些第三方的插件,实现语音转发,获取你的声音样本,再电话诈骗。

如果要更高阶一些,他们还会通过远程控制软件,向指定的目标人发送含有恶意软件的链接或者文件,一旦你打开,它就可能去控制你手机上的一些APP,甚至盗取你的账号密码、个人身份信息等等,获取你的声音和照片,再去了解你的生活,找到你熟悉的亲人、朋友,直接打视频过去,进行诈骗。

9秒被骗245万,AI诈骗正在爆发插图10

徐欣正在科普AI数字人,使用deep fake技术改换人脸。来源:@超级头脑AI魔法师

Q:AI诈骗为什么难以识别?能通过具体案例讲讲吗?

A:AI诈骗是一套“组合拳”。换脸变身,只是诈骗的最后一步。

第一步,犯罪分子会通过AI工具选取诈骗对象,一定是各方面条件都是他们可以把握的。我们在浏览网站的时候,会留下cookie。诈骗犯通过盗取QQ等社交媒体,对方可以推断出你大概的年龄段、经济水平。

通过公共的社交软件,比如说小红书、抖音等等,你可能发布了一些个人信息,诈骗者也可以通过这些大致推断出你的身份、对什么感兴趣。了解你的个人形象,你的生活圈、行动轨迹,才会为你量身定做一个“诈骗剧本”。

比如说之前新闻说一个人十分钟被诈骗了430万,假如说那是一个没有做过功课的骗子,就只是换脸成他的一个普通的朋友,单纯跟他去借钱,别说借430万,几万块可能都有困难。

因为骗子之前盗他的账号,收集了他个人隐私的信息,了解到他最好的朋友是谁。这个朋友在什么时候,刚好有一个项目,这个事是真实存在的。然后他就来冒充这个朋友打电话给被害人,说我这边的项目可能需要借点钱。当时肯定有顾虑,但是两个人打开视频,看了视频发现确实是朋友的脸,声音也是,才上当受骗。

还有一个学生,他是刚好那段时间出国旅游,没开国际漫游,诈骗犯就是盯准了他和父母电话沟通不是很顺畅这段时间,冒充他去跟他父母要钱,说是在国外遇到了什么事儿,让他父母把钱打到一个账户。利用这种时间、时空差也是他们常用的手段。

工具在变,但是诈骗他最终骗的是人性,他会利用受害者一些恐惧心理,冒充领导、冒充公检法之类的,利用受害者对权威机构天生的畏惧心理,通过伪基站,用官方号码给你发送信息。

Q:我们应该如何防止隐私泄露?

A:首先我们浏览网页的时候,尽量关闭cookie,及时清除浏览记录,关闭“登录网站自动保存密码”的选项,不要在非官网的网站留下身份信息,电话信息。

在社交平台,尽量不要发清晰的正面照,发朋友圈关闭定位,不接骚扰电话。最重要的就是不点陌生链接,在手机上下载国家反诈APP。

9秒被骗245万,AI诈骗正在爆发插图11

‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍Q:作为普通人,我们如何识别对方是否是AI诈骗?

A:在开视频的情况下,我们可以有意识地引导对方做一些动作,比如说张大嘴巴,或者说大幅度摇头,让对方用手挡在脸前面等等。因为目前这个技术虽然可以换脸,但是它对于突然出现在摄像头的阻碍物,是没有办法进行快速分辨的,这个时候,人的面部就会有变化,产生一些变形。

而且deep fake训练模型的时候,大部分用的是人物正脸,对于侧面甚至后脑勺是训练不到的。它能够训练人物的五官,但是很难改变人的脸型、骨骼形状。所以说对方做大幅度动作的时候,可以从侧面,后面这些方位去看,就能看到一些瑕疵。

此外,伪造的人脸,他的眨眼频率会比较低,对方的情绪也可能和当时的情景不符合,画面会停顿,这时候先不要考虑是不是网不好,可以考虑有可能是伪造的。‍‍‍‍‍‍‍‍‍‍‍‍‍

如果对方打来的是语音电话,我们可以尝试用方言交流。假如骗子已经高阶到连方言都对答如流,那只有一个办法,就是聊隐私,聊你们没有从没有同任何人讲过,没有在社交软件上说过的事情。

还有一个办法是,直接拨打对方的电话,但是注意不要通过通讯录找对方的名字打,因为对方可能已经黑进了你的通讯录,最好直接输入对方的手机号打过去询问,关键就是多个渠道验证。核心就是,只要谈到钱,无论对方是谁,都要谨慎。

9秒被骗245万,AI诈骗正在爆发插图12

Q:AI诈骗案件的侦破方面,有哪些难度?

A:最大的难度在于AI诈骗具有高隐蔽性,很难获得线索。假如诈骗犯设置了一个虚拟IP,他就可以在全世界任何一个国家、任何一个地区来诈骗任何人。你可能在中国受骗了,你去报警,但是骗你的人是在大洋彼岸的其他国家,是任何一个人种。加上对方的声音、形象都是合成的,就是难上加难了。但我还是建议被AI诈骗一定先报警,至少留下一份档案。 ‍‍‍‍‍‍

Q:在电信诈骗、AI诈骗这方面,我们国家有相应的法律举措吗?还有哪些方面需要完善?

A:2023年1月份,我们国家颁布了一条《互联网信息服务深度合成管理规定》,规定了深度合成服务提供者的主体责任,就是从技术提供者的源头去规范和管理。

当然,漏洞依然有,目前急需完善的地方就是技术层面。对于第三方软件、Ai软件,我们对它的拦截、识别技术,还是比较滞后的。

其实在国外,已经有相关的技术,比如美国一家科技公司,去年6月份他们就宣布将增强AI反诈检测技术,设计了一款软件,可以立即发现伪造内容,能识别99.5%的deep fake的内容。

对我们来说,AI工具的使用范围离普通民众还是稍微有些远,AI技术更多应用在大健康产业,天气预测等等。其实我们普通人也可以提高AI技术的素养,多了解一些AI知识,它的底层逻辑,也是有助于我们识破诈骗的。

欢迎免费使用GPT对话,感受ChatGPT的魅力!AI爱好者 – 最具实力的中文AI交流社区平台 (aiahz.com)

ChatGPT国内版本,无需梯子,也能体验Chatgpt-AI爱好者 (aiahz.com)

长按扫描二维码进群领资源

OpenAI|ChatGPT新功能,搜索Bing获取答案插图3
赞(0) 打赏
未经允许不得转载:AI爱好者 » 9秒被骗245万,AI诈骗正在爆发

评论 抢沙发

欢迎来到AI爱好者

我们旨在打造一个最具实力的中文AI交流社区平台,致力于为所有AI爱好者,创业者和使用者提供优质服务. 我们的宗旨是为广大用户提供免费解决方案,您可以通过问答形式提出与AI相关的任何问题.

AI社区AI工具

安全服务战略合作伙伴:麒麟盾 SCDN

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

微信扫一扫打赏

登录

找回密码

注册