打造中国最大的
AI信息汇总平台


应用|比“一键脱衣”更离谱,这种AI太可怕了!

2019年的5G,2020年的智能驾驶,2021年的元宇宙,2022年的AI绘画,2023年的ChatGPT。

回顾过去4年所有誉为“超级风口”的核弹级概念,哔哥发现真正落到实处,改变世界的新技术似乎唯独AI一位。

5G沦为网速检测器,上网看片下电影;智能驾驶实为辅助驾驶,方向盘一撒全村开席;元宇宙大

应用|比“一键脱衣”更离谱,这种AI太可怕了!插图

(图源发表情)

反观AI,ChatGPT堪称继工业革命、数字技术后的第三次现代人类历史转折点。

写程序、写PPT、解答疑问、分析数据……简直就是电子版多啦A梦。

用一句十分夸张却正在变作现实的话形容:AI即将颠覆世界,变革人类社会。

但变化从来是个中性词,解放人类,世纪式释放生产力同时,难免造成不可预估的破坏。

比如咱们耳熟能详的AI诈骗,近两年来势汹汹,似有越演越烈的迹象。

就在前几天,枫叶国的老年人平白无故遭殃,被AI骗去几百万加元,相当于数千万人民币。

谁又能知晓,积攒多年的养老金在几句AI语音的引诱下一次清空的痛苦。

应用|比“一键脱衣”更离谱,这种AI太可怕了!插图1

(图源中国日报)

AI成了诈骗最佳搭档

据央哥二台报道,加拿大频繁出现利用AI合成语音诈骗的案件,专门针对思维退化的老人。

案件的流程基本如下:先是通过网络收集视频素材,利用AI技术合成声线,然后骗子冒充成老人的孩子,拨打电话联系老人。

告诉老人家:俺在外面惹事弄伤人,要花钱雇佣律师出庭,不然缝纫机踩冒烟。

应用|比“一键脱衣”更离谱,这种AI太可怕了!插图2

(图源央视)

妈妈爸爸,我需要你们的帮助,求求你们。

与儿子高度相似的声音,用夹杂着哭腔的语气请求,试问哪个父母能保持理智。

于是乎瞬间掉进骗子精心设计的陷阱,老人顺着对方引导,没有一丝犹豫地将存款打到对方账上。

希望帮助上孩子,免除踩缝纫机的改造,事后才惊觉上当受骗。

应用|比“一键脱衣”更离谱,这种AI太可怕了!插图3

(图源央视)

除了上面的典型案例,还有诸多不同的诈骗方式:冒充朋友借钱、冒充同事代付账……

据加拿大警方称,此类冒名顶替的案件在各地频发,涉案金额已达数百万加元。

不仅是加拿大,作为AI宇宙国的美帝也饱受AI的反噬。

据外媒报道,2022年AI合成语音诈骗案成为美国第二大欺诈类案件,诈骗案总金额超过1100万美元。

数千受害者声称他们被冒充自家孩子的骗子欺骗,损失大量钱款。

应用|比“一键脱衣”更离谱,这种AI太可怕了!插图4

(图源央视)

在国内,也发生过AI拨打营销电话荐股,最终获1.8亿人民币佣金的离谱案件。

AI每天可拨出3000~5000个骚扰电话,拉200个大怨种开户,疯狂敛财。

搞钱的速度比嘎腰子都快,无需组织团队、无需武器,仅一人、一电脑、一电话足以。

现在你们知道了,为啥这几年推销电话越来越多的原因了吧。

应用|比“一键脱衣”更离谱,这种AI太可怕了!插图5

(图源央视)

AI诈骗并非近些年才开始猖獗起来,早在4年前AI尚处雏形的时期,便有天才罪犯利用AI语音模仿软件冒充德国某公司大老板。

忽悠英国裕利安宜公司的CEO,让其将数十万欧元转入银行账户,最终白花花的钞票蒸发人间。

该案被认定是全球AI诈骗第一案,无数犯罪分子从中获得灵感,纷纷效仿,掀起AI诈骗浪潮的波涛。

应用|比“一键脱衣”更离谱,这种AI太可怕了!插图6

(图源美联社)

以上种种新闻报道,小伙伴是否感受到了AI以假乱真的恐怖?

稍有上头,立马进套,不带一丝犹豫,人财两失,对普通人的威胁力远超臭名昭著的电信诈骗、金三角嘎腰子。

然而以上仅是AI诈骗的一种手法,背后的套路多着呢,张世豪都没它能搞钱。

应用|比“一键脱衣”更离谱,这种AI太可怕了!插图7

(图源网络)

AI诈骗花样百出

前三者是目前最常见的诈骗类型,其中AI语音诈骗门槛最低。

上社交平台找点素材,通过TTS(语音合成技术)解析出声线,再使用VC(语音转换技术)实时转换出声音。

应用|比“一键脱衣”更离谱,这种AI太可怕了!插图8

(AI语音合成转换流程,图源网络)

AIGC 诈骗

AIGC,即是这两年爆火的AI绘画、AI图片生成,用于生成各种图片、照片。

代表性的产品有ChatGPT、Stable Diffusion、metamind,个个都是圈子里的顶流。

AIGC多用于杀猪盘及朋友亲属诈骗,在陌生人社交APP上发布合成的假照片,吸引受害人上钩。

以网恋的形式一步步诱骗受害人进入情感陷阱,最终以“家里困难、突发意外”等理由向受害人索取钱财。

又或者伪造亲朋好友的自拍照片,骗取跟不上时代的老年人信任,进而施展下一步的欺诈计划。

应用|比“一键脱衣”更离谱,这种AI太可怕了!插图9

(图源小红书)

部分毫无道德底线者,甚至利用人民对深陷灾难中的群众的同情心进行诈捐。

2月份土耳其大地震,某些网友在内容平台上发布AIGC合成的灾难照片,配上“为受害者捐款”的文字。

向广大网友募集捐款,钱是到卡上了,至于捐不捐给灾民就是另一回事了。

应用|比“一键脱衣”更离谱,这种AI太可怕了!插图10

(AI合成假照)

AI换脸诈骗

AI换脸,代表性产品为deepfakes,至于代表作,小伙伴很熟悉啦。

把神奇女侠扮演者盖尔·加朵的脸换到某部小电影上,瞬间火爆全网。

前段时间闹得沸沸扬扬的“广州地铁裸女”事件,亦是出自AI换脸之手。

应用|比“一键脱衣”更离谱,这种AI太可怕了!插图11

(AI换脸假视频)

AI换脸技术,国内常用于敲诈勒索型的犯罪活动上。

如裸聊敲诈,使用AI生成大尺度或者不穿衣服的视频,来跟某些用小脑思考的人类视频互动。

结局显而易见,不花钱了事等着自己的裸体视频群发给亲戚朋友欣赏,社死人间吧。

上海市警方去年百日行动捣毁了13个犯罪团伙,抓了420人,可想而知AI换脸诈骗的猖狂程度。

哔哥有时候难以理解,这套远古诈骗方法,使了二十多年依然有人上当买单。

应用|比“一键脱衣”更离谱,这种AI太可怕了!插图12

(图源百度)

AI聊天诈骗

AI聊天,代表性产品为ChatGPT,可模仿人类的语气、语言、逻辑与他人沟通。

AI聊天诈骗属于最新的诈骗方式,目前尚未传开,了解的人不多。

不法贩子依靠GPT强大的逻辑能力,输入受害者的特征,要求GPT短时间内定制诈骗话术,塑造一个虚拟角色。

借助GPT打造的角色+语言攻势攻略受害者,使对方坠入网恋陷阱,轻则骗取钱财,重则诱导自杀。

不是吓你们,乃真实发生的事情,比利时某位男子与AI聊天6周,受其引导自杀身亡,轰动当地。

应用|比“一键脱衣”更离谱,这种AI太可怕了!插图13

(图源百度)

虽说AI诈骗手法纷繁复杂,层出不穷,防不胜防,然中国有句古话:万变不离其中。

AI终归是AI,尚未进化到人类的灵智程度,因此任它千般万翻变化,只要抓住本质,识别不寻常之处,我自分毫无损。

下面,就跟大伙分享些技巧,如何防御来自AI的欺诈。

魔法打败魔法

面对AI的魔法攻击,最理想最高效的方法,当然是用魔法打败魔法。

随着AI渗入社会方方面面,相关部门和企业意识到AI一旦化作犯罪贩子的武器,会造成巨大的破坏。

因此政府、机构、企业积极探索AI在反诈领域的应用,用魔法打败魔法。

比如国内顶尖的AI公司百度,早在2019年就提出“AI对抗AI”的思路,推出国内首个深伪检测平台。

支持AI换脸、AI语音等十多种伪造技术的鉴别,准确率高达99%以上,目前已经开源,应用到多个领域当中。

应用|比“一键脱衣”更离谱,这种AI太可怕了!插图14

(图源百度)

除了百度,支付宝也在去年推出自家的反诈系统“智能风险感知与响应联合反诈系统”。

该系统的作用简单粗暴,每天通过电话、弹窗等方式提醒受害者放弃转账打钱。

还有中科院声学团队开发的“AI反诈外呼数字人”,智能识别诈骗电话,每天打通7万次劝阻电话,阻断诈骗链条。

犯罪贩子的工具在升级同时,国家的反诈手段也随之迭代,帮助我们抵御恶意与侵害。

应用|比“一键脱衣”更离谱,这种AI太可怕了!插图15

(图源支付宝)

不过一味依靠他人,难免偶尔翻车出事,所以自身必须做好充足的防范措施。

哔哥结合纵横互联网六十年,未翻车一次的经验,给大伙分享简单,却超级有用的防骗技巧:

1.遇家人、朋友、同事、伙伴借钱,切莫心急打钱,厚着脸皮提出几个只有你们知道的问题试探,如:上次你借我多少钱来着?妈妈上次打我是什么时候?

2.面子实在挂不住,请设置转账24小时到,趁此期间通过微信、电话、视频、真人见面等途径核实对方真实身份,稍有不对,立刻撤回转账。

3.天上不掉馅饼,没人平白无故带你发财,保持不贪之心,神仙来了也动不了你的钱包。

4.有人拿合成的裸照敲诈你,别慌张,直接报警,哪怕是真照片,一句“AI合成照片”便能洗脱污点。

5.对了,年轻人警惕意识高,一般不容易上当,可是老年人思维迟钝往往是受骗主力群体,要多给老人家做安全工作。

一切诈骗,均离不开钱字,一切诈骗手段,不过利用人性的弱点。

只要不打钱,我们永远站在赢家的位置,守住初心,拒绝诱惑,我们将不存在弱点。

所以,只要没钱不要脸,你便能无敌于世。

赞(0) 打赏 直达链接
未经允许不得转载:AI爱好者 » 应用|比“一键脱衣”更离谱,这种AI太可怕了!

评论 抢沙发

欢迎来到AI爱好者

我们旨在打造一个最具实力的中文AI交流社区平台,致力于为所有AI爱好者,创业者和使用者提供优质服务. 我们的宗旨是为广大用户提供免费解决方案,您可以通过问答形式提出与AI相关的任何问题.

AI社区AI工具

安全服务战略合作伙伴:麒麟盾 SCDN

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

微信扫一扫打赏

登录

找回密码

注册