警惕！有老人被骗495万元，这类视频不要接、不要信！提醒家人

AI换脸诈骗

对越来越多人下手了！

近日，外媒曝光了一种新型数字诈骗，诈骗犯利用复杂的AI工具制作特斯拉CEO马斯克等名人的视频，并利用这些“AI名人”对各种虚假的产品或“投资”进行背书，并承诺高额投资回报。

在其中一个典型案例中，“AI马斯克”背书的一家所谓的外汇公司轻松骗走了一名82岁的外国退休老人超过69万美元（约495万元人民币）的毕生积蓄。

82岁的退休老人Beauchamp观看了一段视频广告。视频中马斯克支持一个承诺快速回报的激进投资机会，口型与声音都高度吻合，还融入了马斯克标志性的南非口音，看起来极为真实。于是，Beauchamp联系了该广告背后一家外汇公司，开设了一个248美元的账户。经过数周的一系列交易，Beauchamp耗尽了他的退休账户，最终投资了69万多美元，而这些钱都被卷走了。

除了马斯克外，“股神”巴菲特和亚马逊创始人杰夫·贝索斯等也是常出现在这类诈骗视频中的名人。

相似的经历也在国内发生

“妈，8000元不够，给我转1.5万元吧。”一位母亲正和女儿视频聊天，听着在外地上学的女儿在视频里撒娇抱怨“生活费不够用了”，她心疼不已打算立刻给孩子转账。就在这时，家门打开了，她的“真女儿”走了进来。而另一头，视频里的“假女儿”还在央求妈妈“给生活费”。

这是一则AI反诈视频。在这条反诈视频评论区中，不少网友反映自己也有过类似的被骗经历，“骗子来电，声音容貌和我家人一模一样”。

记者近日调查发现，AI换脸拟声技术已成为简单易操作的“低门槛”技术，只需拥有声音与照片等“素材”，借助软件即可瞬间实现“AI克隆”。 实践中，一些不法分子试图利用AI换脸拟声技术实施违法犯罪活动。

0 1

案例一：遭遇AI换脸诈骗 广州七旬阿伯险丢100万元

2023年6月初，来自广州的龚伯收到在外地经商的“儿子”电话，表示做生意失败需要龚伯转一百万给他资金周转，但自己的银行卡和手机刚丢失，故使用朋友微信加龚伯为好友，之后“儿子”发来微信视频要求转账到朋友账户。

龚伯打了儿子手机无人接听，心想确实是儿子的声音，看到的微信视频也是儿子本人，就放松了警惕，苦于年纪大不懂手机转账，便跟工行客户经理咨询怎么办理。

客户经理小邹了解龚伯的情况后，立即提高警惕，邀约龚伯前来网点核实情况。龚伯到达网点后，向客户经理小邹展示“儿子”发来微信视频，视频中的确是龚伯的儿子，也在视频中表达了自己生意失败需要龚伯转账一百万资金协助其周转的诉求，出于谨慎，客户经理小邹还是建议龚伯现场再次致电儿子手机确认，这一次儿子终于接听电话了，电话中儿子否认生意失败，更没有要求龚伯给自己转账。

此时，客户经理确认龚伯是被骗了，告知龚伯这是新型AI换脸诈骗手法，成功劝阻他转账。

0 2

案例二：谎称朋友借用账户 被骗430万

2023年4月，福州市某科技公司法人代表郭先生10分钟内被骗430万元。

案发时，他的好友通过微信视频联系他，称自己的朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生在10分钟内，先后分两笔把430万元转到了对方的银行账户上。事后，郭先生拨打好友电话才得知被骗。

AI换脸到底

怎么以假乱真的？

看看以下测试视频

连动作，神态都

那么自然......

卖家展示的换脸软件效果

（S为原视频，D为更换之后）

不止老人家认不出来，

难以防范，

很多年轻人也频频中招。

同时，记者咨询发现，

“无痕换脸”成本低

不设门槛

记者在某社交平台检索“AI换脸”时，发现页面弹出了“无痕换脸，只需5元到20元”的广告。在评论区中，有不少买家询问能否提供视频换脸拟声服务，也有不少卖家混杂其中寻找“客户”。记者在评论区留言咨询后，很快便收到几名卖家的回复或私信。

“需要自定义AI换脸软件吗？”一名卖家通过私信联系记者，推销其软件。记者进一步询问卖家该软件是否能够实时视频换脸拟声，卖家称“任何社交平台都能够支持实时”。

随即，该卖家向记者展示了其在社交平台上发布的换脸演示。在换脸演示中，一名男子以“英俊的脸庞”出现在视频页面中，而这张“英俊的脸”则是换脸后的“假面”，该卖家配以文字“网恋神器，直接变小哥哥，换个面貌可以去找小姐姐网恋了”。

在交流时，卖家不断向记者强调其所售卖的技术操作难度不大，且在视频时“看不出破绽”。价格方面，其介绍299元可以装好软件，操作一遍演示；如果支付599元，则可以一对一教学，“教会为止，软件可以永久不限次数地使用”。

在调查过程中，记者注意到，类似提供“自定义AI换脸拟声软件”的卖家还有不少，他们大多在社交平台上寻找买家。对于买家购买技术的目的，有些卖家毫不在意，甚至会将“去衣”等擦边功能作为一大卖点进行推销。

除此之外，记者还发现，在某二手交易平台上，也有卖家出售相关技术。比如有卖家在产品描述中这样写道：“有手就可以，拍下就发完整视频资料和制作方法，可批量搞，虚拟资源能够变现。”

律师提醒

北京大成（深圳）律师事务所律师陈翠说，擅自使用他人肖像制作换脸视频可能侵犯他人肖像权、隐私权。根据民法典第一千零一十九条，未经本人同意，不得以营利为目的使用他人肖像。“换脸视频即便不以营利为目的，也可能因未获授权而侵犯肖像权。同时，未经许可传播涉及含有个人隐私的视频会侵犯个人隐私权。”

陈翠进一步补充道，若换脸拟声视频内容不当或引发公众误解，可能会构成名誉权侵权。如果视频中包含他人享有著作权的内容（如影视片段），则可能构成著作权侵权。同时，未经授权制作和传播换脸视频还可能违反网络安全法、数据安全法等相关法律规定，面临行政处罚或刑事责任。

AI换脸诈骗防不胜防

对此

小编为大家送上一份“防骗秘笈”

0 1

多重验证，确认身份

在涉及金钱、财产等重要事项时，可要求对方提供更多证据，进行更多交流，尤其涉及“朋友”“领导”等熟人要求转账、汇款的，务必通过电话、见面等途径核实确认，不要未经核实随意转账汇款。

0 2

保护个人信息，谨慎分享

AI诈骗是隐私信息泄露与诈骗陷阱的结合，因此，要加强对个人隐私的保护，不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等。不管是在互联网还是社交软件上，尽量避免过多地泄露自己的信息，以免被骗子“精准围猎”。

0 3

提高安全意识，确保各类账号安全

避免在不可信的网络平台上下载未知来源的应用程序，不打开来路不明的邮件附件，不点陌生链接，不随便添加陌生好友，防止手机、电脑中病毒，以及微信、QQ等被盗号。

大家一定要提高警惕，

增强防范意识

捂好自己的钱袋子！

来源：广州日报综合自每日经济新闻、法治日报、广州政法、光明网