文章转载来源：AI之势
来源：科技狐
图片来源：由无界 AI 生成
ChatGPT 发布以后，AI 技术的发展实现了量变到质变的突破，随之而来的犯罪事件也层出不穷。
技术发展的初衷原本是为了造福人类。
但还没等到打工人借助 AI 提前养老退休，咱们就先见识到了 AI 换脸、AI 诈骗……
最近，想必大家都听说了那个差点被骗走 430 万的大冤种老板。
根据官方媒体报道，4 月 20 日，福州市某科技公司的法人代表郭先生，突然接到了好友的微信视频。
好友对郭先生说，自己的朋友正在外地竞标，需要 430 万保证金，而且需要公对公账户过账，所以想要借用郭先生公司的账户走一下账。
对方还找郭先生索要了银行卡号，声称已经把钱打到郭先生的账户上。
按理来说，这么大一笔钱，肯定不会说转就转。
但郭先生在视频通话中“确认”了好友的身份，无论是面部还是声音，都跟好友一模一样。
再加上对方还提供了银行转账底单的截图。
因此，他便相信这是真的，10 分钟内就把钱转了过去。
直到他电话联系好友的时候，才猛然发现自己被骗了。
接受采访时，郭先生表示：“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备。”
谁能想到，骗子不仅盗用了好友的微信号，还利用智能 AI 换脸和拟声技术伪装成好友，主动发起微信视频。
这骗术，换做任何一个人都很难识破吧。
骗子实在是太狡猾了！
不幸中的万幸，接到报警以后，福州、包头两地警银迅速启动止付机制，成功追回了 336.84 万元。
但还是有 93.16 万元被转移，这一部分钱估计是追不回来了……
事件一出，立刻引爆了热搜。
图源微博
过去，骗子就常常伪装成亲戚朋友进行诈骗，一般情况下，只要给当事人打个电话或者视频，就能识破骗局。
但现在，视频和电话也不可信了。
利用 AI 生成语音、视频的门槛越来越低，懂这项技术的人只要稍微动点歪心思，就有可能实施诈骗。
此前，惠州电视台也报道了一起 AI 诈骗案件。
一位父亲接到了女儿被绑架的电话，对方要求他半小时内准备 30 万赎金，不然就撕票。
图源惠州电视台
电话另一头传来女儿的哭声，几乎跟当事人女儿的声音一模一样，这位父亲差点就信了。
幸亏他的妻子留了个心眼，拨打了 110，才发现刚刚的是诈骗电话。
而 AI 换脸技术除了可以用于诈骗以外，还可能被用于其他的违法犯罪。
例如最近的“女明星”带货事件。
很多网友发现，点进直播间里，带货的主播全是“杨幂”、“迪丽热巴”、“佟丽娅”这些当红女星。
原来是部分主播利用实时变脸软件，把自己的脸替换成女明星的脸，然后在直播间卖力地带货。
主播换脸成“迪丽热巴”在直播间带货
一些不明真相的网友看到明星“露脸”直播，以为真的是明星本人，其实这只不过是一场博流量的骗局。
有律师表示，这种行为涉嫌欺诈或是虚假宣传，让公众误以为就是明星在带货。
如果产品出现质量问题，或者主播带货时说出不恰当言论，有可能对明星本人带来负面影响。因此，明星有权提出诉讼。
AI 换脸技术展示
然而，尽管这么做是违法的，但它的维权成本却非常高，以至于难以维权。
技术的使用门槛太低，再加上使用人数太多，要找到侵权人非常困难。
就目前来看，这项技术仍然处于法律的灰色地带。
甚至，网络上已经出现了专门的 AI 换脸教程……俨然成为了新的流量密码。
图源抖音截图
部分普通人可能只想用它来娱乐，但总有一些人试图用它来谋利，甚至干坏事。
狐妹觉得，光靠法律规定可能还管不住他们，必须得用魔法打败魔法。
不知道有没有高人能出一种反制的技术？在审核那一关拦住他们，用 AI 制止 AI 犯罪？类似于黑客与白客的关系。
毕竟这些用 AI 技术打造的高端骗局，普通人几乎毫无招架之力。
幸好，相关的法律也在尽快出台，对 AI 技术进行监管。
去年 12 月，《互联网信息服务深度合成管理规定》发布，对人脸生成、替换、操控，合成人声、仿声等深度合成内容都有明确约束。
图源光明网
前不久，抖音也发布了《关于人工智能生成内容标识的水印与元数据规范》，禁止利用生成式 AI 发布侵权内容。
全世界都在呼吁对 AI 生成的内容进行强制性规定，OpenAI 也考虑在 ChatGPT 中添加数字水印，防止模型被滥用。
狐妹希望，AI 技术的进步能够给更多的人带来好处，而不是成为一部分恶人犯罪的武器。
参考资料：
雷科技：AI换脸10分钟骗走430万！普通人如何预防AI诈骗？紧急转发朋友！
央视新闻：“AI换脸”诈骗防不胜防？要用“法”打败“魔法”！
腾讯网：AI 诈骗上热搜！长相声音都对，“换脸”的“朋友”骗了他430万…
来源：AI之势
发布人：暖色
声明：该文观点仅代表作者本人，不代表火讯财经立场。火讯财经系信息发布平台，仅提供信息存储空间服务。
如文章涉及侵权， 请及时致函告之，本站将第⼀时间删除⽂章。邮箱：840034348@qq.com
商务合作：840034348@qq.com
媒体合作：840034348@qq.com
投稿合作：840034348@qq.com
微信公众号
iPhone & Android
