文章转载来源：AIGC
来源：豹变，作者：宋子豪，编辑：刘杨
图片来源：由无界 AI工具生成
自从5月底“AI诈骗正在全国爆发”登上热搜后，利用AI换脸技术的诈骗事件频繁发生。
近日，中国银河证券发布公告称：利用“AI合成技术”的诈骗手段或将逐步蔓延至证券行业。公告显示，某知名经济学家称，自己被人利用“AI换脸”等技术，通过视频、语音等方式联系投资者，骗取投资者信任，开展荐股活动。
此前已经有哈尔滨、福州等多地网警通报有关AI换脸的诈骗事件，有人10分钟被骗了430万。
而“AI换脸”诈骗猖獗的当下，社交平台上也涌现了一批推销“AI换脸教程”的账号。
这些账号发布的视频，主要内容都是人物手一挥就换了一张脸。视频还会同时搭配洗脑的音乐，简单的动作，以及“AI换脸教程、直播实时换脸、视频实时换脸、自定义换脸”等相关文字。
如果有用户在视频下面回复，他们就会在评论区引导，让用户加联系方式详谈。
这些账号背后的上传者，自称是自媒体时代的成功学导师，不断追逐热点，付费传授各种流量密码。
只不过，这一次的“AI换脸”尚处于监管灰色地带，参与其中的用户可能稍不留神，就从“知识付费”变成“今日说法”。
5月底，有不少网友发现，当红女星“杨幂”“迪丽热巴”亲自在某女装品牌直播间带货。她们互动热情，介绍专业，短时间引来大量网友围观。
但仔细看，主播的脸又不太像明星本人，如果主播扭头的幅度太大，居然会瞬间“显出原形”，变出另一张脸来。更有人在不同直播间同时看到多个“杨幂”“热巴”。一时间，“明星主播”分身有术，处处有“杨幂”，个个是“热巴”。
经过媒体曝光，人们才发现，原来部分直播间在未标识情况下，用AI换脸技术，让主播套上一张明星脸，误导消费者。
想起差点因为虚假的明星效应冲动消费，人们对AI换脸的魔力越发心有余悸。
视频换脸技术出现已久，早在2019年，一款名为“ZAO”的换脸App就曾红极一时，用户只要上传一张自己的正面照，就可以在电影角色的脸上套上自己的五官，与明星同台飙戏。
到了2021年年初，换脸应用程序Avatarify一度登上了App Store中国区应用免费榜榜首，但不到一个星期，该应用就被中国区App store下架。
这些软件的技术往往来自于DeepFake开源技术，依托大数据和人工智能深度学习机制，对既有视频或图片中的人物面部图像进行替换。
虽然当时的换脸技术还不够逼真，但已经能让一些短视频创作者吸引流量。
在2021年3月，TikTok上的某个视频账号就通过换脸技术，制作了换脸汤姆克鲁斯练习高尔夫、表演魔术、讲笑话等视频，发布没多久就收获了20多万粉丝。
当时，这种技术门槛较高。视频制作者宣称使用了开源的DeepFaceLab算法以及其他的视频编辑工具，通过将传统的视觉特效与DeepFake技术相结合，前后花了整整两个月的时间制作。此外，硬件上还需要使用一对NVIDIA RTX 8000 GPU训练AI模型，才能达到以假乱真的效果。
随着近两年来技术大爆发，不仅出现了几乎可以傻瓜式操作换脸的相关软件，逼真程度也一再上升，目前已经可以做到实时换脸，从而应用到上面提到的直播领域。
但是从娱乐领域到商业领域，AI换脸还处于灰色地带。
在此前的报道中，有法律人士认为，使用AI换脸技术时，应有显著标识，以免公众混淆。而未经明星同意使用其肖像直播带货，可能涉嫌多项侵权。
2023年3月，某短视频平台上的特效师通过把电视剧中男主角的脸换成自己的脸，合成与女明星亲吻的影像，并借此宣传售卖“特效换脸教程”，也引发了很大争议，并且该账号“特效合成师洪亮（收徒）”被平台封号15天。
目前短视频平台对于这类行为提出了规范。比如2023年5月9日，抖音发布“关于人工智能生成内容的平台规范暨行业倡议”，其中提到创作者应对人工智能生成内容进行显著标识，同时虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。
而在政策监管上，今年1月生效的《互联网信息服务深度合成管理规定》也指出，提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。并要求任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。
面对平台和监管部门的围追堵截，换脸明星以吸引流量的路子走不通。部分博主发现以身犯法不行，转身卖起了所谓的AI换脸课程。
此前，央视财经曝光“主播AI换脸明星进行直播”时提到，在网上购买一套AI实施换脸的模型需3.5万元。
只过了一个多月的时间，AI换脸的价格正在迅速平民化。如今，只需要79元，一个AI换脸套餐就能帮你换30张脸。
《豹变》在社交平台上搜到了有关“AI换脸教程，直播实时换脸，视频通话换脸”的相关视频，视频下方的商品链接中售卖相应的课程——不仅提供“AI换脸直播间搭建”工具包＋教程，同时“包教包会换脸直播，79元可以解锁30张面孔”。
店铺显示，该课程已售13份。《豹变》询问后并没有得到回复，截至发稿，相关产品已经下架。
类似售卖AI变脸课程的账号往往非常谨慎，多数账号在视频中并不直接宣传卖课，而是以“带你玩AI换脸”等字眼，吸引用户主动询问。
此外，卖家还会通过大批没有其他内容的僵尸号，批量转发同样的视频，然后在账号简介或私信中交换联系方式。
《豹变》从一位卖家客服那里了解到，不同的套餐价格不一样，包括588元的入门版本、888元的基础版本、1388元的进阶版本，以及2888元的专业版本。
客服表示，如果用于直播带货，建议购买2888元的专业版本：“我们这个活动很划算了，永久免费使用，包更新，后续这个价格会变为年卡。”
有相关行业从业者表示，类似的AI换脸技术主要来自于国外开源项目：“最近AI技术大爆炸，很多技术都是开源的，而且更新非常快。国产自研技术也有，但都是有投资的公司做的，而且效果不理想。”
类似的开源项目，官方网站上就有使用教程。一些人搬运到国内之后，开始打包卖课程和教程，成本几乎为零。
比如，B站、抖音等视频网站上的很多AI换脸视频都是通过DeepFaceLab生成的。DeepFaceLab安装简单，更新快，功能强，模型多，参数丰富，对设备配置要求低。
其他热门的软件，比如Fake App、OpenFaceSwap等，都能在互联网上找到相关资源。
对此，《豹变》向售卖课程的客服核实售卖的软件是否属于开源项目，希望对比使用界面，客服却宣称，自家产品属于内部软件，不方便公开。
而其他从事AI技术科普的博主告诉《豹变》，这就是靠信息差割韭菜。
比起其他AI技术诞生之后备受各方瞩目，AI换脸技术似乎只得到违法分子的青眼。“换脸”的作用总让人想到灰色产业，在实时换脸技术成熟之后，没想到最先降低的似乎是违法成本。
实际上，此前AI换脸技术常运用于影视剧领域，一些曾因劣迹艺人被迫雪藏的影视剧，也是凭借AI换脸技术重见天日。而当实时换脸成为可能后，AI换脸技术也有可能在直播领域找到用武之地。
通过AI换脸，品牌方可以让不同直播间里的主播共享同一张脸，一方面可以强化品牌IP与主播的连接，另一方面也可以减少主播流失带来的损失，摆脱对大主播的依赖。
此前大热的数字人直播技术，目前还面临着技术不够成熟、对算力的要求过高、互动能力不足等尴尬情况。相对来说，AI换脸技术更为经济实用。
而且，AI换脸技术已经在部分特殊场景有所应用。比如，对于国内中小跨境电商商家来说，外籍主播和模特的人力成本略高，导致运营压力过大。所以，有TikTok商家通过AI换脸将英语口语能力不错的国内主播、模特换脸变成外籍主播、模特，以减少人力成本。
目前已经有电商公司、科技公司在着手研究AI换脸技术。电商直播行业龙头遥望科技曾于5月15日发布公告称，与小冰公司签订关于《直播电商人工智能技术/产品战略合作》的协议，双方就AI技术、产品的研发、推广等事项在直播、短视频、电商等领域展开全面合作。其中包括AI换脸技术的研发。
腾讯旗下优图实验室、天天P图联合打造的AI变脸玩法等，也在尝试能够完成人脸替换、人脸再现、人脸合成甚至全身合成、虚拟环境合成等功能。
相对应的，针对AI换脸的检测技术也在发展。企查查显示，2022年10月4日，百度申请的“人脸鉴伪方法、装置及计算机程序产品”专利公布。该专利涉及人工智能技术领域，具体涉及深度学习技术，可用于人脸鉴伪场景，提高了人脸图像鉴伪结果的准确度。
对于AI换脸技术在灰色产业的滥用，在监管和鉴别技术逐渐完善的情况下，类似情况应该会得到控制。目前来看，需要更多的相关科普、反诈知识来谨防AI换脸诈骗。
来源：AIGC
发布人：暖色
声明：该文观点仅代表作者本人，不代表火讯财经立场。火讯财经系信息发布平台，仅提供信息存储空间服务。
如文章涉及侵权， 请及时致函告之，本站将第⼀时间删除⽂章。邮箱：840034348@qq.com
商务合作：840034348@qq.com
媒体合作：840034348@qq.com
投稿合作：840034348@qq.com
微信公众号
iPhone & Android
