当美国2024年大选与生成式AI的火热相撞，真实性亟待保证

转载

538 天前

3762

Yangz

文章转载来源：Yangz

撰文：Alexandra Ulmer 和 Anna Tong

来源：路透社

图片来源：由无界 AI工具生成

“我其实很喜欢 Ron DeSantis，”希拉里·克林顿在一段出人意料的在线支持视频中透露。“他正是这个国家需要的那种人，我是认真的。”

拜登终于摘下面具，对一个变性人咆哮道：“你永远不会成为一个真正的女人”。

欢迎来到美国 2024 年总统大选，在这里，真实性亟待保证。

克林顿和拜登的伪造视频 -- 由人工智能算法根据大量在线录像训练而成的逼真视频 -- 是浮现在社交媒体上的成千上万个视频之一，在美国政治的两极化世界中模糊了事实和虚构。

根据路透社对人工智能、在线错误信息和政治活动等领域的二十多位专家的采访，虽然这种合成媒体已经存在了好几年，但在过去一年里，由于 Midjourney 等一系列新的“生成式 AI”工具的出现，使得制造令人信服的深度伪造变得廉价而容易。

“选民们将很难区分真假。你可以想象特朗普的支持者或拜登的支持者如何利用这项技术使对手看起来很糟糕。”布鲁金斯学会技术创新中心的高级研究员 Darrell West 说。

“可能会有一些东西在大选前夕降落，但没有人有机会将其解决。”

研究技术对社会影响的非营利组织人类技术中心（Center for Human Technology）的联合创始人 Aza Raskin 说，随着科技行业参与人工智能军备竞赛，能够产生深度假象的工具正在被发布，而防止有害错误信息的护栏很少，或不完善。

前总统唐纳德特朗普将与德桑蒂斯和其他人争夺共和党提名以对抗拜登，他本月早些时候在他的社交媒体平台 Truth Social 上分享了 CNN 主播 Anderson Cooper 的篡改视频。

“那是特朗普总统在 CNN 现场总统全体会议上给我们开的一个新玩笑，”Cooper 在录像中说，尽管这些话与他的嘴唇动作不一致。

CNN 称该视频是深度造假。特朗普的代表没有回应对该片段发表评论的请求，该片段本周仍在他儿子小唐纳德的推特页面上。

虽然像 Facebook、Twitter 和 YouTube 这样的主要社交媒体平台已经努力禁止和删除深度造假，但它们在监管此类内容方面的效果各不相同。

DALL-E 不可深度伪造特朗普，但彭斯可以

根据致力于检测合成媒体工具的 DeepMedia 公司的数据，与 2022 年同期相比，今年网上发布的各种视频深度造假数量是之前的 3 倍，语音深度造假数量更是达到了 8 倍。

DeepMedia 估计，2023 年，全球将有大约 50 万个深度造假的视频和语音在社交媒体网站上分享。该公司表示，直到去年年底，克隆一个声音需要花费 1 万美元的服务器和人工智能训练费用，但现在初创公司提供的服务只需几美元。

据受访者称，没有人确定生成式人工智能的道路会通向何方，也没有人确定如何有效地防范其传播大规模错误信息。

行业领导者 OpenAI 最近几个月通过发布 ChatGPT 和更新模型 GPT-4 改变了游戏规则，它自己也在努力解决这个问题。首席执行官 Sam Altman 本月在国会表示，选举诚信是一个“值得关注的重要领域”，并敦促迅速对该行业进行监管。

根据路透社对 6 家提供生成式 AI 服务的领先公司的使用条款的分析，与一些小型创业公司不同，OpenAI 已经采取措施限制其产品在政治领域的使用。

不过，这些护栏还是有漏洞的。

例如，OpenAI 说它禁止其图像生成器 DALL-E 创建公众人物。的确，当路透社试图创建特朗普和拜登的图像时，该请求被阻止了，并出现消息称“可能不符合我们的内容政策。”

然而，路透社却能够通过 DALL-E 创建至少十几个其他美国政治家的图像，包括前副总统迈克 - 彭斯，而他也在权衡 2024 年的白宫竞选。

此外，OpenAI 还限制将其产品用于政治目的的任何“大规模”使用。例如，禁止使用其人工智能向选民大规模发送个性化的电子邮件。

这家由微软支持的公司在采访中向路透社解释了其政治政策，但没有回应关于其政策中的执行差距的进一步评论请求，例如阻止政治家的图像创作。

而几家较小的初创公司对政治内容没有明确的限制。

去年推出的 Midjourney 是 AI 生成图像的佼佼者，其官方 Discord 服务器上有 1600 万用户。据受访的四名人工智能研究人员和创作者称，该应用根据图片数量和速度等因素，每月收费从免费到 60 美元不等，由于其能够生成超现实的名人和政治家图片，因此成为了 AI 设计师和艺术家的最爱。

Midjourney 没有对本文的评论请求作出回应。在上周 Discord 的一次在线聊天中，首席执行官 David Holz 表示，该公司可能会在选举前做出改变，以打击错误信息。

Holz 补充说，Midjourney 希望在行业解决方案上进行合作，以实现人工智能生成的图像的可追溯性，其数字相当于水印，并将考虑阻止政治候选人的图像。