一波由 AI 驱动的虚假账号正在社交媒体上传播政治内容，这再次引发了外界对合成媒体在美国选举中所扮演角色的质疑。
据《纽约时报》报道，在美国中期选举前，社交网络上出现了数百个虚假的亲特朗普账号。这些由 AI 生成的“网红”抨击“激进左派”，并传播“America First”信息。
该报追踪发现，仅 TikTok 自 1 月以来就至少出现了 304 个此类账号。普渡大学 GRAIL 研究实验室又在 TikTok、Instagram 和 Facebook 上发现了十几个，安全公司 Alethea 的分析师 Eric Nelson 则在 YouTube 上发现了 9 个。例子包括 TikTok 账号 @perezfernandaus（第一个视频）以及现已删除的 Instagram 账号“jessicaa.foster”（见下方第二个视频）。
其中一些账号已经吸引了超过 35,000 名粉丝，单条内容的播放量超过 50 万次。Donald Trump 本人还转发过一个金发头像发布的内容，该内容对加利福尼亚州州长提出了未经证实的说法。尚不清楚这些账号背后是谁。AI 广告初创公司 Doublespeed 联合创始人 Zuhair Lakhani 对《纽约时报》表示，每条内容的制作成本可能只需 1 美元到 3 美元，一个人就很容易完成这类工作量。
TikTok 将这些账号称为垃圾信息，并表示计划将其下架，称“没有任何迹象表明这是隐蔽影响行动”，只是垃圾账号在追逐互动。但《纽约时报》指出，有些账号群会使用完全相同的措辞、头像图片和音效。相同的人物形象也会出现在多个账号中，比如农场里的双马尾金发女性，或戴着红色 MAGA 帽和飞行护目镜的黑人女性。有些账号甚至会互相关注。报道没有发现可与之相比的左翼账号网络。
这一趋势并不局限于美国。在日本最近的众议院选举期间，虚假的 AI 视频和信息也在社交媒体上传播。日本国际大学 Professor Shinichi Yamaguchi 的一项调查发现，51.5% 的受访者相信这类假新闻是真实的。
不要错过｜重要内容
关注 AI 动态。清晰、实用、不夸张。
AI 社区与洞察
关注 The Decoder，获取 AI 新闻、背景报道和专家分析。
新闻简报 - THE DECODER
关注 AI 动态。清晰、实用、不夸张。
