人工智能在选举中的挑战：民族选民面临虚假信息泛滥

【本报综合讯】在7月12日星期五的民族媒体服务简报会（Ethnic Media Service Zoom Meeting)上，数字媒体透明度和政治监督专家讨论了人工智能生成的虚假信息对今年全国和地方选举中民族选民的潜在挑战，并提出了应对该问题的政策和倡议。

人工智能虚假信息的威胁

随着美国11月选举的临近，线上虚假信息“是一个非常现实的问题，因人工智能而被加速，每天都在我们的民主中不断涌现。”加州共同事业组织（California Common Cause）的执行主任乔纳森·梅塔·斯坦（Jonathan Mehta Stein）说道。

“这些威胁不是理论上的，”他继续说道。“我们已经看到孟加拉国、斯洛伐克、阿根廷、巴基斯坦和印度的选举受到了人工智能深度伪造和虚假信息的影响。在这里，初选前在新罕布什尔州有一个假的乔·拜登电话录音，告诉民主党选民不要投票。”

乔纳森·梅塔·斯坦解释了为什么社交媒体平台难以移除被人工智能操纵的内容，尽管有内容审核员和频繁的账户暂停措施。

上周，美国司法部还破获了一项俄罗斯虚假信息活动，涉及近1000个人工智能生成的社交媒体机器人账户，这些账户在X平台上假扮美国人，宣传俄罗斯政府的目标。

此外，整个由人工智能生成的地方新闻网站正在涌现，目的是进行俄罗斯主导的虚假信息传播，其中包括《华盛顿周刊》、《纽约每日新闻》、《芝加哥纪事报》和《迈阿密纪事报》。

“印度是一个很好的例子，说明如果我们不进行教育，美国可能会发生什么。”斯坦说。“印度选民被数百万的深度伪造轰炸，候选人开始接受它们。这创造了一种军备竞赛，一些候选人使用自己和对手的深度伪造图像，而那些不想使用它们的候选人觉得自己必须使用，以便跟上竞争。”

随着问题的恶化，许多社交媒体平台正在忽视它。

Meta使其部分事实检查功能变为可选，Twitter停止了用于识别有组织虚假信息活动的软件。YouTube、Meta和X停止标记或删除宣传2020年总统选举被窃取的虚假声明的帖子。所有这些平台都裁减了大量错误信息和公民诚信团队。

“真实新闻是对假新闻的答案，”斯坦说。“我们正处于双重检查政治新闻的时代。如果你看到一个对某个政党或候选人有利的图像或视频，请离开社交媒体，看看它是否被报道……例如，在你分享乔·拜登从空军一号楼梯上摔下来的视频之前，看看是否被美联社、《纽约时报》、《华盛顿邮报》或你信任的当地媒体报道或驳斥。”

有色人种社区面临的挑战

“在过去12个月里，我们记录了所有主要中文社交媒体上超过600条虚假信息。其中前两大主题是支持或神化特朗普，攻击拜登和民主党政策。”华人权益促进会（Chinese for Affirmative Action）的中国数字参与项目经理牛金霞（Jinxia Niu）说。“今年，人工智能虚假信息以更快的速度呈现这个问题。”

牛金霞解释了民族媒体在监控虚假信息时面临的挑战。

“我们社区解决这个问题的最大挑战是，我们的语言媒体往往缺乏资金和人员来核实信息，”她解释说。“在我们的移民和有限英语能力的社区中，人工智能素养往往接近于零。我们已经看到中文社交媒体上有虚假人工智能网红让追随者购买假冒产品的骗局。想象一下，如果这些假冒网红在如何投票方面误导追随者，这将多么危险。”

虽然中文侨民社区的大多数政治虚假信息直接翻译自英文社交媒体，但牛金霞说，一些右翼中文网红分享的原创内容包括人工智能生成的特朗普与黑人支持者互动的照片，以及攻击拜登的人工智能生成照片，描述他的支持者为“疯狂”。

“亚裔美国人社区面临的一个巨大挑战是，这些虚假信息不仅在社交媒体上流传，而且通过加密消息应用直接由网红、朋友和家人分享，”她继续说道——最受欢迎的是华裔美国人的微信，印度裔美国人的WhatsApp和韩国及日本裔美国人的Signal。

“这些私人聊天变成了无法监管、无法审查的公共广播，由于善意的数据和隐私保护，几乎不可能监控或记录，”牛金霞解释说。“这创造了一个完美的困境，使得干预虚假和危险信息变得困难，甚至不可能。”

解决方案

“尽管如此，”牛金霞继续说，“我们正通过Piyaoba.org做些事情，”这是首个为华裔美国人社区提供事实核查的网站。例如，这个语言资源“提供了一个智能聊天框，通过Telegram聊天群组向追随者发送最新的事实核查信息……但这些解决方案还不足以应对我们面临的更大问题。”

“我认为关于虚假信息的最大误解之一是，绝大多数虚假信息违反了社交媒体平台的规则。相反，它落入了‘误导但不技术上不真实’的灰色地带，”CrowdTangle的前首席执行官兼联合创始人布兰登·西尔弗曼（Brandon Silverman）说，该平台现在归Meta所有。

布兰登·西尔弗曼讨论了他建议的应对假新闻和虚假信息的政策解决方案。

“这是说月亮是奶酪和说一些人说月亮是奶酪之间的区别，”他补充道。“在灰色地带，平台很难像对直接虚假信息那样快速执行任何措施。”

此外，人工智能生成或外国控制的账户的存在“并不意味着它们在某个话题或选举中有可测量或有意义的影响，”他解释说。“虚假信息活动的一个目标是通过大量不可信内容‘淹没区域’，让人们不知道该信任什么……我们必须在响应的同时，保持平衡，不要让它们显得如此强大，以至于没人知道该信任什么。”

在政策层面，西尔弗曼表示，他支持对大型平台的数字广告收入征收一定比例的税，用于资助地方的民族和社区新闻。

他补充说，目前正在与人工智能虚假信息作斗争的大型组织包括奈特基金会（Knight Foundation），其选举中心为美国新闻机构提供免费和补贴服务，覆盖联邦、州和地方2024年选举；以及布伦南中心（Brennan Center），其启动了Meedan，一个用于反虚假信息新闻共享的软件和倡议的非营利组织。

“与其回应个别内容，我们应该考虑那些被一致推动的叙述——不仅是机器人，还有真实的影响者——以及我们如何反击那些我们知道是虚假的叙述，”西尔弗曼说。