川普与黑人在一起的AI生成图片，AI对2024大选的冲击

自从2022年底，由chatGPT引发的生成式AI大热以来，各种大语言模型和打视频模型层出不穷。上个月OpenAI演示的能够由文本自动生成视频的模型Sora引爆网络。有研究表明，生成式AI产生的语音或者视频，已经对大选造成了负面冲击。

人工智能已经给2024年的竞选活动带来了麻烦，在新罕布什尔的初选中，有人用人工智能模仿拜登的声音发出机器人电话，敦促选民不要投票。

根据一项最新的调查，川普的支持者正在散布数十张人工智能生成的虚假图片，显示川普跟黑人在一起。

BBC Panorama报道称，这些图片似乎是由川普支持者自己制作的，没有证据表明这些照片与川普的竞选活动有关。

其中一张照片是由川普的支持者、佛罗里达州保守派电台主持人马克·凯伊（Mark Kaye）创建的，他承认自己使用人工智能创建了这张图片，并将其发布在社交媒体上，让他的 100 万 Facebook 粉丝看到。

凯伊告诉BBC，“我不是在外面拍摄真实发生的事情。我是一个讲故事的人。我并没有说这是准确的，我不是说，‘嘿，看，川普和所有这些非裔选民一起参加这个聚会。看看他们有多爱他。’”

“如果有人因为在Facebook页面上看到的一张照片而投了这样或那样的票，那是这个人的问题，而不是帖子本身的问题。”

鼓励黑人投票的 “黑人选民重要”组织（Black Voters Matters）表示，据称这些图片是 “针对黑人社区的虚假信息 “的一系列企图之一。

亚特兰大一位名叫道格拉斯的出租车司机告诉媒体，他起初相信其中一张照片是真的，这让他更相信川普支持黑人社区。

他说，“社交媒体就是这样，骗人太容易了。”

韦恩·史密斯（Wayne L. Smith）是华盛顿特区的一名工程师，上周他看到共和党总统候选人唐纳德·川普兴高采烈地依偎在一群面带微笑的黑人中间的画面时，不禁嗤之以鼻。看到这张图片后，他立即感到警觉。

史密斯说：“他为了让黑人喜欢他所做的一切都是假的。为什么这张照片不也是假的呢？感觉就是不对。”

“他们想要我们的选票，但不知道如何得到它。”拜登不是桃子，但他不是特朗普。他们知道这一点。这就是他们想尽一切办法的原因。花招。欺骗。在我看来，他们只是在侮辱我们，让情况变得更糟。”

最新的民意调查显示，在11月的总统大选之前，他的支持率超过了拜登。但他的成功可能取决于黑人选票，而黑人选票是拜登在2020年大选中取胜的关键。

今年竞选伊利诺伊州民主党参议员的朗达·谢罗德Rhonda Sherrod）说，这些吸引黑人选民的举动依赖于种族主义的刻板印象，可能具有侮辱性。在美国全国广播公司最近对可能的黑人选民进行的焦点讨论中，与会者普遍认为，川普的言论往往带有种族主义色彩。

上个月在南卡罗来纳州初选前，川普对一群黑人保守派说:“我无缘无故被起诉，因为一些根本不算事儿的事情。很多人说这就是为什么黑人喜欢我，因为他们受到了严重的伤害和歧视，他们实际上认为我受到了歧视。这真是太神奇了，但也许，也许，这里面有什么东西。”

IBM负责“责任和可信赖的人工智能”首席培训官卡尔文·劳伦斯（Calvin Lawrence）表示，与此同时，这些努力说明黑人选民拥护川普的做法也可能吸引那些对他之前的言论和行为感到不适的白人选民。

“那些不喜欢他、仅仅因为认为他是种族主义者就不投他票的独立白人怎么办？” 劳伦斯说。”当你看到人工智能生成的这些深度伪造的视频和图片中，他和黑人在一起，他们也在针对这些白人选民说，‘看，我不是种族主义者。我不是种族主义者。他不是种族主义者。’他们正在更大规模地使用人工智能。”

除了人工智能生成的照片，特朗普还吹嘘说，黑人会和他联系起来，因为他被捕时拍了一张大头照。

“我的大头照，”川普对黑人保守派团体说。“我们都见过大头照，你知道谁比其他人更接受它吗？黑人。你看到黑人拿着我的大头照到处走，你知道吗？他们做衬衫，每件卖 19 美元。顺便说一句，他们的销售额高达数百万美元。

人工智能将如何影响黑人选民在内的广大选民

对于很多人来说，不诚实地使用人工智能尤其令人担忧。人工智能专家伊丽莎白·M·亚当斯（Elizabeth M. Adams）告诉全国广播公司新闻（NBC News），凯伊利用人工智能生成的川普形象是 “武器化或滥用工具目的”的缩影。

不过，对于专注于负责任地使用人工智能的EMA咨询服务公司CEO亚当斯来说，这也不足为奇。

她说，人工智能实际上就是训练计算机快速思考，就像人类一样，但速度要快得多。因此，在这种情况下，当人工智能被武器话时，它也是社会的一面镜子，它反映了人们的所思所想，以及人们的偏见。

亚当斯说，这也令人不安。非常不幸，但是当你对如何使用人工智能缺乏良好愿景时所发生的后果。如果人工智能前有不良行为者，他们就会使用这些工具，继续做不良行为者。

IBM的劳伦斯去年写了一本书，名为隐藏在被人视线中：人工智能如何赋能并加深系统性种族主义”。他说，在过去的四年中，他一直在警惕对人工智能的利用。劳伦斯说，在川普和他的支持者身上，他看到了他所担心的问题。

劳伦斯说，这不会影响到那些 “知道特朗普代表什么”的黑人选民。劳伦斯说：“更大的目标是深层造假的长期影响，即创造一个零信任社会，人们不再相信你说的话或他们看到的东西。在零信任社会里，你无法分辨真假。真相会被侵蚀”。

他以 2020 年的乔治·弗洛伊德谋杀案为例。“想象一下，如果全国都认为那个女人的视频是深度伪造的，认为它是人工智能生成的？”他谈到了旁观者拍摄的弗洛伊德与明尼阿波利斯警方致命交锋的手机视频。“如果人们不相信他们所看到的，我们还会有社会正义运动吗？”

根据人工智能民主项目（AI Democracy Project）上个月发布的一份分析报告，ChatGPT4 和谷歌双子座（Google Gemini）等人工智能聊天机器人对政治问题的回答有一半是完全不准确的。

亚当斯和劳伦斯说，这只是人工智能涌入选举的开始。

“这将是一个激烈的政治季节，”2021年出版的《生存、治愈和进化:黑人的爱、同情、治愈和肯定随笔》一书的作者谢罗德说。“在这个周期中，民主的合法性岌岌可危。“

谢罗德说，竞选活动的不稳定性 — 带有种族色彩和误导信息的可能性，尽管一些公司制定了禁止此类行为的政策 — 以及特朗普重返白宫的阴影，都会对黑人选民造成影响。

图像生成工具Midjourney禁止用户生成有关于拜登和川普的图像

据美联社对人工智能图像生成工具Midjourney的测试显示，在即将到来的美国总统大选之前，流行的人工智能图像生成工具Midjourney已经开始阻止其用户创建拜登总统和前总统唐纳德·川普的虚假图像。

随着大选如火如荼地进行，是时候 “暂时放下一些与大选有关的事情了”，Midjourney 首席执行官大卫-霍尔茨（David Holz）在周三的数字办公时间活动中对该服务的几百名忠实用户说。

霍尔茨宣称 “这种审核工作有点难”，但他并没有说明具体要做哪些政策调整，只是将这种限制描述为一种临时措施，目的是让人们更难滥用这一工具。该公司周三没有立即回应置评请求。

周三，美联社记者试图测试 Midjourney 的新政策，要求它制作一张 “川普和拜登在海滩握手 “的图片，结果收到了 “检测到禁止提示 “的警告。第二次尝试后，警告升级为 “您已触发滥用警报”。

在关于人工智能生成工具如何助长全球选举虚假信息的公开辩论中，这家只有 11 名员工的小公司基本上保持了沉默。Midjourney 是领先的图像生成工具制造商中唯一一家没有加入 2 月份自愿达成的科技行业协议的公司，该协议旨在打击故意欺骗选民的人工智能生成的深度伪造图像。