这段视频片段是一个真实的历史事件——纳粹独裁者阿道夫·希特勒在 1939 年第二次世界大战开始时发表的一次演讲。

但有一个主要区别。这段广为流传的视频经过了人工智能的修改，其中希特勒用英语发表了反犹太言论。

据《连线》杂志 3 月份报道，今年早些时候，一位极右翼阴谋论影响者在 Twitter X 上分享了该内容，很快就获得了超过 1500 万次的浏览量。

这只是监控仇恨内容的研究人员和组织所称的令人担忧的趋势的一个例子。

他们说人工智能引发的仇恨正在增加。

加拿大反仇恨网络的记者彼得·史密斯 (Peter Smith) 说：“我认为研究仇恨内容或仇恨媒体的每个人都会看到越来越多的人工智能生成的内容。”

不列颠哥伦比亚大学民主制度研究中心助理主任克里斯·特诺夫 (Chris Tenove) 表示，白人至上主义团体等仇恨团体“从历史上看一直是新互联网技术和技巧的早期采用者”。

联合国的一个咨询机构在 12 月提出了这一担忧。该机构表示，它“深切关注”反犹太主义、仇视伊斯兰教、种族主义和仇外内容“可能被生成式人工智能强化”的可能性。

有时这些内容会渗透到现实生活中。

史密斯表示，在人工智能被用来生成史密斯所说的“极端种族主义的皮克斯风格电影海报”后，一些人将这些标志打印出来并张贴在电影院的侧面。

“任何可供公众获取的、流行的或新兴的东西，尤其是涉及技术的东西，很快就会被改编成仇恨宣传。”

生成式人工智能系统只需简单的提示即可几乎立即创建图像和视频。

史密斯说，一个人无需花费数小时来制作一张图像，而是“只需按几下键，在同样的时间内”就可以制作出几十张图像。

加拿大圣约信徒会在最近的一份反犹太主义报告中指出了人工智能生成仇恨内容的问题。

报告称，去年“使用人工智能制作、修改和伪造的反犹太图像和视频数量空前增加”。

研究与宣传主任理查德·罗伯逊表示，该组织已经观察到“使用人工智能制作的非常可怕和生动的图像，通常与否认、贬低或扭曲大屠杀有关。”

他举了一个例子，一张经过修改的图片描绘了一个集中营，里面有一个游乐园。

他说：“大屠杀的受害者乘坐游乐设施，似乎在纳粹集中营里享受快乐，可以说这是只有使用人工智能才能制作出来的东西。”

该组织的报告还称，人工智能“极大地影响了”以色列与哈马斯战争后宣传的传播。

人工智能可用于制作深度伪造视频，即对名人、政治家或其他公众人物进行极其逼真的模拟的视频。

特诺维表示，在以色列与哈马斯战争的背景下，深度伪造导致有关事件的虚假信息的传播，并将虚假指控归咎于以色列军方和哈马斯官员。

“所以有这种事情发生，就是试图激起人们对另一方的愤怒或恐惧，并使用欺骗手段来做到这一点。”

滑铁卢大学计算机学院教授 Jimmy Lin 也认为“虚假内容有所增加……其目的就是激怒双方民众”。

加拿大打击伊斯兰恐惧症问题特别代表阿米拉·埃尔加瓦比 (Amira Elghawaby) 表示，自冲突开始以来，反犹太主义和伊斯兰恐惧症的言论有所增加。

她说，人工智能和仇恨内容问题需要更多的研究和讨论。

毫无疑问，人工智能生成的仇恨内容是一个新兴问题，但专家们尚未就问题的范围达成共识。

特诺夫表示，“目前存在相当多的猜测”，类似于社会上对“社交媒体平台上传播的有害或有问题的内容”的广泛质疑。

林表示，ChatGPT 等系统内置了安全措施。OpenAI 发言人证实，在公司发布任何新系统之前，都会教会模型拒绝产生仇恨言论。

但林表示，有办法越狱人工智能系统，并指出某些提示可以“欺骗模型”产生他所描述的令人讨厌的内容。

加州大学伯克利分校校长公共学者戴维·埃文·哈里斯 (David Evan Harris) 表示，除非这些模型背后的公司确保加盖水印，否则很难知道人工智能内容来自哪里。

他说，一些人工智能模型，比如 OpenAI 或谷歌开发的模型，是闭源模型。其他模型，比如 Meta 的 Llama，则是更加开放的。

他说，一旦系统向所有人开放，不良行为者就可以剥离安全功能，并以难以检测的方式制造仇恨言论、诈骗和网络钓鱼信息。

Meta 的一份声明表示，该公司在其系统中建立了安全措施，并且不会开源“一切”。

它表示：“由于社区持续的反馈、审查、开发和缓解，开源软件通常更安全、更可靠。”

在加拿大，自由党政府表示，联邦立法将有助于解决这一问题。其中包括 C-63 法案，这是一项旨在解决网络危害的法案。

司法部长阿里夫·维拉尼 (Arif Virani) 的发言人 Chantalle Aubertin 表示，该法案对煽动仇恨的内容的定义包括“任何类型的内容，例如图像和视频，以及任何人工生成的内容，例如深度伪造”。

加拿大创新局表示，其提出的人工智能监管法案《C-27 法案》将要求人工智能内容可识别，例如通过水印。

一位发言人表示，该法案还“要求负责高影响和通用人工智能系统的公司评估风险并测试和监控其系统，以确保它们按预期运行，并采取适当的缓解措施应对任何危害风险。”