有深度伪造色情内容。有声音模仿。有爱情骗局演变成金融诈骗。

在暗网各个角落巡逻的加拿大警察非常清楚犯罪分子利用人工智能的常见邪恶手段。

但最近出现了新的变化——犯罪分子提出“越狱”构成人工智能大型语言模型（LLM）架构的算法，拆除其安全措施，以便将其重新用于犯罪目的。

称之为对网络犯罪分子的技术支持。

加拿大皇家骑警国家网络犯罪协调中心总干事克里斯·莱纳姆 (Chris Lynam) 表示：“网络犯罪分子自己也获得了这些法学硕士学位。”

“整个地下网络犯罪社区都在论坛上活动，但他们也在 Telegram 等平台上活动，”他说，他们在这些平台上“宣传”某个频道或服务，并解释如何获取它。

“网络犯罪分子不会仅仅出于善意就投资资金尝试越狱（AI）。他们试图将其商业化。”

与人工智能相关的欺诈和冒充犯罪越来越普遍，并已成为公众意识宣传活动的主题。但专家和警方警告称，可能需要采取额外的保护措施来保护公众免受该技术新犯罪领域的侵害。

人工智能研究员亚历克斯·罗比 (Alex Robey) 表示，其中包括对人工智能及其护栏的越狱，这可能导致人工智能发出如何欺骗慈善机构或如何制造炸弹的指令。

卡内基梅隆大学的博士后研究员 Robey 一直专注于 ChatGPT 等大型语言模型的越狱研究。

他警告说，“当人工智能本身有自己的目标或意图，并且这些目标或意图与对人类无益的议程相一致时”，它可能会无端犯罪。

例如，在佛罗里达州，一位母亲起诉一家允许用户创建人工智能伴侣的公司，指控该公司的一个聊天机器人与她 14 岁的儿子进行了充满性暗示的对话，然后在去年逼迫他自杀。

罗比表示，目前有“大量研究”探讨人工智能如何发展自己的意图，以及可能如何误导或伤害人类，特别是在机器人技术领域，机器人可以在现实世界中与人类进行物理互动。

他说：“将所有这些东西武器化存在着巨大的风险”，并指出人工智能和机器人可能会在军事行动中使用。

罗比表示，需要立法来确保更好地保障人工智能的使用。

他在接受采访时表示：“这几乎就像是各个实验室开发这些模型来进行自我调节，这并不理想。”

“现在所有这些东西都像狂野西部一样。实际上没有适当的驱动原则。”

**没有快速解决方案**

2022 年底，聊天机器人 ChatGPT 的推出是人工智能的突破性时刻，它凭借其复制人类对话和写作的神奇能力进入了公众视野。

仅仅两年后，美国当局称，该技术被用于协助策划一起备受瞩目的汽车爆炸案。今年 1 月，37 岁的马修·利维尔斯伯格在特朗普酒店外的一辆特斯拉 Cybertruck 中爆炸身亡。

警方表示，对利维尔斯伯格通过 ChatGPT 进行的搜索的调查表明，他正在寻找有关爆炸物目标和弹药的信息。

拉斯维加斯大都会警察局警长凯文·麦克马希尔 (Kevin McMahill) 表示：“据我所知，这是美国本土首次利用 ChatGPT 帮助个人制造特定设备的事件。”他称生成式人工智能的使用是“游戏规则改变者”。

罗比指出，特朗普酒店爆炸事件就是最近将人工智能越狱用于非法目的的一个例子。

在 ChatGPT 之前就已经存在基于 AI 图像的工具，例如 2021 年发布的 AI 模型 DALL-E，能够根据文本提示或指令生成逼真或风格化的图像。

该项技术的犯罪潜力也迅速实现。

2023 年，一名 61 岁的魁北克男子因使用人工智能制作儿童色情的深度伪造视频而被判入狱。视频中没有真正的儿童，但 Steven Larouche 违反了禁止任何 18 岁以下从事露骨性行为的视觉表现的法律。

省法院法官 Benoit Gagnon 在裁决中写道，他认为这是该国第一起涉及儿童性剥削深度伪造的案件。

莱纳姆表示：“网络犯罪可以说是发展最快的犯罪类型。”

他在接受采访时表示：“这是一个不断发展的过程，我们必须了解趋势，或者试着了解犯罪分子将采用什么技术，以便我们能够应对。”

包括莱纳姆在内的加拿大当局警告称，区分人工智能生成的内容来源与合法内容来源可能很困难，这反映了国际行业警告。

德勤金融服务中心去年预测，到 2027 年，仅在美国，人工智能造成的欺诈损失就可能增长两倍多，达到 400 亿美元。

报告引用了去年 1 月香港一家公司的一名员工向诈骗分子汇款 2500 万美元的案例，此前，她在与她和其他员工的视频会议中收到了首席财务官的指示。但那根本不是那位高管，而是一段深度伪造的视频模仿。

研究报告指出：“新型生成式人工智能工具的出现，使得不良分子能够轻松且廉价地制作深度伪造视频、虚假声音和虚假文件。”并警告称，用于欺诈的人工智能软件将“民主化”。

“暗网上已经出现了一个完整的家庭手工业，出售的诈骗软件价格从 20 美元到数千美元不等。”

莱纳姆表示，暗网上出售的人工智能越狱服务“展示了这些人的适应能力和创新能力，也是我们必须同样适应或努力跟上他们步伐的原因”。

2020 年，加拿大皇家骑警成立了国家网络犯罪协调中心，旨在打击网络犯罪的激增。莱纳姆表示，自那以后，人工智能犯罪有所增加，从网络钓鱼电子邮件到深度伪造投资诈骗。

他说，加拿大皇家骑警还发起了各种行动，以防止高风险人群发展成为网络犯罪分子。

“这种情况不会消失。我们必须找到减少对加拿大人影响的最佳方法。”

“不够敏捷”

立即通过立法手段解决的可能性不大。

由于加拿大议会于 1 月 6 日休会，所有正在进行的法案均被搁置，其中包括《人工智能和数据法案》，该法案原本是加拿大首次尝试对人工智能系统进行广泛监管。

加拿大政府曾表示，该法案将“确保在加拿大部署的人工智能系统安全且不带有歧视性，并要求企业对其开发和使用这些技术的方式负责”。

罗比表示，各国政府似乎意图良好，但“目前相当困惑，而且不够灵活，无法跟上形势”。

他说：“这是一系列令人沮丧的对话，因为我认为大家对于这项技术是什么、能做什么以及未来会带来哪些风险并没有太多的了解。”

当局没有制定立法或法规，而是发起了宣传活动来教育和鼓励人们保护自己。

今年 1 月，BC 省证券委员会发起了一项宣传活动，重点宣传人工智能工具如何被用来欺骗加拿大人。

这项耗资 180 万美元的活动的核心广告以深度伪造的六指会计师为特色，同时还涉及人工智能语音克隆和虚假浪漫骗局。

该活动建议潜在投资者通过寻找投资产品的负面评论、使用国家注册搜索来确保公司合法、并考虑亲自会见投资者以确认其身份来降低与人工智能相关的风险。

委员会发言人帕梅拉·麦克唐纳 (Pamela McDonald) 表示，由于人工智能欺诈往往无国界，因此很难使用通常的执法工具。

“问题在于，对于我们作为监管者来说，使用这项技术的人主要是海外的有组织犯罪。”

她说，海外犯罪分子往往“超出了”加拿大监管机构和执法人员的管辖范围。

“因此，我们现在能为人们做的最好的事情就是教育他们，”她说。“我们能做的最好的事情就是利用一场非常前卫、大胆、公开的活动来打破所有其他噪音……帮助人们了解问题是什么，以及他们可以做些什么来保护自己。”