香港一家跨国公司的一名财务工作人员成为利用人工智能的诈骗者的目标，最终与众多假冒同事进行了虚假视频电话会议，该公司的一名财务人员因此损失了 2 亿港元（约合 3450 万加元） 。    

警方在新闻发布会上讨论了该事件的细节，但没有透露涉案公司或员工的名字，以警告公众警惕这一新颖的骗局。

香港警务处网络安全及科技罪案调查科代理高级警司 Baron Chan 表示，该骗局始于上个月，当时该员工收到一封据称来自该公司驻英国首席财务官 (CFO) 的电子邮件。

据《南华早报》报道，这封电子邮件涉及一项需要进行的“秘密交易” 。该员工一开始有“怀疑的时刻”，因为这封电子邮件似乎是网络钓鱼诈骗，但在假首席财务官邀请他们参加视频电话会议后，他们最终被愚弄了。

电话中似乎还有该员工认识的许多其他同事——他们甚至听起来像是真正的同事。但他们不是真的同事。他们根本就不是人。它们是深度伪造品，是一种通过机器学习创建的合成媒体，可以模仿人的外表和言语。一位数字化重建的首席财务官和一些外部人士也出席了电话会议。

陈在新闻发布会上表示：“由于视频会议中的人看起来像真人，所以（员工）……按照指示向五个本地银行账户进行了 15 笔交易，总计 2 亿港元。”。

陈补充说：“我相信诈骗者提前下载了视频，然后使用人工智能添加假声音以在视频会议中使用。”

专家警告说，随着技术的进步，人工智能语音和视频生成变得越来越容易。过去需要大量录音才能创建可信的克隆声音，但现在只需要几秒钟的录制语音。任何公共视频都可以用来训练人工智能模型来模仿人的声音和外表。

“我们希望提醒公众注意这些新的欺骗策略。过去，我们会认为这些诈骗只会涉及两个人一对一的情况，但从这个案例中我们可以看到，诈骗者可以在在线会议中使用人工智能技术，所以即使是在与人开会的情况下，人们也必须保持警惕很多参与者，”陈说。

被骗的员工直到一周后到公司总部报到时才意识到错误。在此期间，诈骗者通过即时消息、电子邮件和一对一视频通话与受害者保持联系。

警方还透露，诈骗者还联系了该公司的几名其他员工，但并未公布这些互动的细节。

陈说，在假视频通话中，诈骗者让员工进行自我介绍，但假同事与受害者之间从未进行任何直接对话。据《南华早报》报道，人工智能生成的同事主要在简短会议结束前下达命令。

香港警方建议，员工应通过定期沟通渠道确认业务交易细节，一旦涉及金钱，应立即起疑，以避免此类人工智能诈骗。

警方仍在调查这起事件，到目前为止，尚未逮捕任何人。