报告称，专家对人工智能风险尚未达成共识，发展轨迹“非常不确定” - 加拿大时讯

首页 > 新闻资讯 > 本地快讯

报告称，专家对人工智能风险尚未达成共识，发展轨迹“非常不确定”

Daisy

最后更新：2024-05-19 10:20

收藏写留言

一份关于人工智能安全性的重要国际报告称，专家们无法就该技术带来的风险达成一致，而且目前还不清楚人工智能是否会帮助或伤害我们。

该报告由加拿大的 Yoshua Bengio 主持，得出的结论是“通用人工智能的未来轨迹非常不确定”。

报告称，专家对人工智能风险尚未达成共识，发展轨迹“非常不确定”1

报告称，“即使在不久的将来，也可能出现“广泛的轨迹”，包括非常积极和非常消极的结果。”

该报告是在去年由英国主办的人工智能安全峰会上委托编写的，这是首次此类全球人工智能会议。

英国请被称为人工智能“教父”、魁北克人工智能研究所 Mila 科学主任的 Bengio 主持这份报告。该报告是在下周于韩国首尔举行的另一场全球人工智能峰会之前发布的。

Bengio 在报告中写道：“我们知道先进的人工智能发展非常迅速，这些先进的人工智能系统可能如何影响我们未来的生活和工作方式存在很大的不确定性。”

英国政府在周五的新闻稿中表示，该报告是关于人工智能安全的“有史以来第一份独立的国际科学报告”，它将在为下周韩国的讨论提供信息方面“发挥重要作用”。

由 75 名专家组成的小组为该报告做出了贡献，其中包括由 30 个国家、欧盟和联合国提名的小组。周五发布的报告是临时报告，最终版本预计将在今年年底发布。

它专注于通用人工智能系统，例如OpenAI的ChatGPT，可以根据提示生成文本、图像和视频。

报告称，专家们“在通用人工智能功能、风险和风险缓解措施等几个或大或小的问题上仍然存在分歧。”

争论的领域之一是“大规模劳动力市场影响、人工智能黑客或生物攻击以及社会失去对通用人工智能的控制等风险”的可能性。

该报告概述了许多风险，包括人工智能可能通过虚假内容、虚假信息和欺诈以及网络攻击造成的危害。它还指出了人工智能可能导致的风险偏差，特别是在“医疗保健、招聘和金融贷款等高风险领域”。

一种潜在的情况是，人类将失去对人工智能的控制，即使它可能造成伤害，也无法控制该技术。

报告称，专家对人工智能风险尚未达成共识，发展轨迹“非常不确定”2

报道称，人们一致认为，目前的通用技术不会带来这种风险，但一些专家认为，正在进行的开发能够“行动、规划和追求目标”的自主人工智能的工作可能会导致这样的结果。

报告称：“专家们对于失控情况的可能性有多大、何时可能发生以及缓解这些情况的难度存在分歧。”

转载地址:https://toronto.citynews.ca/2024/05/18/no-expert-consensus-on-ai-risks/

声明:本文仅代表作者个人观点，www.ehouse411.com网站不负任何法律责任

本文仅代表作者观点，不代表ehouse411.com立场。

写留言

热门推荐换一换

最新资讯