受英国政府委托，图灵奖得主、全球人工智能领域顶级学者Yoshua Bengio牵头撰写的《先进人工智能安全国际科学报告》的中期报告已发布。75名人工智能（AI）专家组成的多元化小组为本报告做出了贡献，其中包括由30个国家、欧盟（EU）和联合国（UN）提名的国际专家咨询小组。

该报告最早是在2023年11月举行的人工智能安全峰会上发表的，是在下周举行的人工智能首尔峰会之前发表的。最终报告将在法国举行的人工智能行动峰会之前公布。

2023年11月，世界首届人工智能安全峰会在英国举行。该报告最初于去年11月作为《科学状况报告》发布，汇集了一个由人工智能专家组成的多元化全球团队，包括来自全球30个主要人工智能国家的专家咨询小组，以及联合国和欧盟的代表，汇集了现有关于人工智能能力和风险的最佳科学研究。该报告旨在为全球政策制定者提供单一信息来源，以指导他们采取人工智能安全措施。该报告是布莱切利公园讨论中产生的关键承诺之一，是具有里程碑意义的布莱切利宣言的一部分。

《先进人工智能安全国际科学报告》中期报告对先进人工智能系统的安全性提出了最新的、以科学为基础的理解。这份独立、国际和包容性的报告是国际合作的一个里程碑时刻。这标志着国际社会首次走到一起，支持努力建立对前沿人工智能风险的科学和循证理解。

中期报告强调了几个关键要点，包括:

·通用人工智能可用于促进公共利益，从而促进福祉、繁荣和科学发现。

·根据许多指标，通用人工智能的能力正在迅速发展。在因果推理等基本挑战上是否取得了重大进展，研究人员之间存在争议。

·专家们对通用人工智能能力未来发展的预期速度持不同意见，支持缓慢、快速或极快发展的可能性。

·人们对通用人工智能系统的能力和内部工作原理的理解有限。提高我们的理解应该是一个优先事项。

·像所有强大的技术一样，当前和未来的通用人工智能也可能被用来造成伤害。例如，恶意行为者可以利用人工智能进行大规模的虚假信息和影响操作、欺诈和诈骗。

·通用人工智能的故障也会造成伤害，例如，在种族、性别、文化、年龄和残疾等受保护特征方面做出有偏见的决定。

·通用人工智能的未来发展可能带来系统性风险，包括劳动力市场中断和经济实力不平等。专家们对人类失去对人工智能的控制的风险有不同的看法，这种风险可能导致灾难性的后果。

·一些技术方法（包括基准测试、红队和审计培训数据）可以帮助降低风险，尽管所有当前的方法都有局限性，并且需要改进。

·人工智能的未来是不确定的，有可能出现各种各样的场景。社会和政府的决定将对其未来产生重大影响。

报告强调，有必要继续开展国际合作，研究和分享有关这些迅速发展的技术的知识。所采取的方法有意包容不同的观点和观点，并强调不确定、共识或异议的领域，促进透明度。

背景信息

该报告受英国政府委托，由图灵奖得主、全球人工智能领域顶级学者Yoshua Bengio牵头。这项工作由一个国际专家咨询小组监督，该小组由30个国家组成，包括英国和受邀参加2023年布莱切利公园人工智能安全峰会的国家的提名人，以及欧盟和联合国的代表。

该报告的目的是推动对先进人工智能系统安全性的共享、以科学为基础的最新理解，并随着时间的推移发展这种理解。为此，该报告汇集了世界领先的人工智能国家和全球最好的人工智能专业知识，分析了现有关于人工智能能力和风险的最佳科学研究。该出版物将于2024年5月在人工智能首尔峰会上进行讨论。