2月3日，2026年国际人工智能安全报告发布，提供了关于通用人工智能能力、新兴风险以及当前风险管理与保障措施的最新国际共享科学评估。

　　由图灵奖得主Yoshua Bengio约书亚·本吉奥主持，千家网讯，这份第二版国际人工智能安全报告汇集了超过100位国际专家，并得到了由来自30多个国家和国际组织的提名专家组成的顾问委员会的支持，包括欧盟、经合组织和联合国。

　　报告的主要亮点包括：

　　通用人工智能能力继续迅速提高，尤其是在数学、编码和自主操作方面。到2025年，领先的AI系统在国际数学奥林匹克竞赛题上取得了金牌成绩，在科学基准测试上超过了博士水平专家的表现，并且能够自主完成一些人类编程者需要数小时才能完成的软件工程任务。然而，性能仍然存在“锯齿”，系统在一些看似简单的任务上仍然会失败。

　　人工智能的采用速度很快，但全球范围内很不均衡。人工智能的采用速度比个人电脑等以前的技术更快，目前每周有至少7亿人使用领先的人工智能系统。在一些国家，超过一半的人口使用人工智能，尽管在非洲、亚洲和拉丁美洲的大部分地区，估计的采用率仍然低于10%。

　　与深度伪造相关的事件正在增加。AI深度伪造越来越多地被用于欺诈和诈骗。AI生成的非自愿的亲密影像，不成比例地影响着女性层面，也越来越普遍。

　　对生物滥用的担忧促使对一些主要模型加强了保护措施。在2025年，多家AI公司在预部署测试无法排除系统可能有意义地帮助初学者开发生物武器的可能性后，发布了具有增强保护措施的新模型。

　　犯罪分子等恶意行为者积极在网络攻击中使用通用人工智能。人工智能系统可以生成有害代码，并发现软件中的漏洞，供犯罪分子利用。2025年，一个AI代理在一项重大网络安全竞赛中进入了前5%。地下市场现在出售预包装的AI工具，降低了攻击的技术门槛。

　　许多安全措施正在改进，但当前的风险管理技术仍然存在缺陷。尽管某些类型的故障，如“幻觉”，变得不那么常见，一些模型现在能够区分评估和部署环境，并相应地改变其行为，这在评估和安全测试方面带来了新的挑战。

　　报告主席Yoshua Bengio是蒙特利尔大学的正教授，LawZero的科学总监以及Mila -魁北克人工智能研究所的科学顾问，他表示：
　　“自去年发布首期国际人工智能安全报告以来，我们见证了模型能力的显著提升，但同时也看到了其潜在风险的增加，技术进步的速度与我们实施有效保护措施的能力之间的差距仍然是一个关键挑战。该报告旨在为决策者提供所需的严谨证据，以引导人工智能走向一个对所有人来说安全、可靠和有益的未来。通过第二版报告，我们正在更新并加强我们对全球前沿人工智能快速发展的科学理解。”
　　英国人工智能部长Kanishka Narayan表示：
　　“对人工智能的信任和信心对于发挥其全部潜力至关重要。这是一项能够提供更好的公共服务、创造新的就业机会并带来改变生活的创新的技术。但我们也决心在这一技术发展的同时保障人们的安全。负责任的人工智能发展是我们的共同优先事项，只有通过合作，我们才能共同塑造其未来，带来积极的变化。这份报告帮助我们做到这一点——汇集来自世界各地的专家，确保我们拥有强大的科学证据基础，以便今天我们做出正确的决定，为一个更光明、更安全的未来奠定基础。”

　　关于国际人工智能安全报告

　　国际人工智能安全报告是对先进人工智能系统的能力和风险的证据合成。它通过为决策者提供证据基础，旨在全球范围内支持明智的政策制定。尽管承认人工智能的巨大潜在好处，报告的重点是识别风险并评估缓解策略，以确保人工智能的安全开发和使用，为全人类造福。