现场直击英国人工智能安全峰会，学者呼吁建立国际监管机构

全球在人工智能风险监管方面的步伐在加快。

当地时间11月1日（周三），英国人工智能安全峰会（Artificial Intelligence Safety Summit, AISS）首日，英国政府在位于英格兰南部的布莱切利庄园宣布，多个在人工智能领域领先的国家和地区，包括美国、欧盟和中国，就人工智能带来的机遇和风险，以及各国政府携手应对挑战的必要性达成了共识，并签署了相关协议。英国政府随后发布了这份名为《布莱切利宣言》（以下简称为《宣言》）的协议。

根据科技部官网消息，科技部副部长吴朝晖出席人工智能安全峰会，并于1日举行的开幕式全体会议上发言。与会期间，代表团参与人工智能安全等问题讨论，积极宣介中方提出的《全球人工智能治理倡议》，并将与相关国家开展双边会谈。

中方指出，此次峰会为各国提供了人工智能安全与国际治理议题的重要对话平台与交流合作机会。人工智能治理攸关全人类命运，是世界各国面临的共同课题。发展人工智能，应当积极倡导以人为本，智能向善，加强技术风险管控，并在相互尊重、平等互利的原则基础上，鼓励各方协同共治，增强发展中国家在人工智能全球治理中的代表性和发言权，不断弥合智能鸿沟和治理能力差距。

必要性和迫切性

在日内一场公开讲话中，英国科学、创新和技术大臣米歇尔·唐兰（Michelle Donelan）称，《宣言》“是一项具有里程碑意义的成就”，它为围绕人工智能相关风险的全球讨论奠定了基础，也让国际社会意识到，必须加深对人工智能相关风险的理解并采取应对举措，因为“这是安全地利用人工智能带来的机遇的唯一途径”。

也有观点认为，从某种意义上讲，这份宣言可以视作国际社会首次就监管人工智能的必要性和迫切性做出正式声明，但就监管力度等问题仍存分歧。

总体来看，《宣言》最重要的内容包括两点，一是人工智能风险监管的必要性和迫切性，二是人类应对人工智能风险必须通过国际合作。

《宣言》提到，目前较大的安全风险出现在人工智能的“前沿”领域，即前沿AI（Frontier Artificial Intelligence），也就是那些能力强大的通用人工智能模型，包括可以执行各种任务的基础模型，以及特定的弱人工智能（narrow AI），两者都具有给人类社会带来伤害的能力。

如果上述前沿AI被故意滥用，或者在正当的使用过程中出现意外失控，都将会带来巨大风险。《宣言》认为，出现这些问题的部分原因是人们对这些前沿AI的能力还不完全了解，因此难以预测。

《宣言》尤其关注网络安全和生物技术等领域的风险，以及前沿AI可能放大虚假信息等风险。鉴于人工智能发展速度之快和巨大的不确定性，以及在相关投资加速的背景下，《宣言》强调加深对这些潜在风险的理解，以及应对这些风险的行动尤为迫切。

在接受第一财经采访时，伦敦国王学院教授、人工智能研究所所长卡迈恩·文特尔（Carmine Ventre）称，弱人工智能解决的是特定任务，如果落入坏人之手，可能会产生极为危险的后果，比如，“为生物工程应用而设计的人工智能模型，可能会被用来制造生物武器。”

学者呼吁建立国际监管机构

除了监管的必要性，《宣言》也高度强调了国际合作的重要性。《宣言》称，由于人工智能产生的许多风险本身具有国际性，因此最好通过国际合作加以解决。

《宣言》建议，各国应考虑采取有利于创新、适度的治理和监管方法，最大限度地发挥人工智能的效益，并考虑到人工智能的相关风险；通过现有国际论坛和其他相关倡议，包括未来的国际人工智能安全峰会，加强和保持合作，并扩大与更多国家的合作，以确定、了解并酌情采取行动。

记者在峰会现场了解到，已有多位参加峰会的人工智能领域学者呼吁建立一个国际监管机构，监管人工智能的开发和应用，具体内容包括，对先进的人工智能系统进行强制注册，开发时必须具备快速“关闭”功能，开发者必须将一定比例的研究预算用于确保人工智能安全。

此前亦有消息称，英国政府对于本次峰会的目标之一，便是通过为期两天的峰会，呼吁各国合作，成立一个类似于政府间气候变化专门委员会（Intergovernmental Panel on Climate Change, IPCC）的人工智能专家监测小组。

卡迈恩·文特尔对此表示，决策者需要考虑到人工智能的特质，也就是发展方向的不确定性。他认为，目前人工智能发展的速度远超预期，因此，正在讨论的法规和监管方式，应该是面向未来，并充分考虑到该领域的前沿研究，“在气候变化方面，我们有精确的模型会告诉我们，如果不这样做，如果不采取某些行动，将会发生什么，人工智能不是这样。”

标签：

版权声明：本文由用户上传，如有侵权请联系删除！