互联网信息服务深度合成迎强监管：压实责任、抵御风险、督促提升

近日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。

《规定》明确，提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能服务的，应当进行显著标识。深度合成服务治理需要政府、企业、社会、网民等多方主体共同参与，推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展，维护网络空间良好生态。

对此，中国科学院自动化研究所所长徐波、中国科学院信息工程研究所所长孟丹、中国政法大学副校长时建中在网信办官方公众号平台上发表了对《规定》的解读。

孟丹认为，《规定》在深度伪造基础上对深度合成技术作出了更全面的规范，从利用算法角度提出包括利用深度学习、虚拟现实等生成合成类算法，从制作内容形态角度提出包括文本、图像、音频、视频、虚拟场景等多种类型，从具体应用形态上分类列举了多种典型场景，明确了深度合成技术的定义和范围。

时建中表示，这一规章的出台将纲要提出的重要任务落地，凸显了深度合成技术在我国算法安全治理中的重要地位。

徐波建议，为推动《规定》落实，下一步要强化智能监管平台支撑，加大科技攻关力度，深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术，推动深度合成管理技术能力建设，强化人工智能安全评估支撑。

01

《规定》出台背景是什么？

深度合成技术带来个人信息泄漏、侵犯人格权等诸多安全风险

据了解，深度合成技术由来已久，随着深度学习技术，特别是对抗式生成网络技术的发展，深度合成技术门槛大幅降低，2017年11月Reddit网站的用户“deepfakes”发布伪造视频令这项技术引起关注。近年来，深度伪造技术在国内外反响强烈，其以制作足以“以假乱真”的信息内容严重威胁国家安全、干扰传播秩序，让人们广泛关注和深切担忧，给相关技术和产业发展带来一定影响。从技术进步的角度来说，深度合成技术应用的初衷是让生成合成内容更逼真，但深度合成技术在愈趋“智能”的同时，也不可避免地带来更多的安全风险，除深度伪造风险外，还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。

孟丹认为，《规定》在深度伪造基础上对深度合成技术作出了更全面的规范，从利用算法角度提出包括利用深度学习、虚拟现实等生成合成类算法，从制作内容形态角度提出包括文本、图像、音频、视频、虚拟场景等多种类型，从具体应用形态上分类列举了多种典型场景，明确了深度合成技术的定义和范围。

2021年12月，国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》（以下简称《算法规定》），对包括生成合成类在内的五类算法推荐服务进行规范。

孟丹表示，《规定》在《算法规定》基础上，一是加强对深度合成服务全过程管理。深入深度合成服务的数据处理环节、算法运行阶段、使用者行为全过程，提出更明确细化和更具有操作性的管理要求和合规指引。二是深化备案与评估标本兼治。《规定》要求具有舆论属性或者社会动员能力的深度合成服务提供者和技术支持者依法履行算法备案手续，并公示备案编号，有助于引导互联网信息服务深度合成合规运营、提升产品口碑、增强企业互信、促进行业健康发展。《规定》明确了对深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能应当开展安全评估管理，有助于帮助企业防范和应对深度合成内容安全风险、数据安全风险和技术滥用风险，有助于促进管理部门备案摸底、风险监测和监督检查等工作依法开展、落地成效。

02

如何强化、细化安全监管？

明确各方在深度合成活动全流程的主体责任

徐波表示，《规定》深入贯彻《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》等法律、行政法规，聚焦突出问题，有效规范深度合成服务，加强网络内容建设，强化对人工智能技术、服务、内容、平台的综合治理能力。

在他看来，《规定》落实总体国家安全观，坚持以人民为中心，对利用深度合成技术危害国家安全和利益、损害国家形象、侵害公民合法权益和隐私的行为，作出全面、具体的回应，对现行算法应用安全监管规则进一步细化，为营造风清气正的网络空间提供制度保障和治理依据。《规定》明确各方在深度合成活动全流程的主体责任，在《互联网信息服务算法推荐管理规定》已有规定基础上，明确指导性极强的生成合成标识方法，要求完善管理制度和技术保障措施。

徐波建议，为推动《规定》落实，下一步要强化智能监管平台支撑，加大科技攻关力度，深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术，推动深度合成管理技术能力建设；强化人工智能安全评估支撑。抓紧建立深度合成安全评估机制，组织研究制定深度合成安全评估相关标准规范，基于《规定》要求和深度合成类算法机制机理特点，对评估流程、方法、内容等制定规定，明确提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息编辑功能的模型、模板等工具的，应当进行安全评估。加强科普宣贯工作支撑，配合国家人工智能算法综合治理工作部署，面向互联网企业、重点行业企业和相关管理部门等进行《规定》的宣贯培训，督促企业提升深度合成技术服务水平。

03

《规定》出台的意义几何？

凸显了深度合成技术在我国算法安全治理中的重要地位

时建中表示，《规定》的发布标志着深度合成服务成为了我国算法治理中率先专门立法的算法服务类型。中共中央印发的《法治社会建设实施纲要（2020—2025年）》中提出完善网络信息服务方面的法律法规，制定完善算法推荐、深度伪造等新技术应用的规范管理办法。这一规章的出台将纲要提出的重要任务落地，凸显了深度合成技术在我国算法安全治理中的重要地位。

他认为，《规定》注重保障互联网信息内容安全，特别是新闻信息安全。规章对深度合成服务提供者提出了明确的要求。一是深度合成服务提供者要落实信息安全主体责任，加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核，一旦发现违法和不良信息，应当依法采取处置措施；二是针对深度合成信息内容的特殊性，深度合成服务提供者应当建立健全辟谣机制，并设置便捷的用户申诉和公众投诉、举报入口；三是深度合成服务提供者要履行对服务使用者的管理义务，包括进行真实身份认证，保证用户实名使用深度合成服务，以及提示服务使用者落实个人信息保护要求等。

时建中称，我国《规定》的重要特色，是基于深度合成服务技术性强的特点，从技术开发、模型训练、服务提供和使用等环节对深度合成服务提供者和技术支持者提出全面管理要求。一是要求添加深度合成隐式标识，确保信息内容的可追溯性。深度合成服务提供者对使用其服务生成编辑的信息内容，应当采取技术措施添加隐式标识，这既不影响用户的使用体验，也实现了深度合成信息内容的可追溯性。二是要求添加显著标识，确保信息内容传播的可感知性。对于可能会导致公众混淆或者误认的深度合成信息内容，深度合成服务提供者还应当添加显著标识，在合理位置、区域向公众进行提示，避免对公众产生误导，引起信息内容安全风险。三是明确法律责任，保证深度合成标识的可查验性。规章要求任何组织和个人不得采用技术手段删除、篡改、隐匿深度合成标识。这既要求深度合成标识在深度合成内容全生命周期存在，也要求深度合成服务提供者和技术支持者保证隐式标识和显著标识的鲁棒性，使得该标识不因压缩、传输等环节丢失，进一步通过技术手段压实主体责任。

新京报贝壳财经记者 罗亦丹 编辑 陈莉 校对 刘军

标签：

版权声明：本文由用户上传，如有侵权请联系删除！