三部门发布新规，“人脸生成”等服务应显著标识！起草专家：减少虚假信息传播风险

近日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。

《规定》明确了深度合成技术服务提供者、使用者、应用程序分发平台等应承担的责任和义务，以及深度合成数据和技术管理规范以及监督检查与法律责任。其中提出，深度合成服务提供者和技术支持者提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。

↑资料图 据IC photo

日前，国家互联网信息办公室有关负责人表示，近年来，深度合成技术快速发展，在服务用户需求、改进用户体验的同时，也被一些不法人员用于制作、复制、发布、传播违法和不良信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等，影响传播秩序和社会秩序，损害人民群众合法权益，危害国家安全和社会稳定。出台《规定》，是防范化解安全风险的需要，也是促进深度合成服务健康发展、提升监管能力水平的需要。

深度合成技术有哪些应用？存在怎样的风险？“合成人声”“人脸生成”等深度合成服务如何进行显著标识？《规定》的实施会带来哪些改变？

对于以上社会关注的问题，12月12日，红星新闻记者采访了参与《规定》起草的对外经济贸易大学数字经济与法律创新研究中心主任许可。

深度合成技术已广泛应用于现实

专家：最大风险为传播虚假信息

何为深度合成？许可介绍，深度合成技术，是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术，包括文本转语音、音乐生成、场景声编辑、人脸生成、人脸替换、图像增强等技术。

“深度合成技术现已应用到各行各业。”许可举例，例如AI换脸、AI虚拟主播、新闻写作机器人等。其中，人们出行常常应用的导航软件，其中的明星语音导航就是在采集部分人声后，通过深度合成技术生成的。他提到，随着人工智能发展，在未来元宇宙状态下，三维仿真、三维重建的虚拟场景、虚拟人物等会更加广泛地运用深度合成技术。

许可认为，深度合成技术本身是中立的，它与“深度伪造”存在本质不同。

他提到，前些年短视频平台上沸沸扬扬的“假靳东”事件，当年不法分子已经可以通过深度合成技术进行变声、变脸的“深度伪造”，让“假靳东”们真假难辨，进行新型诈骗。《规定》中没有使用“深度伪造”一词，就是不想给公众带来误解，认为深度合成技术是具有风险的技术。“它会用在可能带来风险的场合，但是在很多场合下，它发挥着重要的作用。”

那么，当深度合成技术被误用或滥用，可能带来哪些风险？

许可认为，深度合成技术最大的风险是虚假信息的传播。由于深度合成技术足以“以假乱真”，被欺骗的用户在传播信息过程中会产生违法违规的问题。“可能变成传播违法信息、诋毁贬损他人名誉或者是损害国家和社会的稳定。”

2021年10月，安徽合肥警方查获一起非法利用深度合成技术伪造手机用户人脸动态视频破解身份核验，为黑灰产业提供注册虚拟手机卡等技术支撑的案件。此外，此前不法分子利用深度合成技术制造虚假明星视频，对中老年人群体进行欺诈，形成了灰色产业链。

许可认为，在深度合成技术加持下，如果传播了违法违规信息，这些信息内容的传播会产生很大风险。

如何减少虚假信息传播的风险？《规定》第九条提到，深度合成服务提供者只能向已进行真实身份信息认证的使用者提供信息发布服务。对此，许可解读道，深度合成技术作为一种社会技术，它的实际使用者不止是技术发明者，还包含使用者、技术服务提供者。

许可表示，在实际应用中，大量对技术的滥用并非技术提供者，而是使用者。例如之前的AI换脸“ZAO”软件。在这类案例中，第一责任人是用户。因此，在用户管理层面，能落实用户的真实身份，包括技术服务提供者的身份，明确其应该承担的责任和义务，都会更利于管理。

应对信息内容进行显著标识

难点主要在声音

《规定》明确了深度合成数据和技术管理规范。要求深度合成服务提供者和技术支持者加强训练数据管理和技术管理，保障数据安全，不得非法处理个人信息，定期审核、评估、验证算法机制机理。深度合成服务提供者对使用其服务生成或编辑的信息内容，应当添加不影响使用的标识。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。要求任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。

许可表示，《规定》实施后，对于提供人脸生成等服务应进行显著标识是强制性要求，具体如何操作，未来会有指引形式的规范。例如可能会在深度合成技术生成的图像中放置小的文字或者图像，载明应用了该技术。“但难就难在音频，它不像图片或视频加个标签水印就可解决。”

许可认为，之所以要进行提示和标识，并不是以该技术弊大于利为前提，而是起到对外提示作用，告知用户内容的真实性，避免误导和混淆，从而产生不良后果。“从监管层面而言，也是一种谦抑性的表现。”

可能导致公众混淆或者误认的深度合成技术服务如何界定？

许可称，目前抖音、快手等社交媒体直播时使用的没有显著改变人物图像的滤镜等不属于《规定》监管范围。“如果所有人都知道是假的就没关系，管的是以假乱真、引人混淆或者误认的内容。”

许可称，未来主要将由网信部门对深度合成技术的实际应用进行监管。监管的手段主要分为两种，一种为监管部门进行网络巡查，及到企业开展算法检查；另一种为依靠广大网民，举报涉及深度合成技术的违法违规行为。

新规重在完善算法治理

肃清网络风气

2021年9月，国家互联网信息办公室等9部门联合出台《关于加强互联网信息服务算法综合治理的指导意见》，其中提到要利用3年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。同年12月，《互联网信息服务算法推荐管理规定》公布，并于2022年3月1日起施行。

许可表示，此次《互联网信息服务深度合成管理规定》出台，是在我国加强互联网信息服务算法综合治理框架下展开的，它是我国进行算法治理的重要一环。

《规定》实施后，是否意味着网民使用深度合成技术会有更多限制？

对此，许可表示，《规定》的实施并非限制，相反通过进行深度合成技术的标识，一方面减少虚假信息的误导和传播；另一方面，在出现违法违规现象时，可以按照网络生态治理的“九不准”进行规范和治理。

许可表示，深度合成技术使用的底线在于生成的信息内容不能危害国家安全、不得损害社会利益及侵害他人合法权益；不得违法、违规。

《互联网信息服务深度合成管理规定》总则提出，提供深度合成服务，应当遵守法律法规，尊重社会公德和伦理道德，坚持正确政治方向、舆论导向、价值取向，促进深度合成服务向上向善。

红星新闻记者 张炎良 实习生 杨芸

编辑 彭疆 余冬梅

（下载红星新闻，报料有奖！）

标签：

版权声明：本文由用户上传，如有侵权请联系删除！