彩神|彩神

【法治护我心】划定深度合成服务“底线”“红线”******

　　【法治护我心——《互联网信息服务深度合成管理规定》系列解读】

　　光明网记者 陈畅、李政葳

　　“雾里看花，水中望月，你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲，用来描述当下互联网时代的“云”上生活，在技术发展与风险伴生之下，“虚”“实”之间让人颇有迷幻之感。

　　“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来，人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态，但其被恶意利用制作虚假信息内容，进而带来了政策干扰、谣言泛滥、低俗内容等。因此，我们也在呼吁——“借我一双慧眼，把这纷扰看个清清楚楚明明白白……”

　　纵观互联网发展历程，技术治理本身就是一场攻防对抗博弈，也是技术从创新应用到规范发展的必经之路。近日，这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。

　　法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”， 迈出我国新技术新应用立法的重要一步，也将有效维护网络空间良好生态。

　　明确义务要求，强化主体责任

　　事实上，深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展，深度合成技术门槛大幅降低。2017年11月，Reddit网站的用户“deepfakes”发布伪造视频，曾一度将这项技术推至风口浪尖，其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。

　　何为“深度合成技术”？《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

　　具体包括：篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术，文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术，音乐生成、场景声编辑等生成或者编辑非语音内容的技术，人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术，图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。

　　诚然，从技术进步的角度看，深度合成技术应用的初衷是让生成合成内容更逼真，但技术在愈趋“智能”的同时，也不可避免地带来更多风险。对此，中国科学院信息工程研究所所长孟丹介绍，除深度伪造风险外，还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。

　　深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者，也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现，《规定》明确了深度合成技术定义和服务范围，提出了服务提供者落实信息安全主体责任，指出了服务提供者和技术支持者备案义务，并对服务提供者履行安全评估和配合监督检查义务提出具体要求。

　　中国科学院自动化研究所所长徐波这样评价：《规定》分析梳理了深度合成活动边界，对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如，服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务，服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。

　　健全技术支撑体系，促进科技向上向善

　　从此起彼伏的社会案件中可以看出，深度合成信息内容制作和传播数量正在高速增长，尤其伴随“元宇宙”等新模式、新场景不断落地，深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为，《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步，标志着我国网络空间治理能力进一步优化提升。

　　时间倒回到两年前。在2021年12月，国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》，对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上，加强对深度合成服务全过程管理，也深化了备案与评估标本兼治。

　　然而，从技术发展阶段看，深度合成技术与应用管理仍处于起步阶段，在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设，是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。

　　《规定》的字里行间，凸显了“以技术管技术”的逻辑，也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架，提出了明确的数据和技术管理规范，为促进深度合成技术向上向善，引导相关产业健康发展，确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。

　　“《规定》以促进技术在规范中发展为价值取向，在明确‘红线’的同时，为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如，《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。

　　孟丹也建议，从深度合成信息内容源头上，解决其衍生的内容安全风险，利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力，不仅着眼于管理好、使用好、发展好深度合成技术及相关服务，也致力于深度合成技术的合法合理合规使用，促进深度合成技术及相关服务健康有序的发展。

　　引导多方参与，推动治理走深向实

　　随着数字化、智能化进程不断加快，互联网信息服务综合治理不断细化，规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示，深度合成服务治理需要政府、企业、社会、网民等多方主体参与，推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展。

　　《规定》明确提到，国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责，国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。

　　王志勤认为，《规定》构建了统筹协调、多方参与的监管体制；《规定》鼓励相关行业加强行业自律，搭建齐抓共管、协同共治的治理机制；《规定》通过系统化的制度安排，进一步构建完善了我国网络综合治理法治体系。

　　孟丹也提到，《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面，仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中，建议业内推进产业联盟建立，以产业自治、多方共治的方式，不断推进深度合成技术应用高质量发展。

　　为推动深度合成治理走深向实，徐波建议，强化智能监管平台支撑。比如，深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术，推动深度合成管理技术能力建设；加强人机混合的智能监管技术，研究深度合成服务提供者的安全可控技术保障方案，把监管规范转化为评估标准，建设面向网络全域监管的监测管理平台；研发深度合成与鉴别对抗机制，鼓励新兴科技企业与研究机构开展技术演练，共同推动深度合成服务健康发展。

用“六个坚持”深入推进理论和实践创新******

　　作者：王军杰（天津市中国特色社会主义理论体系研究中心特邀研究员，天津中医药大学马克思主义学院教授、助教）；郭文慧（天津市中国特色社会主义理论体系研究中心特邀研究员，天津中医药大学马克思主义学院助教）

　　习近平总书记在党的二十大报告中指出，不断谱写马克思主义中国化时代化新篇章，把握好新时代中国特色社会主义思想的世界观和方法论，坚持好、运用好贯穿其中的立场观点方法。党的二十大报告就是充分体现人民至上、自信自立、守正创新、问题导向、系统观念、胸怀天下这“六个坚持”的世界观和方法论的光辉篇章。深刻领会“六个坚持”的世界观和方法论是推进理论和实践创新，以中国式现代化推进中华民族伟大复兴的重要保障和抓手。

　　坚持人民至上彰显了我们党始终如一的政治坚守和追求

　　人民至上是贯穿习近平新时代中国特色社会主义思想的一根红线，人民立场是习近平新时代中国特色社会主义思想的根本立场，这是我们党作为马克思主义政党区别于其他政党的显著标志，因为只有人民才是创造世界历史的最根本动力，人民的创造性实践才是理论创新的不竭源泉。

　　人民是我们党执政的最大底气，习近平新时代中国特色社会主义思想就是站在人民立场、把握人民愿望、尊重人民创造、集中人民智慧形成的为人民所喜爱、所认同、所拥有的创新理论，是指导人民认识世界和改造世界的强大思想武器。在百年奋斗历程中，中国共产党不断强化公仆意识，在思想上尊重群众、感情上贴近群众，始终保持对人民的赤子之心，在顺应群众期盼、增进民生福祉的实践中，不断追求“我将无我，不负人民”的崇高境界。

　　坚持自信自立才能不断创造新的伟大奇迹

　　习近平总书记指出，当今世界，要说哪个政党、哪个国家、哪个民族能够自信的话，那中国共产党、中华人民共和国、中华民族是最有理由自信的。党的百年奋斗成功道路是党领导人民独立自主探索开辟出来的，马克思主义的中国篇章是中国共产党人依靠自身力量实践出来的。中国的问题必须从中国基本国情出发，由中国人自己来解答。独立自主，自力更生，无论过去、现在和将来，都是我们的立足点。中国共产党带领中国人民走中国特色社会主义道路，具有无比广阔的舞台，具有无比深厚的历史底蕴，具有无比强大的前进定力。中国人民有这个信心，每一个中国人都这个信心。

　　中国共产党在世界形势深刻变化的历史进程中始终走在时代前列，在应对国内外各种风险和考验的历史进程中始终成为全国人民的主心骨，在坚持和发展中国特色社会主义的历史进程中始终成为坚强领导核心。中国共产党和中国人民正信心百倍推进中华民族从站起来、富起来到强起来的伟大飞跃。改革开放和社会主义现代化建设深入推进，书写了经济快速发展和社会长期稳定两大奇迹新篇章，实现中华民族伟大复兴进入了不可逆转的历史进程。

　　坚持守正创新是不断推进理论创新和理论创造的必然要求

　　守正创新植根于中华民族悠久的优秀文化传统，植根于马克思主义哲学的基本原理，植根于中国共产党第一个百年奋斗的历史经验。守正是创新的前提和基础，创新是守正的动力和发展。马克思主义中国化的百年历史就是一部守正创新的理论发展史。在中国特色社会主义新时代，守正就是要坚持马克思主义基本原理不动摇，坚持党的全面领导不动摇，坚持中国特色社会主义不动摇；创新就是要紧跟时代步伐，顺应实践发展，以满腔热忱对待一切新生事物，不断拓展认识的广度和深度，以新的理论指导新的实践。

　　党的二十大报告坚持守正创新，在党和国家事业取得历史性成就、发生历史性变革的基础上，吹响了全面建设社会主义现代化国家、全面推进中华民族伟大复兴而团结奋斗的新的号角，提出以中国式现代化全面推进中华民族伟大复兴的战略思想，提出高质量发展是全面建设社会主义现代化国家的首要任务的思想，提出教育、科技、人才是全面建设社会主义现代化国家的基础性、战略性支撑的思想，提出自我革命是跳出治乱兴衰历史周期率的第二个答案等诸多伟大的思想。

　　坚持问题导向才能够把我们的社会不断推向前进

　　习近平新时代中国特色社会主义思想正是对新时代坚持和发展什么样的中国特色社会主义、怎样坚持和发展中国特色社会主义，建设什么样的社会主义现代化强国、怎样建设社会主义现代化强国，建设什么样的长期执政的马克思主义政党、怎样建设长期执政的马克思主义政党等事关新时代党和国家事业发展的重大理论和实践问题进行深邃思考和科学判断形成的时代强音。

　　必须增强问题意识，聚焦实践遇到的新问题、改革发展稳定存在的深层次问题、人民群众急难愁盼问题、国际变局中的重大问题、党的建设面临的突出问题，不断提出真正解决问题的新理念新思路新办法。二十大报告正是坚持问题导向，立足于新时代新阶段面临的新形势，系统擘画了全面建设社会主义现代化国家、全面推进中华民族伟大复兴的宏伟蓝图，具有强大的历史穿透力、思想引领力、政治动员力、时代感召力，必将引领全党全国各族人民万众一心，夺取全面建设社会主义现代化国家新胜利。

　　坚持系统观念才能具有基础性的思想和工作方法

　　唯物辩证法认为，世界上的万事万物都处于普遍联系之中，普遍联系引起事物的运动发展。联系和发展的观点是唯物辩证法的总观点。这就要求必须用普遍联系的、全面系统的、发展变化的观点观察事物，从而把握事物发展规律。我国是一个发展中大国，处于社会主义初级阶段，世界百年未有之大变局加速演进，世界进入新的动荡变革期。这些世情国情要求我们要善于通过历史看现实、透过现象看本质，把握好全局和局部、当前和长远、宏观和微观、主要矛盾和次要矛盾、特殊和一般的关系，不断提高战略思维、历史思维、辩证思维、系统思维、创新思维、法治思维、底线思维能力。

　　社会是个复杂的大系统，包括生产力系统、生产关系系统、上层建筑系统、人口系统、自然环境系统等。系统观念是具有基础性的思想和工作方法。以习近平同志为核心的党中央从系统观念出发研究社会问题，提出了“五位一体”总体布局、“四个全面”战略布局、新发展理念、总体国家安全观、两步走战略安排、以中国式现代化全面推进中华民族伟大复兴等充分体现系统观念的新理念新思想新战略，推动新时代党和国家事业取得历史性成就、发生历史性变革，推动我国迈上全面建设社会主义现代化国家新征程。

　　坚持胸怀天下彰显了我们党伟大的政治品质

　　以习近平同志为核心的党中央，坚持“胸怀天下”、立足国际视野进行思考研究，提出了构建“人类命运共同体”、“一带一路”倡议等一系列新理念新思想新战略，为破解当今世界面临的重大问题、引领国际秩序和国际体系变革贡献了中国智慧、中国方案，实现了历史使命与时代潮流的高度统一、民族精神与国际主义的高度统一、中国气派与世界情怀的高度统一。中国共产党是为中国人民谋幸福、为中华民族谋复兴的党，也是为人类谋进步、为世界谋大同的党。党的二十大报告坚持以世界眼光深刻洞察人类发展进步潮流，以世界眼光谋划伟大斗争、伟大工程、伟大事业、伟大梦想，以中华民族伟大复兴推动构建人类命运共同体，为推动建设更加美好的世界作出中华民族的伟大贡献。

　　（文图：赵筱尘 巫邓炎）