【法治护我心】划定深度合成服务“底线”“红线”******
【法治护我心——《互联网信息服务深度合成管理规定》系列解读】
光明网记者 陈畅、李政葳
“雾里看花,水中望月,你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲,用来描述当下互联网时代的“云”上生活,在技术发展与风险伴生之下,“虚”“实”之间让人颇有迷幻之感。
“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来,人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态,但其被恶意利用制作虚假信息内容,进而带来了政策干扰、谣言泛滥、低俗内容等。因此,我们也在呼吁——“借我一双慧眼,把这纷扰看个清清楚楚明明白白……”
纵观互联网发展历程,技术治理本身就是一场攻防对抗博弈,也是技术从创新应用到规范发展的必经之路。近日,这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),自2023年1月10日起施行。
法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”, 迈出我国新技术新应用立法的重要一步,也将有效维护网络空间良好生态。
明确义务要求,强化主体责任
事实上,深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展,深度合成技术门槛大幅降低。2017年11月,Reddit网站的用户“deepfakes”发布伪造视频,曾一度将这项技术推至风口浪尖,其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。
何为“深度合成技术”?《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。
具体包括:篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术,文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术,音乐生成、场景声编辑等生成或者编辑非语音内容的技术,人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术,图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术,三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。
诚然,从技术进步的角度看,深度合成技术应用的初衷是让生成合成内容更逼真,但技术在愈趋“智能”的同时,也不可避免地带来更多风险。对此,中国科学院信息工程研究所所长孟丹介绍,除深度伪造风险外,还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。
深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者,也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现,《规定》明确了深度合成技术定义和服务范围,提出了服务提供者落实信息安全主体责任,指出了服务提供者和技术支持者备案义务,并对服务提供者履行安全评估和配合监督检查义务提出具体要求。
中国科学院自动化研究所所长徐波这样评价:《规定》分析梳理了深度合成活动边界,对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如,服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务,服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。
健全技术支撑体系,促进科技向上向善
从此起彼伏的社会案件中可以看出,深度合成信息内容制作和传播数量正在高速增长,尤其伴随“元宇宙”等新模式、新场景不断落地,深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为,《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步,标志着我国网络空间治理能力进一步优化提升。
时间倒回到两年前。在2021年12月,国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》,对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上,加强对深度合成服务全过程管理,也深化了备案与评估标本兼治。
然而,从技术发展阶段看,深度合成技术与应用管理仍处于起步阶段,在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设,是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。
《规定》的字里行间,凸显了“以技术管技术”的逻辑,也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架,提出了明确的数据和技术管理规范,为促进深度合成技术向上向善,引导相关产业健康发展,确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。
“《规定》以促进技术在规范中发展为价值取向,在明确‘红线’的同时,为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如,《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。
孟丹也建议,从深度合成信息内容源头上,解决其衍生的内容安全风险,利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力,不仅着眼于管理好、使用好、发展好深度合成技术及相关服务,也致力于深度合成技术的合法合理合规使用,促进深度合成技术及相关服务健康有序的发展。
引导多方参与,推动治理走深向实
随着数字化、智能化进程不断加快,互联网信息服务综合治理不断细化,规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示,深度合成服务治理需要政府、企业、社会、网民等多方主体参与,推动深度合成技术的依法、合理、有效使用,积极防范化解深度合成技术带来的风险,促进互联网信息服务健康发展。
《规定》明确提到,国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责,国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。
王志勤认为,《规定》构建了统筹协调、多方参与的监管体制;《规定》鼓励相关行业加强行业自律,搭建齐抓共管、协同共治的治理机制;《规定》通过系统化的制度安排,进一步构建完善了我国网络综合治理法治体系。
孟丹也提到,《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面,仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中,建议业内推进产业联盟建立,以产业自治、多方共治的方式,不断推进深度合成技术应用高质量发展。
为推动深度合成治理走深向实,徐波建议,强化智能监管平台支撑。比如,深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术,推动深度合成管理技术能力建设;加强人机混合的智能监管技术,研究深度合成服务提供者的安全可控技术保障方案,把监管规范转化为评估标准,建设面向网络全域监管的监测管理平台;研发深度合成与鉴别对抗机制,鼓励新兴科技企业与研究机构开展技术演练,共同推动深度合成服务健康发展。
去年三十二名中管干部被执纪审查 反腐败斗争从未停歇******
去年三十二名中管干部被执纪审查 专家认为
反腐败斗争从未停脚歇步
本报记者 陈磊
2022年12月28日,中央纪委国家监委网站审查调查栏目发布了2022年最后一条执纪审查信息,主角是黑龙江省鹤岗市人大常委会原党组书记、副主任康晓峰,退休9个月后落马。
《法治日报》记者根据审查调查栏目发布的信息梳理,包括康晓峰在内,该栏目2022年总计点名通报580多名党员领导干部的执纪审查信息,其中,中管干部32人,中央一级党和国家机关、国企和金融单位干部137人,省管干部410多人,人数均为党的十九大以来历年之最。
接受采访的专家认为,数据昭示,党中央一直保持反腐败斗争力度不减、尺度不松、节奏不变,坚决以勇于自我革命的意志和气魄,将全面从严治党、反腐败斗争进行到底。
专家认为,2022年正值党的二十大召开,数据还传递出一个信号,就是为未来5年的反腐败工作开局奠定基础,我国将继续一体推进“三不腐”,打“虎”、拍“蝇”、猎“狐”多管齐下,个别领导干部不要有任何侥幸心理、错误观念。
持续打“虎”拍“蝇”
久久为功推动下去
康晓峰是黑龙江鹤岗本地人,19岁参加工作,经过20年的努力,升任鹤岗市林业局党委副书记、局长。又经过多个领导岗位的锻炼,于2016年12月担任鹤岗市人大常委会党组书记、副主任。
2022年3月,康晓峰到龄退休,年底因涉嫌严重违纪违法接受审查调查,成为年度最后一名被点名通报执纪审查的领导干部。
2022年1月3日,中央纪委国家监委网站审查调查栏目发布2022年首个被点名执纪审查的领导干部——云南省西双版纳傣族自治州原常委、州政府常务副州长傅希。
傅希出生于1975年7月,云南昆明人,曾任昆明市住房和城乡建设局党委书记、局长等职务,2019年9月开始担任西双版纳州委常委、州政府常务副州长。
值得注意的是,2022年3月,在《云南省通报中央生态环境保护督察移交生态环境损害责任追究问题问责情况》中,昆明市长腰山过度开发、铭真高尔夫球场违规建设,严重破坏滇池生态系统完整性问题,涉及云南省管干部22人,其中包括时任昆明市晋宁区委书记的傅希。
2022年9月,傅希被开除党籍和公职。中央纪委国家监委网站发布的信息称:傅希背弃初心使命,落实党中央决策部署不坚决、打折扣、搞变通,转移、隐匿证据,对抗组织审查;违反规定干预和插手矿产资源开发利用活动;无视党纪国法,与不法商人沆瀣一气,大搞权钱交易等。2022年11月,傅希涉嫌受贿罪一案移送检察机关审查起诉。
记者梳理中央纪委国家监委网站审查调查栏目信息显示,2022年,总计有410多名省管干部被点名通报执纪审查。
2022年首个被点名执纪审查的中管干部,是西藏自治区人民政府原副主席张永泽,时间是当年1月8日。2022年7月,中央纪委国家监委网站发布信息,张永泽被开除党籍和公职。
包括张永泽在内,中央纪委国家监委网站2022年点名通报执纪审查中管干部32人,数量为党的十九大以来之最(2018年23人,2019年20人,2020年18人,2021年25人)。
此外,2022年中央一级党和国家机关、国企和金融单位干部总计有137人被点名通报执纪审查。
这意味着,整个2022年,中央纪委国家监委网站审查调查栏目总计发布580多名领导干部执纪审查信息。
在北京师范大学法学院教授彭新林看来,2022年,党中央坚持以严的主基调持续深入推进正风肃纪反腐,保持反腐败斗争力度不减、尺度不松、节奏不变,数据充分体现了党中央以勇于自我革命的意志和气魄将全面从严治党、反腐败斗争进行到底的坚定决心。
北京科技大学廉政研究中心主任、马克思主义学院院长宋伟觉得,根据数据可以看出,我国的反腐败从未停脚歇步,始终保持高压态势。只要存在腐败问题产生的土壤和条件,反腐败斗争就一刻不能停。
“2022年正值党的二十大召开,党中央以零容忍态度反腐败,用事实传递出一个信号,那就是把反腐败看作最彻底的自我革命,为未来5年的反腐败工作奠定基础,久久为功推动下去,个别领导干部不要有任何侥幸心理、错误观念。”北京大学廉政建设研究中心副主任庄德水说。
彭新林认为,未来5年,党的自我革命决不会停一停、歇一歇,将保持反对和惩治腐败的强大力量常在,继续一体推进“三不腐”,打“虎”、拍“蝇”、猎“狐”多管齐下,以勇于自我革命赢得历史主动。
运用专项整治方式
清除各领域“蛀虫”
2022年12月30日,中央纪委国家监委网站发布消息称,国家发展改革委原党组成员、国家粮食和物资储备局原局长张务锋严重违纪违法被开除党籍和公职。
张务锋,山东莱芜人,“60后”中管干部,曾任山东省临沂市市长、山东省副省长等职务,2018年3月出任新组建的国家粮食和物资储备局党组书记、局长。2022年6月,其涉嫌严重违纪违法,接受中央纪委国家监委审查调查。
中央纪委国家监委网站发布的“双开”通报称:张务锋背弃初心使命,丧失党性原则,对党不忠诚不老实,对抗组织审查;违反中央八项规定精神,违规收受礼品;违规提拔调动干部;违规经商办企业,违规拥有非上市公司股份,违规通过民间借贷获取大额回报;纪法意识淡漠,利用职务便利为他人在工程承揽、银行贷款等方面谋利,并非法收受巨额财物。
记者根据审查调查栏目信息梳理发现,2022年,总计点名通报执纪审查粮食系统领导干部11人,例如中国储备粮管理集团有限公司原副总经理徐宝义、重庆粮食集团原董事长胡君烈等。
2022年1月发布的十九届中央纪委六次全会公报称,保持反对和惩治腐败的强大力量常在,坚定不移把反腐败斗争推向纵深。其中包括,“深化粮食购销等领域腐败专项整治”。
庄德水认为,粮食安全关系到国家安全,特别是在当前国际形势复杂的情况下,保障国家粮食安全,守好国家和人民的“粮袋子”,具有重大政治战略意义。因此,必须推进粮食购销领域反腐败工作,通过反腐败清除粮食购销领域的“蛀虫”。深化粮食购销领域腐败专项整治是2022年反腐败的工作重点,上述数据也体现了专项整治的成果。
在庄德水看来,这也正是2022年反腐败的一个特点,即聚焦关键环节和重点领域,运用专项整治方式,以点带面推动反腐败向纵深发展。其他反腐败重点领域还包括对年轻干部从严教育管理监督。着力查处资本无序扩张、平台垄断等背后腐败行为,斩断权力与资本勾连纽带等。
“持续推进金融领域腐败治理”也是2022年反腐败工作的重点领域。记者根据审查调查栏目信息梳理发现,2022年总计点名通报执纪审查中央一级银监系统干部50人;此外,中国人寿保险(集团)公司原党委书记、董事长王滨,招商银行股份有限公司原党委书记、行长田惠宇,中国人民银行原副行长范一飞,也相继被执纪审查。
宋伟表示,2022年的反腐败工作,精准化水平不断提升,对重点领域、重点行业、重点人群腐败问题的整治和查处更加明确,对腐败规律的把握更加深刻,反腐败的治理成效得到了全面提高。
据彭新林观察,2022年反腐败的另一个特点是重视用“全周期管理”方式系统推进。即把治理腐败当作一个整体,不仅注重惩治威慑,也做好制约监督、教育引导,将查办案件、加强教育、完善制度、促进治理贯通起来,把不敢腐的强大震慑效能、不能腐的刚性制度约束、不想腐的思想教育优势融为一体,系统施治、标本兼治。
“过去一年反腐败斗争锋芒所指还包括严查政治问题与经济问题交织的腐败案件。如孙力军政治团伙案,就是党的十九大以来查处的政治利益和经济利益混杂、政治问题和腐败问题交织的最严重违纪违法案件之一。”彭新林说。
相关规定陆续出台
制度保障标本兼治
2022年12月初,中央纪委国家监委网站发布了广西壮族自治区纪委监委通报的6起享乐奢靡典型问题,广西科技大学原党委副书记、校长李思敏被点名。
通报称,2017年至2022年,李思敏先后多次接受私营企业主安排在公司食堂的“一桌餐”及在高档酒店组织的宴请;与家人接受私营企业主提供的旅游安排;收受私营企业主送给的高尔夫球杆,先后多次接受打高尔夫球活动安排;先后多次因私使用广西科技大学公务车辆。
2022年6月,中央纪委国家监委网站通报李思敏被执纪审查。一个半月后,他被开除党籍和公职。
记者统计显示,2022年,中央纪委国家监委网站审查调查栏目总计点名通报高校领域省管干部20多人。
值得注意的是,2022年1月,中央纪委国家监委印发《关于深化中管高校纪检监察体制改革的意见》,进一步明确中管高校纪检监察机构的职能定位、职责权限,突出政治监督,强化纪律检查职责、赋予监察权。
庄德水认为,这意味着,2022年深化纪检监察体制改革朝着系统集成和协同高效又迈出一步,随着中管高校、省管高校纪检监察体制改革稳步推进,释放了高校全面从严治党的鲜明信号。
2022年1月1日,监察官法开始实施。
“监察官法的意义在于,着力构建中国特色监察官制度,保障监察官依法履行职责,维护监察官合法权益,推进高素质专业化监察官队伍建设,推进监察工作规范化、法治化,推进国家治理体系和治理能力现代化。特别是赋予监察官法律地位,使监察官的权责得以明确。”庄德水说。
此外,2022年1月,《中国共产党纪律检查委员会工作条例》印发,对党的纪律检查委员会的领导体制、产生运行、任务职责、自身建设等作出全面规范;同年2月,《关于加强新时代廉洁文化建设的意见》印发,为推进全面从严治党向纵深发展提供重要支撑;同年9月,《推进领导干部能上能下规定》印发,为健全能上能下的选人用人机制提供了重要制度保障等。
在彭新林看来,2022年,一系列反腐败法律和党内法规制度的出台,为完善反腐败规范体系奠定了坚实基础,为实现反腐败系统施治、标本兼治提供了有力制度支持。
宋伟认为,目前,我国反腐败制度化水平不断提升,反腐败制度体系不断健全,各级纪检监察机关履行职责的规范化水平显著提升,并且不断将有效的经验做法固化为制度,推进反腐败工作水平不断提高。(法治日报)
(文图:赵筱尘 巫邓炎)