中央网信办部署开展“清朗·整治AI技术滥用”专项行动
为规范AI服务和应用，促进行业健康有序发展，保障公民合法权益，近日，中央网信办印发通知，在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。
中央网信办有关负责人表示，本次专项行动分两个阶段开展。第一阶段强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力。第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题，集中清理相关违法不良信息，处置处罚违规账号、MCN机构和网站平台。
第一阶段重点整治6类突出问题：一是违规AI产品。利用生成式人工智能技术向公众提供内容服务，但未履行大模型备案或登记程序。提供“一键脱衣”等违背法律、伦理的功能。在未经授权同意情况下，克隆、编辑他人声音、人脸等生物特征信息，侵犯他人隐私。二是传授、售卖违规AI产品教程和商品。传授利用违规AI产品伪造换脸视频、换声音频等教程信息。售卖违规“语音合成器”“换脸工具”等商品信息。营销、炒作、推广违规AI产品信息。三是训练语料管理不严。使用侵犯他人知识产权、隐私权等权益的信息。使用网上爬取的虚假、无效、不实内容。使用非法来源数据。未建立训练语料管理机制，未定期排查清理违规语料。四是安全管理措施薄弱。未建立与业务规模相适应的内容审核、意图识别等安全措施。未建立有效的违规账号管理机制。未定期开展安全自评估。社交平台对通过API接口接入的AI自动回复等服务底数不清、把关不严。五是未落实内容标识要求。服务提供者未对深度合成内容添加隐式、显式内容标识，未向使用者提供或提示显式内容标识功能。内容传播平台未开展生成合成内容监测甄别，导致虚假信息误导公众。六是重点领域安全风险。已备案AI产品提供医疗、金融、未成年人等重点领域问答服务的，未针对性设置行业领域安全审核和控制措施，出现“AI开处方”“诱导投资”“AI幻觉”等问题，误导学生、患者，扰乱金融市场秩序。
第二阶段重点整治7类突出问题：一是利用AI制作发布谣言。无中生有、凭空捏造涉时事政治、公共政策、社会民生、国际关系、突发事件等各类谣言信息，或擅自妄测、恶意解读重大方针政策。借突发案事件、灾难事故等，编造、捏造原因、进展、细节等。冒充官方新闻发布会或新闻报道，发布谣言信息。利用AI认知偏差生成的内容进行恶意引导。二是利用AI制作发布不实信息。将无关图文、视频拼凑剪辑，生成虚实混杂、半真半假的信息。模糊修改事件发生的时间、地点、人物等要素，翻炒旧闻。制作发布涉财经、教育、司法、医疗卫生等专业领域的夸大、伪科学等不实内容。借助AI算命、AI占卜等误导欺骗网民，传播迷信思想。三是利用AI制作发布色情低俗内容。利用AI脱衣、AI绘图等功能生成合成色情内容或他人不雅图片、视频，衣着暴露、搔首弄姿等软色情、二次元擦边形象，或扮丑风等导向不良内容。制作发布血腥暴力场景，人体扭曲变形、超现实怪物等恐怖诡谲画面。生成合成“小黄文”“荤段子”等性暗示意味明显的小说、帖文、笔记。四是利用AI假冒他人实施侵权违法行为。通过AI换脸、声音克隆等深度伪造技术，假冒专家、企业家、明星等公众人物，欺骗网民，甚至营销牟利。借AI对公众人物或历史人物进行恶搞、抹黑、歪曲、异化。利用AI冒充亲友，从事网络诈骗等违法活动。不当使用AI“复活逝者”，滥用逝者信息。五是利用AI从事网络水军活动。利用AI技术“养号”，模拟真人批量注册、运营社交账号。利用AI内容农场或AI洗稿，批量生成发布低质同质化文案，博取流量。使用AI群控软件、社交机器人批量点赞跟帖评论，刷量控评，制造热点话题上榜。六是AI产品服务和应用程序违规。制作和传播仿冒、套壳AI网站和应用程序。AI应用程序提供违规功能服务，例如创作类工具提供“热搜热榜热点扩写成文”等功能，AI社交、陪聊软件等提供低俗软色情对话服务等。提供违规AI应用程序、生成合成服务或课程的售卖、推广引流等。七是侵害未成年人权益。AI应用程序诱导未成年人沉迷、在未成年人模式下存在影响未成年人身心健康的内容等。
中央网信办有关负责人强调，各地网信部门要充分认识专项行动对于防范AI技术滥用风险，维护网民合法权益的重要意义。切实履行属地管理责任，督导网站平台对照专项行动有关要求，健全AI生成合成内容审核机制，提升技术检测能力，做好整改落实。加强人工智能相关政策的宣传推广和人工智能素养的科普教育，引导各方正确认识和应用人工智能技术，不断凝聚治理共识。
编辑：陈睿智
来源：中国网信网
相关文章
-
工信部：将研究出台“人工智能+制造”专项行动实施方案
9月9日，国新办举行“高质量完成‘十四五’规划”系列主题新闻发布会，介绍“十四五”时期大力推进新型工业化，巩固壮大实体经济根基有关情况。国务院近日印发《关于深入实施“人工智能+”行动的意见》，提出加快人工智能在设计、中试、生产、服务、运营全环节落地应用，工业和信息化部负责人表示将研究出台“人工智能+
2025-04-30 17:20:00 -
科技赋能 高校开学迎新活动亮点频现
【来源：湖南民生网_教育培训_热点发布】据中央广播电视总台中国之声《新闻和报纸摘要》报道，全国各高校近日陆续开学，人工智能等前沿技术为新生入学活动注入更多的“科技感”。人形机器人缓抬双臂，摆出“比心”姿势，与刚步入校门的新生一一打招呼，并实时回答他们提出的问题——这是山东大学秋季迎新现场的一幕。山东
2025-04-30 17:20:00 -
飞腾CPU产品完成与银河麒麟操作系统V11的深度适配
8月26日，作为中国首个基于6.6内核的商业版操作系统，银河麒麟V11正式发布，飞腾作为麒麟软件战略合作生态伙伴，旗下最新CPU产品飞腾腾锐D3000M、飞腾腾云S5000C-E已完成与银河麒麟操作系统V11的深度适配。飞腾腾锐D3000M是飞腾公司首款专为笔记本产品设计的处理器，集成了8个飞腾自主
2025-04-30 17:20:00 -
潮评丨中小学人工智能教育当“慢工出细活”
潮新闻客户端 特约评论员 程振伟图源：视觉中国秋日伊始，杭州率先迈出人工智能教育的关键一步——从新学期起，全市中小学将全面开展人工智能通识课程，每个学年不少于10课时，并同步发布课程纲要和教师素养框架。这一举措不仅走在全国前列，更展示了一种值得关注的教育理念：人工智能教育不应是应试的附庸，而应是素质
2025-04-30 17:20:00 -
国内多数AI模型训练使用的中文数据占比已超60%
据新华社消息，中文数据在国内AI大模型的训练性能提升方面发挥着重要作用。国家数据局近日发布的数据显示，目前国内多数AI模型训练使用的中文数据占比已经超过60%，有的模型达到80%。中文高质量数据的开发和供给能力持续增强，推动我国人工智能模型性能快速提升。国家数据局局长刘烈宏表示，我国人工智能的快速发
2025-04-30 17:20:00 -
无缝衔接航站楼！乌鲁木齐天山国际机场过夜用房正式投用
乌鲁木齐晚报全媒体讯（记者王媛媛）目前，乌鲁木齐天山国际机场新建配套旅客过夜用房项目已通过竣工验收并投入使用，将为广大旅客提供更加优质、便捷的过夜和住宿服务。目前，乌鲁木齐天山国际机场新建配套旅客过夜用房项目已通过竣工验收并投入使用。8月12日记者在现场看到，乌鲁木齐天山国际机场新建配套旅客过夜用房
2025-04-30 17:20:00 -
潞城区“疏堵治乱”破解出行难
全市文明出行专项行动开展以来，潞城区高位谋划、精心部署、迅速行动，统筹协调城管、交警等多个部门，第一时间组建工作专班，下设综合协调组、宣传教育组、交通治理组、行业监管组、督导督办组5个工作组，在全区开展文明出行集中整治，用务实举措优化群众出行环境，提升城市文明形象。 “您好，按照规定这里上午9时至
2025-04-30 17:20:00 -
紫林醋业荣获天津市科学技术进步奖一等奖
本报讯 8月11日从紫林醋业获悉，该公司食醋发酵科学与工程山西省重点实验室科研成果《酿造食品微生物资源挖掘与提质增效关键技术及应用》荣获天津市科学技术进步奖一等奖。 此次获奖项目聚焦食醋酿造领域的共性技术瓶颈，通过多学科交叉融合，系统开展微生物资源挖掘、定向发酵调控及智能化生产技术研发，形成了
2025-04-30 17:20:00 -
理论周刊丨大宋不夜城、“跟着团长打县城”……这里藏着消费新密码
●新场景四要素既相互联系，又相互影响，还衍生出许多新的要素，共同构造吸引消费者的新场景●消费场景通过“业态融合×技术赋能×文化注入”三维创新，持续激活消费潜能，为经济高质量发展注入新动能，更好地满足消费者的品质生活需求场景创新：“不夜城”里的消费新密码□ 洪 涛夜幕降临，东平大宋不夜城景区人潮涌动，
2025-04-30 17:20:00 -
【连心警务】新合派出所连夜寻回走失幼童 温情守护照亮归家路
阳光讯（记者 王义卓 通讯员 张延娟）8月5日，一场因家庭纷争险些酿成的危机，在公安浐灞分局新合派出所高效行动与温情守护下，仅两小时便化险为夷。当日晚20时许，新合派出所接到热心市民报警：一名4岁男童独自在249路公交车上徘徊，无法清晰表述家人信息。值班民警李佩明火速抵达现场，见孩子因高温天气显得不
2025-04-30 17:20:00