中央网信办部署开展“清朗·整治AI技术滥用”专项行动
为规范AI服务和应用，促进行业健康有序发展，保障公民合法权益，近日，中央网信办印发通知，在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。
中央网信办有关负责人表示，本次专项行动分两个阶段开展。第一阶段强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力。第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题，集中清理相关违法不良信息，处置处罚违规账号、MCN机构和网站平台。
第一阶段重点整治6类突出问题：一是违规AI产品。利用生成式人工智能技术向公众提供内容服务，但未履行大模型备案或登记程序。提供“一键脱衣”等违背法律、伦理的功能。在未经授权同意情况下，克隆、编辑他人声音、人脸等生物特征信息，侵犯他人隐私。二是传授、售卖违规AI产品教程和商品。传授利用违规AI产品伪造换脸视频、换声音频等教程信息。售卖违规“语音合成器”“换脸工具”等商品信息。营销、炒作、推广违规AI产品信息。三是训练语料管理不严。使用侵犯他人知识产权、隐私权等权益的信息。使用网上爬取的虚假、无效、不实内容。使用非法来源数据。未建立训练语料管理机制，未定期排查清理违规语料。四是安全管理措施薄弱。未建立与业务规模相适应的内容审核、意图识别等安全措施。未建立有效的违规账号管理机制。未定期开展安全自评估。社交平台对通过API接口接入的AI自动回复等服务底数不清、把关不严。五是未落实内容标识要求。服务提供者未对深度合成内容添加隐式、显式内容标识，未向使用者提供或提示显式内容标识功能。内容传播平台未开展生成合成内容监测甄别，导致虚假信息误导公众。六是重点领域安全风险。已备案AI产品提供医疗、金融、未成年人等重点领域问答服务的，未针对性设置行业领域安全审核和控制措施，出现“AI开处方”“诱导投资”“AI幻觉”等问题，误导学生、患者，扰乱金融市场秩序。
第二阶段重点整治7类突出问题：一是利用AI制作发布谣言。无中生有、凭空捏造涉时事政治、公共政策、社会民生、国际关系、突发事件等各类谣言信息，或擅自妄测、恶意解读重大方针政策。借突发案事件、灾难事故等，编造、捏造原因、进展、细节等。冒充官方新闻发布会或新闻报道，发布谣言信息。利用AI认知偏差生成的内容进行恶意引导。二是利用AI制作发布不实信息。将无关图文、视频拼凑剪辑，生成虚实混杂、半真半假的信息。模糊修改事件发生的时间、地点、人物等要素，翻炒旧闻。制作发布涉财经、教育、司法、医疗卫生等专业领域的夸大、伪科学等不实内容。借助AI算命、AI占卜等误导欺骗网民，传播迷信思想。三是利用AI制作发布色情低俗内容。利用AI脱衣、AI绘图等功能生成合成色情内容或他人不雅图片、视频，衣着暴露、搔首弄姿等软色情、二次元擦边形象，或扮丑风等导向不良内容。制作发布血腥暴力场景，人体扭曲变形、超现实怪物等恐怖诡谲画面。生成合成“小黄文”“荤段子”等性暗示意味明显的小说、帖文、笔记。四是利用AI假冒他人实施侵权违法行为。通过AI换脸、声音克隆等深度伪造技术，假冒专家、企业家、明星等公众人物，欺骗网民，甚至营销牟利。借AI对公众人物或历史人物进行恶搞、抹黑、歪曲、异化。利用AI冒充亲友，从事网络诈骗等违法活动。不当使用AI“复活逝者”，滥用逝者信息。五是利用AI从事网络水军活动。利用AI技术“养号”，模拟真人批量注册、运营社交账号。利用AI内容农场或AI洗稿，批量生成发布低质同质化文案，博取流量。使用AI群控软件、社交机器人批量点赞跟帖评论，刷量控评，制造热点话题上榜。六是AI产品服务和应用程序违规。制作和传播仿冒、套壳AI网站和应用程序。AI应用程序提供违规功能服务，例如创作类工具提供“热搜热榜热点扩写成文”等功能，AI社交、陪聊软件等提供低俗软色情对话服务等。提供违规AI应用程序、生成合成服务或课程的售卖、推广引流等。七是侵害未成年人权益。AI应用程序诱导未成年人沉迷、在未成年人模式下存在影响未成年人身心健康的内容等。
中央网信办有关负责人强调，各地网信部门要充分认识专项行动对于防范AI技术滥用风险，维护网民合法权益的重要意义。切实履行属地管理责任，督导网站平台对照专项行动有关要求，健全AI生成合成内容审核机制，提升技术检测能力，做好整改落实。加强人工智能相关政策的宣传推广和人工智能素养的科普教育，引导各方正确认识和应用人工智能技术，不断凝聚治理共识。
编辑：陈睿智
来源：中国网信网
相关文章
-
连续光变技术来了！小米16U曝重磅信息，手机影像又要革命？
随着7月的即将结束，今年的超大杯机型之战也将告一段落，在四款国产超大杯机型上，我们看到了各家为了提升影像表现做了不少努力。正当这些技术还未完全捂热时，有业内人士透露明年初发布的小米16 Ultra即将搭载连续光变技术，让手机长焦的表现再上一层楼。（图片来源：@数码闲聊站）但说实话，连续光变技术并非第
2025-04-30 17:20:00 -
世界人工智能大会有望带动AI板块升温，聚焦囊括中国AI核心资产的恒生科技指数ETF（513180）
7月28日早盘，港股三大指数集体高开，恒生指数涨0.28%，报25458.87点，恒生科指涨0.37%，国企指数涨0.25%。盘面上，科网股涨跌不一，创新药概念普遍上涨，稳定币概念股齐涨，中资券商股高开。开盘后，恒生科技指数ETF（513180）小幅上涨，持仓股中，阿里巴巴、蔚来、快手、比亚迪电子、
2025-04-30 17:20:00 -
“假如我的诊断和AI不一样，病人听谁的？”仁济院长夏强灵魂提醒别低估AI
当顶尖医生面对AI，有时会碰撞出特别的局面。中国工程院院士、上海交通大学医学院附属仁济医院院长夏强，昨天在世界人工智能大会现场分享了一个故事：不久前，他在门诊给一位病人看病，在完成所有检查、给出诊断建议后，病人说：“夏医生，您的诊断和我从AI那里查到的一模一样。”一时间，夏强不知该如何回应：“我想了
2025-04-30 17:20:00 -
太锅集团联合清华大学等合力攻关取得新突破 开辟极低热值煤矸石和煤气化低活性飞灰固废利用新路径
山西日报（记者李志江）7月18日，太原中北高新区内，一场聚焦煤炭工业煤矸石及煤气化飞灰固废处理新技术的鉴定会在此举行。在中国煤炭工业协会组织下，中国工程院院士以及国内煤炭、环境、电力行业知名专家会聚一堂，对太原锅炉集团联合清华大学、山东诺泰环保科技有限公司、北京杰创华睿科技有限公司、清华大学山西
2025-04-30 17:20:00 -
韩媒：与韩国比，中国的创新渴求更加炽热
韩国《中央日报》7月21日文章，原题：中国在创新方面的崛起凸显了韩国创业动力的减弱 在过去15年里，中国的技术变革经历了三个显著阶段——2010年、2018年以及2025年。每个阶段都愈发凸显出与韩国的鲜明对比：韩国的创业活力逐渐降温，而中国对创新的渴求则愈发炽热。2010年，广州亚运会期间，中国邀
2025-04-30 17:20:00 -
央视曝光当天，葫芦岛开展专项行动
据《葫芦岛日报》消息，7月20日，葫芦岛全市野生动物保护工作会议召开。会上，葫芦岛市自然资源局、市公安局、市市场监管局、市海洋与渔业局、市邮政管理局分别汇报了野生动物保护工作开展情况、存在的问题和下步工作安排。会议要求，要高度重视，充分认识野生动物保护的极端重要性。要坚决贯彻上级决策部署，全面加强鸟
2025-04-30 17:20:00 -
英伟达CEO黄仁勋：我嫉妒现在的年轻人，因为他们有AI陪伴一生！年轻人应该尽可能快地使用人工智能
新浪科技讯 7月17日上午消息，在第三届链博会先进制造链主题活动现场，英伟达公司创始人兼首席执行官黄仁勋与之江实验室主任、阿里云创始人王坚进行炉边谈话。现场，黄仁勋表示，人工智能使计算机变得非常强大，今天每一个年轻人应该尽可能快地使用人工智能这是新的计算机，因为它会真正赋予你力量。“我嫉妒年轻一代，
2025-04-30 17:20:00 -
推进系统性变革 实现数智化发展——第四届中国报业创新发展大会侧记
7月15日，由国家新闻出版署主办，以“推进系统性变革 实现数智化发展”为主题的第四届中国报业创新发展大会在浙江杭州召开。潮新闻记者 胡元勇 董旭明 魏志阳 摄弄潮搏浪，向新而进。7月15日，以“推进系统性变革 实现数智化发展”为主题的第四届中国报业创新发展大会在美丽的西子湖畔拉开序幕。来自各省级党委
2025-04-30 17:20:00 -
世界青年技能日 数字化口腔国际集训基地在津落成
7月15日——在联合国命名的“世界青年技能日”到来之际，天津市2025年世界青年技能日主题活动暨第48届世界技能大赛口腔修复工艺项目国际交流赛在天津医学高等专科学校拉开帷幕。来自14个国家和地区的世赛官员、专家及青年选手齐聚一堂，共同见证口腔修复工艺领域国际协作平台的诞生与前沿技能的精彩展示。
2025-04-30 17:20:00 -
华为申请策略组管理相关专利，降低策略组更新操作的成本
金融界2025年7月12日消息，国家知识产权局信息显示，华为技术有限公司申请一项名为“策略组管理方法、装置和系统”的专利，公开号CN120301772A，申请日期为2024年01月。专利摘要显示，本申请提供了一种策略组的管理方法，其特征在于，应用于网络功能虚拟化管理编排NFV-MANO架构中，该方法
2025-04-30 17:20:00