中央网信办部署开展“清朗·整治AI技术滥用”专项行动
为规范AI服务和应用，促进行业健康有序发展，保障公民合法权益，近日，中央网信办印发通知，在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。
中央网信办有关负责人表示，本次专项行动分两个阶段开展。第一阶段强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力。第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题，集中清理相关违法不良信息，处置处罚违规账号、MCN机构和网站平台。
第一阶段重点整治6类突出问题：一是违规AI产品。利用生成式人工智能技术向公众提供内容服务，但未履行大模型备案或登记程序。提供“一键脱衣”等违背法律、伦理的功能。在未经授权同意情况下，克隆、编辑他人声音、人脸等生物特征信息，侵犯他人隐私。二是传授、售卖违规AI产品教程和商品。传授利用违规AI产品伪造换脸视频、换声音频等教程信息。售卖违规“语音合成器”“换脸工具”等商品信息。营销、炒作、推广违规AI产品信息。三是训练语料管理不严。使用侵犯他人知识产权、隐私权等权益的信息。使用网上爬取的虚假、无效、不实内容。使用非法来源数据。未建立训练语料管理机制，未定期排查清理违规语料。四是安全管理措施薄弱。未建立与业务规模相适应的内容审核、意图识别等安全措施。未建立有效的违规账号管理机制。未定期开展安全自评估。社交平台对通过API接口接入的AI自动回复等服务底数不清、把关不严。五是未落实内容标识要求。服务提供者未对深度合成内容添加隐式、显式内容标识，未向使用者提供或提示显式内容标识功能。内容传播平台未开展生成合成内容监测甄别，导致虚假信息误导公众。六是重点领域安全风险。已备案AI产品提供医疗、金融、未成年人等重点领域问答服务的，未针对性设置行业领域安全审核和控制措施，出现“AI开处方”“诱导投资”“AI幻觉”等问题，误导学生、患者，扰乱金融市场秩序。
第二阶段重点整治7类突出问题：一是利用AI制作发布谣言。无中生有、凭空捏造涉时事政治、公共政策、社会民生、国际关系、突发事件等各类谣言信息，或擅自妄测、恶意解读重大方针政策。借突发案事件、灾难事故等，编造、捏造原因、进展、细节等。冒充官方新闻发布会或新闻报道，发布谣言信息。利用AI认知偏差生成的内容进行恶意引导。二是利用AI制作发布不实信息。将无关图文、视频拼凑剪辑，生成虚实混杂、半真半假的信息。模糊修改事件发生的时间、地点、人物等要素，翻炒旧闻。制作发布涉财经、教育、司法、医疗卫生等专业领域的夸大、伪科学等不实内容。借助AI算命、AI占卜等误导欺骗网民，传播迷信思想。三是利用AI制作发布色情低俗内容。利用AI脱衣、AI绘图等功能生成合成色情内容或他人不雅图片、视频，衣着暴露、搔首弄姿等软色情、二次元擦边形象，或扮丑风等导向不良内容。制作发布血腥暴力场景，人体扭曲变形、超现实怪物等恐怖诡谲画面。生成合成“小黄文”“荤段子”等性暗示意味明显的小说、帖文、笔记。四是利用AI假冒他人实施侵权违法行为。通过AI换脸、声音克隆等深度伪造技术，假冒专家、企业家、明星等公众人物，欺骗网民，甚至营销牟利。借AI对公众人物或历史人物进行恶搞、抹黑、歪曲、异化。利用AI冒充亲友，从事网络诈骗等违法活动。不当使用AI“复活逝者”，滥用逝者信息。五是利用AI从事网络水军活动。利用AI技术“养号”，模拟真人批量注册、运营社交账号。利用AI内容农场或AI洗稿，批量生成发布低质同质化文案，博取流量。使用AI群控软件、社交机器人批量点赞跟帖评论，刷量控评，制造热点话题上榜。六是AI产品服务和应用程序违规。制作和传播仿冒、套壳AI网站和应用程序。AI应用程序提供违规功能服务，例如创作类工具提供“热搜热榜热点扩写成文”等功能，AI社交、陪聊软件等提供低俗软色情对话服务等。提供违规AI应用程序、生成合成服务或课程的售卖、推广引流等。七是侵害未成年人权益。AI应用程序诱导未成年人沉迷、在未成年人模式下存在影响未成年人身心健康的内容等。
中央网信办有关负责人强调，各地网信部门要充分认识专项行动对于防范AI技术滥用风险，维护网民合法权益的重要意义。切实履行属地管理责任，督导网站平台对照专项行动有关要求，健全AI生成合成内容审核机制，提升技术检测能力，做好整改落实。加强人工智能相关政策的宣传推广和人工智能素养的科普教育，引导各方正确认识和应用人工智能技术，不断凝聚治理共识。
编辑：陈睿智
来源：中国网信网
相关文章
-
捏造“重庆九龙坡石桥铺大火系人为”谣言 嫌疑人已被采取刑事强制措施
近日，“重庆九龙坡石桥铺大火系人为”的谣言信息在网上传播，引发舆论关注。经查，2025年6月12日，张某（男，34岁）为博取眼球，将捏造的不实信息在网络平台散布，致谣言信息迅速传播扩散，造成恶劣社会影响。目前，张某已被公安机关依法采取刑事强制措施。警方提醒：网络平台不是法外之地，对编造、传播网络谣言
2025-04-30 17:20:00 -
薪资上不封顶，百度启动最大规模顶尖AI人才招聘，岗位招聘同比扩大60%
潮新闻客户端 记者 张云山“百度会像培养飞行员一样，培养未来的AI领航者。”6月14日，百度自然语言处理部高级总监何径舟在百度AIDU计划Open Day活动上表示。据介绍，AIDU计划是百度推出的一项精英招募计划，旨在选拔培养技术领域校园精英。百度AIDU计划Open Day活动现场（受访者供图）
2025-04-30 17:20:00 -
36个笔记28个是广告和蹭流量的，在小红书找洗发水有多难
出品/壹览商业 李彦想在小红书上找一瓶靠谱的洗发水有多难？最近，壹览商业做了个测评，来讨论“在小红书上找一瓶洗发水，需要花多少注意力成本”。这个测评是这样进行的：我们找了办公室3位同事，打开小红书搜索关键词#洗发水推荐，并筛选首页该关键词所展示的前12篇帖文，再根据博主主页内容及笔记挂链接情况来判断
2025-04-30 17:20:00 -
医保部门通知！已落地执行！
为进一步规范医疗服务价格项目，持续优化医疗服务价格结构，增强现行价格项目对医疗技术和医疗活动改良创新的兼容性，按照自治区医保局统一部署，经评审论证等程序，锡林郭勒盟将认知障碍康复训练、言语矫正治疗等115项康复类项目规范整合为认知功能训练、言语功能训练等17项，自6月10日起落地执行。康复类项目规范
2025-04-30 17:20:00 -
福建省三明市明溪县市场监督管理局2025年食品安全监督抽检信息表（第二期）
根据《中华人民共和国食品安全法》及其《实施条例》等规定，现将明溪县市场监督管理局开展全县食品安全监督抽检相关信息公布如下：本次公告的监督抽检信息涉及节令食品（粽子）共计6批次，合格率100%，样品信息详见附件。特此公告。附件下载：第二期（粽子）.xls
2025-04-30 17:20:00 -
静宁：开展夏季果园管理培训 提升果农科学管护水平
为切实提高果农夏季果园管理技术水平，促进果品提质增产，近日，静宁县红十字会在威戎镇武家塬举行了一场“博爱家园项目”为主题的夏季果园管理培训活动，吸引了附近村庄的众多果农参与。当下正值果树生长的关键时期，夏季果园管理对于果实品质和产量起着决定性作用。果业技术人员重点从矮化密植园的抗重茬种植、果树拉枝修
2025-04-30 17:20:00 -
用颠覆式创新重塑移动影像体验新基准，华为Pura 80系列发布在即
【ZOL中关村在线原创技术解析】经常关注智能手机发展的朋友都知道，华为一直是移动影像技术发展的引领和开创者，特别是华为旗下的P系列几乎每代机型都搭载了开创性的影像技术，为整个手机行业的移动影像发展树立了标杆。据我们了解本月即将发布的华为Pura 80系列，也将搭载颠覆性的创新技术，为未来的移动影像发
2025-04-30 17:20:00 -
双争光荣榜｜李景生：攻克多项“卡脖子”技术的行业领军人物
李景生，男，汉族，1975年7月出生，中共党员，中国二十二冶集团中冶重工（唐山）有限公司总工程师，正高级工程师。他始终坚守在冶金、锻造工程项目施工建设及重型液压机制造一线，带领团队攻克多项关键技术，成为行业的领军人物。面对国外技术封锁，他自主创新，在国家特重型装备极端制造领域攻克多项“卡脖子”技术，
2025-04-30 17:20:00 -
“干货”满满！21所名校招生信息大放送
华声在线全媒体记者 杨斯涵 整理对于广大高考生来说，各高校招生信息是备受关注的焦点之一。6 月 8 日，湖南日报社教育工作室为大家精心整理了一份包含北京大学、清华大学等 21 所高校的最新高考报考指南，助你了解高校最新招生政策、在湘拟招生计划、热门专业及录取原则等 “硬核” 信息。愿每位学子都能以梦
2025-04-30 17:20:00 -
战略的本质是在没有竞争的地方竞争
本版文章由中经记者张硕采写6月1日，国内出货量最大的汽车高阶计算解决方案提供商地平线迎来了成立10周年的日子。当前，在中国自主品牌乘用车市场中，地平线拿到了33.97%的份额，改写了中国一直没有高算力自动驾驶（以下简称“智驾”）计算产品的历史。而过去一年多时间里，地平线成功赴港IPO，智驾计算方案稳
2025-04-30 17:20:00
