京沪两地网信部门近日公布整治AI技术滥用的阶段性进展。这些进展涵盖清理违规AI产品、强化AI内容标识等方面，基本上对标了中央网信办4月底专项行动第一阶段的任务清单。

中央网信办此前将为期3个月的“清朗·整治AI技术滥用”专项行动划分为两个阶段：第一阶段强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力；第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题。

据“网信北京”“网信上海”公众号分别于6月11日和6月12日发布的信息，在违规产品整治上，微博清理传播教授AI换脸教程类内容162条，关闭账号22个，清理分享售卖违规AI产品类有害信息234条，关闭账号52个；抖音清理AI生成的虚假信息、低俗内容等24749条等。此前5月19日，抖音发起关于“AI起号”的专项治理行动，重点整治利用AI生成低俗猎奇视频、引导规避平台AI标注等行为。

上海市委网信办则指导小红书、哔哩哔哩、拼多多等15家重点网站平台，集中清理“一键脱衣”、未经授权的人脸或人声克隆编辑、未备案等违规AI产品、商品及相关营销、炒作、推广、教程信息。小红书、哔哩哔哩开通有害AI内容的举报受理处置渠道；MiniMax旗下AI陪伴产品星野开展智能体全面排查清理。各重点网站和AI平台共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个。

在训练语料治理上，百度对存量数据进行整体清洗，使用211个权威网站的正能量数据源；百川智能停止使用存在疑问的数据来源，制定严格的网络爬取规范，确保数据合规合法。

而在医疗、金融、未成年人等重点领域的风险防控上，针对“AI荐股”，智谱明确禁止生成具体股票推荐、基金购买建议，避免诱导高风险投资；快手对医疗回答明确标注“不替代专业医疗建议”。未成年人保护方面，猿辅导背后的猿力科技对未成年人提问进行分级审核，仅允许教育类内容生成；小米通过实名认证和年龄校验，限制未成年人使用AI生成暴力内容等敏感功能。

AI内容标识管理亦是监管工作的重中之重。3月14日，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》，将于今年9月1日起施行。新规为AI平台、社交内容平台、应用商店和用户四类主体分别设定了AI内容的标识义务，并将AI生成合成内容标识分为显式标识和隐式标识。与之配套的强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》同时出台。

南都记者注意到，为推动上述AI内容标识新规和国家标准的落地，上海、广东、重庆等多地近期密集开展AI生成合成内容标识政策法规宣讲。

讯飞星火大模型生成的一张图片，在右下角添加AI生成标识。

落地情况来看，官方信息显示，北京市目前已有近60家企业已落实标识要求；微博、抖音等平台实现生成内容“显著标识+元数据水印”双标注。

上海属地企业方面，MiniMax、阶跃星辰、通义、小红书、哔哩哔哩、Soul等已基本完成显式标识规范上线，加快开发上线隐式标识和传播链互认验证；小红书牵头编制图片模态元数据标识实践指南。此外，上海网信部门还在5月中旬指导成立AIGC标识生态联盟，推进标识互认、能力共享与标准协同。小红书、MiniMax等均是该联盟的成员。

文|杨柳