落实中央网信办“清朗·整治AI应用乱象”专项行动第二阶段部署，上海市委网信办聚焦AI技术生成“数字泔水”、制作发布虚假信息、散播暴力低俗内容、仿冒他人、侵害未成年人权益、从事网络水军活动、违规提供AI产品服务和应用程序7类突出问题，统筹推进排查清理、合规指导、普法宣传等各项工作。第二阶段专项行动期间，上海属地网站平台共清理违法和不良信息219.3万余条，处置违规账号1.8万余个，下架违规智能体1065个。

在专项行动期间，市委网信办指导小红书、哔哩哔哩、喜马拉雅、Soul等属地音视频、网络社交平台创新推出8期“AI知识普及包”，以图文、短视频等形式深入剖析AI造假手法、黑灰产乱象，普及AI内容识别要点，将复杂的专业技术转化为通俗易懂的防范指南。网民反响积极，在平台留言称“AI套路识破指南，实用又贴心”。现将各平台“AI知识普及包”展示如下，供广大网民参考。

小红书推出3期“这些AI套路你中招了吗”知识包，围绕AI虚假信息、AI“魔改”经典、AI黑灰产等乱象开展知识普及和合规提醒，变被动处置为主动引导，维护“真实分享”的社区氛围。

哔哩哔哩以视频、图文形式发布3期知识包，内容包括“违规乱象盘点”“违规乱象举报”“三招清零违规内容”等，通过盘点AI乱象、宣传举报路径，引导用户共同抵制 AI 应用乱象。

喜马拉雅制作发布“AI反诈听诊器”科普漫画，提炼“听声音、看细节、问暗号”三招识别口诀，提升用户对AI语音克隆、AI换脸等风险的辨别能力。

Soul发布AI安全使用科普长图，总结“看标识、核来源、察异常”等识别AI伪装的实操要点，守护真实社交环境。

下一步，市委网信办将持续督促属地网站平台对照“清朗·整治AI应用乱象”专项行动要求，建立健全长效治理机制，深入整治AI生成合成违规信息、侵犯网民权益、扰乱网络秩序等乱象，努力维护清朗网络生态，推动人工智能向善向好。

原标题《清朗浦江｜看标识、核来源、察异常……上海重点平台推出AI套路识破指南》

来源：微信公众号“网信上海”