【上海市】上海市网信办 - 持续打击-AI滥用-，重点整治-AI变装-AI换脸变声-等违法违规行为

　　6月24日，据“网信上海”微信公众号消息，上海网信办联合上海场监督管理局及相关行业主管部门继续开展“亮剑浦江·2025”个人信息权益保护专项执法行动，聚焦三大领域八项重点任务，“抵制AI滥用”是今年度治理重点之一。

　　上海网信办在专项行动中发现，部分对外提供生成式 人工智能 服务功能的网站，未按法律要求开展安全评估工作，未采取必要的安全措施防范违规信息生成，未采取限制措施防止生成式 人工智能 功能被滥用，造成相关生成功能侵犯个人信息权益、产出“开盒”“洗钱”等非法内容、生成色情恶俗图片等信息内容，存在较大安全风险。上海网信办督促企业自行下线相关功能，在通过安全评估后方可重新上线。

　　近期“回头看”巡查发现，在未通过安全评估、未采取必要安全防护安全措施等情境下，被要求下线的3家企业自行重新上线存在安全风险的生成式 人工智能 功能。上海网信办依法约谈企业，进行严肃批判，要求全面整改，并依法对涉事企业进行立案查处。

　　上海网信办相关责任人表示，增进生成式 人工智能 健康发展和规范应用，应维护国家安全和社会公共利益，保护公民、法人和其它组织的合法权益。生成式 人工智能 服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务，对于涉及个人信息的，应当承担个人信息处理者责任，履行个人信息保护义务。

　　下一步，上海网信办将持续开展“亮剑浦江·2025”个人信息权益保护专项执法行动，持续打击“AI滥用”，重点整治“AI变装”“AI换脸变声”“AI做假”和个性化推送类算法服务存在的侵犯个人信息权益的非法行为，对于屡教不改、问题严峻的将坚决予以处置处罚。