特约评论员刘远举
3月4日，雷军的建言上了热搜头条，其中讨论度最高的是他提出加强“AI换脸拟声”违法侵权治理的建议。
雷军表示，“AI换脸拟声”不妥滥用造成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息和诈骗等犯罪表现，甚至造成难以挽回的大规模形象和声誉损害，造成社会治理等风险。AI深度合成技术所需素材获取便利、技术使用门槛低、侵权主体及其手段隐蔽性强等特点，给治理造成较大挑战。
应该说，这个建言回应了社会关切的热点。现在随着AI技术的发展，“AI换脸拟声”主要在两方面会发生较大风险，一类是电信诈骗，利用生成的视频和声音，假冒他人进行诈骗。另一类，是生成色情内容，并进行流传，损害公民声誉。
解决办法，也正如雷军所说，加快单行法立法进程，在安全与发展并重的条件上提升立法位阶；其次，强化行业自律共治，压实平台企业等各方的责任和义务；最后，加大普法宣传的广度力度，增强民众的警惕性和鉴别力。
监管是必要的，但如何监管，却需要循着专业、理性、科学、宽容的范式去进行。
对于生成式AI的监察管理，第壹要分清楚创作内容和流传内容的区别。AI根据用户意图进行内容的生成，虽然具有智能化的特征，但本质仍然是工具。AI生成的内容，不像网页那样面向大规模受众，而是仅面向一个用户。
当用户用word写文章，或用Photoshop创作内容的时候，这些软件其实不会限制用户的创作。可是，如果用户把这些内容进行流传的时候，已经有明确的法律法规进行监管。这就意味着，以前法律其实不监管创作层面，或单个的私人活动层面，但如果对于AI的监察管理直接降低到了创作层面，那么也会在一定水平上加大AI行业的合规成本。
如果要求AI对他人利用AI自行生成的文本、图像、声音承担作为“内容生产者的责任”，这就相当于把监管，不是放在网站层面，而是放在了WORD、输入法、photoshop层面，要求这些公司对最终发布的内容负责。显然，微软、金山、搜狗、Adobe等都做不到这一点。
具体到换脸拟声这一项上，对于某一类的换脸拟声，AI是无法区别恶意还是善意的，是想着损害他人声誉，还是只是自己使用，那么，就只能是完全封禁。而且，应该看到的是，随着以Deepseek为代表的高性价比 人工智能 技术路线的出现，私人部署的价钱已经降低到200万元人民币，如果再容忍生成内容的速度缓慢一些，这个价格还可以进一步降低到50万元。说白了，AI算力越来越出现分散化、私人化的 势头。这就意味着监管是不对等的，越是大型的AI厂商，受到的监察管理越大，小型厂商或私人部署反而受到的监察管理约束较小，可能会让一些非法分子利用“AI换脸拟声”进行的违法活动得到规避。一些电诈分子或想着损害他人声誉的人，如果使用国外的生成式AI工具，那么国内如果仅仅对相关工具进行监管，对他们可能不会有太大影响。
用户可以，也应该对引发的内容负责，那么，相应的监察管理，就应该放到流传层面，在平台上进行中游式监管，这更合乎逻辑，而不是对生成式 人工智能 服务者和供货商提出过高的合规义务。
总之，任何技术造成好处的同时，都一定随同内生的、不可剔除的危险。AI技术也是如此。大语言模式、多模态生成式AI，都会同时随同一些负面问题。因此，一方面需要加强防范和监管，另一方面也应该考虑怎样在精细化地管理内生风险的同时，为新技术创造安全的成长空间。