【经济学】生成俊男美女虚假形象骗互动，抖音治理不当使用AI生成虚拟人物

　　新京报贝壳财经讯 3月27日，抖音安全中心发布消息称，去年，抖音发布《关于 人工智能 生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、对上坑骗,对下隐瞒、诽谤传谣的内容。

　　近期平台发现，站内仍有不妥使用AI技术生成虚拟人物发布内容的账号，平台进行了严厉处置。

　　其中典型行为包含：

　　1、生成境外虚假人设，消费爱国心理、博取关注。用虚假外国人的光辉形象，以想嫁给中国、想到中国生活、评价社会事件等言论博取眼球。

　　2、生成俊男美女虚假形象，诈骗互动，交友导流。直接称用户为“你”“娘”“妈妈”“老公”等，发布情感诱导、唱情歌、为你谋福利等表达虚假情感的内容，将用户导流至私人聊天工具，甚至进行诈骗。

　　3、生成精英人士虚假人设，发布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容，低质吸粉，甚至引流到站外以卖课、入群等方式获取利益。

　　针对违规使用AI生成虚拟人物的表现，平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置，并利用模型、技术识别能力等行径，进行长期全面的识别发现和处置。同时，平台已掌握部分黑产团伙不妥使用AI生成虚拟人物用于犯罪的线索，将报警打击。

　　 人工智能 技术的快速发展，丰富了互联网内容生态，但也造成技术滥用的挑战。平台重申，创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式 人工智能 技术时，须遵循以下规范：

　　1、发布者应对 人工智能 生成内容进行明显标识，帮助其它用户区分虚拟与现实，尤其是易混淆场景。

　　2、发布者需对 人工智能 生成内容引发的相应后果负责，不管内容是怎样生成的。

　　3、虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。

　　4、禁止利用生成式 人工智能 技术创作、发布侵权内容，包含但不限于肖像权、 知识产权 等。一经发现，平台将严格处罚。

　　5、禁止利用生成式 人工智能 技术创作、发布违背科学常识、对上坑骗,对下隐瞒、诽谤传谣的内容。一经发现，平台将严格处罚。

　　治理违规内容是抖音的长期工作，平台号召广大用户共同监督，如发现不妥使用 人工智能 生成内容的情景，可以在站内举报或发送详情至举报邮箱：feedback@douyin.com，平台将在最短的时间核对处理。