商业洞察

【生成式AI】被点名后哩布哩布AI回应 - 将持续完善内容安全机制

查看信息来源】   4-15 10:30:00  

  在媒体对生成式AI内容安全问题进行报道后,哩布哩布AI作出回应。4月14日,公司表示,已第壹时间启动内部自查,并推进相关技术整改,对已识别问题完成修复,同时对审核策略与模型能力进行了优化升级。

  据哩布哩布方面介绍,本次排查主要聚焦复杂提示词组合等界限场景。在个别情境下,原有审核机制存在识别不充分的问题,造成部分生成结果偏离平台规范。目前相关问题已完成修复,并通过策略优化进一步收紧内容安全界限。

  业内人士认为,随着生成式AI技术的持续发展,围绕提示词界限的识别与治理,已成为行业共同面对的挑战,各平台均在持续推进攻防测试与安全体系建设。此次事件也引发了外界对AI内容治理能力的进一步关注。

  哩布哩布方面表示,已就相关情况与主管部门保持沟通,并将根据监管要求持续完善合规与治理机制,保障平台运行平稳有序。

  公开信息显示,哩布哩布AI近期在用户规模与产品能力方面保持增长。公司表示,将以此次事件为契机,加大在内容安全与基础能力方面的投入,在保障用户创作体验的同时,持续提升平台治理能力,推动业务稳健发展。

繁体中文