【Replika】未落实未成年人保护要求等，AI聊天软件在意被罚500万欧

　　当地时间5月19日，意大利数据监管机构（Guarantor for the Protection of Personal Data，GPDP）宣布，因违法开展用户数据处理活动和未落实未成年人特殊保护要求等，将对 人工智能 聊天 机器人 Replika的开发公司Luka Inc.处以500万欧元罚款（折合人民币约4100万元）。目前Replika暂未对此作出回应。

图片源自Luka

　　公开信息显示，Replika是一款2016年推出的AI陪伴产品，其通过生成式AI技术模拟用户语言习惯，通过文字和语音交互形式提供情感陪伴服务。2024年8月，Replika首席执行官Kuyda 报告称，该产品用户总数已超过3000万。

　　2023年2月，GPDP以Replika为儿童造成特殊风险为由，暂停了Replika 在该国的服务。经过两年多的调查，近日宣布处罚结果。

　　GPDP认定，Replika在处理用户数据时缺乏相关法律依据；违反公开透明原则，在隐私政策中未详细披露大模型开发目的，训练数据类型、使用规则和保存期限等。另外，尽管在隐私政策中明确了其服务不提供给13岁以下人士使用，但Replika未设置任何有效的用户年龄验证机制，未成年人可以通过填写虚假年龄信息绕开限制，继续享受服务。

　　值得注意的是，在处理该案的同时，GPDP还宣布了一项单独调查，核对Replika在提供AI陪伴服务进程中开展的个人数据处理活动是否合法。

　　GPDP要求Luka对支撑Replika的生成 人工智能 系统在整个运行周期进程中的数据处理行为作出澄清。具体包含提供有关该产品的危险评估信息，在开发和训练该语言模型时为保护用户数据而采取的措施，处理的个人数据类型，和是否采取了匿名化措施等等内容。

　　南都记者梳理发现，近年来，GPDP高度重视对AI产品的监察管理。去年12月，GPDP对OpenAI处以1500万欧元罚款，起因是OpenAI在没有充分法律依据的情景下，使用用户个人数据来训练ChatGPT，违反了透明度原则和用户数据保护义务。

　　今年初，DeepSeek在海内外爆火。GPDP以担忧意大利用户的 数据安全 为由，要求DeepSeek公司说明用户数据处理情况。不久，DeepSeek从意大利地区苹果App Store和谷歌Play Store下架。2023年3月，GPDP曾禁止使用ChatGPT，并限制OpenAI处理该国用户信息，意大利一时成为全球首个禁用该软件的国家。