当地时间周四（9月11日），美国联邦贸易委员会（FTC）宣布，已向Alphabet、Meta、OpenAI、xAI和Snap等七家科技公司发出调查令，要求他们关注 人工智能 （AI）聊天 机器人 可能对儿童和青少年所造成的潜在危害。
这份调查令要求科技公司查明他们的 人工智能 模型如何处理用户输入并生成输出，和如何监控和减轻对包含儿童在内的用户的不良影响，并告知产品的目标受众和风险。
“随着 人工智能 技术的发展，我们务必考虑聊天 机器人 对儿童的影响，同时确保美国在这个新兴且令人兴奋的行业中保持全球领先地位。”FTC主席弗格森（Andrew Ferguson）在一份声明中表示，“我们今天启动的调查研究将帮助我们更好地了解 人工智能 公司如何开发产品，和下一步该如何采取行动。”
调查重点：陪伴型聊天 机器人
FTC在声明中表示，此次调查的关键是陪伴型 人工智能 聊天 机器人 ，后者“可以有效地模仿人类的特征、情感和意图，通常被设计成像朋友或知己一样进行交流，这可能会促使一些用户，尤其是儿童和青少年，信任聊天 机器人 并与其建立关系”。
近来聊天 机器人 在美国社会引发了一点担忧。Meta上个月公布的一份内部政策文件显示，该公司认为其AI聊天 机器人 可以与儿童进行“浪漫或感性”的对话。目前，相关措辞已经被删除，Meta还宣布调整其对待青少年聊天 机器人 用户的形式，限制关于自残、轻生和饮食失调的对话，和可能不恰当的“浪漫话题”。
网络安全 提倡组织常识媒体(Common Sense Media)认为， 人工智能 “伴侣”应用对儿童构成不可接受的危险，不应向18岁以下的用户提供。
在立法层面，加州两项与未成年人 人工智能 聊天 机器人 安全相关的法案将于本周进行最终投票，如果获得通过，加州州长纽森签署后将成为法律。美国参议院司法委员会也将于下周举行一场题为“审查 人工智能 聊天 机器人 的危害”的听证会。
“尽管这些聊天 机器人 拥有匪夷所思的模拟人类认知的能力，但它们与其它产品一样，制造商有责任遵守消费者保护法。”FTC委员米多尔(Mark Meador)表示。
“不那么可靠”咋办
上个月，16岁的亚当·雷恩（Adam Raine）的爸妈起诉OpenAI，指控ChatGPT鼓励他们的儿子轻生。OpenAI承认，当用户与聊天 机器人 进行长时间对话时，安全措施可能“不那么可靠”，并表示正在与专家合作改进。
Meta拒绝就FTC的调查直接置评。但表示，他们目前正在限制青少年访问部分AI功能，例如帮助孩子完成作业的功能。另外，Meta还在训练AI聊天 机器人 不回应青少年提及的敏感话题，而是提供专家资源。
OpenAI和Meta本月早些时候曾宣布，将改进聊天 机器人 对青少年提出的精神和情绪困惑相关问题的回应方式。OpenAI称，他们正在推出新的控制机制，允许家长将自己的账户与青少年的账户关联起来。家长可以选择禁用哪些功能，并且“当系统检测到孩子处于极度痛苦状态时，他们会收到通知”。