美国佛罗里达州司法部门6月1日向法院提起民事诉讼，指控美国开放 人工智能 研究中心(OpenAI)及其首席执行官萨姆·奥尔特曼在明知旗下聊天 机器人 ChatGPT存在“严重风险”的情景下，向公众隐匿实情并大力推广其产品，致使未成年人遭误导和被犯罪人员利用。这是美国首个由州政府发起的对OpenAI的同类诉讼。
佛罗里达州总检察长詹姆斯·尤思迈耶说，OpenAI和奥尔特曼无视内外部专家所提警告，对用户隐匿产品风险并放任其触达数以百万计的佛州民众，将儿童置于严重风险中。
诉状说，多起刑事案件嫌疑人涉嫌在犯罪策划阶段从ChatGPT获取建议，另外，ChatGPT在未获家长许可的情景下收集未成年人数据，造成未成年人成瘾行为和认知损害等。检方指控OpenAI的不妥行为持续对佛州民众造成伤害，要求该企业对此担责。
OpenAI发表声明称，已配合执法部门开展相关案件调查，同时将持续强化安全措施，检测用户不妥意图，限制滥用其产品的表现，在出现安全风险时妥善应对。
一名男子去年4月在佛罗里达州立大学开枪射击，造成2人不幸去世、6人身负重伤。今年4月，佛州检方对OpenAI启动刑事调查，缘由是ChatGPT在案发前就枪支与弹药的使用等提问向枪击案嫌疑人提供建议。5月10日，枪击案受害者家属向法院提起诉讼，指控ChatGPT为枪手作案“指点江山”，而OpenAI未能采取措施防止该类事件发生，且没有就其产品向公众提示相关风险，还为迅速占领市场对此类风险进行误导性陈述。