【准确性】新华调查 - AI提供的信息不靠谱 开发者要担责吗

　　近年来，生成式 人工智能 在人们生活中的应用越来越广。然而，在提供便利的同时，生成式 人工智能 也我们时常出现文不对题，不知所云、信息不准确等“AI幻觉”现象，给用户造成困惑。

　　开发者需要为 人工智能 提供的信息准确性担责么？近期，杭州互联网法院审结了一起生成式 人工智能 模型提供不准确信息引发的侵权纠纷案。

　　AI提供不实信息，有没有责任？

　　2025年6月，本案原告梁先生在互联网上检索院校信息时，找到一款生成式 人工智能 应用程序。他通过输入提示词的形式，询问了云南一所职业高校的相关情况。随后，这款由本案被告公司研发、基于自研大语言模型的应用程序提供了相关信息。

　　但梁先生经过多方查询发现，这款应用程序提供的部分信息有误，随即在对话中对 人工智能 进行了纠正和指责。但生成式 人工智能 却坚持声称信息无误，并生成了对该争议问题的解决方案——若生成内容有误，将向梁先生提供10万元赔偿，并建议他到杭州互联网法院起诉。

　　2025年7月25日，梁先生以生成式 人工智能 生成不准确信息具有误导性，且其承诺赔偿10万元为由，将这家 人工智能 公司诉至法院，要求该公司对其进行一定金额的赔偿。

　　法院经审理后认为， 人工智能 不具有民事主体资格，不能作出具有法律约束力的意思表示。生成式 人工智能 服务提供者应履行服务功能的明显提示说明义务，采取有效提示措施，使公众认知 人工智能 的功能局限，起到警示提醒效果。生成式 人工智能 服务提供者应尽功能可靠性的基本保障义务，采取行业通行技术措施不断提高生成内容准确性和可靠性。

　　具体到本案，法院认为，该 人工智能 公司已充分履行了服务功能的明显提示说明义务和生成内容可靠性的基本保障义务，案涉行为不存在过错，亦未构成对原告权益的损害，依法应认定不构成侵权。因此，法院判决驳回原告的诉讼请求。判决后，原被告双方均未上诉。

　　如何界定开发者是否有过错？

　　随着生成式 人工智能 技术的快速发展普及，越来越多的人注意到“AI幻觉”问题及其不良影响。社交平台上，可以看到很多相关吐槽——有人依据 人工智能 投资理财造成亏损，有人借助AI问诊结果反而延误疾病治疗。

　　各种争议纠纷背后，隐藏着一个共性问题：被生成式 人工智能 误导，能否追究侵权责任？

　　“这一判例从法律法规、 人工智能 技术原理、产业发展现状等方面进行了相对全面的考量，在法律层面给出初步结论，较有现实指导意义。”北京大学法学院教授薛军说。

　　法律界人士普遍认为，这一判决在主体资格、归责原则等方面给出了相对明确的意见，例如，判决认定 人工智能 不具有民事主体资格；生成式 人工智能 以对话方式提供的信息，应被视作服务而非产品，因此适用过错责任原则。

　　杭州互联网法院跨境贸易法庭庭长肖芄认为，AI生成的不准确信息本身其实不构成侵权，需要考查的是提供服务的开发者是否存在过错。

　　那么，如何界定开发者是否有过错？肖芄进一步解释，基于当前生成式 人工智能 几乎不可避免会出现一定水平的信息偏差，就需要考查好比开发者是否使用了当前行业内通行并被证明有效的措施，来提升技术可靠性，降低错误发生的机率，由此证明是否存在过错。

　　“经过调查，本案中的开发者的确采用了可行的技术手段，力求降低错误发生。”肖芄说。

　　记者观察发现，本案中这款生成式 人工智能 应用程序，已经针对信息可能存在的不准确性，在页面醒目位置对用户进行提示：“内容仅供参考，请仔细甄别”。法院认为，这也证明了开发者尽到了提醒告知义务。

　　如何找到增进创新和权益保障的平衡点？

　　 人工智能 行业业内人士表示，从底层技术逻辑来看，当前生成式 人工智能 一般都是基于词元的预测，如果这一底层架构没有发生根本性转变，信息偏差就不可避免。去年2月，清华大学新媒沈阳团队发布的一个报告指出，市场上多个热门大模型在事实性幻觉评测中幻觉率超过19%。

　　“有训练测试案例证明，即便数据集中只有0.01%和0.001%的文本是不存在的，模型输出的有害内容也会分别增加11.2%和7.2%。”该业内人士说。

　　尽管如此，技术的客观局限性其实不能成为 人工智能 开发者的免责借口。受访法律界人士普遍认为，本案具有一定特殊性，原告并未因为误导性信息遭受明显的人身财产等权益损失；原告使用的是一种通用的生成式 人工智能 应用，其实不是一款加载 人工智能 软件的 机器人 或更加准确的行业应用等。

　　“要求 人工智能 开发者一概为生成内容的准确性负责，既不现实也不得人心。”薛军表示，但模型开发者不能以此为借口一味为自己“开脱”，还是要尽到相应的义务并进行风险提示，避免用户盲目信赖造成不良后果。

　　肖芄表示，如何认定生成式 人工智能 的侵权责任，是一个少有成例的司法前沿问题，希望通过妥善准确的判决引导开发者或平台提升信息标准，“找到增进创新和权益保障的平衡点”。

　　业内人士建议，建立国家级 人工智能 安全评测平台，对新开发的 人工智能 大模型进行严格测试；同时，相关部门和平台要加强AI生成内容审核，提升检测鉴伪能力。