随着AI功能被越来越多地引入手术设备，与AI设备相关的医疗事故也开始增多。
根据美国FDA的记录，从五官科手术设备到心脏监护仪器，过去几年里报告了上百起由软件、算法或程序等诸多问题引发的医疗不良事件和设备故障。
这些事故也引发了患者诉讼。其中，一款由Acclarent公司开发的用于慢性鼻窦炎治疗的手术设备受到关注。该设备自2021年加入 人工智能 辅助导航技术以来，报告的病患事故发生率明显增高。在2021年末至2025年11月期间，至少有10人在接受这款手术设备的治疗后受伤。据了解，AI导航系统错误地告知外科医师手术器械在患者头部内的位置。
在一起事故中，一名病患的脑脊液从鼻腔渗出；另一起报告则显示，一名外科医师在AI导航功能辅助下误刺穿了病患的颅底。还有两名在手术中意外中风的病患对此提起诉讼。
Acclarent曾为强生医疗科技旗下公司，于20十年被强生以近8亿美元的价钱收购，不过到2023年底，强生以不到3亿美元的价钱出售给医疗公司Integra。Integra公司在回应相关事件时表示，这些报告仅表明在发生不良事件的手术中使用了AI导航系统，但没有任何可信的证据表明是由于AI技术的使用造成了患者受伤，两者没有明确的因果关联。
在FDA的记录中，还包含数十份涉及其它 人工智能 增强型设备的报告，其中包含一款心脏监护仪和一款产前超声设备。至少有16份报告声称，医疗器械巨头美敦力公司的AI辅助心脏监护仪未能识别异常心律。对此，美敦力公司回应称，部分事件与数据显示问题有关，因用户操作不妥造成，而非 人工智能 技术本身的问题。
另据报告显示，三星子公司三星麦迪逊（Samsung Medison）旗下一款用于产前超声检查的AI软件会错误识别胎儿的身体部位。但三星麦迪逊回应称，这些报告未造成患者安全事故，FDA也未要求公司采取行动。
目前，这些医疗事故调查仍在进行中。在美国，已经有上千种使用 人工智能 的医疗器械获得美国食品药品监督管理局（FDA）的批准。这也凸显了随着 人工智能 技术的普及，医疗事故责任认定问题的重要性。
多位临床专家向第壹财经记者指出，很多 人工智能 技术引入手术设备，起到的是辅助人类医师的作用，医师作为决策者，仍需要对医疗行为负责。
一位心血管专家对第壹财经记者表示，除了用于手术设备的导航系统等AI技术之外，AI大模型进入医疗领域更值得关注。在部分医院的病历系统中， 人工智能 大模型已经开始帮助医师实现转录病历等工作，从而大幅节省医师的工作量。但这也造成了新的挑战和风险。
中国科学院院士、复旦大学附属中山医院心内科主任葛均波就曾表示：“ 人工智能 有时也会‘冠冕堂皇地瞎说’。如果 人工智能 接收到的输入信息是错误或信息里有杂质，它会顺着你往错误的方向走下去，可是责任还是由医师来承担。医师对于技术的使用仍然需要保持谨慎，做好‘把关人’的角色。”