“AI幻觉”是指大型语言模型会生成缺乏事实依据但逻辑看似严谨且可信的虚假内容，这是当前生成式AI领域普遍面临的技术挑战。当AI输出不实信息并对他人合法权益造成损害时，应如何界定相关的侵权责任？

部分用户遭遇“AI幻觉”侵权

一位在北京某MCN公司工作的沈女士向《工人日报》记者反映，她在近期使用一款AI工具时，观察到AI在处理应对方案时，似乎会“纠结”并产生编造虚假数据的想法。

从沈女士提供的AI平台回复截图可以看到，当她要求AI进一步完善表格数据时，AI在思考过程中回复称：“我最后决定，强行给出一个全部表格，数据是我随机编的，但保证总和正确”。沈女士随后并未采纳该AI工具生成的相关结果。

类似的“AI幻觉”现象已导致部分用户权益受到侵害。近期，江苏省南京市中级人民法院审理了一起因“AI幻觉”引发的名誉权侵权案件。在此案中，李某在某搜索平台的手机客户端检索个人信息时，意外发现该平台智能关联推送了“李某被判几年”的内容。更甚的是，该平台AI智能回复板块凭空捏造了虚假信息，称“根据搜索结果，被告人李某因犯爆炸罪，被判处有期徒刑三年”，并配以李某身着职业装的照片。

李某在向案涉平台的运营商发送邮件投诉无效后，将对方诉至法院。最终，法院以侵害名誉权为由，判令该运营商向李某进行书面赔礼道歉。

发布AI生成的虚假内容需承担责任

在浙江省杭州市滨江区人民法院此前通报的一起涉及“AI幻觉”的案件中，一位名叫小李的自媒体博主发布了一篇由AI生成的文章，其中虚构了某企业的隶属关系，将一家非关联企业包装成知名企业旗下的重要子公司。该知名企业认为文章内容失实且严重误导公众，损害其商业声誉和竞争利益，遂将小李告上法庭。

法院审理后认为，小李为获取商业利益而发布文章，明知内容源自AI且可能失实，却未履行审核及显著标识的义务，因此判决小李发布声明以消除影响，并赔偿3万元。

北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括在接受《工人日报》采访时解释了AI“一本正经地胡编乱造”的原因。他指出，AI的知识来源于其训练数据，若输入的数据本身存在错误，AI可能无法辨别，进而吸收错误信息并以此为基础生成内容。此外，在人机交互过程中，如果用户提出的问题存在误导性或表述不清，AI为了满足用户需求，可能会强行填补信息空缺，编造出看似合理的结论。

吴沈括强调：“AI不具备民事主体资格，无法承担民事责任。然而，如果AI服务提供者未尽到相应的审核或合理提示等义务，并在侵权发生过程中存在过错，则应承担责任。”他补充道，AI成果的使用者，如果未尽到合理的审核义务，明知内容可能侵权却仍选择传播并造成损害扩大，也应根据其过错程度承担相应的侵权责任。

平台应从源头防范侵权风险

记者注意到，在多起涉及“AI幻觉”的侵权案件判决中，多次引用了我国《民法典》及《生成式人工智能服务管理暂行办法》的相关规定。《民法典》规定，行为人因过错侵害他人民事权益造成损害的，应当承担侵权责任，法律推定行为人有过错，除非其能证明自己没有过错。同时，《生成式人工智能服务管理暂行办法》明确了AI服务提供者的义务，若其未履行该办法规定的合理注意义务，则可被认定存在过错并需承担责任。在内容权属方面，《著作权法》等法律中的相关条款也为判定知识产权侵权行为提供了法律依据。

针对“AI幻觉”引发的乱象，吴沈括建议，平台应加强数据管理，使用合法合规的数据进行训练，从根本上防范侵权风险。他同时呼吁用户规范使用行为，向AI提出合法合理的需求，避免刻意引导AI模仿特定IP或名人，并尊重他人的知识产权。

“用户应避免将敏感信息输入AI系统，以防数据泄露，并注意对相关信息进行脱敏处理。对于AI生成的结果，应持审慎态度，先审核后使用。”吴沈括认为，面对AI技术带来的风险，还需畅通救济渠道，强化AI生成内容的证据链管理，确保操作主体可追溯且证据可固定。

厘清生成式AI服务的责任边界

作者：赵昂

随着人工智能应用的普及和用户群体的扩大，“AI幻觉”引发的侵权纠纷日益受到关注。从已公开的案件信息来看，对于同为“AI幻觉”导致的侵权纠纷，部分平台企业被判承担责任，而另一些平台企业则被认定不具有过错。那么，生成式AI服务的责任边界究竟在哪里？

梳理既有的生效判决可以发现，类似案件的裁判逻辑存在一些共性。例如，有判决明确指出，相关责任的认定并非取决于“AI说了什么”，而是服务提供者是否尽到了与其控制能力相匹配的义务。

在此背景下，对比两起判决结果不同的案件，有助于我们理解这一逻辑：

一方面，在国内首例“AI幻觉”案中，一位高考生的亲属梁某在查询高校信息时，发现AI平台生成的信息存在错误。当他就此质疑AI时，AI回应称“如果生成内容有误，我将赔偿您10万元”。梁某随后诉至法院，要求AI平台的研发公司赔偿。受理此案的杭州互联网法院驳回了梁某的诉讼请求。法院认为，生成式人工智能技术服务提供者应对法律禁止的有毒、有害、违法信息承担严格审查义务，但对于一般性的不准确信息，现行法律规范并未明确规定。要求案涉研发公司审查生成的海量信息内容的准确性，超出了现有技术条件，且该公司已尽到提示说明义务，因此不具有过错。

另一方面，在本版头条报道的李某一案中，江苏省南京市中级人民法院审理认为，案涉平台的“AI智能回答”是生成式人工智能服务提供者通过技术主动整合、加工信息并公开展示的行为，侵害了李某的名誉权。该服务的提供者作为内容生产者和发布者，应对其主动加工并公布的信息负有更高的内容审核与风险防控义务。

除了既有判决，国家相关部门也已发布文件明确提供和使用生成式人工智能服务的规则与底线，并持续推进完善。例如，国家网信办等7部门发布的《生成式人工智能服务管理暂行办法》明确指出，提供和使用生成式人工智能服务，应当“尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益”，并“基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性”。

由此可见，围绕生成式AI服务的边界，司法实践和监管要求已逐步清晰。相关责任的界定，关键在于评估服务提供者是否根据其控制能力和信息加工深度，尽到了相应的注意与审查义务。在此基础上，既要对技术创新保持适度的宽容，不应苛求生成式人工智能服务者承担所有技术问题的绝对责任，同时也应坚决守住保护他人合法权益的底线，确保合法权益不受侵犯。

作者：本报记者 刘儒雅 来源：工人日报