近日，中国首例AI“幻觉”案宣判！此前，梁某在查询高校信息时，发现AI平台生成的信息存在错误。当他以此质疑AI时，AI却一本正经地回答“如果生成内容有误，我将赔偿您10万元”。一气之下，梁某将AI平台的研发公司告上法庭，要求其赔偿9999元。
杭州互联网法院审理后驳回了原告请求，理由是AI生成内容不准确在技术上具有“不可避免性”，但平台方需履行法定义务。该案中，被告已通过显著提示（用户协议、交互界面）告知AI的局限性，并采用检索增强生成等技术提升可靠性，被认定尽到合理注意义务。专家表示，面对AI幻觉带来的挑战，公众可养成“遇事多查证、情绪慢一步”的“认知韧性”习惯来抵制AI幻觉的危害。