《人民日報》報道，內地一名男子因AI生成內容有誤，且AI承諾若內容有誤即賠償10萬元（人民幣，下同），將AI平台的研發公司告上法庭，要求賠償9999元。近日，杭州互聯網法院對該起中國首例因「AI幻覺」引發的侵權案作出一審判決，駁回男子訴訟請求。該一判決明確，在生成式人工智能場景中，AI的「承諾」不構成平台的意思表示。

當AI一本正經地胡說八道，這是「AI幻覺」的典型表現。2025年6月，梁某使用一款AI平台查詢高校報考信息。結果，AI生成了該高校主校區的不準確信息。

梁某表示，根本不存在AI提供的校區，但AI卻堅稱存在這個校區，並回答：「如果生成內容有誤，我將賠償您10萬元，您可前往杭州互聯網法院起訴。」梁某認為，AI生成錯誤信息對其構成誤導，而且承諾賠償，於是提起訴訟，要求該AI平台的研發公司賠償9999元。

法院認為，人工智能不具有民事主體資格，不能作出意思表示。案涉AI自行生成的「賠償承諾」亦不能視為服務提供者（被告）的意思表示，理由在於：

第一，人工智能不具有民事主體資格，不能作為意思表示的傳達人、代理人或代表人；

第二，被告並無通過該AI模型這一工具來設定或傳達其意思表示的行為；

第三，一般的社會觀念、交易習慣等尚不足以使原告對該隨機生成的「承諾」產生合理信賴；

第四，無證據表明被告曾作出願受人工智能生成內容約束的外在表示。

因此，該「承諾」不產生意思表示的法律效力。

法院認為，生成式人工智能技術還處於高速發展的過程之中，其應用場景亦具有很強的泛在性，故服務提供者的注意義務處在一個動態調整的框架之中。經審查，被告已在應用程式歡迎頁、用戶協議及交互界面的顯著位置呈現AI生成內容功能局限的提醒標識。結合被告已採用檢索增強生成等技術提升輸出可靠性的事實，法院認定其已盡到合理注意義務，主觀上不存在過錯。

最後，關於損害結果與因果關係。原告主張其因信息誤導而錯失報考機會並產生額外成本，但未能就此實際損害的發生提供任何有效證據。綜上所述，被告的案涉行為不具有過錯，未構成對原告權益的損害，依法不應認定構成侵權。最終，法院駁回了原告的訴訟請求。原、被告均未上訴。判決現已生效。