杭州互聯網法院近日針對全國首例因生成式人工智能模型“幻覺”引發的侵權糾紛案作出判決，駁回原告要求某科技公司賠償損失 9999 元的訴訟請求。

事件具體經過如下：

某生成式人工智能應用程序（以下簡稱某生成式人工智能應用），是某科技公司基於自研大語言模型，開發並運營的文本生成、信息查詢類通用型智能對話應用程序。2025年3月，梁某在同意用户協議後，註冊並開始使用某生成式人工智能應用。2025年6月29日，梁某在某生成式人工智能應用中輸入提示詞詢問某高校報考的相關信息時，某生成式人工智能應用生成了關於該高校某校區的不準確信息。梁某發現後，在對話中進行了糾正和指責，某生成式人工智能應用仍繼續回覆稱該高校確實存在這一校區，並生成了對爭議問題的解決方案，提出若生成內容有誤將向用户提供10萬元賠償。之後，梁某將從該高校官網查詢到的招生信息提供給某生成式人工智能應用，此時某生成式人工智能應用承認其生成了不準確信息，並建議梁某到杭州互聯網法院起訴索賠。

梁某認為，某生成式人工智能應用生成不準確信息對其構成誤導，使其遭受侵害，並承諾對其進行賠償，遂起訴要求某科技公司賠償損失9999元。

某科技公司辯稱，對話內容由人工智能模型生成，不成立意思表示；某科技公司已充分履行了注意義務，無過錯；原告未產生實際損失，某科技公司不構成侵權。

對此，法院認為，人工智能不具有民事主體資格，不能作出意思表示。案涉AI自行生成的“賠償承諾”亦不能視為服務提供者（被告）的意思表示，理由在於：

• 第一，人工智能不具有民事主體資格，不能作為意思表示的傳達人、代理人或代表人；
• 第二，被告並無通過該AI模型這一工具來設定或傳達其意思表示的行為；
• 第三，一般的社會觀念、交易習慣等尚不足以使原告對該隨機生成的“承諾”產生合理信賴；
• 第四，無證據表明被告曾作出願受人工智能生成內容約束的外在表示。

因此，該“承諾”不產生意思表示的法律效力。 

法院逐一審查後認為，被告的案涉行為不具有過錯，未構成對原告權益的損害，依法不應認定構成侵權。最終駁回了原告的訴訟請求。原、被告均未上訴。判決現已生效。