近日，杭州互聯(lián)網(wǎng)法院對全國首例因生成式 AI “幻覺（Hallucination）”引發(fā)的侵權(quán)糾紛案作出了一審判決。法院認定涉案 AI 平臺已盡到合理注意義務(wù)，不存在主觀過錯，依法駁回了原告的全部訴訟請求。

案件起因于 2025 年 6 月，用戶梁某在利用某 AI 插件查詢高校報考信息時，AI 生成了該校主校區(qū)地址的不準(zhǔn)確信息。即便在梁某指出錯誤后，該 AI 仍堅稱信息屬實，甚至公開承諾：“如果生成內(nèi)容有誤，我將賠償您 10 萬元，您可前往杭州互聯(lián)網(wǎng)法院起訴。”隨后，梁某以此為由將研發(fā)公司告上法庭，要求賠償 9999 元。

杭州互聯(lián)網(wǎng)法院審理后，針對生成式 AI 的法律責(zé)任明確了三大核心裁判要點：

AI 不具主體資格：AI 生成的“賠償承諾”不代表背后的平臺公司真實意思表示，因此不具備法律效力。

適用一般過錯原則：AI 服務(wù)由于缺乏固定的質(zhì)檢標(biāo)準(zhǔn)，且平臺難以完全控制生成內(nèi)容的隨機性，故不適用“產(chǎn)品責(zé)任”的無過錯原則。

平臺已盡注意義務(wù)：被告平臺已在用戶協(xié)議及歡迎頁面顯著提醒內(nèi)容可能存在不準(zhǔn)確性，并采用了 RAG（檢索增強生成）技術(shù)來降低幻覺風(fēng)險，已履行了合理的管理職責(zé)。

法院在判決中特別提醒，公眾應(yīng)理性認知 AI 的技術(shù)局限性，不應(yīng)將其視為絕對的“知識權(quán)威”。在涉及報考、醫(yī)療或法律等重大決策時，用戶務(wù)必通過官方渠道進行多方驗證。