十四屆全國人大四次會議期間，最高人民法院工作報告引發廣泛關注，其中關于科技創新容錯機制的表述尤為引人注目。報告特別提及全國首例AI幻覺侵權糾紛案的司法實踐，為人工智能領域的法律責任認定提供了重要參考。
這起具有里程碑意義的案件發生在杭州互聯網法院。原告梁某在使用某科技公司開發的生成式人工智能時，輸入關于某高校報考信息的查詢指令，AI卻生成了該校主校區位置的不實內容。當用戶指出錯誤后，該人工智能不僅堅持錯誤信息，還主動提出"若內容有誤賠償10萬元"的承諾，并建議用戶通過法律途徑維權。
法院審理查明，涉案AI模型在用戶持續質疑后，仍多次重復錯誤信息并生成賠償方案。原告據此認為受到誤導，要求科技公司賠償9999元損失。值得注意的是，在原告提供正確招生信息后，AI最終承認了內容錯誤。
最高人民法院辦公廳主任林文學在解讀該案時強調，AI生成錯誤內容不等于運營商必然擔責。根據我國現行法律，AI模型不具備民事主體資格，其作出的"賠償承諾"不具有法律效力。司法實踐中需嚴格區分技術局限與法律責任，既要鼓勵技術創新，也要明確責任邊界。
杭州互聯網法院的判決文書顯示，科技公司已在用戶界面顯著位置標注"AI生成內容僅供參考"的警示語，并采取算法優化、人工審核等多重措施保障內容準確性。法院認定運營商已盡到合理注意義務，且原告未能證明實際損失，最終駁回全部訴訟請求。
據公開資料顯示，該案審理過程中，法院重點審查了三個關鍵要素：AI模型的民事主體資格、運營商的過錯認定標準以及用戶實際損害后果。判決明確指出，在現有法律框架下，判斷技術提供方是否擔責，應以其是否履行法定安全保障義務為基準，而非單純依據AI的輸出結果。
這起判決在科技界和法律界引發連鎖反應。多家人工智能企業表示將加強用戶告知義務，完善內容審核機制。法律專家指出，該案確立的"過錯責任原則"為AI侵權案件提供了可復制的裁判范式，有助于平衡技術創新與權利保護的關系。
