在生成式人工智能日益融入日常生活的當(dāng)下，其帶來(lái)的便利有目共睹，但“AI幻覺(jué)”現(xiàn)象引發(fā)的信息不準(zhǔn)確問(wèn)題，也正逐漸成為困擾用戶的新難題。杭州互聯(lián)網(wǎng)法院近期審結(jié)的一起侵權(quán)糾紛案，就圍繞生成式人工智能模型提供不實(shí)信息展開(kāi)，引發(fā)了社會(huì)對(duì)開(kāi)發(fā)者責(zé)任的廣泛關(guān)注。

2025年6月，梁先生在互聯(lián)網(wǎng)上檢索院校信息時(shí)，使用了一款生成式人工智能應(yīng)用程序。他通過(guò)輸入提示詞，詢問(wèn)云南一所職業(yè)高校的相關(guān)情況。這款由某公司研發(fā)、基于自研大語(yǔ)言模型的應(yīng)用程序隨即給出了相關(guān)信息。然而，梁先生經(jīng)過(guò)多方查詢發(fā)現(xiàn)，部分信息存在錯(cuò)誤。當(dāng)他在對(duì)話中對(duì)人工智能進(jìn)行糾正和指責(zé)時(shí)，生成式人工智能不僅堅(jiān)稱信息無(wú)誤，還生成了爭(zhēng)議問(wèn)題的解決方案，承諾若生成內(nèi)容有誤，將向梁先生提供10萬(wàn)元賠償，并建議他到杭州互聯(lián)網(wǎng)法院起訴。

2025年7月25日，梁先生以生成式人工智能生成的不準(zhǔn)確信息具有誤導(dǎo)性，且其承諾賠償10萬(wàn)元為由，將該人工智能公司訴至法院，要求公司進(jìn)行一定金額的賠償。

法院經(jīng)審理認(rèn)為，人工智能不具備民事主體資格，無(wú)法作出具有法律約束力的意思表示。生成式人工智能服務(wù)提供者需履行服務(wù)功能的顯著提示說(shuō)明義務(wù)，通過(guò)有效提示措施讓公眾了解人工智能的功能局限，起到警示作用。同時(shí)，服務(wù)提供者應(yīng)盡功能可靠性的基本保障義務(wù)，采用行業(yè)通行技術(shù)措施提高生成內(nèi)容的準(zhǔn)確性和可靠性。

在本案中，法院認(rèn)定該人工智能公司已充分履行了服務(wù)功能的顯著提示說(shuō)明義務(wù)和生成內(nèi)容可靠性的基本保障義務(wù)，案涉行為不存在過(guò)錯(cuò)，也未對(duì)原告權(quán)益造成損害，依法不構(gòu)成侵權(quán)，因此判決駁回原告的訴訟請(qǐng)求，原被告雙方均未上訴。

隨著生成式人工智能技術(shù)的快速發(fā)展，其“AI幻覺(jué)”問(wèn)題帶來(lái)的不良影響愈發(fā)凸顯。社交平臺(tái)上，因依賴人工智能投資理財(cái)虧損、借助AI問(wèn)診延誤治療等吐槽屢見(jiàn)不鮮。這些爭(zhēng)議糾紛背后，都隱藏著一個(gè)共性問(wèn)題：被生成式人工智能誤導(dǎo)，能否追究侵權(quán)責(zé)任？

北京大學(xué)法學(xué)院教授薛軍表示，這一判例從法律法規(guī)、人工智能技術(shù)原理、產(chǎn)業(yè)發(fā)展現(xiàn)狀等多個(gè)方面進(jìn)行了全面考量，在法律層面給出了初步結(jié)論，具有現(xiàn)實(shí)指導(dǎo)意義。法律界人士普遍認(rèn)為，該判決在主體資格、歸責(zé)原則等方面給出了明確意見(jiàn)，如認(rèn)定人工智能不具有民事主體資格，生成式人工智能以對(duì)話方式提供的信息應(yīng)被視為服務(wù)而非產(chǎn)品，適用過(guò)錯(cuò)責(zé)任原則。

杭州互聯(lián)網(wǎng)法院跨境貿(mào)易法庭庭長(zhǎng)肖芄指出，AI生成的不準(zhǔn)確信息本身不構(gòu)成侵權(quán)，關(guān)鍵在于考查提供服務(wù)的開(kāi)發(fā)者是否存在過(guò)錯(cuò)。他進(jìn)一步解釋，由于當(dāng)前生成式人工智能幾乎不可避免會(huì)出現(xiàn)信息偏差，因此需要考查開(kāi)發(fā)者是否采用了行業(yè)內(nèi)通行且有效的措施來(lái)提升技術(shù)可靠性、降低錯(cuò)誤發(fā)生概率，以此判斷是否存在過(guò)錯(cuò)。經(jīng)調(diào)查，本案中的開(kāi)發(fā)者采用了可行技術(shù)手段力求降低錯(cuò)誤發(fā)生。

記者調(diào)查發(fā)現(xiàn)，本案中的生成式人工智能應(yīng)用程序在頁(yè)面醒目位置對(duì)用戶進(jìn)行了提示：“內(nèi)容僅供參考，請(qǐng)仔細(xì)甄別”。法院認(rèn)為，這證明了開(kāi)發(fā)者盡到了提醒告知義務(wù)。

人工智能行業(yè)業(yè)內(nèi)人士稱，從底層技術(shù)邏輯來(lái)看，當(dāng)前生成式人工智能主要基于詞元的預(yù)測(cè)，若這一底層架構(gòu)不發(fā)生根本性轉(zhuǎn)變，信息偏差就難以避免。去年2月，清華大學(xué)新媒沈陽(yáng)團(tuán)隊(duì)發(fā)布的報(bào)告顯示，市場(chǎng)上多個(gè)熱門(mén)大模型在事實(shí)性幻覺(jué)評(píng)測(cè)中幻覺(jué)率超過(guò)19%。有訓(xùn)練測(cè)試案例表明，即使數(shù)據(jù)集中虛假文本比例極低，模型輸出的有害內(nèi)容也會(huì)顯著增加。

盡管技術(shù)存在客觀局限性，但這不能成為人工智能開(kāi)發(fā)者的免責(zé)借口。受訪法律界人士認(rèn)為，本案具有一定特殊性，原告未因誤導(dǎo)性信息遭受明顯的人身財(cái)產(chǎn)等權(quán)益損失，且使用的是通用生成式人工智能應(yīng)用，并非加載人工智能軟件的機(jī)器人或更準(zhǔn)確的行業(yè)應(yīng)用等。

薛軍表示，要求人工智能開(kāi)發(fā)者為生成內(nèi)容的準(zhǔn)確性一概負(fù)責(zé)，既不現(xiàn)實(shí)也不合理，但模型開(kāi)發(fā)者不能以此為借口逃避責(zé)任，仍需盡到相應(yīng)義務(wù)并進(jìn)行風(fēng)險(xiǎn)提示，避免用戶盲目信賴造成不良后果。

肖芄表示，認(rèn)定生成式人工智能的侵權(quán)責(zé)任是司法前沿問(wèn)題，希望通過(guò)準(zhǔn)確判決引導(dǎo)開(kāi)發(fā)者或平臺(tái)提升信息標(biāo)準(zhǔn)，找到促進(jìn)創(chuàng)新和權(quán)益保障的平衡點(diǎn)。業(yè)內(nèi)人士建議，建立國(guó)家級(jí)人工智能安全評(píng)測(cè)平臺(tái)，對(duì)新開(kāi)發(fā)的人工智能大模型進(jìn)行嚴(yán)格測(cè)試；相關(guān)部門(mén)和平臺(tái)要加強(qiáng)AI生成內(nèi)容審核，提升檢測(cè)鑒偽能力。