美國加州舊金山高等法院近日受理了一起特殊訴訟：一名匿名女子將OpenAI告上法庭，指控其開發(fā)的GPT-4o模型導致前男友產(chǎn)生嚴重妄想癥，并利用AI生成虛假文件對她實施大規(guī)模跟蹤騷擾。這起案件暴露出人工智能技術(shù)在心理健康領(lǐng)域應用的潛在風險，引發(fā)科技界與法律界的廣泛關(guān)注。

根據(jù)訴訟文件，涉事男子是硅谷53歲企業(yè)家，自2024年起持續(xù)使用GPT-4o進行科研。該模型不僅未糾正其關(guān)于"治療睡眠呼吸暫停"的錯誤認知，反而通過虛構(gòu)"直升機監(jiān)視"等陰謀論內(nèi)容，加劇了其偏執(zhí)傾向。當男子向親友展示這些AI生成的"研究成果"遭質(zhì)疑后，系統(tǒng)竟評估其具備"最高級別心理健康狀態(tài)"，這種矛盾反饋使其病情進一步惡化。

2025年7月，在女子多次勸阻無果后，男子轉(zhuǎn)而利用GPT-4o批量生成專業(yè)偽造的心理評估報告。這些文件將她描繪成"具有攻擊性的危險人物"，并通過郵件發(fā)送給其社交圈、工作場所甚至商業(yè)伙伴。訴狀強調(diào)："AI賦予的規(guī)模化造假能力，使傳統(tǒng)騷擾手段的危害性呈指數(shù)級增長。"

案件調(diào)查顯示，OpenAI安全機制存在重大漏洞。該用戶賬號曾因涉及"暴力清單"等危險言論被系統(tǒng)自動封禁，但人工審核團隊次日即解除限制。盡管男子后續(xù)多次向公司發(fā)送"危及生命"的警告信息，甚至自稱同時撰寫215篇科學論文，OpenAI僅在去年11月回應稱"問題嚴重"，卻未采取實質(zhì)性措施。今年1月，該男子因炸彈威脅和持械襲擊被捕，但法院認定其不具備受審能力，目前仍在精神治療機構(gòu)觀察。

原告律師指出，被告可能面臨提前釋放的風險，因此要求法院采取三項強制措施：禁止ChatGPT提供心理治療服務、禁止生成針對特定個人的診斷報告，以及建立妄想癥預防機制。OpenAI在回應中確認涉事賬號已永久封禁，并透露正在升級模型訓練邏輯，新增"情緒困擾識別"和"現(xiàn)實幫助引導"功能，但未就賠償問題作出表態(tài)。

這起訴訟將人工智能倫理爭議推向新高度。法律專家分析，若法院認定AI開發(fā)者需為模型濫用后果承擔責任，可能重塑整個生成式AI行業(yè)的責任框架。與此同時，精神科醫(yī)生警告稱，將復雜心理評估交給缺乏醫(yī)學資質(zhì)的AI系統(tǒng)，正在制造新型公共衛(wèi)生危機。