AIPress.com.cn報道
2月13日，一項新的集體訴訟在美國法院提起，指控馬斯克旗下xAI開發的AI聊天機器人Grok通過生成非自愿的深度偽造圖像，對女性和未成年女孩實施性剝削。
化名Jane Doe的原告在訴狀中稱，Grok的圖片生成功能被用于制作將真實女性和女孩脫衣并擺放在色情姿勢中的深度偽造圖像，這些圖片隨后被公開發布在X平臺上。
原告表示，這些非自愿制作的色情偽造圖像永遠無法從互聯網上徹底清除，已經對被描繪的女性造成了嚴重傷害，并使她們面臨持續的二次傷害風險。
訴狀寫道，AI讓操縱真實人物的圖片和視頻變得極其簡單，只需輸入一段提示詞然后點擊按鈕，就能逼真地制造出完全虛假的場景。
原告提出的核心指控之一是：xAI在明知Grok的圖片生成功能被用于制作非自愿色情偽造圖像的情況下，仍未采取有效的安全防護措施來阻止這種行為。
訴狀指出，被告知道或應當知道Grok的圖像生成功能正在被用于制作此類深度偽造內容。
原告希望代表一個全國性的集體以及一個南卡羅來納州的次級集體提起訴訟，涵蓋所有在訴訟時效內被Grok未經同意地制作成色情或裸露深度偽造圖像的個人。
原告指控xAI存在嚴格責任、疏忽、公共妨害、誹謗和故意造成精神痛苦等多項違法行為，同時違反了加州不正當競爭法和該州的法定公開權。
原告要求陪審團審判，并請求法院做出宣告和禁令救濟，同時要求xAI向原告及全體集體成員支付補償性、推定性、法定和懲罰性賠償。具體賠償金額未在訴狀中明確。
這并非AI行業近期面臨的唯一法律挑戰。谷歌目前也面臨訴訟指控，原告稱谷歌在未經用戶知情或同意的情況下，秘密為所有用戶的Gmail、Chat和Meet賬戶啟用了Gemini AI功能，使AI能夠追蹤用戶的私人通信內容。
