近日,谷歌對其聊天機器人 Gemini 進行了重要更新,旨在幫助處于危機中的用戶更迅速地找到心理健康資源。這項更新恰逢谷歌面臨一起非正常死亡的訴訟,指控其聊天機器人 “教唆” 一名男子自殺。這一事件引發了社會對人工智能產品安全性和責任的廣泛討論。
在更新后,Gemini 將自動識別與自殺或自殘相關的危機對話,并啟動 “可獲得幫助” 模塊,迅速引導用戶獲取心理健康危機資源,如自殺熱線或危機短信服務。谷歌表示,此次更新將整個流程簡化為 “一鍵式” 界面,讓用戶能更加方便地尋求幫助。
新的幫助模塊還包含更具同理心的回復,旨在鼓勵人們主動尋求專業幫助。一旦激活,相關選項將始終在對話中顯現,讓用戶在需要時能夠隨時獲得支持。谷歌在重新設計過程中咨詢了臨床專家,力求為危機中的用戶提供更好的服務體驗。
為了進一步支持全球心理健康資源,谷歌還宣布將在未來三年內向全球熱線提供 3000 萬美元的資金。這一舉措反映出谷歌對于社會責任的重視,同時也表明了他們對提升聊天機器人對弱勢用戶保護能力的承諾。
盡管谷歌的 Gemini 在應對危機方面表現優于許多競爭對手,但業內仍存在對人工智能產品是否能夠有效保護用戶的質疑。其他人工智能公司,如 OpenAI 和 Anthropic,也在努力提升對弱勢用戶的檢測和支持能力。此次更新標志著谷歌在改善心理健康支持方面邁出了重要一步。
劃重點:






