圖注：奧特曼
鳳凰網科技訊 北京時間3月26日，據《金融時報》報道，OpenAI已“無限期”擱置了一款情色聊天機器人的發布計劃，以重新聚焦核心產品。此前，OpenAI員工與投資者已對情色AI內容可能對社會產生的影響感到擔憂。
據多位知情人士透露，OpenAI已推遲發布其“成人模式”，內部曾討論是否徹底放棄該模型。眼下，這款情色聊天機器人面臨越來越大的反對聲音。人們擔心它可能促使用戶對AI系統產生不健康的依賴，并使未成年人接觸到有問題的色情內容。
OpenAI證實，這款情色模型已被擱置，暫無發布時間表。這家估值達7300億美元的AI公司表示，在做出產品決策之前，希望先對情色聊天以及情感依戀的影響進行長期研究，并承認目前尚無“經驗證據”。
此舉標志著OpenAI決定放棄被高管們稱為“非核心業務”的項目，轉而將資源投入到生產力工具上，計劃將代碼助手、ChatGPT等產品整合為一款“超級應用”。
據兩位知情人士稱，OpenAI在“成人模式”上的嘗試曾引發部分投資者的不安，因為這類產品存在風險，對其業務的回報卻相對有限。
OpenAI的成人模式也引發了內部員工的擔憂，后者質疑：開發一個鼓勵浪漫用途的產品，是否與其“確保AI造福全人類”的創始使命相沖突。
“AI不應該取代你的朋友或家人，人類之間才應該有情感聯系。”一位OpenAI前高級員工表示。該員工稱，其離職的部分原因正是這一問題。
除了對該項目的社會影響擔憂不斷上升之外，OpenAI在打造成人模式方面也面臨技術挑戰。兩位知情人士表示，OpenAI在訓練AI模型時遇到了困難。這些模型此前出于安全考慮一直避免此類對話，現在卻要訓練其生成露骨內容。他們補充稱，使用包含情色內容的數據集面臨諸多挑戰，包括如何剔除亂倫等非法行為。
過去幾個月里，在多名青少年家庭提起訴訟、聲稱ChatGPT對其造成傷害后，OpenAI推出了一套新的年齡預測系統。據一位知情人士透露，該技術的錯誤率超過10%，這加劇了人們對未成年人接觸相關內容的擔憂。《華爾街日報》率先報道了這一錯誤率，并指出OpenAI的身心健康專家咨詢委員會曾對這款成人產品表示擔憂。(作者/簫雨)
更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱鳳凰網科技。想看深度報道，請微信搜索“鳳凰網科技”。
