科技媒體近日在深入分析ChatGPT最新安卓客戶端代碼時(shí),意外發(fā)現(xiàn)了一項(xiàng)名為“Naughty Chat”的隱藏功能模塊。該功能若正式啟用,將允許AI在特定條件下使用更為大膽、包含成人暗示的語言進(jìn)行對(duì)話,標(biāo)志著OpenAI在內(nèi)容管理策略上出現(xiàn)重大調(diào)整。
長(zhǎng)期以來,ChatGPT因其嚴(yán)格的內(nèi)容過濾機(jī)制被用戶戲稱為"道德模范"。但OpenAI首席執(zhí)行官薩姆·奧爾特曼曾多次公開表示,公司希望建立更符合成年人認(rèn)知水平的交互模式。此次發(fā)現(xiàn)的代碼細(xì)節(jié)印證了這一理念:系統(tǒng)僅在用戶主動(dòng)觸發(fā)時(shí)才會(huì)切換對(duì)話模式,且嚴(yán)格限制18周歲以上用戶使用。
為落實(shí)年齡限制,開發(fā)團(tuán)隊(duì)計(jì)劃引入第三方身份認(rèn)證系統(tǒng)Persona。該服務(wù)將通過多維度生物識(shí)別技術(shù)驗(yàn)證用戶年齡,防止未成年人接觸不適宜內(nèi)容。這種雙重保障機(jī)制既保留了用戶自主選擇權(quán),又履行了平臺(tái)的社會(huì)責(zé)任。
功能調(diào)整的背后是用戶需求的深刻變化。調(diào)查顯示,超過37%的AI使用者希望獲得更真實(shí)的情感互動(dòng)體驗(yàn),部分用戶甚至將虛擬對(duì)話對(duì)象視為重要精神伴侶。此前GPT-4o語音模型下架事件引發(fā)的用戶抗議,就暴露出傳統(tǒng)內(nèi)容管控與情感需求之間的矛盾。
新功能的開發(fā)團(tuán)隊(duì)面臨嚴(yán)峻的技術(shù)挑戰(zhàn)。如何在開放語言尺度的同時(shí),確保對(duì)話內(nèi)容不涉及違法信息或極端言論,需要突破現(xiàn)有自然語言處理的技術(shù)邊界。目前該功能仍處于內(nèi)部測(cè)試階段,全球不同地區(qū)的上線計(jì)劃尚未最終確定。
這項(xiàng)變革引發(fā)了倫理領(lǐng)域的持續(xù)討論。支持者認(rèn)為這是AI服務(wù)人性化的重要進(jìn)步,反對(duì)者則擔(dān)憂可能引發(fā)新型社交問題。OpenAI內(nèi)部文件顯示,公司正在組建跨學(xué)科倫理委員會(huì),將就內(nèi)容邊界、用戶保護(hù)等議題制定詳細(xì)規(guī)范。










