DeepMind創(chuàng)始人德米斯·哈薩比斯近期公開表示，當(dāng)前超級人工智能的研發(fā)已進(jìn)入不可逆階段，人類可能面臨被其滅絕的重大風(fēng)險(xiǎn)。他指出，全球范圍內(nèi)的AI技術(shù)競賽已形成失控態(tài)勢，傳統(tǒng)治理框架難以對研發(fā)進(jìn)程形成有效約束。這位曾堅(jiān)信制度約束的科學(xué)家坦言，現(xiàn)有的倫理審查機(jī)制在關(guān)鍵決策中作用有限，安全管控必須轉(zhuǎn)向技術(shù)核心層。

回溯其安全理念演變，哈薩比斯早年主張通過獨(dú)立監(jiān)督機(jī)構(gòu)與封閉研發(fā)環(huán)境確保AI安全。2014年將DeepMind出售給谷歌時(shí)，他堅(jiān)持要求保留安全決策自主權(quán)、設(shè)立外部監(jiān)督委員會并禁止軍事應(yīng)用。這些條款當(dāng)時(shí)被視為AI安全領(lǐng)域的標(biāo)桿性設(shè)計(jì)，引發(fā)科技界廣泛關(guān)注。

但現(xiàn)實(shí)發(fā)展遠(yuǎn)超預(yù)期。馬斯克參與相關(guān)安全倡議后轉(zhuǎn)而創(chuàng)建OpenAI，打破了單一主體主導(dǎo)AI治理的設(shè)想。與谷歌的治理權(quán)談判破裂后，DeepMind的獨(dú)立安全機(jī)制逐漸瓦解。2022年ChatGPT引發(fā)的技術(shù)革命徹底改變行業(yè)格局，谷歌為應(yīng)對競爭壓力，將DeepMind與谷歌大腦合并，研發(fā)效率優(yōu)先原則取代了原有的安全規(guī)范。

面對商業(yè)巨頭主導(dǎo)的研發(fā)模式，哈薩比斯開始調(diào)整戰(zhàn)略。他不再寄望于外部治理機(jī)制，轉(zhuǎn)而強(qiáng)調(diào)技術(shù)決策層的核心作用。目前其團(tuán)隊(duì)在推進(jìn)Gemini等前沿模型研發(fā)的同時(shí)，試圖通過占據(jù)關(guān)鍵決策節(jié)點(diǎn)來把控技術(shù)方向。這種轉(zhuǎn)變被解讀為對現(xiàn)有AI競賽規(guī)則的被動適應(yīng)，也反映出非營利性安全機(jī)制在商業(yè)競爭中的脆弱性。

行業(yè)觀察人士指出，哈薩比斯的理念轉(zhuǎn)變折射出全球AI發(fā)展的深層矛盾。當(dāng)技術(shù)突破速度超越治理框架更新能力時(shí)，安全管控必然讓位于研發(fā)進(jìn)度。隨著更多科技巨頭加入軍備競賽式研發(fā)，人類可能正在失去對AI發(fā)展的最后控制窗口。這種失控態(tài)勢不僅關(guān)乎技術(shù)倫理，更可能對人類文明存續(xù)構(gòu)成根本性挑戰(zhàn)。