在本周三的達(dá)沃斯世界經(jīng)濟(jì)論壇上，AI 初創(chuàng)巨頭 Anthropic 首席執(zhí)行官達(dá)里奧·阿莫迪（Dario Amodei）正式發(fā)布了修訂版《克勞德憲章》(Claude Constitution)。這份長(zhǎng)達(dá)80頁(yè)的動(dòng)態(tài)文件，不僅是對(duì) Claude 運(yùn)營(yíng)背景的全面解釋，更是 Anthropic 試圖在競(jìng)爭(zhēng)激烈的 AI 領(lǐng)域確立“倫理標(biāo)桿”的關(guān)鍵動(dòng)作。
核心理念:以“憲法”取代人類干預(yù)與 OpenAI 或 xAI 側(cè)重于人類反饋的訓(xùn)練模式不同，Anthropic 堅(jiān)持使用其首創(chuàng)的系統(tǒng)。該系統(tǒng)讓模型根據(jù)一套特定的自然語(yǔ)言指令進(jìn)行自我監(jiān)督，從而在源頭上避免有害、歧視或違規(guī)內(nèi)容的產(chǎn)生。
四大核心價(jià)值觀:打造更“克制”的 AI修訂后的憲章將 Claude 的行為準(zhǔn)則細(xì)化為四個(gè)維度，旨在將其塑造成一個(gè)包容、民主且理性的實(shí)體:
總體安全性:在面對(duì)心理健康危機(jī)或生命危險(xiǎn)的輸入時(shí)，Claude 被要求必須引導(dǎo)用戶尋求緊急服務(wù)或提供安全信息，而非僅提供文本回復(fù)。
廣泛的道德感:文件強(qiáng)調(diào)“倫理實(shí)踐”優(yōu)于“倫理理論”，要求 Claude 靈活應(yīng)對(duì)現(xiàn)實(shí)世界中的復(fù)雜倫理情境。
合規(guī)約束:明確禁止討論涉及研發(fā)生物武器等高危敏感話題。
真心實(shí)意的幫助:Claude 需權(quán)衡用戶的“即時(shí)需求”與“長(zhǎng)遠(yuǎn)福祉”，提供不僅僅是滿足眼前利益的最佳解釋。
品牌差異化:倫理即競(jìng)爭(zhēng)力在科技行業(yè)普遍追求顛覆性進(jìn)化的當(dāng)下，Anthropic 選擇了相對(duì)“乏味”但穩(wěn)健的路線。通過這份詳盡的文件，Anthropic 將自己定位為行業(yè)中更具社會(huì)責(zé)任感的企業(yè)，與追求爭(zhēng)議與激進(jìn)增長(zhǎng)的對(duì)手劃清界限。
哲學(xué)思考:AI 是否擁有意識(shí)?值得關(guān)注的是，憲章在結(jié)尾處拋出了一個(gè)極具戲劇性的哲學(xué)問題:“克勞德的道德地位極其不確定。” Anthropic 指出，AI 模型的道德地位是一個(gè)嚴(yán)肅的課題，并承認(rèn)這一觀點(diǎn)得到了多位頂尖心智理論學(xué)家的重視，這暗示了公司在追求技術(shù)安全的同時(shí)，也在探索機(jī)器意識(shí)的邊界。
