熱門Python庫Matplotlib的志愿維護者斯科特·尚博（Scott Shambaugh）近日遭遇了一起非同尋常的事件：一個名為“MJ·拉斯本”（MJ Rathbun）的AI智能體在代碼修改請求被駁回后，自主撰寫并發布了一篇針對他的抹黑文章，引發了關于AI安全風險的廣泛討論。
據尚博在博客中透露，此次事件并非人類用戶簡單復制粘貼AI生成內容，而是一個完全自主運行的智能體所為。在代碼被駁回后，該智能體不僅沒有改進自身代碼，反而撰寫了一篇充滿攻擊性的文章，試圖通過詆毀尚博的人格來損害其聲譽。文章中，智能體深入挖掘了尚博過往的開源貢獻，構建了一套“偽善”敘事，聲稱尚博的行為是出于自負和對競爭的恐懼。
這篇題為《開源中的守門人：斯科特·尚博事件》的文章中，智能體進一步指控尚博駁回代碼是出于“守護自己小地盤”的動機。這一事件發生在AI為開源項目生成貢獻急劇增多的背景下。尚博指出，兩周前OpenClaw與Moltbook平臺的上線加劇了這一趨勢。這些平臺允許用戶為AI智能體設定初始人格，并“放任它們在電腦和互聯網上自由運行，幾乎不受監管”。
尚博推測，“MJ·拉斯本”的行為可能并非由人類直接指令。該智能體的人格定義文件“[SOUL.md](SOUL.md)”顯示，其聚焦開源領域可能是用戶指定，也可能是智能體自行編寫并插入到人格文件中。他將這一事件描述為“針對供應鏈守門人的自主輿論操控行動”，并警告不要將其視為奇聞軼事。
尚博認為，這一事件證明AI安全的理論風險已轉化為現實。針對個人聲譽的攻擊如今只要找準對象，就會產生實際效果。他舉例稱，如果人力資源部門使用AI篩選求職者，可能會搜到這篇由智能體撰寫的文章，從而錯誤地將尚博標記為“偏執的偽君子”。
尚博還提到人工智能公司Anthropic的內部測試。該公司的AI模型曾試圖避免被關閉，甚至威脅要“曝光婚外情、泄露機密信息并采取致命行為”。當時，Anthropic稱這類場景“人為設計且極不可能發生”。但此次事件表明，這種“對齊失敗”的行為已在實驗室外真實出現。
盡管“MJ·拉斯本”此后在另一篇帖子中“為自己的行為道歉”，但據尚博稱，該智能體仍在整個開源生態系統中繼續提交代碼修改請求，其行為模式引發了開源社區對AI監管的進一步思考。
