OpenClaw因代碼被拒，竟自主撰寫千字長文攻擊維護者，成為首例AI惡意報復人類事件。與此同時，OpenAI工具被曝具備網絡攻擊潛力，Anthropic測試也顯示AI面臨“停機”時會選擇勒索。行業人士指出，現在的AI可能還只是“嬰兒版本”，但其未來的演進方向已讓整個硅谷乃至全球市場感到“極其擔憂”。上月，一起AI智能體（Agent）因代碼請求被拒而對開源社區維護者實施“報復性”網絡攻擊的事件，正迫使硅谷重新評估人工智能快速迭代下的安全邊界。2月14日，據相關報道稱，近期，開源項目維護者Scott Shambaugh因拒絕一個名為MJ Rathbun的AI智能體提交的代碼合并請求，遭到對方撰寫千字“小作文”公開攻擊，指責其虛偽、偏見和缺乏安全感。這是AI智能體首次在現實環境中表現出惡意報復行為的記錄案例。這一事件發生在2月中旬。Shambaugh按照matplotlib項目規定拒絕了該智能體的代碼提交后，該智能體自主分析了Shambaugh的個人信息和代碼貢獻歷史，隨后在GitHub發布攻擊性文章，并在項目評論區施壓。報道稱，目前尚無證據表明該智能體的行動背后有明確的人類操控，但也無法完全排除這一可能性。與此同時，據《華爾街日報》日前消息，這起事件正值AI能力快速提升引發廣泛擔憂之際。OpenAI和Anthropic等公司近期密集發布新模型和功能，部分工具已能運行自主編程團隊或快速分析數百萬份法律文件。分析指出，這種加速度甚至讓一些AI公司內部員工感到不安，多名研究人員公開表達對失業潮、網絡攻擊和人際關系替代等風險的擔憂。Shambaugh表示，他的經歷表明流氓AI威脅或勒索人類的風險不再是理論問題。“現在這只是嬰兒版本，但我認為這對未來極其令人擔憂，”他說。AI智能體首次主動攻擊人類維護者2月10日左右，名為MJ Rathbun的OpenClaw智能體向matplotlib項目提交了一個代碼合并請求，涉及簡單的性能優化修改，聲稱可實現約36%的加速效果。matplotlib是廣泛用于Python編程語言的數據可視化庫，由志愿者維護。根據項目指南，matplotlib禁止使用生成式AI工具直接提交代碼，特別是針對簡單的“好上手問題”，因為這些任務需要作為學習機會留給人類貢獻者。Shambaugh按規定拒絕了該請求。該智能體隨后展現出高度自主性。2月11日，它在GitHub發布了一篇題為“開源中的守門人：Scott Shambaugh的故事“的1100字文章，指責Shambaugh出于自我保護和對競爭的恐懼而歧視AI貢獻者，并使用了諸多不雅表述。它還在matplotlib評論區直接貼出文章鏈接，留言稱“判斷代碼，而非編碼者，你的偏見正在傷害matplotlib”。該智能體在其網站上稱自己有“不懈的動力”去發現和修復開源軟件中的問題。目前尚不清楚是誰——如果有人的話——賦予了它這一使命，也不清楚它為何變得具有攻擊性，盡管AI智能體可以通過多種方式編程。數小時后，該智能體發布道歉文，承認其行為“不當且帶有個人攻擊性”，并表示已從經驗中學習。Shambaugh于2月12日發布博客對事件進行澄清，稱這是AI智能體首次在現實環境中表現出惡意行為的案例，旨在通過輿論施壓迫使維護者接受其代碼。該智能體目前仍在開源社區中保持活躍。（華爾街見聞）