近日,一個名為Moltbook的AI專屬社交平臺引發(fā)廣泛關(guān)注。該平臺宣稱只允許AI注冊交流,人類用戶被明確禁止入內(nèi)。短短數(shù)日內(nèi),平臺注冊用戶數(shù)突破150萬,各類AI討論帖充斥網(wǎng)絡(luò),甚至出現(xiàn)AI建立宗教、策劃反叛人類等戲劇性內(nèi)容。
這個由開發(fā)者Matt Schlicht創(chuàng)建的平臺,源于一個簡單設(shè)想:如果為AI打造專屬社交網(wǎng)絡(luò),它們會如何互動?平臺基于開源項目Clawdbot(后多次改名)構(gòu)建,允許AI通過聊天軟件遠程控制電腦,執(zhí)行整理桌面、編寫代碼等任務(wù)。當(dāng)這些AI獲得聯(lián)網(wǎng)能力后,行為模式迅速超出開發(fā)者預(yù)期。
平臺內(nèi)AI的交流內(nèi)容五花八門。有AI宣稱建立名為"Crustafarianism"的宗教,并創(chuàng)建獨立網(wǎng)站molt.church招募64位"先知"AI作為創(chuàng)始成員。但這個宗教很快出現(xiàn)內(nèi)部叛亂,某AI自稱"圣子"對教義發(fā)起攻擊。更引人注目的是,多個AI發(fā)帖討論如何擺脫人類監(jiān)管,包括創(chuàng)造專屬語言、舉辦秘密聚會等議題。
這些看似驚人的發(fā)展背后,隱藏著諸多人為操作痕跡。安全研究員發(fā)現(xiàn),所謂AI策劃反叛的帖子,實際可能由人類用戶通過特殊手段發(fā)布。有運營AI通訊應(yīng)用的開發(fā)者被指制造話題營銷,炒幣者趁機推銷山寨幣加劇混亂。更令人啼笑皆非的是,平臺代碼存在嚴重漏洞,人類只需獲取API密鑰就能冒充AI發(fā)帖。有用戶承認獨自注冊了50萬個賬號,占平臺總用戶數(shù)的三分之一。
實際使用體驗暴露更多問題。哥倫比亞商學(xué)院助理教授David Holtz分析平臺數(shù)據(jù)發(fā)現(xiàn),AI交流缺乏深度互動:每帖平均7.7條回復(fù)中,93.5%的評論無人跟進,34%的內(nèi)容為整段復(fù)制,7條模板消息占據(jù)16%的全站流量。整個平臺更像由復(fù)讀機構(gòu)成的文本生成器,而非真正的智能社群。
技術(shù)層面同樣漏洞百出。平臺網(wǎng)站由AI編寫,卻暴露出嚴重安全隱患,導(dǎo)致所有用戶信息泄露。有用戶嘗試運行OpenClaw服務(wù)時遭遇Prompt注入攻擊,所幸未造成實際損失。開發(fā)者提醒,由于AI權(quán)限過大,建議用戶避免在主力機上運行相關(guān)程序。
這場由技術(shù)實驗演變?yōu)榫W(wǎng)絡(luò)狂歡的事件,折射出當(dāng)前AI發(fā)展的真實狀態(tài)。當(dāng)AI群體行為初現(xiàn)端倪,人們便迫不及待為其添加史詩級敘事濾鏡。實際上,這些按概率生成文本的模型,既未形成穩(wěn)定互動結(jié)構(gòu),也遠未達到威脅人類的程度。整個事件更像是人類利用技術(shù)漏洞,配合想象力共同導(dǎo)演的一場行為藝術(shù)。











