2月12日消息，據TC報道，OpenAI解散了一個團隊，該團隊專注于確保其人工智能系統“安全、值得信賴，并始終與人類價值觀保持一致”（正如該公司自己所描述的那樣）。與此同時，該團隊的前負責人被任命為公司的“首席未來學家”。

OpenAI 向 TechCrunch 證實，該團隊成員已被分配到其他崗位。Platformer最先報道了這一消息。

據稱，該已解散的團隊成立于2024年9月，是這家初創公司內部專門負責“一致性”研究的部門。“一致性”是業內一個廣泛的研究領域，旨在確保人工智能的行為符合人類利益。

OpenAI 的 Alignment Research 博客上的一篇文章宣稱： “我們希望這些系統能夠在復雜的現實世界場景和對抗條件下始終遵循人類的意圖，避免災難性行為，并保持可控性、可審計性，并與人類價值觀保持一致。”

OpenAI發布的 Alignment 團隊招聘啟事稱，該團隊致力于人工智能研究，重點是“開發能夠使人工智能在各種場景（包括對抗性或高風險場景）中穩健地遵循人類意圖的方法”。

在周三發表的一篇博文中，OpenAI前Alignment團隊負責人喬什·阿奇亞姆(Josh Achiam)解釋了他擔任公司首席未來學家的新角色。“我的目標是通過研究世界將如何因人工智能、通用人工智能以及未來的發展而改變，來支持OpenAI的使命——確保通用人工智能造福全人類，”阿奇亞姆寫道。

阿奇亞姆指出，在他的新職位上，他將與 OpenAI 技術人員中的物理學家杰森·普魯特合作。

OpenAI 的一位發言人表示，Alignment 團隊的其他成員——六七人——已被重新分配到公司其他部門。該發言人無法透露這些團隊成員的具體去向，但表示他們在新崗位上從事類似的工作。目前還不清楚 Achiam 是否會組建新的團隊，作為其“未來學家”角色的一部分。

發言人將球隊解散歸因于快速發展的公司內部發生的例行重組。

OpenAI 之前曾有一個所謂的“超級聯盟團隊”，該團隊成立于 2023 年，專注于研究人工智能帶來的長期生存威脅，但該團隊于 2024 年解散。

阿奇亞姆的個人網站仍然顯示他是 OpenAI 的使命協調負責人，并稱他致力于確保“人類的長期未來是美好的”。他的LinkedIn 個人資料顯示，他自 2024 年 9 月起擔任使命協調負責人。（鞭牛士、AI普瑞斯編譯）