Google I/O 2024 開幕當天下午，消失人們視野半年之久的 OpenAI 聯合創辦人兼首席科學家 Ilya Sutskever 忽然露面，在社群平台 X 宣布離開 OpenAI，算正面回應許多撲朔迷離的猜測。
「在OpenAI工作近十年後，我決定離開。這間公司取得難以置信的進步，我相信在Sam、Greg、Mira及傑出研究領導者Jakub帶領下，OpenAI將建立安全有益的通用人工智慧，適當時機分享詳細資訊。」
他還附一張辦公室合影，緬懷幾人的革命情誼。
— Ilya Sutskever (@ilyasut) May 14, 2024
事情走向基本符合大眾猜測，Lex Fridman、Jeff Dean等大老和網友都留言祝福，感謝Ilya所做的一切。奧特曼（Sam Altman）也立即發表微正式回應，與以往大小寫不分的隨性風格形成鮮明對比。
他表示與Ilya分道揚鑣「非常悲傷」，稱讚Ilya是「這代最傑出人才，AI領域的指路明燈，也是親密朋友」。不僅有才華和遠見，還有溫暖的同情心，「沒有他，OpenAI 不會成為今天的樣子」。他永遠感激Ilya，並承諾完成共同使命。
同時奧特曼宣布領導OpenAI推理團隊、深度學習科學團隊和GPT-4開發的前研究總監Jakub Pachocki接棒Ilya，成為新首席科學家。
Ilya and OpenAI are going to part ways. This is very sad to me; Ilya is easily one of the greatest minds of our generation, a guiding light of our field, and a dear friend. His brilliance and vision are well known; his warmth and compassion are less well known but no less…
— Sam Altman (@sama) May 14, 2024
他又轉發Ilya照片說「feeling the AGI today」，還到Ilya發文下借網友哏留言打趣「別告訴他們你看到了什麼」。
從去年11月宮鬥風波到現在，一切看起來歡樂祥和地畫下句點。然而事實是如此嗎？先別太天真，要真這麼平靜就不是OpenAI了。果然當晚9時43分，第一個「離職人」出現：與Ilya共同領導OpenAI「超級對齊團隊」的Jan Leike在X發文宣布「我（也）撤了。」
Jan Leike 2021年從Google DeepMind團隊跳槽到OpenAI，主要研究方向有強化學習、大語言模式對齊工程及AGI，屬Ilya陣營。他和Ilya的Superalignment團隊旨在四年內建立能與人類媲美的自動對齊研究器，盡可能將工作交由自動系統完成，同時確保AI系統行為與人類價值觀和目標一致。
4月媒體曾報導對齊團隊兩名員工，同為Ilya盟友的Leopold Aschenbrenner和Pavel Izmailov因「洩密」被開除，但OpenAI未說明洩密什麼。這還不算，OpenAI還證實團隊已經解散，工作整合分散至其他小組。
熟悉的配方，熟悉的味道，與奧特曼被董事會罷免Greg Brockman甩手走人如出一轍。無怪乎網友攤手：「你們又來了是吧？」（Logan Kilpatrick留言也讓廣大吃瓜群眾浮想連篇）。
再隔天，OpenAI前工程負責人，曾領導ChatGPT、GPT-4, DALL·E和APIs上線的Evan Morikawa也宣布離開，與波士頓動力前高階機器人學家Andy Barry和Deep Mind研究科學家Pete Florence和Andy Zeng共同開始新計畫，認為「這是全球達成AGI必需」。
Jan Leike重拳出擊，直接公開說與OpenAI高層的核心優先事項有「無法調和」的分歧，團隊推動專案和爭取運算資源時遭遇重大阻礙，嚴重影響進度和品質，他先說5月17日是他擔任OpenAI對齊負責人、超級對齊負責人和高層的最後一天。
他肯定團隊三年多的成績：推出第一個基於RLHF的大語言模型InstructGPT，發表第一個大規模監督LLMs法，並開創自動解釋性和從弱到強泛化。「我愛團隊。我非常感激能與這麼多了不起的人一起工作……OpenAI有如此多傑出、聰明、善良和高效率人才。」
I love my team.
I’m so grateful for the many amazing people I got to work with, both inside and outside of the superalignment team.
OpenAI has so much exceptionally smart, kind, and effective talent.
— Jan Leike (@janleike) May 17, 2024
接著話鋒一轉，說對OpenAI有多心寒。
「離開這工作是我最艱難決定之一，因我們迫切需要弄清楚如何引導和控制比我們聰明的AI。我加入OpenAI是因我以為這裡是全世界最適合做這研究的地方。然而，我與OpenAI領導層的核心優先事項有長期分歧，直到我們達到臨界點。」
I joined because I thought OpenAI would be the best place in the world to do this research.
However, I have been disagreeing with OpenAI leadership about the company’s core priorities for quite some time, until we finally reached a breaking point.
— Jan Leike (@janleike) May 17, 2024
Jan Leike繼續解釋：
「我相信，應將更多頻寬花在為下代模型做準備，專注安全、監控、對抗性穩健性、超級對齊、保密性、社會影響等主題。這些問題很難解決，我擔心還沒走上正軌。過去幾個月，團隊一直在逆風前進。有時我們掙扎計算資源，完成關鍵研究越來越困難。」
「建造比人類更聰明的機器本質上是危險工作。OpenAI代表全人類肩負著巨大的責任。但過去幾年，安全文化和流程讓位給光鮮亮麗的產品。我們早該認真重視AGI的影響度了，必須優先做好準備，這樣才能確保AGI造福全人類。OpenAI必須成為安全至上的AGI公司。」
OpenAI must become a safety-first AGI company.
— Jan Leike (@janleike) May 17, 2024
最後一條，Jan Leike「語重心長」向所有OpenAI員工喊話：
學會感受AGI。
對你正在建構的事物，態度莊重一點。
我相信你們可以「傳遞」文化變革。
我指望你們。
全世界都指望你們。
:openai-heart:（OpenAI最員工常用的愛心表情符號）
To all OpenAI employees, I want to say:
Learn to feel the AGI.
Act with the gravitas appropriate for what you’re building.
I believe you can “ship" the cultural change that’s needed.
I am counting on you.
The world is counting on you.
:openai-heart:
— Jan Leike (@janleike) May 17, 2024
此番言論一出，網友馬上炸鍋。所以是OpenAI為了優先發表亮眼產品，不重視安全推進AGI。讓對齊團隊坐冷板凳不說，還不分給運算資源，導致無法推動研究，這誰能忍受？網友了了：「這就是Ilya看到的，且他一直在告訴董事會並試圖反對。他要求的只是AI安全，現在Jan也證實這點。」
還有人梳理OpenAI有史所有安全團隊帶頭大老離職時間線，包括Anthropic共同創辦人Amodei兄妹。
OpenAI’s safety experts keep JUMPING SHIP, citing extreme P(doom) and lack of confidence that humanity will survive AGI
CEOs like Sam Altman, saying risk is manageable, are hiding the truth.
The truth is that their own top safety experts have freaked out about P(doom) and quit! pic.twitter.com/y1KlEeBDHC
— Liron Shapira (@liron) May 15, 2024
「這聽起來像OpenAI想繼續燒錢商業化，而不是確保安全。他們想成為企業大亨，而不是英雄。」更有人爆料，員工離開OpenAI時，需簽署「承諾終身不得貶損公司的離職協議」。如果拒簽就會失去所有歸屬股權，代表損失數百萬美元。
對Jan Leiker長文開砲，奧特曼當然不會靜默，很快地發文「反擊」，最後也送了一顆小心心：「我非常感謝Jan Leike對OpenAI對齊研究和安全文化的貢獻，也非常難過看到他離開。他說得對，我們還有很多事情要做，我們承諾會做到。我會在接下來幾天發長文解釋。」
i’m super appreciative of @janleike‘s contributions to openai’s alignment research and safety culture, and very sad to see him leave. he’s right we have a lot more to do; we are committed to doing it. i’ll have a longer post in the next couple of days.
— Sam Altman (@sama) May 17, 2024
看來這場新OpenAI保衛戰aka. OpenAI內鬥第二季之楊萊克大戰奧特曼就要開打，接下來雙方小作文比賽馬上要開始了。這間公司每個人好像都為自己上滿主角光環，隔段時間就上演大戲慣例已定。這次走向如何，會否又來一場員工團體運動？看來OpenAI不會停了。
科技新報粉絲團
加入好友
訂閱免費電子報
