超級智慧安全與否太重要，OpenAI 創辦人設 AI 新創

甫於 5 月離職的 OpenAI 共同創辦人 Ilya Sutskever 宣布，他成立了一家 AI 新創，旨在追求安全的超級智慧（superintelligence）。

Sutskever 19日透過社交平台X宣布，他成立了新公司「Safe Superintelligence」（SSI Inc.），傾注全力追求安全的超級智慧，只有一個焦點、一個目標、一項產品。他說，「我們準備組建一個小型精銳團隊，透過革命性的突破來達成目標」。

I am starting a new company: https://t.co/BG3K3SI3A1

— Ilya Sutskever (@ilyasut) June 19, 2024

CNBC、路透社報導，Sutskever曾是OpenAI科學長，跟Jan Leike共同帶領OpenAI的超級對齊（Superalignment）團隊。Leike也在5月離去，加入背後有亞馬遜（Amazon.com）及Google撐腰的AI新創商Anthropic。

OpenAI的超級對齊團隊原本負責引導及控制AI系統，但在Sutskever、Leike宣布離職不久後便遭到解散。

Sutskever新設立的企業將持續聚焦人工智慧安全性。SSI官網指出，「SSI是我們的使命、公司名稱以及整個產品路線圖，因為這是我們唯一焦點。」「我們專注於一個目標，不會因管理事務或產品週期分心，我們的商業模式確保安全、保安和進步都不會受到短期商業壓力影響。」

Sutskever跟曾領導蘋果（Apple Inc.）AI與研究工作的Daniel Gross、OpenAI前技術人員Daniel Levy共同創辦SSI，在加州帕羅奧圖（Palo Alto）及以色列特拉維夫（Tel Aviv）皆設有辦公室。

Sutskever曾是去（2023）年11月試圖將OpenAI執行長阿特曼（Sam Altman）逐出公司的董事會成員之一。阿特曼及Sutskever等董事，對於OpenAI追求先進AI時應設立哪些防線衝突不斷。

阿特曼近日傳出考慮改變OpenAI的治理結構、轉型為營利事業，屆時非營利董事會沒有控制權。The Information 6月14日報導，聽聞過相關討論的不具名人士指出，阿特曼對部分股東表示，OpenAI正在考慮的方案是成為一家營利性福利（for-profit benefit）公司，跟AI競爭對手Anthropic、xAI使用的治理結構相同。

（本文由 MoneyDJ新聞授權轉載；首圖來源：shutterstock）