![從同事到對手,SSI 誕生是對 Altman 的反擊?](https://img.technews.tw/wp-content/uploads/2024/01/17092033/ai-generated-7767321_1280-800x533.jpg)
OpenAI 的前首席科學家 Ilya Sutskever 最近宣布成立新公司 Safe Superintelligence Inc.(SSI)。在這則看似平常的科技新聞背後,卻隱藏著一個更引人入勝的故事:Sutskever 與 OpenAI 執行長阿特曼(Sam Altman)間的理念之爭。
這兩位曾經的同事,如今站在了AI發展的十字路口上,各自代表著不同的發展路線。Sutskever強調AI安全的重要性,而Altman則更傾向於推動AI的快速進步。SSI的誕生,是否意味著Sutskever對Altman理念的一次正面回擊?他們在AI安全問題上的分歧,又將如何影響整個AI行業的未來?
Altman和Sutskever在AI安全問題上的不同觀點
Sutskever一直強調超級智慧AI可能在十年內出現,並警告這種AI未必會對人類友善。他主張需要更多研究來控制和限制AI的發展。Sutskever新創立的SSI公司,其核心使命就是實現「安全的超級智慧」。SSI計劃同時推進AI能力和安全性,將兩者視為需要透過革命性工程和科學突破來解決的技術問題。
值得觀察的是,SSI選擇了一開始就做為營利性實體成立,這與OpenAI最初做為非營利組織成立,後來因為巨額資金需求而重組的發展方式不同。這一選擇可能反映Sutskever對AI發展所需資源的認識,也暗示他對商業模式如何影響AI研究方向的思考。如果SSI能夠成功地將商業利益與AI安全研究結合起來,可能會為整個行業提供一個新的發展模式。
Sutskever和Altman之間的這場AI爭鬥,實際上代表了整個AI行業面臨的一個根本性問題:如何在追求技術進步的同時,確保AI的安全性和可控性。這場爭鬥的結果,可能會深刻影響AI的發展方向和人類與AI的未來關係。
SSI的雄心壯志與技術挑戰能取得重大進展?
SSI的宏大目標:在未來10年內打造出對人類社會有益且絕對安全的AI系統。
從技術角度來看,SSI的目標面臨著艱困挑戰。「超級智慧」AI的定義本身就存在爭議。我們尚未完全了解人類智慧的本質,因此定義和衡量超越人類的AI系統極其困難。其次,確保AI系統的「絕對安全」是一個複雜的問題。即使是現有的AI系統,也經常表現出意料之外的行為,更不用說更加複雜的超級智慧系統。
AI系統的安全性涉及多個層面,包括技術安全(如系統穩定性和抗攻擊能力)、功能安全(確保AI按預期運作)以及價值一致(確保AI的目標與人類價值觀一致)。在這些方面都達到「絕對安全」的水準,需要在演算法、硬體、數據處理等領域取得重大突破。
儘管如此,SSI的目標並非完全不可能實現。近年來,AI安全研究已經取得了一些進展,如系統穩定性等技術的進展。如果SSI能夠整合和持續發展這些技術,並在新的研究方向上取得突破,也許能夠在安全性方面取得重大進展。
SSI如何維持其不受商業利益影響的營運模式?
做為一家營利性公司,SSI如何在追求商業成功的同時,確保其研究不受短期利益的干擾,成為了一個值得深入探討的問題。
SSI可能會採取一種長期導向的投資策略,吸引那些認同其使命並願意進行長期投資的投資者。這種策略的優點在於,能減少短期盈利壓力。長期投資者通常更關注公司的長遠發展,而非季度業績,這可以給SSI更多空間專注於基礎研究。
然而,這種策略也面臨挑戰。要找到願意進行大額長期投資,且不期待快速回報的投資者並不容易。其次,即使是長期投資者,隨著時間進展,也可能對缺乏具體成果感到不耐煩。因此,SSI需要在保持研究純粹性和展示進展之間取得平衡。
無論SSI最終能否實現其宏大目標,其發展過程都將為整個AI行業提供寶貴的經驗。它可能會開創一種新的研究型企業模式,影響未來科技公司如何在追求利潤和社會責任之間尋找平衡,並為解決AI安全這一人類面臨的重大挑戰提供新的思考方向。
(首圖來源:pixabay)