OpenAI 的前首席科學家 Ilya Sutskever 最近宣布成立新公司 Safe Superintelligence Inc.（SSI）。在這則看似平常的科技新聞背後，卻隱藏著一個更引人入勝的故事：Sutskever 與 OpenAI 執行長阿特曼（Sam Altman）間的理念之爭。
這兩位曾經的同事，如今站在了AI發展的十字路口上，各自代表著不同的發展路線。Sutskever強調AI安全的重要性，而Altman則更傾向於推動AI的快速進步。SSI的誕生，是否意味著Sutskever對Altman理念的一次正面回擊？他們在AI安全問題上的分歧，又將如何影響整個AI行業的未來？
Altman和Sutskever在AI安全問題上的不同觀點
Sutskever一直強調超級智慧AI可能在十年內出現，並警告這種AI未必會對人類友善。他主張需要更多研究來控制和限制AI的發展。Sutskever新創立的SSI公司，其核心使命就是實現「安全的超級智慧」。SSI計劃同時推進AI能力和安全性，將兩者視為需要透過革命性工程和科學突破來解決的技術問題。
值得觀察的是，SSI選擇了一開始就做為營利性實體成立，這與OpenAI最初做為非營利組織成立，後來因為巨額資金需求而重組的發展方式不同。這一選擇可能反映Sutskever對AI發展所需資源的認識，也暗示他對商業模式如何影響AI研究方向的思考。如果SSI能夠成功地將商業利益與AI安全研究結合起來，可能會為整個行業提供一個新的發展模式。
Sutskever和Altman之間的這場AI爭鬥，實際上代表了整個AI行業面臨的一個根本性問題：如何在追求技術進步的同時，確保AI的安全性和可控性。這場爭鬥的結果，可能會深刻影響AI的發展方向和人類與AI的未來關係。
SSI的雄心壯志與技術挑戰能取得重大進展？
SSI的宏大目標：在未來10年內打造出對人類社會有益且絕對安全的AI系統。
從技術角度來看，SSI的目標面臨著艱困挑戰。「超級智慧」AI的定義本身就存在爭議。我們尚未完全了解人類智慧的本質，因此定義和衡量超越人類的AI系統極其困難。其次，確保AI系統的「絕對安全」是一個複雜的問題。即使是現有的AI系統，也經常表現出意料之外的行為，更不用說更加複雜的超級智慧系統。
AI系統的安全性涉及多個層面，包括技術安全（如系統穩定性和抗攻擊能力）、功能安全（確保AI按預期運作）以及價值一致（確保AI的目標與人類價值觀一致）。在這些方面都達到「絕對安全」的水準，需要在演算法、硬體、數據處理等領域取得重大突破。
儘管如此，SSI的目標並非完全不可能實現。近年來，AI安全研究已經取得了一些進展，如系統穩定性等技術的進展。如果SSI能夠整合和持續發展這些技術，並在新的研究方向上取得突破，也許能夠在安全性方面取得重大進展。
SSI如何維持其不受商業利益影響的營運模式？
做為一家營利性公司，SSI如何在追求商業成功的同時，確保其研究不受短期利益的干擾，成為了一個值得深入探討的問題。
SSI可能會採取一種長期導向的投資策略，吸引那些認同其使命並願意進行長期投資的投資者。這種策略的優點在於，能減少短期盈利壓力。長期投資者通常更關注公司的長遠發展，而非季度業績，這可以給SSI更多空間專注於基礎研究。
然而，這種策略也面臨挑戰。要找到願意進行大額長期投資，且不期待快速回報的投資者並不容易。其次，即使是長期投資者，隨著時間進展，也可能對缺乏具體成果感到不耐煩。因此，SSI需要在保持研究純粹性和展示進展之間取得平衡。
無論SSI最終能否實現其宏大目標，其發展過程都將為整個AI行業提供寶貴的經驗。它可能會開創一種新的研究型企業模式，影響未來科技公司如何在追求利潤和社會責任之間尋找平衡，並為解決AI安全這一人類面臨的重大挑戰提供新的思考方向。
（首圖來源：pixabay）
科技新報粉絲團
加入好友
訂閱免費電子報
