多年密謀「獨立」,Google 為何拴不住 DeepMind 的心?

作者 | 發布日期 2021 年 09 月 27 日 7:45 | 分類 AI 人工智慧 , Google Telegram share ! follow us in feedly


儘管一起走過 7 年,但 DeepMind 與老東家 Google 不和,早是業界公開的祕密。

多名DeepMind前任和現任員工都表示:DeepMind一直覺得業務出售給不信任的人,擔心Google有朝一日濫用技術。多年高層努力使這家人工智慧公司與擁有者保持距離。兩者不和在DeepMind取得蛋白質預測成績,樹立更高技術全球性影響力之後,進一步加劇。

近日《華爾街日報》消息,DeepMind 4月與Google又展開新一輪獨立談判,雖然雙方沒有達成最終協議,但多年談判加上Google AI部門前段時間大動盪,外界都在觀察,互相猜疑的怨偶還會在一起多久。

猜疑與分歧,收購前就埋下種子

Google與DeepMind 2014年牽手,外界曾認為是雙贏。一方面Google將業界最頂尖的人工智慧研究機構收入麾下,燒錢的DeepMind也獲得雄厚資金和資源支援。但兩個當事人顯然不這樣想。

交易之初DeepMind就開始擔心與Google合併後出現技術和道德問題。

DeepMind首席執行長Hassabis認為,身為頂級研究機構,應確保DeepMind獨立性,且像醫療等敏感業務數據,任何階段都不應與Google帳戶、產品或服務有關。在DeepMind主導下,收購完成前兩家公司便簽署「道德和安全審查協議」,阻止Google單方面控制DeepMind智慧財產權。

協定的一部分,是雙方規定成立道德委員會負責監督。

但了解協議的DeepMind員工表示:「多年來,兩家公司對誰加入委員會一直激烈討論,事實上委員會從來不存在,沒召集過,也未解決任何道德問題。」

除了以上,DeepMind員工始終對Google收購持反對態度。他們認為自己是學者,與Google打交道時,會與後者臃腫的官僚機構發生文化衝突。」DeepMind員工的擔心不是沒有道理。今年8月,成立近3年的Google Health負責人David Feinberg,就因Google文化不尊重醫療和研究,憤而離開。

據接近Google最高層的主管表示,「David認為自己是經多年專業訓練的醫生和管理者,Google Health許多措施都不尊重專業,狂熱技術狂總是胡亂操作,大大低估臨床流程和技術工程問題的複雜性,讓許多研究都一塌糊塗,導致Google Health業務遭遇重挫。」

所以DeepMind一直對Google有恐懼心理,甚至還有一些員工使用加密應用程式防止被Google監視。這種反抗心理雙方長期合作後,更沒有舒緩。

The Information報導,2015年Google公司重組,誕生控股母公司Alphabet,讓一些風險更大的創新專案(搜尋、YouTube等)獲得更多自由,讓DeepmMnd看到機會,嘗試尋求獨立。

兩名DeepMind員工表示,爭取獨立的計畫最早稱為「Watermelon」,得到高層支持,後DeepMind正式稱為「Mario」計畫。AlphaGo轟動性打敗李世乭的8個月後,2017年蘇格蘭會議,DeepMind領導層正式向員工公布與Google的分手計畫。

DeepMind認為「自家技術過於強大,被私人公司掌握風險太大,因此必須有措施讓技術擁有權放在與公司股東利益相分離的其他法律實體,如成為全球利益公司」。不久後DeepMind便正式發難,要求Google承認自己為「擔保有限公司」,這是經常為非營利組織使用的無股東組織結構。

據參與談判的員工表示,儘管有徹底解決問題,但兩者在部分層面有共識。協議要求:Google需繼續提供DeepMind資金,並獲得技術獨家使用權,條件是Google不能跨越某些道德紅線,如將DeepMind技術用於軍事武器或監視。

從DeepMind今年4月動作來看,對上次談判結果並不滿意。

4月中旬,Hassabis在全體會議告訴員工,與Google新一輪分拆談判已結束,DeepMind將保持現在地位,但DeepMind未來工作將由Google高級技術審查委員會監督,委員會包括兩名DeepMind高層、Google人工智慧主管Jeff Dean和法務高級副總裁Kent Walker。

上次逼宮後,DeepMind的Mario分裂計畫從未停止。

2019年,DeepMind還在倫敦註冊名為DeepMind Labs的新公司。據悉這就是為與Google分離做準備。

Google頻頻越線

從出發點和行為來看,DeepMind看似有許多過分保護行為,另一方Google同樣也不無辜。2014年收購協議規定,收購完成後,DeepMind CEO等所有員工都可自行決定去留。

有消息稱,DeepMind早期75名員工到Google後,為了自己的利益,Google開始違背承諾,將兩名創始人的收益發放延後兩年。當初Google答應確保DeepMind獨立性的底線,也隨著時間漸漸鬆動。

2018年11月,Google宣布創建醫療保健部門Google Health。

5天後沒有充分告知DeepMind且獲得同意的情況下,Google就宣布Google Health將徹底吞併前者醫療部門DeepMind Health。DeepMind Health部門成立於2016年,由聯合創始人之一Mustafa Suleyman創立並領導。

Suleyman母親是NHS護理師,希望創建名為Streams的程式,當患者健康惡化時,程式可提前警告醫生,DeepMind則可獲得基於程式效果分成費用。而Google過分的併吞行為惹怒DeepMind Health員工,大量員工離職。

這事件也引起極大風波,代表DeepMind周邊營運受Google過分干預。人們開始擔心,為了自身商業利益,Google會不會用同樣手法開刀DeepMind其他專案,如被DeepMind視為核心技術的AGI(通用型人工智慧)。

除了戰略頻頻下手,Google研究成果也動了歪腦。知情人士表示,DeepMind高層發現,Google AI研究團隊發表的成果,都與DeepMind某些程式庫相似,但沒有註明來源或引用。這大大冒犯DeepMind的核心利益,Hassabis對此大為光火,開始對自家程式碼展開更嚴密的保護。

如果說以上種種行為只是Google出於利益的小動作,那2017年Google遭披露的文件,則成為兩方決裂的導火線。2017年DeepMind制定道德憲章,包括禁止將技術用於軍事武器或監視,以及需用技術造福社會。

DeepMind還成立由員工和外部研究員組成的「人工智慧倫理研究部門」,旨在為真正有益和負責任的人工智慧鋪路。但幾個月後,Google與五角大樓的合約曝光「利用機器學習改善無人機攻擊精準度」,引起極大風波,超過5千名員工聯名抗議,指責Google發戰爭財。

這也為DeepMind敲響警鐘。身為Google最頂尖的人工智慧研究機構,不知道自己的研究成果是否會被Google用在戰爭和殺戮。若這種事發生,將徹底違背DeepMind實驗室的初衷(AI突破幫助人們進一步理解基礎科學問題,好比阿波羅登月計畫,以人力探索塑造智慧)。

DeepMind的最終歸宿?

7年,DeepMind和Google合作無疑取得許多成果。DeepMind發言人表示:「Google支援下,我們取得改變人工智慧領域的研究突破,逐步解開一個個科學研究難題。」

對Google來說,投資DeepMind也在許多層面得到回報。去年底和今年7月,DeepMind的AlphaFold2先後取得多個蛋白質結構和組學研究成就,對生物學、醫學都有影響,也讓Google贏得口碑。但好成績背後兩者分歧愈演愈烈,甚至多次差點撕破臉。

拋開情感因素,無論DeepMind獨立或Google違規插手,都只是基於自身立場的必然行為。Google是商業公司,必然會為各種利益妥協,與美國國防部的戰爭合約其實就是證明。與這件事相比,逼DeepMind讓步,也只是追逐利益的縮影。

DeepMind為背負AI科研使命的實驗室,取得AlphaGo、蛋白質預測成績後,使命感也不斷加劇。Hassabis依然保有信念,就是人工智慧技術不應被某公司控制。 6月於人工智慧技術論壇發言時,Hassabis建議成立人工智慧全球性機構,可受聯合國領導,集中人工智慧領域的頂級專家。

他說:「如果由一些榜樣領導,會更強大有效,我希望DeepMind能成為人工智慧業的榜樣。」

一方希望擴張和技術快速變現,一方保持初心,希望用AI技術造福全人類,也許這種產業與學界、學者與企業的矛盾真的無法調和。DeepMind和Google最終或許終會分手。

(本文由 雷鋒網 授權轉載;首圖來源:DeepMind)

延伸閱讀: