OpenAI 與晶片業者博通合作，聯手推出第一顆自研 AI 推論晶片 Jalapeño，證明了當年 OpenAI 創辦人奧特曼（Sam Altman）喊話要切入 AI 硬體，不是只為募資所畫的大餅，也有真實力。
特別是，相較於一般晶片開發是以年為單位，這顆晶片從設計到定案並送交製造，則只用了短短9個月時間。
更有意思的是，這個高速開發的背後，競爭對手Google竟也意外幫忙推了一把。
首先，有別於GPU的通用性，ASIC（特殊應用積體電路）晶片本身因為應用目標很明確，再加上OpenAI就是對自家AI模型演算法最熟悉的人，都是有助於他們加速開發的原因。此外，OpenAI指出，他們也運用了自己的AI模型，加速了部分設計與優化流程。
但難道只要掌握AI模型演算法，搭配AI協同開發，AI模型業者就可以在這麼短時間內從零到一開發出一顆全新AI晶片？
真正的關鍵，其實是沒有出現在鏡頭內的OpenAI硬體主管Richard Ho。
Richard Ho擁有史丹佛大學電腦科學博士學位，他的職業生涯起步於晶片驗證工具領域，是業界公認的先驅。而他最重要的一段經歷，是在Google任職近九年期間，參與了Google Cloud TPU計畫，既是創始元老，也是該計畫的核心領導者之一。外界稱他是「將Google TPU從概念帶到現實」的關鍵人物。
他在TPU團隊任職期間，曾與團隊在2021年於國際頂尖科學期刊《Nature》共同發表了一篇論文，首度嘗試將強化學習應用於晶片布局規劃，並指出這可以大大縮短人類工程師的開發歷程。而後他們也實際應用在TPU的開發上。
這次OpenAI在新聞稿中提到的「用AI加速晶片設計」這項作法，其實Richard Ho早在Google時期就曾親手驗證。
「他的腦袋知道他們（OpenAI）要做什麼東西」，一名半導體業內人士認為，Richard Ho的多年實戰經驗，以及對軟硬體整合的熟悉度，幫OpenAI省下大量新手試錯的成本，這才是Jalapeño晶片開發背後，真正強大的加速器。
對OpenAI來說，Jalapeño的推出，代表的不只是逐步降低對輝達GPU晶片依賴的自主性強化，同時在運算效率的提升，也是他們在面對眼前這場AI算力成本競賽，能夠與對手抗衡的重要底氣。
Richard Ho談及該晶片時表示：「根據早期測試，它（指Jalapeño晶片）在執行我們最核心的工作負載時，將能逼近硬體的理論效能極限。」
回顧AI發展歷程，這其實已經不是Google第一次為人作嫁。如今各大AI模型底層採用的Transformer架構，就是來自Google的貢獻，而現在Google流出的人才，則是再給了其他AI公司發展自研晶片的追趕捷徑。
而這也不禁讓人聯想到，Google近期這一波人才流失，會否也在未來某一天，迴轉成為Google對手的最強助攻？
（作者：何珮珊；本文由《商業周刊》授權轉載；首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
