Nvidia 和 Google 的 AI 晶片戰火蔓延至邊緣端,低價開發板會「壓死」AI 新創?

作者 | 發布日期 2019 年 03 月 26 日 14:50 | 分類 Google , GPU , 軟體、系統 line share follow us in feedly line share
Nvidia 和 Google 的 AI 晶片戰火蔓延至邊緣端,低價開發板會「壓死」AI 新創?


AI 熱潮還在持續,AI 戰火自然也升級。輝達為這波 AI 浪潮中最受關注的公司之一,很大程度影響 AI 戰局。上週在美國舉行的 GTC 2019,黃仁勳重點介紹輝達在 AI 軟體和計算力方面的提升,但售價僅 99 美元的 Jetson Nano 人工智慧電腦卻成了最受關注的焦點。3 月稍早的 TensorFlow 開發者峰會,Google 也有發表售價 149.99 美元的 Edge TPU 開發板。

這意味著,巨頭 AI 晶片戰火已從雲端蔓延至邊緣,但這為什麼是喜憂參半的消息?

雲端 AI 晶片戰火向下蔓延

雖然是最受關注的 AI 晶片公司,但 2018 年的輝達不算順利,先是因礦難導致 GPU 庫存提高,後又因中國市場和伺服器市場需求低於預期、股價受拖累。整個 2018 年,輝達市值縮水近一半。因此,AMD 已先發表 7 奈米 GPU 的情形下,外界更期待輝達能在 GTC 2019 發表最新 7 奈米 GPU。

不過,黃仁勳並未發表最新 7 奈米 GPU,而是花了大量時間介紹 RTX 和 CUDA-X AI。

CUDA-X AI 把所有輝達程式庫整合。根據黃仁勳的說法,CUDA-X AI 解鎖了 Tensor Core GPU 的彈性,能將機器學習和資料科學工作負載加速多達 50 倍。另外,CUDA-X AI 還可加速典型 AI 工作流程每一步,包括用深度學習訓練語音和影像辨識系統。

輝達也宣布已有 7 家世界級廠商將推出基於 NVIDIA T4 GPU 和 NVIDIA CUDA-X AI 加速程式庫的伺服器,這些伺服器都已針對 CUDA-X AI 特殊最佳化。亞馬遜 AWS 副總裁 Matt Garman 還宣布,最新 EC2 G4 伺服器採用輝達 T4 Tencor Core GPU,未來幾週內就可用到。

雖然輝達沒有推出效能更強的 GPU,但正透過 CUDA-X AI 提升 GPU 在雲端的效能和吸引力。即便如此,輝達重要客戶 Google 還是推出了自主研發的雲端 AI 晶片 TPU。

自 2015 年起,Google 開始於內部使用 TPU,2016 年 Google 首次公開承認 TPU 存在,2017 年發表第二代 TPU,TPU 3.0 在 2018 年發表。這意味著,Google 在雲端 AI 晶片市場與輝達的關係,從之前的合作變成合作+競爭。

黃仁勳談到 Google TPU 時,曾強硬表示對 TPU 的威脅不以為然。Google 與輝達在雲端 AI 晶片市場的競爭短期內難見結論,卻確定晶片競爭已蔓延到邊緣端。

邊緣端的 AI 晶片戰

身為老牌晶片巨頭,輝達很早就入局邊緣計算市場,Jetson 系列包括完全自主機器的 Jetson AGX Xavier 和邊緣人工智慧的 Jetson TX2 已推出,只是幾百甚至上千美元的價格阻擋不少用戶。GTC 2019 推出同系列 Jetson Nano 所以關注度很高,關鍵原因就是價格。

縱觀不同產業的發展歷程,爆發除了有技術成熟因素,產品價格下降到市場可接受的程度也非常關鍵。GTC 2019 推出的 Jetson Nano 電腦,價格固然驚喜,外觀小巧但效能不低。據悉,Jetson Nano 效能可達 472GFlops(每秒十億次浮點運算),耗電量僅 5 瓦。同時,Jetson Nano 支援高解析度感測器,可並列處理多個感測器,且可在每個感測器流執行多個現代神經網路。

針對不同需求,輝達還推出兩個版本 Jetson Nano,一個是售價 99 美元的開發者套件,專為開發人員、創客和技術愛好者,另一個是售價 129 美元的生產備妥型模組,針對大眾市場建立邊緣系統的企業。

▲ Nvidia Jetson Nano。

與輝達 Jetson Nano 類似,Google 本月初發表的搭載 Edge TPU 開發板 Coral 售價 150 美元。Coral 開發板擁有 1GB 的 LPDDR4 記憶體和 8GB 的 eMMC 儲存,裝載 Mendel 版 Linux 或 Android,可進行區域離線運算,效能最高可達 4 兆次作業。

除了 Coral 開發板,Google 還發表了一款售價 75 美元的 Coral USB 加速器,同樣包含一顆 Edge TPU,可在任何 64 位元 ARM 或 x86 平台 Debian Linux 執行。

▲ Google Edge TPU 開發板。

黃仁勳不認為 Google 的 TPU 是威脅,但在邊緣端低價產品進展方面兩大巨頭顯得頗有默契。先是 Google 推出搭載 Edge TPU 售價 75 和 150 美元的開發板及加速器。不久後輝達就推出售價 99 和 129 美元的 Jetson Nano。

不僅售價相互競爭,各自主打的邊緣計算市場也會重疊。輝達表示,Jetson Nano 可建立數百萬個智慧系統,模組針對網路攝影機、家用機器人和有完整分析功能的智慧閘道等內嵌式應用。輝達希望能為複雜、穩健、節能的人工智慧系統硬體設計、測試和驗證節約時間,縮短總體開發時間讓產品更快推向市場。

Coral 開發板也強調針對內嵌式裝置的隱私、低延遲、高效和離線部署。具體應用方面,Google 展示了基於 Coral 的有趣影像分類應用。Google 表示提供簡單的 API,可在 Edge TPU 裝置執行影像分類、物件偵測。這意味著,Edge TPU 看好和影像相關的邊緣端應用。

因此,無論從定位、效能、應用還是售價看,Google 和輝達在邊緣端又一次正面競爭。

普及 AI 還是革命 AI 晶片新創公司?

Google 和輝達的競爭能一定程度促進 AI 發展,特別是在邊緣端。Jetson Nano 和 Coral 開發板能大幅降低 AI 產品開發的難度,並加速產品的上市時間,為現有做 AI 應用的公司增加選擇,當然也會想借助 AI 進行更多創新的公司和個人提供更方便的選擇,這對 AI 在邊緣端普及有積極意義。

然而,對眾多 AI 晶片新創而言可能是個壞消息。AI 晶片新創之所以大部分選擇 AI 邊緣計算市場,是因為在雲端,英特爾和輝達占絕對的優勢地位,新公司想在這領域獲得成功難度非常大。

雖然邊緣端 AI 給新創公司更大的市場和機遇,但從目前情況看,輝達在自動駕駛領域也有不錯的市場表現。如今,輝達和 Google 都推出更簡單易用、價格更易被接受的開發板,AI 晶片新創又多了兩個競爭對手,還是實力強大的競爭對手。

更讓 AI 晶片新創感到不安的是,由於兩大巨頭都有雲端 AI 晶片,與邊緣端 AI 晶片配合就有更強的競爭力。軟體在 AI 晶片的重要作用正被越來越多人看到,不巧的是輝達和 Google 都有強大的軟體。

開頭提到,輝達發表 CUDA-X AI 將提升 GPU 的 AI 效能,但與此同時 Jetson Nano 也是可執行所有人工智慧模型的 NVIDIA CUDA-X 人工智慧電腦。

Google 方面,與 Coral 開發板同時發表的還有為行動和內嵌式裝置提供的跨平台解決方案 TensorFlow Lite,這個輕型級(Lite)的框架有助於機器學習模型部署在行動和 IoT 裝置。Google 表示,經過 TensorFlow Lite 最佳化後,CPU 效能達原來 1.9 倍,在 Edge TPU 的效能最高提升 62 倍。

巨頭擁有從雲端到終端機 AI 晶片,並有強大軟體幫助晶片提升硬體效能,同時還有長期建立的品牌、通路、市場等方面優勢,這在推動 AI 在邊緣端普及同時,還將與眾多 AI 晶片新創競爭。

只是,未來仍有諸多不確定性,輝達、Google 到底會影響 AI 晶片新創到哪種程度?

(本文由 雷鋒網 授權轉載;首圖來源:shutterstock)

延伸閱讀: