人工智慧龍頭競賽如火如荼進行,軟體和硬體公司都努力競爭。領先的 NVIDIA 和 OpenAI 計劃開發全新人工智慧模型,可將數百萬個 GPU 組合,超越現在連結數千個 GPU 的模型數千倍。
到目前為止,NVIDIA 和 OpenAI 已合作開發生成式 AI 應用 ChatGPT,最新 GPT-4 模型就是利用 NVIDIA 連結的數千個 GPU。NVIDIA 已提供 OpenAI 約 2 萬片新 GPU,幾個月內還會擴大規模,現在規模僅是冰山一角。
外媒引用中國搜尋引擎搜狗創辦人王小川的說法,ChatGPT 已在研究更先進的 AI 模型,採更先進訓練法,能連結 1 千萬個 GPU。就目前能理解的說法,能到達連結 100 萬個 GPU 就已令人吃驚,能連結 1 千萬個 GPU 算不可思議。
王小川為了增加可信度,投資中國百川情報,目的在成為 OpenAI 中國市場競爭對手。百川情報最近才發表 Baichuan-13B 語言模型,能於 NVIDIA GeForce RTX 3090 GPU 等消費級硬體執行。王小川談及 OpenAI 的驚人計畫,故中國迫切需要自己的 OpenAI 版企業才能抗衡。OpenAI 人工智慧模型支援 1 千萬個 GPU 是天文數字,但考量到 NVIDIA 目前產能,每年只能生產 100 萬個 GPU,需 10 年才能實現此大型計畫。
NVIDIA 正與台積電合作增加產能,產量很快就會增加。儘管還有其他因素可能成為障礙如成本、功耗,更重要的是如何將如此大量 GPU 連結。或許此計畫可能只是白日夢,但真能有連結 100 萬個 GPU 的人工智慧模型,完成 1 千萬個 GPU 連結未嘗不可能辦到。
(首圖來源:shutterstock)