Google Cloud 新推出第五代 TPU 性能翻倍,A3 VM 下個月上線

作者 | 發布日期 2023 年 08 月 30 日 8:49 | 分類 AI 人工智慧 , Google , 軟體、系統 line share follow us in feedly line share
Google Cloud 新推出第五代 TPU 性能翻倍,A3 VM 下個月上線


AI 軍備競賽持續進行下,Google 在年度大會為雲端、AI 展現運算火力,更有合作夥伴輝達(NVIDIA)力挺。

在 29 日所舉行的 Cloud Next 2023 大會上,Google Cloud 公開加速 AI 運算的新款自研晶片 Cloud TPU v5e,配備 NVIDIA H100 GPU 的 A3 VM 下個月上線,更宣布與 AI 晶片龍頭 NVIDIA 擴大合作夥伴關係。

▲ NVIDIA 執行長黃仁勳出席 Cloud Next 2023 大會力挺合作夥伴。(Source:NVIDIA

Cloud TPU v5e 專為精進大中型模型的訓練、推理性能以及成本效益所設計。與上一代相比,Cloud TPU v5e 為大型語言模型提供的訓練性能提高了 2 倍、推理性能提高了 2.5 倍。Cloud TPU v5e 成本不到上一代的一半,使企業能夠訓練和部署更大、更複雜的 AI 模型。

為了支援企業雲端服務,Google Cloud 整合加入 20 個 AI 模型,使總數達到 100 個,透過其 AI 基礎設施,可讓客戶使用包括 Meta Llama 2 模型Anthropic Claude 2 聊天機器人等,自由選擇最能滿足營運需求的 AI 模型。

Google Cloud 也對既有 AI 模型提高性能並添加功能,例如文字處理方面的 PaLM 模型可支援用戶輸入更多文字量,以便處理篇幅較長的報導、書籍文章或者法院判決文件等。

這次 Google Cloud 也推出企業級新工具,包括「SynthID」可為 AI 產生的圖片加上隱形浮水印,以人眼看不見的方式更改數位圖片檔,即使 AI 圖片被編輯或篡改也能保有完整性。

Google Workspace 辦公套件將為用戶提供 Duet AI 新產品,預計今年稍晚向所有用戶開放,可在 Google 文件、試算表、簡報中運用 AI 助手幫助更快完成工作。

(首圖為 Google Cloud 執行長 Thomas Kurian,首圖來源:Google Blog