Hugging Face 欲提供大眾免費 GPU 運算資源

知名 AI 平台 Hugging Face 最近宣布推出「ZeroGPU」計畫，提供價值千萬美元 GPU 運算資源，減輕想開發 AI 模型的小型團隊負擔。

Hugging Face 總裁 Clem Delangue 在 X 介紹 ZeroGPU，有了這共享基礎設施，獨立和學術 AI 開發者可在 Spaces 執行 AI，減輕財務壓力。

Hugging Face 成立於 2016 年，與 Nvidia、英特爾和 AMD 等均有合作關係，是開源 AI 模型的重要來源，也最佳化各種硬體。Delangue 認為開源對 AI 創新和應用至關重要，Hugging Face 透過 ZeroGPU 提供大量珍貴資源。計畫以 Nvidia 較舊 A100 加速器，共享價值高達千萬美元的算力。

ZeroGPU 最初重點是 AI 推理而不是訓練，因即使小型模型也需大量 GPU 資源。Hugging Face 支援文件顯示，GPU 功能限制為 120 秒不夠訓練。Delangue 說系統可根據需要有效分配和釋放 GPU，但細節不清楚。

GPU-Poor no more: super excited to officially release ZeroGPU in beta today. Congrats @victormustar & team for the release!

In the past few months, the open-source AI community has been thriving. Not only Meta but also Apple, NVIDIA, Bytedance, Snowflake, Databricks, Microsoft,… pic.twitter.com/6UzWvYhmpw

— clem 🤗 (@ClementDelangue) May 16, 2024