Tiiny AI 推出全球最小 AI 超級電腦，性能超越傳統設備

在科技界，Tiiny AI 最近推出了一款被金氏世界紀錄認證為全球最小的個人 AI 超級電腦 Tiiny AI Pocket Lab。這款設備的尺寸僅相當於一個行動電源，卻具備運行高達 1,200 億參數模型的強大性能，挑戰了傳統超級電腦的界限。

Tiiny AI的Pocket Lab專為研究人員、愛好者及日常用戶設計，旨在將伺服器級的運算能力縮小至手掌可握的大小。與市場上其他小型超級電腦相比，如NVIDIA的Project Digits和DGX Spark，這款Pocket Lab的價格更具吸引力，讓更多用戶能夠接觸到先進的AI技術。

根據GTM總監Samar Bhoj的說法，當前AI的瓶頸不在於運算能力，而在於對雲端的依賴。他強調，智慧不應該屬於資料中心，而應該屬於人們。Pocket Lab的設計旨在減少對雲端的依賴，提升隱私性，並讓先進的AI技術變得更為個人化。

這款Pocket Lab的尺寸為14.2×8×2.53公分，重量僅300克，搭載了最新的ARM v9.2 12核CPU，並支持多種流行的開源模型，如GPT-OSS、Llama、Qwen、DeepSeek、Mistral和Phi。其內部配備的神經處理器（NPU）能夠提供190 TOPS的運算能力，並擁有80GB的LPDDR5X記憶體，這使得大型模型能夠在本地運行，而不必依賴雲端基礎設施。該設備還配備了1TB的固態硬碟（SSD），有助於存放大型模型與資料。

此外，Tiiny AI還在系統中集成了兩項關鍵技術：TurboSparse和PowerInfer。TurboSparse是一種神經元級的稀疏啟動方法，能在不降低模型智慧的情況下提高推理效率；而PowerInfer則是一種異構推理引擎，能夠將AI工作負載分配到CPU和NPU上，實現伺服器級的性能，同時保持低功耗。系統的典型功耗約為65瓦特，CPU TDP約30瓦，內含主動散熱系統，保證長時間運行穩定。

Tiiny AI計劃在2026年CES展會上展示這款設備，雖然目前尚未公布價格和發售細節，但業界將密切關注這款小型超級電腦在實際用戶中的表現。根據Tiiny AI引用的Grand View Research資料，全球大型語言模型市場2025年估值74億美元，預計2030年增長至354億美元，Pocket Lab瞄準「個人化AI」市場，強調減少對雲端依賴，提升用戶隱私與本地智慧。

（首圖來源：Tiiny AI）