Tag Archives: nvidia

LLM 記憶體用量縮減 20 倍!NVIDIA 超狂新技術 KVTC,靠「KV 快取」翻轉記憶體瓶頸

作者 |發布日期 2026 年 03 月 21 日 8:40 | 分類 AI 人工智慧 , Nvidia , 記憶體

輝達(NVIDIA)研究人員提出一種新技術,可大幅降低大型語言模型在追蹤對話歷史時所需的記憶體,最高可達 20 倍,且不需修改模型本身。外界期待,隨著記憶體用量大幅下降,是否意味著有望降低對記憶體的依賴。 繼續閱讀..

NVIDIA Jetson Thor 與機器人:多模態的真正挑戰

作者 |發布日期 2026 年 03 月 17 日 9:00 | 分類 AI 人工智慧 , Nvidia , 機器人

過去幾年,大型語言模型(LLM)已證明 AI 在數位世界的邏輯能力,而現下人工智慧的核心課題,不僅止於模型參數規模的擴張,更在於如何讓 AI 從螢幕裡的諮詢師,進化為現實中的勞動力,此遂成實體 AI(Physical AI)崛起的關鍵價值。 繼續閱讀..

2026 迎矽光子元年、CPO 加速商轉!台灣「光電部隊」各就各位

作者 |發布日期 2026 年 03 月 17 日 8:00 | 分類 光電科技 , 半導體

當人工智慧(AI)應用重心逐步由訓練邁向推理階段、模型規模與參數量持續增加,傳輸效能成為新一輪競爭焦點,而在此趨勢下,傳統銅線互連在功耗、頻寬與距離開始面臨物理極限,推動資料中心架構朝「銅退光進」加速演進,光通訊產業更是近期市場焦點。 繼續閱讀..

創投教父清空 Nvidia 持股改買蘋果與微軟,是暗示誰會贏得 AI 競賽?

作者 |發布日期 2026 年 03 月 11 日 11:40 | 分類 AI 人工智慧 , 理財 , 證券

矽谷創投教父彼得·提爾(Peter Thiel)旗下對沖基金 Thiel Macro LLC 2025 年第三季出售所有 Nvidia 持股,總計 537,742 股,價值超過 1 億美元,引起矽谷關注。這次持股重組顯示提爾對 AI 競賽的新立場,因資金轉向蘋果和微軟,感覺是暗示兩家公司 AI 消費者產品會是贏家。 繼續閱讀..

不再只追求算力!AI 應用走向「適材適所」,硬體選擇成企業新考題

作者 |發布日期 2026 年 03 月 09 日 10:00 | 分類 AI 人工智慧 , Nvidia

過去生成式 AI 席捲全球,ChatGPT 等大語言模型快速滲透到消費與企業市場,也帶動追逐算力、搶 GPU 的投資戰。然而,隨著 AI 應用逐步落地,如今已從過去的生成式 AI 交棒給代理 AI 與實體 AI。同時,業界開始意識到,比起單純追求算力,更該思考是如何善用算力、解決 AI 任務,並部署在適合場景。 繼續閱讀..

Meta 長約鎖定輝達百萬顆 AI 晶片,推理時代推升 CPU 價值

作者 |發布日期 2026 年 03 月 04 日 7:00 | 分類 AI 人工智慧 , GPU , 伺服器

Meta 2 月 17 日宣布與輝達簽署跨世代、多年期合作,導入數百萬顆 Blackwell 與 Rubin GPU,並同步擴大 Grace / Vera CPU 與 Spectrum-X 網通部署。再對照 Meta 之前提的 2026 年資本支出上看 1,150 至 1,350 億美元,顯示 AI 基建擴張已進入長約鎖產能階段。 繼續閱讀..

OpenAI 完成 1,100 億美元融資,亞馬遜挹注 500 億、Trainium 晶片支援開發

作者 |發布日期 2026 年 03 月 02 日 9:59 | 分類 AI 人工智慧 , Amazon , ChatGPT

OpenAI 宣布獲得 1,100 億美元融資,包括來自軟銀集團的 300 億美元、NVIDIA 的 300 億美元,以及來自亞馬遜的 500 億美元,推升 OpenAI 投前估值來到 7,300 億美元,也使 OpenAI 基金會在 OpenAI Group 的持股價值提升至超過 1,800 億美元。

繼續閱讀..

輝達與 Meta 簽訂多年合作協議!追加數百萬顆 AI 晶片部署基建

作者 |發布日期 2026 年 02 月 18 日 9:29 | 分類 AI 人工智慧 , Meta , Nvidia

輝達(NVIDIA)與 Meta 簽訂一項多年合作協議,共同建構超大型的全球 AI 基礎設施,根據協議,Meta 將採購數百萬顆輝達 AI 晶片,涵蓋現有的 Blackwell 晶片,以及即將上市的 Rubin 晶片,為全球數十億用戶提供更強大的 AI 與個人化推薦服務。

繼續閱讀..