Tag Archives: AI 推論

AI 其實不會算術:神經網路的記憶和推理路徑完全不同

作者 |發布日期 2025 年 11 月 11 日 12:05 | 分類 AI 人工智慧 , 軟體、系統

最新 AI 研究揭示記憶與推理的神經網路分離機制,可能徹底改變 AI 模型運作的理解度。AI 新創公司 Goodfire.ai 研究員發現,AI 語言模型(如 OpenAI o3 模型)處理數據時,記憶(如背誦名言或書籍片段)與推理(以一般原則解決新問題)其實是以完全不同的神經通路運算。 繼續閱讀..

從訓練進入推論時代,人工智慧應用需求帶動記憶體市場改變

作者 |發布日期 2025 年 11 月 03 日 8:01 | 分類 AI 人工智慧 , 記憶體

隨著人工智慧(AI)運算需求的重心從一次性的訓練階段,慢慢轉向持續性且高頻發生的推論(Inference)階段。這場轉變不僅催生了專為 AI 推論設計的新晶片,更在記憶體與儲存領域,帶來一場以「總體擁有成本」(TCO)為核心的異構與分層架構革命。

繼續閱讀..

由 AI 風潮引起的儲存革命

作者 |發布日期 2025 年 10 月 27 日 7:00 | 分類 AI 人工智慧 , 技術分析 , 會員專區

由 AI 推論需求引爆的數據洪流,正以始料未及的方式成為重塑全球儲存市場格局之決定性力量。傳統冷資料儲存霸主──近線 HDD,因其保守產能策略和緩慢的技術迭代,在突如其來的需求面前顯得力不從心,且長達一年交貨週期,正迫使最大客戶群體──雲端服務供應商不得不尋找替代方案。 繼續閱讀..

2025 OCP 高峰會》英特爾全面擁抱開放式異構 AI 架構,推新資料中心 GPU

作者 |發布日期 2025 年 10 月 15 日 9:30 | 分類 AI 人工智慧 , GPU , 伺服器

晶片大廠英特爾(Intel)2025 OCP 高峰會宣布 AI 策略,強調將以全面「開放式方法」加倍投入 AI 領域,應對當前產業正經歷的重大轉型。英特爾指出,AI 是數十年才會發生一次的巨大顛覆。目標是與整個產業和生態系統夥伴合作,共同打造開放、模組化且可擴展的 AI 平台,以提供所需規模,實現 AI 的貨幣化,並轉變日常生活及商業運作。

繼續閱讀..

今年 AI 伺服器出貨成長仍有變數,DeepSeek 效應推升 AI 推論占比

作者 |發布日期 2025 年 02 月 12 日 14:00 | 分類 AI 人工智慧 , 伺服器 , 軟體、系統

TrendForce 最新研究,2024 年全球 AI 伺服器出貨量受惠 CSP、OEM 強勁需求,年增幅 46%。美國晶片禁令、DeepSeek 效應、GB200 / GB300 Rack 供應鏈整備進度等,成為影響 2025 年 AI 伺服器出貨量變數,TrendForce 提出三種情境預估。 繼續閱讀..