Tag Archives: AI 運算

輝達 GTC 大會登場,逾 20 家台廠相挺彰顯供應鏈地位

作者 |發布日期 2025 年 03 月 17 日 8:15 | 分類 AI 人工智慧 , GPU

輝達(NVIDIA)一年一度的 GTC 大會即將於美西時間 3 月17~21 日在加州聖荷西(San Jose)登場,是全球重要的人工智慧(AI)、高效能運算(HPC)及企業級創新平台,合計超過 20 家台灣科技大廠贊助或設置攤位展示新技術,可以看出台灣在輝達供應鏈扮演吃重角色。 繼續閱讀..

230 億元收購案終獲批准,Run:ai 被 NVIDIA 看中的關鍵技術為何

作者 |發布日期 2025 年 01 月 19 日 11:00 | 分類 AI 人工智慧 , GPU , 軟體、系統

2024 年 12 月,輝達(NVIDIA)以高達 7 億美元(約新台幣 231 億元)的金額收購 Run:ai,這個從以色列發跡的新創以 GPU 虛擬化和調度技術,協助企業提升 GPU 使用效率,更吸引 Red Hat、Amazon Web Services(AWS)、Microsoft 等企業締結合作關係。

繼續閱讀..

客製化晶片崛起,博通市值破兆美元!誰才是 AI 運算領域贏家?

作者 |發布日期 2025 年 01 月 18 日 11:00 | 分類 AI 人工智慧 , 公司治理 , 晶片

2024 年 12 月 12 日,一份財報震撼半導體與投資市場。晶片公司博通(Broadcom)第四季財報指出,AI 收入與前一財年與同期相比增長 220%,達 120 億美元,隔日股價應聲喊漲 24%,創下史上最大單日漲幅,市值一舉衝破 1 兆美元,成為「全球第二大半導體公司」。

繼續閱讀..

生成式 AI 運算速度競賽漸趨激烈,SambaNova 達成 Llama 3 8B 每秒處理 1,000 Token 新紀錄

作者 |發布日期 2024 年 05 月 31 日 10:59 | 分類 AI 人工智慧 , 新創 , 網路

生成式 AI 開發競爭固然激烈,但企業著重的除了效能外,處理速度和成本也是相當重要的部分,因此同一模型如何能夠以更快速度處理就成為另一個競爭目標。有新創最近創下每秒處理 Llama 3 8B 的 1,000 個 Token 的新紀錄,引來目光注目。 繼續閱讀..

富比士:AI 的能源缺口將讓天然氣需求暴增

作者 |發布日期 2024 年 04 月 01 日 8:10 | 分類 AI 人工智慧 , 伺服器 , 能源科技

當 NVIDIA 推出了新的晶片時,人們彷彿預見了一個全新的 AI 時代,但人們卻忘了這背後其實代表更多、更龐大的電力需求。每一個新的 AI 伺服器可以裝 8 個 GPU,每個 GPU 需要 700w;而 NIVIDIA 最新的 Blackwell B200 晶片耗電量甚至達 1,200 瓦。富比士發出了一篇新的專題報導,認為現在 AI 的能源需求增長過於猛烈,目前可能只有天然氣來得及填補 AI 運算造成的能源缺口。 繼續閱讀..

NVIDIA、Arm 與英特爾三雄聯手,發表 FP8 規格加速 AI 運算

作者 |發布日期 2022 年 09 月 16 日 11:30 | 分類 AI 人工智慧 , 半導體 , 會員專區

為了加速 AI 訓練、推理發展,NVIDIA、英特爾(Intel)以及 Arm 三雄聯手,近日共同發表 FP8 Formats for Deep Learning 白皮書,期能透過 8 位元浮點運算的格式來改善運算效能,並將當成 AI 通用的交換格式,提升深度學習訓練推理速度;而此一白皮書也已提交給電機電子工程師協會(Institute of Electrical and Electronics Engineers,IEEE)。

繼續閱讀..