Tag Archives: AI 運算

輝達 GTC 大會登場，逾 20 家台廠相挺彰顯供應鏈地位
作者 |發布日期 2025 年 03 月 17 日 8:15 |
line share
Linkedin share
line share
分類 AI 人工智慧 , GPU

輝達（NVIDIA）一年一度的 GTC 大會即將於美西時間 3 月17~21 日在加州聖荷西（San Jose）登場，是全球重要的人工智慧（AI）、高效能運算（HPC）及企業級創新平台，合計超過 20 家台灣科技大廠贊助或設置攤位展示新技術，可以看出台灣在輝達供應鏈扮演吃重角色。 繼續閱讀..

230 億元收購案終獲批准，Run:ai 被 NVIDIA 看中的關鍵技術為何
作者 |發布日期 2025 年 01 月 19 日 11:00 |
line share
Linkedin share
line share
分類 AI 人工智慧 , GPU , 軟體、系統

2024 年 12 月，輝達（NVIDIA）以高達 7 億美元（約新台幣 231 億元）的金額收購 Run:ai，這個從以色列發跡的新創以 GPU 虛擬化和調度技術，協助企業提升 GPU 使用效率，更吸引 Red Hat、Amazon Web Services（AWS）、Microsoft 等企業締結合作關係。

繼續閱讀..

客製化晶片崛起，博通市值破兆美元！誰才是 AI 運算領域贏家？
作者 |發布日期 2025 年 01 月 18 日 11:00 |
line share
Linkedin share
line share
分類 AI 人工智慧 , 公司治理 , 晶片

2024 年 12 月 12 日，一份財報震撼半導體與投資市場。晶片公司博通（Broadcom）第四季財報指出，AI 收入與前一財年與同期相比增長 220%，達 120 億美元，隔日股價應聲喊漲 24%，創下史上最大單日漲幅，市值一舉衝破 1 兆美元，成為「全球第二大半導體公司」。

繼續閱讀..

生成式 AI 運算速度競賽漸趨激烈，SambaNova 達成 Llama 3 8B 每秒處理 1,000 Token 新紀錄
作者 |發布日期 2024 年 05 月 31 日 10:59 |
line share
Linkedin share
line share
分類 AI 人工智慧 , 新創 , 網路

生成式 AI 開發競爭固然激烈，但企業著重的除了效能外，處理速度和成本也是相當重要的部分，因此同一模型如何能夠以更快速度處理就成為另一個競爭目標。有新創最近創下每秒處理 Llama 3 8B 的 1,000 個 Token 的新紀錄，引來目光注目。 繼續閱讀..

富比士：AI 的能源缺口將讓天然氣需求暴增
作者 |發布日期 2024 年 04 月 01 日 8:10 |
line share
Linkedin share
line share
分類 AI 人工智慧 , 伺服器 , 能源科技

當 NVIDIA 推出了新的晶片時，人們彷彿預見了一個全新的 AI 時代，但人們卻忘了這背後其實代表更多、更龐大的電力需求。每一個新的 AI 伺服器可以裝 8 個 GPU，每個 GPU 需要 700w；而 NIVIDIA 最新的 Blackwell B200 晶片耗電量甚至達 1,200 瓦。富比士發出了一篇新的專題報導，認為現在 AI 的能源需求增長過於猛烈，目前可能只有天然氣來得及填補 AI 運算造成的能源缺口。 繼續閱讀..

NVIDIA、Arm 與英特爾三雄聯手，發表 FP8 規格加速 AI 運算
作者 |發布日期 2022 年 09 月 16 日 11:30 |
line share
Linkedin share
line share
分類 AI 人工智慧 , 半導體 , 會員專區

為了加速 AI 訓練、推理發展，NVIDIA、英特爾（Intel）以及 Arm 三雄聯手，近日共同發表 FP8 Formats for Deep Learning 白皮書，期能透過 8 位元浮點運算的格式來改善運算效能，並將當成 AI 通用的交換格式，提升深度學習訓練推理速度；而此一白皮書也已提交給電機電子工程師協會（Institute of Electrical and Electronics Engineers，IEEE）。

繼續閱讀..