高效訓練 LLM，GaLore 登上 Hugging Face 整合 Transformers 程式庫 |
作者
陳 冠榮|發布日期
2024 年 03 月 22 日 12:31 |
|
研究人員日前提出一種新的模型訓練策略 GaLore（Gradient Low-Rank Projection），在大型語言模型高效訓練方面向前邁出重要的一步，尤其可用消費級硬體，例如家用電腦的高階顯卡訓練數十億參數的模型，減少優化器狀態下的記憶體占用，為無法取得高階運算資源的研究人員開拓新視野。
Google Pixel 在美市占增至 5%，日本銷量火熱年成長逾 5 倍 |
|
作者
陳 冠榮|發布日期
2024 年 03 月 21 日 17:09 |
|
儘管美國市場手機出貨量顯著下滑，Pixel 手機在美市占持續攀升。
發展台版 ChatGPT，國科會最快 4 月中旬開源 TAIDE-7B 版本 |
|
作者
陳 冠榮|發布日期
2024 年 03 月 21 日 15:14 |
|
國際大型語言模型多以簡體中文資料進行訓練，容易發生資訊偏誤或不符台灣文化和價值觀，為此國科會自去年 4 月啟動 TAIDE（Trustworthy AI Dialogue Engine，可信賴 AI 對話引擎）計畫，打造專屬台灣的大型語言模型。
多重事業引擎支撐集團獲利，陳俊聖：小金虎壯大宏碁生態系 |
|
作者
陳 冠榮|發布日期
2024 年 03 月 20 日 14:51 |
|
宏碁非電腦和顯示器業務，在 2023 全年貢獻 42.8% 營業淨利，獲利多靠宏碁董事長陳俊聖口中的「小金虎」支撐。
GPT-5 何時發表？OpenAI 奧特曼：我無法透露，許多重要產品即將發表 |
|
作者
陳 冠榮|發布日期
2024 年 03 月 20 日 11:16 |
|
Google 不久前推出升級版 Gemini 1.5 模型，Anthropic 也才推出 Claude 3 模型，那麼前些日子以影片生成模型 Sora 引發廣泛討論的 OpenAI，準備好對世人發表被稱為 GPT-5 的新一代模型嗎？
進軍量子運算雲端服務，NVIDIA 發表 Quantum Cloud |
|
作者
陳 冠榮|發布日期
2024 年 03 月 19 日 9:14 |
|
NVIDIA 藉 2024 GTC AI 大會發表 NVIDIA Quantum Cloud，供研究人員測試量子運算軟體，幫助在化學、生物學、材料科學等關鍵科學領域有所突破。
馬斯克信守承諾，xAI 開源 Grok-1 模型 |
|
作者
陳 冠榮|發布日期
2024 年 03 月 18 日 14:44 |
|
馬斯克（Elon Musk）擁有的 AI 新創 xAI 宣布開源 Grok-1 模型，讓研究人員和開發者能以既有基礎進行開發，也將影響 xAI 未來更新聊天機器人 Grok 的方式。
蘋果 AI 研究再現成果，發表 30B 參數多模態模型 MM1 |
|
作者
陳 冠榮|發布日期
2024 年 03 月 18 日 11:24 |
|
蘋果的研究人員建構一個包含多達 300 億參數的多模態模型 MM1，由稠密模型和混合專家模型（Mixture of Experts Models，MoE）變體所組成，可在視覺任務類型與 OpenAI GPT-4V、Google Gemini 競爭。
