Tag Archives: TensorRT 8

1.2 毫秒！Nvidia TensorRT 8 運行 BERT-Large 推理創紀錄

作者雷峰網|發布日期 2021 年 07 月 23 日 8:00 |

分類 AI 人工智慧 , GPU , 處理器

自今年 5 月 TensorRT 8-EA 版（Early Access，嘗鮮版）發表後，Nvidia 終於在 20 日發表 TensorRT 8 正式版。

繼續閱讀..

語言推論時間減至 1.2 毫秒！NVIDIA 全新 AI 軟體實現更強搜尋引擎

作者侯冠州|發布日期 2021 年 07 月 21 日 10:48 |

分類 AI 人工智慧 , 會員專區 , 網路

為使開發人員能打造更高效能的搜尋引擎、廣告建議與聊天機器人，NVIDIA 近日宣布推出第八代人工智慧軟體 TensorRT 8，其特色在於能讓語言查詢的推論時間減半，只需要 1.2 毫秒就能在 BERT-Large 上達到破紀錄的語言應用速度，而 BERT-Large 是全世界最被廣泛使用的 Transformer 模型之一。

繼續閱讀..

登入裝置已達上限