為了開發出能優先考慮透明度、問責制(Accountability)、人類代理監督及使用者利益的 AI 人工智慧,火狐(Firefox)瀏覽器開發商 Mozilla 於 22 日成立一家聚焦在「可信賴 AI」(Trustworthy AI )的新創公司 Mozilla.ai。
去年 11 月 ChatGPT 問世,引發全球跟風熱潮,舉凡微軟、Google、DuckDuckGo、Grammarly 及 Adobe 等公司莫不紛紛推出自家生成式 AI 工具。但當前生成式 AI 服務最令人詬病的地方,莫過於這些服務通常會將內含錯誤及不實的資訊包裝成聽起來很權威的敘述,而且他們對於所運用資訊的正確與否並不了解。
為了扭轉這個現象,Mozilla 宣稱秉持著可信賴 AI 理念,成立與這股風潮反其道而行的 Mozilla.ai 新創公司,致力打造一個獨立、去中心化、可信賴,同時讓可信賴產品開發更加容易的 AI 生態系統。基本上,Mozilla.ai 一開始就會將關注的焦點放在會讓生成式 AI 服務更安全、更透明的工具,以及不會誤導使用者的推薦系統上。
目前,Mozilla 已在 Mozilla.ai 身上初步投資了 3,000 萬美元,整個公司將由三人事會主導,並由華為諾亞方舟實驗室前首席科學家 Moez Draief 擔任董事總經理。
(首圖來源:Mozilla.ai)