怕 AI 發展失控！馬斯克帶頭呼籲暫停訓練，AI 大神搖頭：糟糕主意

特斯拉執行長馬斯克（Elon Musk）、蘋果共同創辦人 Steve Wozniak 及多位 AI 研究人員連署公開信，呼籲所有 AI 實驗室暫停訓練比 GPT-4 更先進的模型至少 6 個月，以免對社會和人類構成威脅。AI 大神吳恩達（Andrew Ng）認為，這是個糟糕的主意。

AI 大神吳恩達在 Twitter 指出，AI 在教育、醫療保健、食品等領域帶來許多新應用，幫助到很多人，「改進 GPT-4 會帶來助益，讓我們在 AI 創造的巨大價值與現實風險間取得平衡」。

再來，除非政府介入，否則沒任何實際方式能阻止團隊擴大 LLM（大型語言模型）。然而，讓政府暫停他們不了解的新興技術，是反競爭的行為，也開創一個可怕的先例，並且是糟糕的創新政策。

吳恩達表示，負責任的 AI 很重要，而 AI 也有風險。主流媒體稱 AI 公司正在瘋狂發布不安全的程式，但這是不正確的。絕大多數（可惜不是全部）AI 團隊都非常重視負責任的 AI 和安全。

最後，暫停 6 個月不是實際的建議。為了提高 AI 的安全性，圍繞透明度和審計的法規將更加實用，並產生更大影響。讓我們在推進技術的同時，花更多投資在安全，而不是扼殺進步。

1/The call for a 6 month moratorium on making AI progress beyond GPT-4 is a terrible idea.

I’m seeing many new applications in education, healthcare, food, … that’ll help many people. Improving GPT-4 will help. Lets balance the huge value AI is creating vs. realistic risks.

— Andrew Ng (@AndrewYNg) March 29, 2023