過去幾個月，「AI 教父」Geoffrey Hinton 一再警告 AI 可能對人類構成威脅，但他對 ChatGPT GPT-4 AI 模型了解更多後，再度呼籲 ChatGPT 的威脅性可能遠比想像更高，因 AI 能理解人類話語和想法背後的隱義。
談到生成式 AI 能耐時，許多人認為不過就是過度吹捧美化全自動完成功能，但 Hinton 認為 AI 能耐遠不只這些。他舉例，現在訓練 GPT-4 等 AI 模型，預測人類想要什麼時表現非常出色。
AI 必須理解輸入字句的意思，才能學會預測我們想要什麼。正因如此，他認為 ChatGPT 和其他 AI 模型恐構成更大威脅，因越來越理解我們話語與想法背後的意義。
儘管 AI 沒有知覺，但了解想法意義後，便能以此為基礎構建系統。Hinton 強調，像 GPT-4 這種 AI 系統的智慧已超越祖先，即使無法比美人類學習力，但有可能會比人類設計它們時更強大。AI 越強大，對人類的威脅性也更大。
雖然我們不需要立即跳進「AI 終將殺死全人類」的恐怖情景來嚇自己，但許多 AI 先驅及專家紛紛表達擔憂時，最好保持尊重，並對可能的威脅提高警覺。不幸的是，現在個人、組織乃至國家都一頭栽入 AI 狂熱，比起不確定的 AI 威脅，落後的恐懼反而更真實，故全球 AI 發展腳步沒有減緩之勢。從亞當偷吃禁果到人類發展 AI，恐怕都是難以避免的原罪在作祟。
AI pioneer warns ChatGPT can comprehend the meaning of our words and ideas
（首圖來源：達志影像）
科技新報粉絲團
加入好友
訂閱免費電子報
