生成式 AI 導致當機風險？亞馬遜要求所有 AI 代碼變更須經資深工程師審核

在 10 日的每週營運會議上，亞馬遜針對近期的服務中斷事件進行深入討論，特別是與生成式人工智慧（Generative AI）相關的代碼變更可能對基礎設施造成的影響。儘管公司強調生成式 AI 工具並非問題根源，但仍然承認最近幾個月出現多起高影響力的事件，並將其與 AI 輔助的代碼變更聯繫起來。

上週四，亞馬遜的主要零售網站出現數小時的中斷，此問題被歸因於「軟體代碼部署」，而AWS服務則未受到影響。根據《金融時報》的報導，亞馬遜的高級副總裁Dave Treadwell向員工發送電子郵件，指出網站及相關基礎設施的可用性最近不佳，並要求參加針對這些問題的深入討論。

為了應對這些挑戰，亞馬遜決定要求所有AI輔助的代碼變更在部署前必須經過高級工程師的批准，這一措施旨在將經驗豐富的開發人員做為「人類品質過濾器」，以應對目前尚未完全建立最佳實踐和安全措施的生成式AI使用情況。

儘管亞馬遜對AI的角色持保留態度，強調人為因素如部署錯誤和訪問控制錯誤，但批評者對此表示懷疑。雲端經濟學家Corey Quinn指出，AWS寧願讓外界相信其工程師無能，也不願承認其人工智慧出現了錯誤。AWS前工程師詹姆斯·高斯林（James Gosling）則將這些中斷事件與非營收基礎設施團隊的裁員聯繫起來，認為公司過於重視收入而忽視了穩定性。

此外，AI評論家加里·馬庫斯（Gary Marcus）也提到，這些事件的發生正如他之前所警告的，生成式AI在調試和維護方面的挑戰逐漸顯現。觀察人士指出，隨著AI的採用，裁員所帶來的風險可能會加劇，並且潛在的安全問題尚未得到公開解決。這一發展突顯了在關鍵基礎設施中擴展AI編碼工具的緊張關係，必須在速度提升和可靠性需求之間取得平衡。

• Amazon insists AI coding isn’t source of outages
• In wake of outage, Amazon calls upon senior engineers to address issues created by ‘Gen-AI assisted changes,’ report claims — recent ‘high blast radius’ incidents stir up changes for code approval
• Amazon makes senior engineers the human filter for AI-generated code after a series of outages
• “A spate of outages, including incidents tied to the use of AI coding tools”, right on schedule
• Amazon summons e-commerce engineers to powwow after code-triggered outage

（首圖來源：Unsplash）