「看起來精緻但其實錯了」，生成式 AI 醫學影像準確性堪憂

在生物醫學領域，生成式人工智慧（AI）在醫學影像創作中的應用引發廣泛的討論與擔憂。

根據來自挪威卑爾根大學、加拿大多倫多大學及美國哈佛大學的研究者所撰寫的論文，標題為《看起來性感但其實錯誤：使用生成式AI進行生物醫學視覺化的創意與準確性之間的緊張關係》，該論文將於2025年11月的IEEE Vis會議上發表。研究者指出，生成式AI所創造的影像雖然外觀精美，但其準確性卻令人堪憂，這可能在臨床環境中造成危害，或成為網路上的錯誤資訊。

論文中展示了由OpenAI的GPT-4o和DALL-E 3生成的影像與生物醫學視覺化專家的作品進行比較，顯示出生成式AI在某些細節上與現實存在偏差，甚至出現如「性徵誇張的老鼠」這類明顯不實的例子。這些不準確的影像可能會誤導醫療專業人員及公眾，導致錯誤的健康決策。

▲ 上排為GPT-4o或DALL·E 3所生成的偏差圖片；下排是由BioVisMed所創建的圖片。（Source：論文）

研究者Ziman指出，儘管目前尚未發現AI生成影像直接導致健康問題的實例，但在醫學及健康相關出版物中使用不準確影像的問題日益嚴重。這不僅影響了公眾對科學研究的看法，還可能在公共健康溝通中造成長期的負面影響。

在對17位生物醫學視覺化專業人士的調查中，研究者發現對生成式AI的看法各異，從熱情擁護者到謹慎的懷疑者不等。雖然有些專業人士認為AI生成的影像在與客戶的交流中具有一定的價值，但大多數人仍然強調準確性的重要性，並對AI目前的能力表示擔憂。

此外，研究者也提到，生成式AI的使用可能會引發知識產權的問題，並且在商業用途上存在風險。儘管如此，許多專業人士仍在其工作流程中逐步整合這些工具，並希望能夠在未來找到更好的使用方法，以確保影像的準確性和可靠性。

• Seeing is believing in biomedicine, which isn’t great when AI gets it wrong

（首圖來源：shutterstock）