AIの誤りが米中を戦争寸前に追い込んだ

米軍が使用する人工知能（AI）システムが、中東を航行中の中国船籍の貨物船について、核兵器計画に属する重要部品を輸送しているという虚偽の報告書を作成した。CNNインターナショナルの報道によると、イランとの戦争が続く春の時期に出回ったこの諜報報告書は、指揮系統に警報を引き起こした。

報告書によれば、米戦闘機が発進し、特殊部隊が船への強襲作戦を実行するために動員された。しかし、作戦開始直前に報告書が精査され、文書がハワイに本部を置く米太平洋特殊作戦司令部の分析官によってAIチャットボットの支援を受けて作成されたことが判明した。AIが船の貨物を完全に誤って識別していたのである。

ある情報筋は報告書を「完全な嘘」と評し、誤情報が「戦争を始めかねなかった」と述べた。この事件では、分析官が船の積荷目録に関する一部データをAIに照会させたとされる。システムが商用ソフトウェアなのか、米政府専用の製品なのかは不明である。

AIシステムに詳しい元米高官は、機関内のツールの多くが「単なる見せかけの商用ソフトウェアのコピーに過ぎない」と述べた。米軍と諜報機関は、生データ分析から目標選定、予算管理から兵站・サプライチェーンに至るまで、多くの分野でAIを利用するための取り組みを加速させている。しかし、今回の出来事は、戦時環境における目標探知と諜報分析において、十分に理解されていないこの技術が深刻なリスクを孕んでいることを浮き彫りにした。専門家は、誤ったデータで動作するAIが壊滅的な誤った決定を生み出す可能性があると長年警告してきた。