チャールズ国王、AI企業に警告「人類性は神聖であり続けるべき」

英国のチャールズ国王は、人工知能（AI）企業の主要代表者らと会談し、この技術が引き起こしうる「存在論的危険」について警告した。BBCの報道によると、会談はチャールズ国王が創設者であるキングス・ファウンデーションのスコットランドにある拠点、ダンフリーズ・ハウスで行われた。

チャールズ国王は、AI開発者が「より暗い能力」のリスクについて警告を強めていると指摘し、この技術が悪意ある手に渡り、壊滅的な結果を招く形で使用された場合の危険が十分に議論されていないと強調した。「すべてが手遅れになる前に、十分な制御メカニズムが必要だ」と述べた国王は、「我々の人類性は神聖であり続けるべきだ」と語った。

スピーチの中で、安全を中心に据えつつAIの恩恵をいかに活用するか、またどの国家も取り残されることなく、しかし人類の存在を守る国際協力をいかに構築するかを問いかけた。国王はAIの開発速度を「興味深いと同時に深く憂慮すべきもの」と評した。

会談では、NvidiaのCEOジェンスン・フアン氏が安全が「最重要の優先事項」であると述べ、企業は十分に安全でない製品を市場に出してはならないと語った。フアン氏は「責任ある楽観主義で先導しよう」と呼びかけた。Google DeepMindの共同創設者デミス・ハサビス氏は、AIが多くのタスクで人間レベルに達するまでに「おそらくあと数年」であり、これらのシステムは「産業革命の影響の10倍」の規模の影響を与えうると述べた。