- 出演者
- 桑子真帆 秋元千明
イランへの攻撃が始まった直後の3月、アメリカ国防総省の高官が作戦に新たなAIシステムを使っていたことを明らかにした。新たなAIシステムは敵を発見してから攻撃するまでにかかる時間を劇的に短縮できるという。新たに開発されたメイブン・スマート・システムではドローンやSNSなどを含めた多様な情報を人の手を介さずリアルタイムで集約することが可能に。また、標的の特定から攻撃の計画・実行まで1つのシステムで完結できる。アメリカ軍は10年近くにわたってこのAIシステムの開発を進めてきた。4年前からはロシアの侵攻を受けたウクライナで支援の一環として開発中のAIシステムが使われてきた。こうしたAIの軍事利用には重大な懸念もあると指摘されている。イランへの攻撃初日、南部・ミナブの小学校にアメリカ軍のものとみられるミサイルが直撃。児童ら160人以上が死亡した。小学校の建物はかつて軍事施設の一部で人為的なミスで古いデータが攻撃に使われたのではないかと報道されている。
軍事AIに詳しい秋元千明さんをスタジオに迎えた。秋元さんによると、メイブン・スマート・システムでは28種類のAIを使っているという。ウクライナ戦争の初期は一日に300の目標を検出していたが、その後どんどん発達し、イラン戦争の初期には12時間に900の目標を検出できるようになったとのこと。AIの軍事利用のリスクとして挙げられるのが、AIの判断を無条件に信用してしまう自動化バイアスや人の命を奪う倫理観・罪悪感が薄れる戦場の非人格化など。
先月、ローマ教皇レオ14世がAIの軍事利用を念頭に踏み込んだメッセージを発した。国連のグテーレス事務総長も「人類の運命をアルゴリズムに委ねてはならない」と指摘した。先週、スイス・ジュネーブの国連ヨーロッパ本部でAIの軍事利用の規制に向けた非公式協議が行われた。会場には世界各地のNGOや市民団体なども招かれ、それぞれの立場から意見を表明した。国連では約10年前からAIが自らの判断で攻撃する自律型兵器の規制に向けた議論が行われてきたが、各国の足並みが揃わず条約の制定などには至っていない。核保有国がAIに意思決定を委ねたら何が起きるのか。2月、イギリスの研究者が公表したシミュレーションの結果が世界に衝撃を与えた。3つの対話型AIの最新モデルを使用。対立する核保有国の指導者を演じさせた。複数の選択肢から行動を選び、相手と駆け引きしながら領土を奪い合う対戦ゲームを繰り返し実施。すると、どのAIも譲歩や降伏の選択肢を一度も選ばず、状況が不利になると核兵器を使用することもためらわなかったという。21回の対戦のうち、実に20回で核兵器が使用され、うち3回は核兵器使用の応酬となる全面的な核戦争にまで発展したという。
AIの軍事利用について解説。アメリカはトランプ大統領がアメリカ軍での活用を指示。ウクライナはアメリカ軍のAIシステムを導入していたが現在は独自のAIシステムを開発している。中国は軍の“智能化”を打ち出してAIの軍事利用を加速化させているとみられている。日本は自衛隊でのAIの活用を打ち出している。秋元千明さんは「抑止力になると証明されている。ウクライナの戦争を見て分かるように軍事用AIを使えば小さな戦力しかないのに大国の戦力と対等に戦うことができると証明されている」などと話した。