佐藤丙午の発言 （外交・安全保障に関する調査会）

○参考人（佐藤丙午君）　ありがとうございます。
　拓殖大学海外事情研究所所長・国際学部教授の佐藤丙午です。私の専門は、国際関係論や安全保障を中心に勉強させていただいております。
　本日は、参議院外交・安全保障に関する調査会にお招きいただき、感謝いたします。
　会長の猪口邦子先生には、私が研究を志したときより、様々な場面で御指導をいただいております。本日は、中東地域の諸問題から人工知能に関わる、ＡＩに関する軍備管理・軍縮の問題を説明させていただく上で、改めて先生に心より感謝申し上げるとともに、御指導の成果をお返しする気持ちで臨みたいというふうに考えております。
　まず、ＡＩの軍事利用に関する最近の話題を紹介させていただきたいと思います。
　二〇二五年一月に、グーグル社が二〇二四年のラウンドアップ報告書を発表しております。その際、グーグル社が、その中に含まれているＡＩの倫理原則よりＡＩの軍事等への利用に関する項目を削除したということが話題になっております。これは、しかし、グーグル社がＡＩの軍事利用拡大に転換したと理解するのではなく、軍事安全保障の分野においてＡＩの利用というのが非常に一般的な、極めて一般的な現象になっている現実というものを反映した反応であるというふうに考えるべきだと考えております。
　実際、ＡＩの軍事利用は、イスラエルのハマスに対する攻撃において大きく注目を集めました。二〇二三年十月以降、複数の米国紙は、イスラエル軍、ＩＤＦの、ガザ地区のハマスの構成員の情報を収集し、ごめんなさい、イスラエル軍がガザ地区のハマスの構成員の情報を収集し、それをＡＩで分析し、攻撃に利用していると報じています。実際、ＩＤＦは、二〇一九年五月に、参謀本部諜報局の下に、新たに標的特定を目的にした部門を立ち上げております。その組織に関する説明を見る限り、ＩＤＦとイスラエルの情報機関、特にユニット八二〇〇という機関が注目を集めておりますけれども、それと諜報機関というのは長期間にわたってハマスに関する情報の収集に当たっており、それらを攻撃に利用するためにＡＩの活用を進めるということを決定したようです。
　軍事分野におけるＡＩの活用には、複数の段階が想定されます。特定通常兵器使用禁止制限条約、ＣＣＷと申しますけれども、ここにおいては、攻撃に至るまでの段階を、ＮＡＴＯなどが利用するターゲティングサイクルを援用して、司令官の目的明確化、標的の探索、追跡、標的、攻撃、また攻撃後の評価などに分類して、それぞれの段階でのＡＩの活用に関する規制の可否を検討しています。
　イスラエルによるＡＩの利用では、ハブソラ、英語名でゴスペルと申しますけれども、それであるとか、ラベンダーと呼ばれるＡＩの利用が報じられています。報じられていると申し上げるのは、これは公式な表明ではないためです。以下、報道ベースで申し上げますが、ゴスペルは機械学習の機能を使用して標的を特定するもの、そして、ラベンダーは人的な標的の特定と行動把握、恐らくこれには追跡も含まれると思いますけれども、それを可能にするＡＩであると言われております。しかしながら、いずれも攻撃を実施する際の判断は、ＩＤＦの司令官によって行われます。その意味で、これらＡＩは、攻撃の意思決定の支援システムであって、兵器そのものではありません。
　ゴスペルは、ＩＤＦとイスラエルの情報機関及び諜報組織の協働によって、衛星、通信など複数の情報源から情報を収集し、標的の特定を目的にしているようです。これは、標的の特定や発見において、ＩＤＦが過去苦慮してきた標的リストの枯渇という問題に対応するものであるというふうにされております。
　ここに、ＡＩの軍事利用の一つの特徴があります。つまり、リアルタイムで大量のデータを分析して攻撃に活用する、いわゆるデータサイエンスの領域に関わる特徴です。
　御存じのとおり、データは、映像、これは物理イメージや生体情報を含みますけれども、それや音声など、様々な形態が存在します。そして、データ分析の軍事利用では、利用目的による区分が想定されます。例えば、先に申し上げた標的の発見に加え、例えば、各国が仮釈放の決定などで用いられる対象の将来の行動予測であるとか、目的に応じた軍事的な行動の提案なども、これは生成ＡＩで、皆様御存じだと思いますけれども、ＡＩにおけるデータ活用の一例だというふうに言えます。
　ＩＤＦのＡＩ利用を分析した研究では、ＩＤＦが攻撃支援、情報分析に加え、プロアクティブな予測、指揮命令系統の効率化などの分野でＡＩの効率化、活用を図っているとしております。ただ、多く見られる分析には、多くの場合は証拠が明示されておらず、イスラエルによる軍事分野におけるＡＩの活用を神話のように語る傾向も見られるため、確実な実態の把握が必要であるというふうに考えております。
　ただ、確実に言えることは、生成ＡＩなどの開発が進むことにより、イスラエルに限らず多くの国が攻撃における意思決定システムとして、の支援システムとしてＡＩの活用を拡大することになるであろうということが予想されることであると思います。
　つまり、ＡＩの軍事利用の可能性の幅は、攻撃支援に限らず、攻撃に関する意思決定前の段階での標的探索、また行動予測による標的の発見、さらには一般的な意味での意思決定支援システムなどまで存在します。ＩＤＦのゴスペルにおける標的は物理目標が中心でありますけれども、ラベンダーと呼ばれるシステムは個人の特定、また、これはホエアズダディーと呼ばれるＡＩも存在しますけれども、存在するというふうに指摘されておりますが、このようなシステムは行動把握を目的とするなど、複数のシステムをＩＤＦは利用しているというふうに分析されています。
　難しい点は、これらの例から示されるように、ＡＩは軍事的に利用されてはいますけれども、それら技術そのものの開発意図や技術は必ずしも軍事利用に特化したものであったわけではないという点です。
　そして、忘れるべきではないことにおいては、イスラエルの、ごめんなさい、ＡＩの軍事利用はイスラエルだけが行っているものではないということであります。
　このように、ＡＩの軍事利用が急速に進む中、そこには大きなリスクが存在しております。イスラエルの問題を出発点として申し上げるとすれば、そこには人道法上の問題や倫理的な問題が存在します。
　人道法上の問題は、ガザでの戦闘で顕著に見られたとおり、民間人の附帯被害の問題です。ジュネーブ諸条約第一追加議定書の下では、事実上、一定の附帯被害の発生、一定の附帯被害が発生することが想定されています。しかし、その被害の程度の判断は各国の決定に委ねられております。したがって、そこにおける解釈の幅は極めて大きいものがあります。もちろんのこと、附帯被害がゼロであることは理想ではございますけれども、今回のガザの戦闘では、イスラエルにおける標的と附帯被害の割合というのは一対二十とも、それ以上にも設定されていたとも報じられております。その分だけ標的、一つの標的を攻撃する上で附帯被害が大きくなるという現象が発生します。
　ＡＩの軍事利用の問題においては、兵器の資格審査、適格審査の問題も指摘する必要があると思います。現在、防衛省・自衛隊でも検討が進んでいるというふうに聞いておりますけれども、第一追加議定書第三十六条の兵器審査が、ＡＩの直接的な兵器利用や意思決定システムなどでの活用に関してＡＩの技術や用途についてどこまで、またどの程度の審査をすることが必要であり、なおかつそれが十分であるのか、それを検討することが日本のみならず国際社会においても急務になっておると思います。なお、さらに、兵器審査の国際的な普遍化に関わる問題においては、軍備管理・軍縮において国際協調が必要な分野だと思います。
　さらに、ＡＩの問題においては、ＡＩの信頼性の問題がございます。先ほど申し上げたゴスペルについて言えば、その信頼度は九〇％であるというふうに評価されております。逆に言うと、一〇％は誤爆が発生するということになりますけれども、これを九九％以上に近づける、信頼性を九九％以上に近づける技術もあるというふうには指摘されておりますけれども、しかしながら、ゴスペル以外のシステムにおいて同じ状況にあると言えるかどうかは判断付かない状況にあります。情報収集とその正確性には一定の限界があり、どうしても間違った情報に基づく誤った判断が発生します。また、ＡＩのアルゴリズム自体にバイアスが存在するともされています。
　もしＡＩを使用しなかったとしても、人間の司令官が誤った判断を下すケースというのは数多く存在します。このため、先ほど申し上げたＣＣＷにおいても、また国連のグテーレス事務総長や中満泉事務次長などが進める新たな平和への課題においても、またオランダと韓国が進めてきた軍事領域における責任あるＡＩ利用、ＲＥＡＩＭというふうに申し上げますけれども、これにおいても、ＡＩの軍事利用は避けられないということを前提に、兵器システムにおける人間の関与を確実に担保することの重要性というものを強調しております。
　現在、ＣＣＷでは、自律型致死無人兵器システム、いわゆるＬＡＷＳの規制において検討が進められており、二〇一九年までには、既に指導原則、ガイディングプリンシプルと呼ばれますけれども、これの合意が得られております。この原則では人道法の遵守が改めて強調されています。この合意は、もちろんのこと、ウクライナやガザでの問題が発生する前の文書ですけれども、特にＩＤＦにおける、ＩＤＦによるＡＩの軍事利用が指摘される中、改めてこの問題での国際合意に関する議論の活性化が必要であると感じております。
　やはり、ウクライナやガザでの戦闘の状況を見ると、ＡＩの軍事利用、軍事面での利用拡大は避けられないというふうに感じます。つまり、各国は既にその競争状態に至っており、日本が無関心であることはできないということであります。考慮すべきなのは、しかし、ＡＩの軍事面での利用は、必ずしも攻撃に特化した側面での利用に限られることなく、また、ＩＤＦの利用方法にしても、それが国際法を遵守した使用であるということを彼らが主張していることを完全に否定することはできないということであります。
　このような状況を踏まえると、日本は、ＣＣＷで議論されているような禁止と規制の二段階アプローチを精緻化し、国際的な合意が得られる内容へと進化させることが必要であるというふうに感じております。そして、ＡＩの軍事利用を止めることができないということを前提に、その中でどのようにすれば人道法のより良い遵守が可能なのかということを検討していく、検討していってほしいと考えております。
　韓国は、ＡＩの軍事利用を加速化し、恐らく日本の防衛省・自衛隊が短期的には追い付くことが困難な状況にまで至っております。韓国は、それとともに、規制の議論で国際社会を牽引しております。両面での、軍事及び規制における両面での貢献があって初めて国際的に実行力ある議論を主導することができるというふうに韓国の状況を見て感じております。
　したがって、日本においては、これら問題に対処し、ＡＩの規制を促進する施策をＩＤＦの事例等から学び、日本の政策の検討につなげてほしいと思います。
　どうもありがとうございました。以上でございます。