渡辺周の発言 （安全保障委員会）

○渡辺（周）委員　この質問の最後に、政府、開発企業、研究機関、これから日米で共同研究、共同開発で、様々な研究機関も協力するということでございますが、倫理に関する教育、啓発活動、これも必要だということですね。つまり、ＡＩ技術を導入するに当たっては、例えば、二〇一八年六月、グーグルは国防総省との契約を更新しない、つまり、軍事利用されたくないというようなことで契約を見直したというようなこともありますけれども、現実問題として、やはり、平和利用されるものと軍事利用されるものの線引きというものも考えなければいけませんし。
　まさにＡＩが暴走をして、人間のコントロールが利かなくなる。そして、何よりも、人間が判断をしないで、もっと言えば、ＡＩが、民間人なのか、敵の兵士なのか、果たしてそれを識別できるかどうかとか。こういう技術的な問題もそうだけれども、当然、誤爆をしたり、誤判断をして、その間違った判断の下、万が一殺傷した場合には、じゃ、誰が責任を取るのか。その保有者なのか、保有国なのか、それとも製造者なのか、あるいはそれを判断した部隊なのか。これは全く、様々なルールはこれからなわけでありまして、ＡＩというものが世に出てきてから瞬く間に、まさにゲームチェンジャーとして、いわゆる防衛装備品の在り方が変わります。全く想像もつかないわけでございます。
　一つの例を挙げると、ＡＩ搭載型の無人支援戦闘機、これは日本とアメリカがもう既に共同に、いわゆる日英伊で造る新たな次期戦闘機を支援する支援戦闘機はアメリカと一緒に造る。既にアメリカは、ＡＩ操縦の戦闘機が、米軍のパイロットに、シミュレーションですけれども、圧勝したということがあるわけなんです。
　ですから、世界的なルールもそうですけれども、我が国としての歯止めを考えていかないと、まさに今申し上げた誤爆の可能性のある自律型戦闘機であるとか、ＬＡＷＳと呼ばれる自律型の致死システム、こういうものが、日本政府はつくらないと言ったけれども、例えば、共同開発でもこのテーマは駄目ですと言い切れるのか、あるいは部品の供与も考えていないのか、研究データの提供等も考えていないのか、そこは今の現状でどのようにお考えでしょうか。お答えいただきたいと思います。