柳澤協二の発言 （外交防衛委員会）

○参考人（柳澤協二君）　ありがとうございます。
　そのＡＩ兵器の問題は実は佐藤丙午先生が御専門なんですけれども、私が防衛実務の経験者としての捉え方を申し上げさせていただきますと、もちろん、ですから、どの目標をやっつけるという明確なミッションを与えた場合に、ＡＩは一番正確に間違いなくそれを効率的にやってくれる、それは兵器に応用しても当然そうなるんだろうと思うんですね。
　問題は、そこで、人間がどのようにそこを、どのようなミッションを付与し、そして、そのミッションを付与する以前に、お互いにその辺が、相手が何をするか分からない状況の下で、お互いがＡＩを持った兵器で武装する、あるいは兵器体系そのものを運用するということになると、実は相手が何をしたいかを考える間もなく、一定の行動に対して一定の、何というか、一定の動きを察知したら自動的にそれで反応して攻撃しなければならないような状況になりかねない。
　以前、白黒時代の映画でありました。「博士の異常な愛情」というような題だったと思いますが、そういう、相手側からミサイルが来たら自動的に報復の核ミサイルがアメリカに向かって飛んでいくというのをソ連がつくって、それが止まらなくなってしまったという状況を描いた映画なんですけれども、ＡＩに依存するというのは、効率性を求める余りＡＩに依存することによって、そういうかえって人間を破滅に導く効果もあるという意味で、非常に、これからどういうふうにそれを扱っていくのか、それはむしろ本当に人類的な、人類史的な課題になってきているのかなと私は思っております。