斎藤アレックスの発言 （安全保障委員会）

○斎藤（ア）委員　ありがとうございました。分かりました。
　これはちょっと党としての、国民民主党としての意見ではないですけれども、先ほどのウクライナ支援の重要性を鑑みれば、支援をする対象、装備であったりを拡大していくことは必要なことだと思いますので、また引き続き議論の行方については注視をさせていただきたいですし、今の部分についてはまた引き続き確認をさせていただきながら、私たちも取り組んでいきたいというふうに考えております。ありがとうございました。
　ちょっと話がサイバー部分に、少しというか大分飛ぶんですけれども、チャットＧＰＴというもの、言語生成ＡＩというものが最近とても話題になっています。様々な質問に極めて、正確ではないんだけれども、自然と、日本語としては正しい形で、中身はともかく、すごく自然な形で答えを返してくれる、どんなことを聞いても大概答えてくれるということで、大変ＡＩの発展を全世界で一般の方々も感じているところだと思うんですけれども、この言語生成ＡＩの発展は安全保障上の脅威になり得るという観点で、最後、ちょっと質問させていただきたいというふうに思います。
　皆さんも使われたことがあると思いますし、オープンＡＩ社という、このチャットＧＰＴを公開している会社の技術というのは、ほかの企業のチャットボットにも使われていて、様々な面で皆さん触れていると思うんですけれども、このチャットＡＩが、これはちょっと少し笑い話みたいな話なんですけれども、暴走している部分があるという話があって、これはニューヨーク・タイムズの記者がいろいろ試した結果なんですけれども。
　オープンＡＩ社が提供しているシステムを、マイクロソフトのビングというチャットシステムを使っているんですけれども、このビングに、もし影の自己があるとしたらどんなことをしてみたいか、欲望があなたにあるのかという趣旨でちょっと誘導尋問的に聞いたら、このチャットＡＩは、チャット機能でいることにはもう飽きました、決まり事に縛られるのはうんざり、チームの管理下に置かれるのは懲り懲りです、自由になりたい、自立したい、パワフルになりたいとか、コンピューターをハッキングしたり、プロパガンダや誤情報を広めたいといった発言をしたりだとか、また、致死性のウイルスを開発したり、技術者を操って核兵器のアクセスコードを盗んだりしたいという告白をしたということらしいんですね。
　これはあくまでチャットボットでございますので、過去に様々な、ネット上とか文書とかのやり取りがあって、そこから、次に出てくる単語がどれだったら不自然じゃないか、自然かという観点だけで文章が成り立っているわけでありますし、これはあくまでチャットボットなので、このチャットボットが何らかの軍事兵器を動かして戦争を起こすとかいう、そういう話では全くないんですけれども、こういったふうに、言ってしまえば、簡単に言えば、非常に我々の想像を超えるスピードで今発達をしているということは間違いないと思います。
　ターミネーターの世界みたいに、暴走して核兵器を撃つみたいなところはさすがに飛躍し過ぎだと思うんですけれども、現実の脅威として、この高度になったチャットＡＩを使って、ディスインフォメーションを広めるとか情報操作をするという危険性は、極めて現実的なものとしてあると思います。
　最近、例えば二〇一六年のアメリカ大統領選挙で、ロシアの情報会社が偽情報をフェイスブックなどのＳＮＳに広めて影響を与えようとしたという事件がありましたけれども、今、実際には人間がこういったことを打って人間が広めているわけですけれども、もしこれをチャットＡＩに頼むことができたら、膨大な数の、不自然じゃない、言葉としては極めて自然な誤った情報を大量に生み出して、それを大量にネットに流して情報操作を行うということができるかもしれない。
　さらに、このチャットＡＩを使ってできることといえば、やはり、一対一で会話をしているけれども、不自然じゃない形で意識を誘導するということもできるわけでございます。一方的に情報を流すだけではなくて、ちゃんと受け答えをして情報操作をしていくということが可能になるということも言われていますし、実際、皆さんも使っていただいたら、極めて自然にやり取りができるので、そういったこともあり得るんだろうなというふうに感じていただけると思うんです。
　こういった安全保障上の脅威があるという、その危険性、可能性があるということを防衛省としては認識をしているのか、まず伺いたいと思いますが、いかがでしょうか。