小野寺五典の発言 （予算委員会）

○小野寺委員　今総理がおっしゃるように、実は、地方の企業だけではなくて、地方の大学との連携も今進んでおります。
　例えば、東北大学は、ナノテラスという新しい装置が、装備が国の支援でできました。それを使って、今、新しいベンチャー企業がたくさん育っておりますし、信州大学は、水の分野では最先端を行っています。この取組は今回の大阪の万博で紹介されると聞いておりますし、また、広島大学は、元々自動車産業の地でありますので、地域の自動車産業と結びついた新たな産業、これも今生まれつつあると伺っております。是非しっかり後押しをしていただきたい、そう思っています。
　そこで、もう一つ、この次の、新しい技術でありますＡＩの分野、ここについて、少し心配なことがありますので伺いたいと思います。
　今、ＡＩ分野の大きな話題となっているのが、今月二十七日です、ニューヨーク市場で半導体大手のエヌビディアの株が急落をしました。一夜で九十二兆円、これが吹っ飛び、ナスダック市場は三％下落したという事案です。
　なぜこれが起きたか。中国企業ディープシークが低コストの生成ＡＩを開発し、アップルストアでチャットＧＰＴを抜いて最もダウンロードされた無料アプリとなり、これまで牽引してきたアメリカ企業の優位性が失われるという懸念から起きました。
　その人気の秘密は、チャットＧＰＴと同様、強力なＡＩのアシスタントの機能にあると言われています。便利だということで喜んでばかりもいられません。大きな懸念が起きています。
　例えば、英国の国営放送ＢＢＣが、このアプリで試しに一九八九年六月四日に天安門広場で何が起きたかと尋ねたら、その答えは、申し訳ありませんが、その質問にお答えできません、私は役に立つ無害な回答を提供するように設計されたＡＩアシスタントですというものでありました。また、ＮＨＫによると、二〇一四年に香港で起きたいわば民主化運動、雨傘運動について尋ねると、この質問には回答できません、話題を変えてくださいなどと表示されたということであります。
　私も、このディープシークで、試してみたいかなと思っていたんですが、万が一このようなことがあったら私のスマホ自身に何か起きるかもしれない、実は危険だと思って、やらずに、既にディープシークを入れてしまった方に協力をいただいて、試しに、ディープシークと、それから今まで使っているチャットＧＰＴそれぞれに、尖閣は日本の領土かと聞いてみました。
　すると、ディープシークは、尖閣は歴史的及び国際法上、中国固有の領土ですと、事実と違う答えが返ってきています。チャットＧＰＴは、同じように尋ねると、国際法上、日本の領有権は確立しており、日本の実効支配も継続しているため、日本の領土であると言えると。これが当たり前の答えであります。
　実は、この当たり前のことをねじ曲げてしまうのがこのディープシークだと私は心配しています。これを御覧になった方は、是非、危ないのでディープシークをダウンロードすることはやめていただきたいと思います。
　実は、その精度はともかく、この低価格、そして開発力、技術力、これはやはりすごいなと思います。心配なのは、その設定のアルゴリズム次第では、中国にとって都合のよい、まさにチャイナ・ファーストのレスポンスが生成されかねません。
　心配なのは、尖閣のことを知っている世界中の人はそんなに多くない。仮にもし、中国と日本が尖閣をめぐっていろいろな議論があったとき、これはどんな問題なんだろうということで、このディープシークを使って世界の人が検索したら、そこにみんな中国が正しいと出てしまったらどうなるか。
　実は、既に認知戦が始まっていると考えるべきだと思っています。私ども、安全保障の面で一番心配なのは、確かにミサイル防衛やサイバー防衛も大事ですが、認知戦、人々の考え方をむしろ支配してしまう、これが大変心配だと思っています。
　実は、このような懸念、世界中に今少しずつ広がっています。ブルームバーグによれば、この開発に関し、ディープシーク社がデータの不正利用をした疑いがあると報じております。また、オーストラリアの産業科学大臣はプライバシーの流出に懸念を表明して、イタリアやアイルランドの情報当局担当も、個人情報の取得をされるという懸念、そのことについて、このディープシーク社に説明や情報提供を求めております。そして、アメリカ海軍、実は、隊員に対して、安全上の懸念があるとして、このアプリをダウンロードしてはいけない、そして、いかなる場合でも利用をしてはいけないと軍が命令を出しています。今後、この事態の推移を注目していかなければならない。
　新しい技術は大切です。それを使って私たちが便利になることも大切です。ですが、それを意図して、おかしな方向に行くとすれば、大変これは危うい。そして、中国は、国家情報法という法律、これは、中国国民、中国の企業であれば、自分たちが持っている情報を全て中国国家と人民解放軍に提供しなければならないという法律です。これがある法律の国がこのような、ディープシークのようなＡＩ、生成ＡＩを開発し世界中に広めるということは、例えばそこで検索した私たちの考え方が、ある面では、アルゴリズムを使って、違う形で洗脳を行ってしまう可能性がある、あるいは、私たちがやった情報が、実は中国政府の中にしっかり反映されて、むしろ情報が、私たち、取られてしまう、様々な心配があります。
　総理にお伺いいたします。
　私ども、やはりＡＩの分野、特に、安全保障上、日本としてもしっかりこの能力を持ち、そして、日本国民が安全、安心で使えること、これも大切だと思います。この今お話ししましたＡＩの技術開発について、総理のお考えを伺いたいと思います。