平将明の発言 （予算委員会）

○平委員　そこで、今御答弁いただきましたが、議論の前提となるメカニズムを共有しておいた方がいいと思います。よく、平は何を言っているか分からないと言われるものですから、今日は資料を用意をしました。これは是非、閣僚の皆さん、あと委員の皆さん、見ていただきたいと思います。
　これは本当によく、分かりやすくて、国立情報学研究所の佐藤一郎先生の資料を今日は持ってきました。まず、これを皆さん前提にしてこれから対策を立てなければいけないと思います。二〇一六年のケンブリッジ・アナリティカとかブレグジットというのはもう十年ぐらい前なんですよね。そこから生成ＡＩが出てきたので大分様相が変わっていますが、基本的にはこれです。
　まず、三の一の資料ですね、フェーズ１。生成ＡＩを駆使して、テキストとかフェイク画像とか動画を大量に作ります。もう何でもできちゃいます、今。更に言うと、事前にその意図を持っている人たちが何をやるかというと、アカウントをいっぱい作るんです。そのアカウントは、投稿用のアカウントと、あおる、ブーストをかけるエンゲージメント用のアカウントを作ります。事前に準備をします。
　ですから、それはもう人間ですらないんですよ、プログラムだから。わあっとアカウントがあって、人間のふりをしているけれども。この間、有名なアカウントが凍結されましたけれども、よく見たら人間じゃなかったという、これはよくある話ですね。これがフェーズ１です。
　次、フェーズ２。その次に、こういった投稿用のアカウントに大量に投稿させるわけですね、しかも短時間に。短時間に投稿されると何が起きるかというと、その内容、コンテンツがバズっているとＳＮＳの側が認識するんですよ。ということがあります。
　ちなみに、エンゲージメントが何だかよく分からないという人は、下の注を見てください。あと、アテンションが何だか分からないという人は、下の注を見てください。
　フェーズ３を見ていただきたいと思います。投稿しましたね。大量に投稿すると、ああ、このコンテンツは今バズっているんだなと思ったら、今度はエンゲージメントを上げるということですから、いわゆるバズるブーストをかける。要は、いいねをつけたり、リツイートをつけたり。あと、今は生成ＡＩがあるので、リプライもちゃんと日本語で書いてくれるんですよ。そういうのを大量にやるわけですね。それを短時間のうちにやります。
　その次に、フェーズ４ですかね。これで、この内容はバズっている、しかも、大量にエンゲージメントがつくから、いいねがつくし、リツイートされているからこれはバズっているんだというふうにＳＮＳのアルゴリズムが判断をしているので、何が起きるかというと、今回でいうと、政治に興味のない人にまでレコメンドが来るんですよ。これ、ありませんか、よくみんな、Ｘを見ていて。レコメンドが来ますよね。そういうレコメンドが来るというのがまずその次に起きます。
　それで、最後の紙です、フェーズ５。レコメンドが来ると、今度は、最初の投稿のアカウント群とあおり用のアカウント群は意図を持ってやっている人がいるんですが、アルゴリズムがバズっていると認識をするので、一般のユーザーに広くレコメンドされて、それを見た人が、何だ、こんなことになっているのか、許せぬと。特にこれはプロパガンダの常道ですけれども、憤り、驚き、集団同調バイアスみたいなものを刺激をするようなものを出しますので、これで普通の人は、何だ、けしからぬといってまたリツイートしたり、コメントをつけたり、いいねを押したりするんですね。
　特に問題なのは、ここで日本人の著名なアカウントが、何だこれは、けしからぬといって、そこでそれをリツイートするわけですよ。そうすると、普通の人は、何かいきなりレコメンドが来た、見たら随分いいねもついているし、リツイートもされている、世の中こういうふうになっているのかと。若しくは、それなりに信頼のある著名なアカウントがそれを再投稿することによって、更に拡散をする。さらに、これが厄介なのが、そこそこ金になるんですよね、バズらせると。
　ということもあって、こういった著名なアカウントが、実は無自覚に、外国のナラティブ、外国がこうしよう、日本をああしてやろう、こうしてやろうというナラティブの実現に加担をさせられているということが起きてくる。
　そして、最後、フェーズ６ですね。これは、ＳＮＳのプラットフォーマーが相互に作用するので、どこかのＳＮＳでバズると、例えばＸでバズったら、それがインスタに行ったりユーチューブに行ったりしてぐるぐる回っているので、しかも、ほかのＳＮＳにも工作をしていますから、全体的にぐるぐる回って、バズり始めて炎上するということであります。
　さらに、先ほど申し上げましたが、外国において、ヨーロッパは多かったんです、ずっとこの工作は多かったんですが、実は、日本がしばらく守られていたのは、やはり日本語なんですよ。私も、何か標的型メール、随分昔にやられましたけれども、平の字の点々がハの字になった、日本では見たことのないフォントがついていたり、ああ、これはあの国だなとすぐ分かるわけですね。でも、今は、生成ＡＩが入ってきたのでフォントも完璧だし言葉も完璧だということで、残念ながら日本語のバリアは壊れてしまったということであります。
　その上で、この間の参議院選挙では何が起きていたかということでありますが。これは政府じゃないです、民間のサイバーセキュリティー会社、あとはアナリスト、リサーチャー、アカデミア、私のところに来た人たちは、それぞれ独立しています。別に連携はしていません。
　まず、一番最初に僕のところに来たのがサイバーセキュリティー会社であります。それはどういうレポートを上げてきたかというと、外国のナラティブを拡散するＳＮＳ上のエコシステムが存在していると。その国のナラティブというのは多岐にわたるんですが、ターゲットとする国や地域の内部で不信感を醸成すること、既存の社会的亀裂をあおり立て対象国の情勢を不安定化させること、キーワードでいうと反グローバル主義や排外主義がターゲットになりやすい。これはちょっと詳細には言いませんが、いわゆる外国の公的な報道のアカウントからニュースを名のるアカウントにつながって、そこから日本のインフルエンサーにつながっている、このインフルエンサーの何個かはそもそも人間じゃなかったということであります。
　それで、別の、今度はアナリストが分析をした結果、特定の政党やその特定のスローガンに言及した投稿が選挙公示後に急拡大をし、まあ急拡大するのはよくあることなんですけれども、この拡大が通常のトレンドの拡大と異なり、人工的なトレンド形成の可能性があるという分析をアナリストがしています。
　今度はアカデミア、これは国立大学ですが、これは一連です、調べているのは同じところです、対象は同じです。ＸのＡＰＩを利用して解析をした結果、リポスト数の推移に不自然な増加が認められたと。言い方はすごく謙虚ですけれども、工作されているということを言っています。
　今度は別のアカデミアの分析では、これは有名な私立大学の先生ですが、激しく工作をしているタイムゾーン、時間帯が日本の時間帯じゃないんですよ、時差がある。その大学はよくこれを調べたと思いますけれども、活動時間に五、六時間の時差が認められていると。ということは、外国からやられているんですね。ちなみに、五、六時間というと、ウクライナのキーウが七時間です、その東です。だから、時差がある。
　これも、今ＡＩの時代だから自動化されているんじゃないか、時差は関係ないだろうというけれども、そこまでいっていないんですよ、実は。ボットをやっているんだけれども、最後をコントロールしているのは人間なんですよ、今は。でも、これは多分ＡＩで自動化されて、この時差の分析も多分無意味になってくるというふうに思います。
　また、これはかなり話題になりましたけれども、あるリサーチャーが、外国のナラティブを拡散するエコシステム、さっきのサイバーセキュリティー会社が指摘したのと同じグループ、集団というかクラスターですけれども、そういうアカウントを、不正なアクセスを誘引するアカウント群としてＸ社に削除を要請しました。そうしたら、Ｘ社が自社の規定に基づき対応し、いわゆる有力インフルエンサーを含む相当数のアカウントが削除されるという事象も発生をしています。結果として、ある政党のスローガンは、そこの何か伸び率が鈍化をしたという分析もあります。このようなことが今起きているわけであります。
　さらに、添付資料の新聞の資料を見ていただきたいと思いますが、これは私が大臣をやっているときの所管じゃなくて単なる新聞情報になりますが、ＪＩＣＡ、結構やられていましたよね、解体運動とかデモとか金よこせとかいろいろやられていたと思いますが、これは新聞報道で、まずは日経新聞。「ロシア「国際協力」で日本に情報操作　途上国支援、ＳＮＳで批判あおる」ということであります。内容は見てのとおりです。今、私は一回もロシアと言っていませんけれども、新聞記事はそう言っていますね。これは新聞記事が言っているんですよ。というロシアの介入があったというふうになっています。
　あと、もう一つ新聞記事があったと思いますが、これは読売新聞。「露、ＳＮＳで対日情報戦　ウクライナ支援巡り　批判投稿急増　今年一月以降」というような記事があるわけであります。
　これは、かなりやはりやばい状況になっているのではないかというふうに思います。それで、私も一か月前まで閣僚でいたので、これを共有しようというふうに思っていましたが、このメカニズムを含め、今の現状は高市内閣でも是非共有をしていただきたいと思いますけれども、総理、いかがでしょうか。