工藤郁子の発言 （憲法審査会）

○参考人（工藤郁子君）　御指名にあずかりました、ありがとうございます、大阪大学の工藤と申します。
　この度は貴重な機会をいただき、誠にありがとうございます。時間も限られておりますので、早速ではございますが、中身に入っていきたいと思います。
　私からは、まず三つの視点に絞ってお話をしたいと思います。
　第一の視点につきましては、これまで議論されてきたファクトチェックやリテラシー向上だけでは対応が難しい問題として何があるのかという残された課題についてです。二番目の視点につきましては、皆さん御関心かと思いますし、山本参考人も指摘されておりました、インターネット広告に関する規律がないがどういった問題があるのか、問題ではないのかという点です。第三が、外国グループからの介入、干渉があるのではないかという、この三つの視点に絞って話題提供したいと思います。
　まず第一の視点についてです。
　一点目に関しては、言いたいこととしては、個々の情報の真偽問題、ファクトチェックが対象になるものに加えて情報空間のエコシステムの問題もあるということです。
　イメージを持っていただくために二つのケースを御用意いたしました。
　一つ目が、ＡＩを悪用した水増し型フェイクの問題です。
　こちらは、例えば、ＡＩを用いてＳＮＳのアカウントを量産する。そのときに、架空の名前や経歴を生成することによってＳＮＳのアカウントを作り、そのたくさん作ったアカウントによってシェア、リポスト、いいねを自動的に行います。さらには、特定のキーワードを含む投稿に対して、すばらしい、共感したとコメントやリプライを自動投稿します。こういったＡＩを利用すると、見せかけ上の盛り上がりですとか、あるいは特定のエピソードが広く信じられているという誤った印象をつくり出すことができます。こういった水増し型フェイクというのは、二〇一六年のアメリカ大統領選挙などでも散見されたということが報告をされております。
　二点目の事例でございますが、こちらはＳＮＳや動画の収益化の問題です。アテンションエコノミーの弊害というふうに言うこともできると思います。
　御記憶の方もいらっしゃるかと思いますが、二〇二四年夏に南海トラフ地震臨時情報が発令されたときに、ＳＮＳ上ではスパムの投稿が非常に増えました。一日で三十九万件余りになったというような報道もございます。これによって正確な情報にたどり着きにくくなってしまいました。
　この背景には、ＳＮＳの収益化プログラムというものがございます。すなわち、フォロワー数やインプレッション、閲覧数が一定基準を満たすことで、自分の投稿に表示される広告からお金が受け取れるということができる仕組みが導入されました。その結果、閲覧数を増やそうとするアカウントが急増してしまいまして、いわゆるインプレゾンビ問題というものが発生いたしました。
　これは、注目を集めること、アテンションが経済的価値に直結してしまったことによって、閲覧数のみが指標になってしまい、その内実、真偽の問題などは問われないという構造的な問題があります。先ほど御紹介したのはＳＮＳの話でしたが、もちろん動画でも発生いたします。
　次のページ、二ページ目、おめくりください。
　視点の二番目としましては、ネットの広告のお話です。これに関しまして、私の主張としては、表現の自由に最大限配慮しつつ透明化を図るということができるのではないかということを御提案したいと思います。
　山本参考人も述べられましたので確認程度としたいと思いますが、まず、国民投票運動というのは原則自由となっております。これは、主権者である国民の政治的意思の表明を尊重するということが制度趣旨となっているそうです。
　ただ、例外的に、国民投票運動のための広告放送、テレビやラジオなどの広告放送は投票日の十四日前から禁止されております。この制度趣旨は、先ほどの繰り返しになりますが、国民の感情に訴え、扇情的なものとなる可能性のある放送メディアの広告については、国民が冷静に判断するために、投票の前に一定の冷却期間を置くことが必要であるとされたためというふうに説明されております。
　なお、こちらはテレビですとかラジオが対象になっておりまして、新聞、雑誌等の広告は規制の対象外とされております。この説明としましては、見るか見ないかを読者が判断できるとともに、見た上で考えを比較することが比較的容易であるという活字メディアの特徴が挙げられておりました。
　さて、この制度趣旨からすると、つまり、国民の感情に訴え、扇情的なものになる可能性というのは、山本参考人も指摘されていましたが、ネット広告にも当てはまるではないかという疑問、懸念が浮かんでまいります。
　特に、先ほども紹介ありましたが、属性情報ですとかあるいは閲覧履歴などに基づいて個人の関心に合わせて表示の出し分けがされるというターゲティング広告というのがインターネット上ではできます。そうすると、その方の関心や感情に訴えるという精度、アキュラシーが高くなります。
　例えば、これは、二〇一六年のブレグジット問題、ＥＵの加盟継続の是非に関するイギリスの国民投票においてこういったターゲティング広告などが行われたことが問題になったということがありますので、非常に日本においても懸念すべき論点なのかなというふうに思います。
　なお、二〇一六年のこうした問題意識を受けまして、実はＥＵでは二〇二四年に政治広告透明化規則というのを制定いたしました。こちらはまだ適用開始前なので、これからどういう運用をされるのかは注視しなければならないんですが、条文上どういうことが規定されているかを御紹介したいと思います。
　まず、こちらにおいて、機微情報、政治的な関心ですとかあるいは民族の出自に関する情報に基づくターゲティング広告を禁止いたしました、原則禁止いたしました。さらに、注目すべきは、透明性確保のためのラベルを義務にしました。これは、すなわち、政治広告行為の発行者、パブリッシャーに対して、まず、これは政治広告ですよということを表示してください、さらには政治広告のスポンサーらの身元の情報も掲示してください、そして広告サービスの事業者が受領した金銭等の総額を示しなさい、さらには金銭等の出どころがＥＵ域内か域外かに関する情報などの表示もしなさいということが義務付けられました。
　この最後のＥＵ域外か域内かというお話なんですが、こちらは関連する規定もございまして、ＥＵ加盟国の選挙や国民投票の三か月前から、ＥＵ域外の国から広告サービスの提供を禁止するという規定も導入されております。こちらは、制度趣旨としては、外国、特にロシアを念頭に置いているというふうに説明されますが、そういった干渉を防ぐためということが説明をされており、こういった欧州の新しい規則は注目に値し、参考に値するかと思います。
　続いて、関連する視点三に参ります。
　外国グループによる介入に関してですが、こちらも対策が必要ではないかというふうに考えております。外国グループによる介入、世論操作に関する報告例を幾つか挙げております。
　例えば、二〇一六年のアメリカの大統領選挙に関しては、ツイッター社、当時ツイッター社だった調査報告によると、ロシアのプロパガンダを担当したとされる企業が偽のアカウントをたくさん作っていて、たくさんの投稿をしていたということが報告をされております。
　また、二〇二四年五月にオープンＡＩ社、チャットＧＰＴを開発、提供している企業のオープンＡＩ社が公表した報告書によると、北米から見て諸外国のグループがチャットＧＰＴを悪用しておりました。そういった投稿されたコメントにおいては、様々な政治、欧米の政治など幅広い話題が扱われておりました。
　次のページに、おめくりください。
　先ほど古田参考人からもございましたが、実は日本もターゲットにされておったようで、福島第一原子力発電所の処理水放出問題に関する記事をチャットＧＰＴで自動生成し、拡散を試みた形跡などが調査結果によって判明しております。
　また、こういった外国企業、失礼いたしました、外国グループからの干渉は、偽情報とサイバー攻撃が連動するという特徴が最近指摘されております。
　具体的に申しますと、二〇一七年のフランス大統領選挙の決選投票本当に直前に、数日前に、マクロン陣営への大規模なまずサイバー攻撃が行われまして、こちらによってメールや会計文書などの内部情報が外部に流出いたしました。その公開されてしまった流出情報の中には偽情報も追加されていたので、もう大混乱に陥っていったわけです。そして、しばらくたって後に、フランス外務省が、二〇一七年のこのフランス大統領選挙のときですとか、あるいは二〇二四年のあのパリ・オリパラのときにロシア軍がサイバー攻撃をしたと主張した、非難したということがございまして、こういった動向も注視すると、偽情報だけではなくて、同時にサイバー攻撃がその投開票日直前にやってくるということも警戒せねばならないということが言えるかと思います。
　こうしたことは、いわゆるシャープパワーというふうに呼ばれています。シャープパワーとは、選挙介入や世論操作によって自国に有利な状態をつくり出していく外交戦略というふうに定義されておりまして、軍事力や経済力などによるハードパワー、文化や価値観の広報などによるソフトパワーの中間形態とされておりまして、何でシャープと名付けられたかと申しますと、鋭利な刃物、シャープな刃物で突き刺すように民主主義を弱体化することを狙っているからこのように名付けられております。
　そして、シャープパワーというのは、国家安全保障上の大きなリスクとなっております。もちろん、自分の国の、自国のグループによる世論誘導なども非常に大きな問題ではございますが、シャープパワーというのは、対外的独立性という意味での主権を脅かすという問題も上乗せして存在するということで、大きな問題になるかと思います。
　そして、このシャープパワーの対策というのは、民主主義国家にとって難しい、非常に難しい問題がございます。なぜかというと、シャープパワーが威力を持つのは、民主主義や表現の自由、政治活動の自由が重視されている情報空間だからこそ有効だからです。言い換えると、世論によって政治が動かない社会であったりですとか、又は検閲を含む表現規制をしていわゆる正しい情報だけが流通する社会であれば、偽情報ですとかこういったシャープパワーというのはそもそも問題にならないはずなので、民主主義に伴う構造的な問題に向き合わなければならないということです。
　最後になりましたが、まとめとして申し上げたいことがございます。
　個々の情報の真偽を検証したりですとか、個人のリテラシーの向上を目指したりするアプローチでは解消し切れない問題があるということを御紹介いたしました。そのため、情報流通の構造ですとか、あるいは広告サービス、収益の仕組みなど、エコシステムの全体を見ながら検討することも必要になってくると思います。
　そして、自由な競争によって虚偽の情報や低質な言論が淘汰されていくという、いわゆる思想の自由市場論というのがございますが、それはリソースが十分であれば機能するかもしれませんが、国民投票のように六十日から百八十日間というすごく限られた期間で大量の情報が流通してしまうと、真偽の検証や内容の吟味が今にも増して追い付かなくなり、機能不全に陥ってしまう可能性があります。
　また、ちょっとここまではＡＩやデータの暗い方向、リスクばかり指摘してまいりましたが、そういった民主主義の基盤を危うくする方向だけではなくて、先ほど紹介したボット対策など、民主主義的な価値を維持、充実させる方向にも技術というのは利用可能です。
　インターネットに関する全般的な問題と国民投票に固有の問題とを区別しつつ、今後議論をしていくことが望ましいのではないかと思いますし、なので、例えば情報流通プラットフォーム対処法や能動的サイバー防御関連法などが既に成立したりしていますが、こういったところでどこまで対応できるかを視野に入れつつ、今後御議論いただきたいというふうに思っております。
　私からは以上です。ありがとうございます。