山本龍彦の発言 （憲法審査会）

○山本参考人　慶應大学の山本でございます。
　本日は、このような機会をいただきまして、誠にありがとうございます。
　私は、憲法学の中でもプライバシー権を中心に研究してまいりまして、その延長で、デジタル化、ＡＩ活用の進展と憲法原理との関係をいろいろと考えてまいりました。こうした視点から、本日、デジタル時代に深めるべき憲法論について意見を述べさせていただきます。
　まず、デジタル庁にはデジタル臨時行政調査会が設置され、各省庁の法令等がデジタル原則に適合しているかをチェックすることとされました。このことは高く評価されるべきですが、このデジタル原則は、デジタル完結・自動化原則、共通基盤利用原則など、インフラ整備や手続に関するものが多く、デジタル時代にどのような基本権のアップデートが必要なのか、言論空間や情報環境を含む憲法秩序全体をいかに再構築していくべきかといった、デジタル化を推進していく上での実体的な目的、目指すべき価値に関する具体的なコミットメントが十分に書かれていない。要するに、日本のデジタル法制の方向性を体系的に指導する憲法論が不在なのではないかと感じました。
　私は、アルゴリズムやＡＩが私たちの意思決定の領域に深く入り込むような時代にあっては、デジタル化は、個人の在り方、もっと言えば人間存在そのものの在り方、国家の在り方を根本的に変容させる可能性を持つと考えております。
　かつて産業構造の変化は、憲法の変化をもたらしました。十九世紀の産業革命がもたらした社会経済構造の変化は、二十世紀に入り、憲法における社会権の取り込みや行政権の拡充を帰結し、自由国家的な憲法から積極国家観を前提とした社会福祉国家的憲法への転換を導いたわけでございます。
　政府の推進するソサエティー五・〇は、デジタル化による産業構造の変化を包含するものと理解しておりますが、となれば、それに見合う新しい憲法論、私はこれを憲法論三・〇と呼んでおりますが、そうしたものを展開する必要性は大である、こう考えております。
　資料の二に入りますが、欧米におきましては、既にこのような憲法論が展開されていると認識しております。
　ところで、憲法論というのは、憲法典の改正か否かという議論に矮小化されるべきものではなく、国会法百二条の六がまさに憲法審査会の役割について言うように、憲法に密接に関連する基本法制についての議論も含むと考えております。その意味における憲法論は、デジタル化を踏まえ、欧米でかなり進んできているのではないかということでございます。
　例えばＥＵでは、既に二〇二〇年十二月に、デジタル時代の諸課題、例えば偽情報の拡散や、自由、公正な選挙の侵食といった問題ですが、これらに対応し、欧州の民主主義をより強固なものにしようという考えから、欧州委員会から欧州民主主義行動計画が公表されました。この骨太の計画が立法のロードマップのような役割を果たし、実際、昨年十一月には、公正な選挙の実現を目的に、政治広告の透明性とターゲティングに関する規則が提案されています。
　今年一月には、欧州委員会により、デジタル時代におけるデジタル権利及び原則に関する欧州宣言が提案されています。資料記載の全六章から成るこのデジタル権利宣言は、先月、欧州委員会、ＥＵ理事会、欧州議会の三者対話で合意がなされ、今月署名される予定のようでございます。
　米国に目を向けますと、例えば、昨年十月にホワイトハウスの科学技術政策局の局長らがＡＩ権利章典なる文書の策定を提案し、今年の十月、同局から資料記載の五原則から成るブループリントが発表されました。
　詳細は割愛いたしますが、ここでは、昨年十月の提案時に、米国の建国期を想起しつつ、憲法が承認された直後、アメリカ人は権利章典を採択した、それは、今まさに我々が創造した強力なガバメントからの保護を目的とするものであった、この二十一世紀、我々は、今まさに我々が創造したテクノロジーからの保護を目的とする権利章典を必要としている、こう述べられたことに注目したいと思います。このデジタル時代に、改めて憲法的な含意を持った権利章典が必要だと主張しているわけであります。
　かように、欧米では、デジタル時代の憲法問題を見通し、法制度全体の再編を指導する骨太の憲法論が必要だと考えられている。問題は、この日本で同様の憲法論が展開されているかということでございますが、どうもそうではなさそうである。デジタル化に伴う制度論は確かに各省庁で個別によく議論されてはおりますが、憲法的な視野に立ってこれらを統合、体系化するような議論はどうも行われていない。何かパッチワーク的な議論に終始しているように思えるわけでございます。
　次に、資料の三でございますが、ここでは、憲法論三・〇が必要な理由をより明確にするために、プロファイリングとアテンションエコノミーの諸問題を提示させていただきます。
　まずはプロファイリング。ＥＵのＧＤＰＲで定義されておりますが、要するに、ウェブの閲覧履歴といった個人データから、ＡＩを用いて、個人の趣味、嗜好、精神状態、政治的な信条や犯罪傾向など、あらゆる私的側面を自動的に予測、分析することをいいます。
　この問題性を非常にセンセーショナルな形で世に知らしめたのは、ケンブリッジ・アナリティカ事件でございます。ここでは、二〇一六年の米国大統領選ではトランプ陣営を、英国のＥＵ離脱を問う国民投票では離脱派をそれぞれ支援したとされる選挙コンサルタント会社ケンブリッジ・アナリティカが、フェイスブックのデータから詳細な心理的なプロファイリングを行い、ユーザーを、神経症で極端に自意識過剰、陰謀論に傾きやすい、衝動的怒りに流されるなどと細かく分類し、この分類に応じて政治広告を出し分けていた。
　こうした政治的マイクロターゲティングは、かなり効果的です。フェイクニュースにだまされやすい人にフェイクニュースをリコメンドすれば、その人の感情や意思決定を容易に操作できる。ロシアの介入いかんの問題はここではおきますが、この事件を契機に、プロファイリングを用いた政治的マイクロターゲティングが、プライバシーのみならず民主主義にも多大な影響を与え得ると認識されるようになりました。
　日本でプロファイリングが注目されたのは、二〇一九年のリクナビ事件だと思います。就活プラットフォームのリクナビは、学生のウェブの閲覧履歴などからＡＩを用いて内定辞退率を予測し、これを企業に販売していました。
　例えば、国内企業から採用をもらっても、外資系の企業に逃げてしまう学生がいる、そういう学生がどんなウェブを見ていたかをＡＩに学習させれば、内定辞退の可能性を予測するアルゴリズムを組める。それを利用したプロファイリングは、企業には有用ですが、学生からすれば、何げなく行っていたウェブの閲覧の記録がまさか内定辞退率の予測に使われ、内定が取り消される可能性があったとはと、ショックを受けたと思います。
　いわゆるクッキー情報などを使い、閲覧履歴をサイト横断的に収集すれば、認知的な傾向も含め、その人の特性をかなり詳細にプロファイリングできます。今後、メタバースが広がり、ヘッドギアをつけてＶＲ空間に没入するようになれば、アイトラッキングといった視線の分析や脳波測定まで行えるようになり、認知領域に関するプロファイリングの精度はますます高まると思います。今や認知領域が標的とされていると言ってもいいかもしれません。
　次に、アテンションエコノミーですが、これは、情報過剰時代には、私たちが払えるアテンションや費やせる時間が、市場に供給される情報量に対して圧倒的に希少になるため、交換財として経済的に取引されるというビジネスモデルのことをいいます。
　ＳＮＳ事業者などは、アテンション、具体的には閲覧数、ページビューとか、滞在時間、エンゲージメントとも言いますが、こうしたものをユーザーから獲得し、それを広告主に売るということでビジネスを成り立たせている。このビジネスモデルでは、いかにアテンションを奪うかが重要になります。ですから、事実に関する報道よりも、フェイクニュースの方が拡散しやすい。その方が刺激的だからであります。
　また、怒りや憎悪といった負の感情がアテンションを得やすいので、誹謗中傷も広がりやすい。フェイクニュースや誹謗中傷といった問題は、実はこのアテンションエコノミーという構造と深く関連しています。
　ところで、心理学の二重過程理論によれば、人間には、反射的で処理速度の速い思考モード、システム１と、論理的、熟慮的で処理速度のスローな思考モード、システム２がある。アテンションエコノミーでは、いかにシステム１を刺激できるかが戦略上特に重要になると言われています。
　米国コロンビア大学教授のティム・ウーは、現在、私たちは常にシステム１を砲撃されており、熟慮の上、自律的、主体的に情報を選別する機会を奪われていると指摘しています。こうした指摘を踏まえますと、アテンションエコノミーの論理に覆われた私たちの言論空間は、思想や言論がその説得力を競う思想の競争から、いかにユーザーの認知過程を刺激し反射を得られるかを競う刺激の競争へと大きく変容してきていると言えるでしょう。
　また、アテンションエコノミーは、フィルターバブルやエコーチェンバーを生み、社会的な分断や部族化をもたらすと言われています。事業者側は、アテンションを取るために、プロファイリングを用いて、その人が最も強く反応するコンテンツをリコメンドする。それにより、パーソナライズド化された情報の泡の中に各人を閉じ込める、フィルターバブルです。
　また、この閉鎖的情報空間には、政治的傾向の似た人の意見が次々と入ってきて、その声がこだまする。狭い空間の中でエコーがかかった状態になるわけです。そうすると、当初の政治傾向がより過激化、硬直化し、分断が深まっていくとも言われています。エコーチェンバーにより陰謀論を固く信じ込んだ者が物理的な暴力事件を起こす事態にも発展しています。こうした、いわば原始的な感情が増幅したカオティックな言論状況も、アテンションエコノミーなる構造と深く関連しています。
　以上、プロファイリングとアテンションエコノミーを軸にデジタル化の問題を概観してまいりましたが、資料四では、これらと憲法との関連を確認しておきます。
　まず、プロファイリングですが、これは、取るに足らない個人データの束から、アルゴリズムを用いて、いわば錬金術的に、また秘密裏に個人の非常にセンシティブな属性を精度高く予測できるため、まずはプライバシー権と関わります。
　さらに、採用や融資の適性、犯罪者傾向など、個人の人格的側面を評価、分類することは、平等の問題、ひいては個人の尊重原理に関わる。ＡＩの学習データに少数派からのデータが適切に反映されず、これを過少代表といいますが、ＡＩが女性やアフリカ系アメリカ人、障害者などの少数派に不利な判断を行った事例も多数報告されており、欧米では、ＡＩ利用が差別を助長、再生産することになるのではないかと強く懸念されています。
　また、そもそもＡＩは、ある共通の属性を持った集団、セグメントといいますが、その集団に分類される者が一般にどう行動するのかといった確率的、統計的な予測を行うにすぎません。
　個人がセグメントに包含されない個性を持つこと、偶然的な出会いによって考えや嗜好が大きく変わることは当然あり得るわけですが、こうした具体的、偶発的な事情は、過去のデータから学ぶＡＩの確率的評価では捨象されてしまいます。セグメントに基づくＡＩの確率的評価は、憲法十三条の個人の尊重と矛盾し得る側面があり得ます。しかも、ディープラーニングのような複雑な学習方法を用いると、ＡＩの判断は人間には理解できなくなるというブラックボックス問題が生じるために、ＡＩに低い評価をされた者に、なぜそうなったのかの理由が説明されず、個人が再挑戦の機会を失って社会的に排除され続けるという事態、いわゆるバーチャルスラムですが、こうしたことが起こり得ます。
　また、ＡＩを用いて認知過程に介入し、これを操作するようなマイクロターゲティングやハイパーナッジは、自由で自律的な意思決定という近代憲法の根本原則を脅かす可能性がある。私たちの認知領域をいかに保護し、自律的な意思形成過程を守るかは、ＡＩは認知領域の分析が得意なだけに、認知戦と言われるように、戦争ですら認知領域が注目されている現状を踏まえますと、今後重要な論点になると思います。この点、私は、憲法十九条の思想、良心の自由の再発見が重要ではないかと考えております。
　それから、アテンションエコノミーに伴う諸問題は、知る自由、知る権利と深く関連します。最高裁はかつてこの権利を、個人の人格発展と民主主義の維持のため、各人が自由に様々な意見、知識、情報に接し、これを摂取する機会を持つことと述べました。アテンションエコノミーの下、常にシステム１を刺激され、特定の情報を摂取させられ続けているとすれば、様々な情報を主体的に摂取する自由を侵害されているとは言えないか。
　私は、最近、知る権利と関連して、情報的健康、すなわち、様々な情報をバランスよく摂取することで、フェイクニュース等に対する免疫を獲得している状態、これが大切だと主張しています。それは、この時代には、エンゲージメント至上主義の商業的アルゴリズムによって、私たちは情報を偏食させられているのではないか、こうした情報の偏食により情報的な健康を害しているのではないか、こう考えているからでございます。
　最後、選挙の公正です。
　現在の法制度の下では、ケンブリッジ・アナリティカ事件のような出来事が我が国で起きないとは言えない。他国からの選挙介入にも脆弱だと思います。また、現在の混沌とした言論空間の中で、果たして私たちは適切な選挙権行使ができるのか、自由で自律的な政治的意思決定ができるのか、疑問です。
　そもそも、フィルターバブルのような個別化した情報的環境の中では、今後は、メタバースという仮想空間にずっと没入する者も出てくるかもしれませんが、公共とのつながりを失い、今選挙が起きているかどうかさえ知らない者も出てくるかもしれません。そこでは、テレビでの政見放送はほとんど意味を成さないわけであります。
　同じ道理は、熟慮がより必要となる憲法改正国民投票にも基本的に妥当します。今のカオティックな言論空間の中で国民投票を行っても、その結果の正統性が、どちらに転んでも疑われることになるでしょう。
　問題は深刻だと思います。もちろん、だからといってデジタル化やＡＩ活用を否定できない。今や私たちは、それなしで健康で文化的な最低限度の生活を送ることはできません。また、人間の判断が常に正しいわけではない。人間は弱く愚かな存在で、偏見に満ちた判断をすることもあります。データは、その弱さを補完し、より公平な判断をもたらすこともある。
　重要なのは、憲法の基本的価値をよりよく実現する形でテクノロジーを利用することです。そのためには、問題を切断して局所的に議論するのではなく、憲法的視点に立った総合的な議論が必要だと思います。欧米の憲法論は、まさにこのような試みとして理解することができるでしょう。
　では、どのような方向で議論していけばよいのか。最後、資料五ですが、その要点のみを申し上げます。
　まず、プライバシーについては、欧州でいう情報自己決定権、日本でいう自己情報コントロール権を憲法上の権利として承認することが重要だと考えています。日本では、こうした権利が判例上も法制度上も正面から承認されておりません。近年は、自己決定や同意を本質的な要素とせず、自己の情報の適正な取扱いを受けることこそプライバシー権の本質だと捉える見解が有力に主張されており、注目されています。
　確かに、有効な同意が難しい場合はある。本人の決定を上回る公共的利益がある場合もある。しかし、私は、専断的なプロファイリングを抑え、個人中心のデジタル社会を形成するためには、個人が自己のデータに対してコントローラビリティーを持つことが決定的に重要であり、また、それこそが、世界の潮流、また中央集権から自律分散を説くウェブ３・０の流れにも合致すると考えています。
　今後は、パッチワーク的な様相を呈する日本の個人情報保護法制が、情報自己決定というコンセプトを中心に再編され、体系化されることを強く期待します。
　次に、アテンションエコノミーの行き過ぎによって生じている様々な課題については、知る権利や情報的健康をキーコンセプトとして、言論空間全体を再構築していくことが急ぎ必要だと思います。
　現在も、プラットフォーム規制、放送制度の見直し、報道機関とそのニュースを使用するプラットフォームとの関係の検討、メディアリテラシーの実践など、言論空間の再構築に関わる議論がいわば局所的に進んではおりますが、各議論領域を体系的、総合的に指導する憲法論、それは国家の役割論を含みますが、必要だと思います。
　それから、選挙や国民投票に関しては、まず、その期間にかかわらず、今申し上げたように、言論空間全体を健全化することが重要です。政治的意思決定が操作されないために、ＥＵで検討されているような政治広告の透明性を徹底的に高める規律も必要になると思います。ＥＵの提案では、センシティブ情報を利用した政治的ターゲティング広告が一般的に禁止されています。
　また、現状のテレビ離れからすると、国民投票法のテレビ放送等を通じた国民投票広報の効果というのは限定的になるようにも思います。そうなると、主要プラットフォームを通じた国民投票広報も重要になるでしょうし、プラットフォームが情報の順位操作などを通じて秘密裏に特定の見解を支援したり抑圧したりすることがないよう、リコメンダーシステムの透明性とそのチェックのメカニズムを構築させる必要性もあるように思います。ファクトチェック記事など、信頼できるコンテンツを目立つ形で掲載するなどの措置も重要になるかもしれません。いずれにせよ、プラットフォームに対する一定の規律ないし協力が必要になるように思います。
　最後、国家がこうした巨大プラットフォームとどう対峙するのかという問題が、実はデジタル時代において最大の憲法問題になるかもしれないということを申し添えておきます。
　旧約聖書には、リバイアサンと二対一頭の怪獣としてビヒモスが登場します。現在、巨大プラットフォームは、リバイアサンとしての国家と対抗し得るほどの力を持ち、まさにビヒモスとして、デジタル空間における主権をリバイアサンと奪い合っているようにも思えます。となると、デジタル時代の立憲主義は、このビヒモスの権力をどう射程に収めるかという議論から逃れられないようにも思います。
　例えば、先ほどプラットフォーム規制などと簡単に口走りましたが、特に海外事業者の規制はそう容易ではなく、今後は、外交的、戦略的な関係というものを構築すること、国民がそれを民主的にチェックするといったメカニズムを持つことが必要になるように思います。
　以上、雑駁ではございますが、デジタル時代に必要な憲法論の方向性について意見を述べさせていただきましたが、この憲法審査会で、超党派的に、デジタル化を見据えた骨太の憲法論が展開されることを強く期待しております。
　御清聴、どうもありがとうございました。（拍手）