河西宏一の発言 （憲法審査会）

○河西委員　公明党の河西宏一です。
　発言の機会を頂戴いたしまして、誠にありがとうございます。
　本日は、憲法改正における国民投票広報協議会及び国民投票法に関する主な論点について、衆議院法制局より御説明がありました。
　そこで、私の方からは、昨今の急速な生成ＡＩの進化を踏まえまして、ＡＩ時代において民主主義の基盤たる情報環境を健全たらしめるために必要な広報協議会の在り方や取組について、意見を申し述べます。
　今年一月二十一日、米国大統領選挙に向けたニューハンプシャー州の民主党予備選において、バイデン大統領に似せてＡＩが生成したと見られる声で、十一月の大統領選に向けて投票を温存することが重要だなどと呼びかける電話が数千件ともされる範囲にかかり、司法当局は先週二十三日、選挙を妨害したなどとして、五十四歳の政治コンサルタントを起訴しました。
　また、ＡＩ開発に携わる技術者からは、これまで二〇四五年頃と予想されていたシンギュラリティー、すなわちＡＩの知能が人間を超える技術的特異点は、生成ＡＩの急速な進化により前倒しされ、そう遠くない将来に訪れるのではとの声も聞かれます。
　今や私たち人間は、著作物や発明などの議論に象徴されるように、映画や小説による問題提起にとどまってやや曖昧なままになっていた、人間とＡＩの境界線はどこかというテーマを、社会全体として突きつけられる段階に至ったと言えます。
　人間にあってＡＩにないものは何かと問われれば、今後、人間並みの知能を持つ汎用性人工知能、ＡＧＩが誕生したとしても、ＡＧＩ自体が生命の尊厳や愛情を持つ可能性はほぼゼロであると指摘できます。この生命の尊厳とは、生への喜びや死への恐れであり、情報社会では、人をだまして傷つけることへの罪悪感と捉えることもできます。これは、人間がＡＩを適切に制御するために欠かせない資質であります。
　しかし、高度情報化社会では、生命の尊厳の希薄化が懸念をされております。例えば、ＡＩは、幾ら偽情報を垂れ流そうが、罪悪感を抱きません。他方で、インターネットに偽情報を拡散させた人間もまた、送信ボタンをたった一回タップした程度の感覚はあっても、何千回、何万回と対面でうそをつきまくるほどの罪悪感にさいなまれることはありません。
　また、読売新聞とＮＴＴの共同提言で、現代は、生成ＡＩが自信たっぷりにうそをつく状態、また人間があっさりとだまされる状態に陥りやすいと指摘されるように、ＡＩによって偽情報の拡散力は格段に高まりました。しかも、一度拡散された偽情報を完全に一掃することはほぼ不可能でありまして、動画や音声によるディープフェイクに至っては、仮にそれが架空の内容だと分かっていても、後遺症のように人間の思考に拭い切れない影響を残す可能性すらあります。
　こうした中、一昨年一月、慶応大学の山本龍彦教授、また東京大学の鳥海不二夫教授を始めとした有識者らが、情報的健康という概念を提唱いたしました。これは、食べ物は体をつくるが、情報は思考や人格をつくるという考えに立脚したもので、両先生は、共同提言において、民主主義の根幹を成す公職選挙や憲法改正国民投票などが行われる特別の期間においては、国民が多様な情報、意見にバランスよく触れ、フェイクニュース等に対して免疫、批判的能力を持つことが特に求められる、政府は、こうした特別の期間においては、他の一般的な期間とは異なり、デジタルプラットフォーム事業者等がユーザーの情報的健康に特に配慮することを促すなど、健全かつ熟慮的な言論空間の維持に努めることが求められると指摘をしております。
　また、日本を代表する漫画家、手塚治虫先生は、二十一世紀の子供たちへ託した遺作「ガラスの地球を救え」において、膨大な量の情報に一人一人が包まれる高度情報化社会では、どれとどれが必要な情報か、その選択法が大変難しい、正しい情報という言葉は誠に曖昧で、何が正しいのかということになると洞察をされた上で、とどのつまり、生命の尊厳を伝える情報が最も必要で、かつ重要な情報だと結論づけておられます。極めて鋭く、重要な視座であると思います。
　以上を踏まえまして、私は、ＡＩ時代において民主主義の基盤たる情報環境を健全たらしめるためには、いわゆるハードロー及びソフトローによる適切なＡＩ制御の検討や、第三者機関等が情報コンテンツ自体に正確な発信者情報を付与するオリジネータープロファイル等の技術的対策の実現といった予防策の推進に加えまして、つまるところ、人間自身がフェイクニュース等に対する免疫、批判的能力を身につけるとともに、過激な内容で注目を集めて収益化を図るアテンションエコノミーをおのずと忌み嫌い、また、うそや誹謗中傷を許容しない、生命の尊厳を回復させ、情報を取捨選択する選球眼を養う必要があると考えます。
　そのためには、第一に、国民投票広報協議会の組織体制を整えるに当たっては、事務局に、ＡＩが情報社会に及ぼす影響に関して造詣の深い専門家を招聘し、偽情報等の蔓延を念頭に置いた事前及び事後の対策について具体的に協議、検討すべきであります。
　第二に、制度や技術による予防策をもってしても偽情報等の拡散を完全に封じることは困難であるため、国民の偽情報への耐性を高める観点から、広報協議会は、憲法改正案に係る対面の説明会や討論会の重要性を積極的に発信するとともに、その活発な開催に努め、加えて、ファシリテーターを担う人材の育成、確保など、討論会等において、多様な意見が尊重され、国民の熟慮が深まり、相互理解が増進されるよう取り組むべきです。
　以上二点を御提言申し上げ、発言を終わります。