梅谷守の発言 （本会議）

○梅谷守君　立憲民主党・無所属の梅谷守です。
　ただいま議題となりました人工知能関連技術の研究開発及び活用の推進に関する法律案について、会派を代表し、質問します。（拍手）
　冒頭、一言申し上げます。
　石破総理が昨夜、米国トランプ大統領と電話会談し、今後は担当閣僚を指名し、交渉継続で一致したとのことですが、しかるべきタイミングで総理とトランプ大統領と直接交渉することにより、関税措置の撤回、見直しを実現すること、国内対策を早期実現することを求め、質問に入ります。
　私たちは今、人工知能、ＡＩ技術がもたらす人類史上かつてない劇的な転換点のただ中にいます。ＡＩをめぐっては、世界各国で今この瞬間も熾烈な開発競争が繰り広げられています。我が国がこの分野で後れを取ることは、産業の競争力を失うにとどまらず、未来のこの国の形、社会の形を他国に委ねることを意味しかねません。本法案はその意味で重要な法案であり、一歩であり、ＡＩ政策を強力に前へ進めようとする姿勢は立憲民主党も共有するところです。
　その上で、ＡＩの開発で大きく後れを取っている現状や国民の間に広がる懸念を踏まえ、具体的な質問をさせていただきます。
　まず、日本のＡＩ技術の現状について伺います。
　我が国は、ＡＩ、特に大規模言語モデルの開発において、米国や中国に大きく後れを取っています。その原因としては、海外諸国に比べ官民のＡＩへの投資の規模が小さいことや、ＡＩ専門家の人材不足などが挙げられます。
　二〇一六年度に人工知能技術戦略会議を設置し、人工知能の研究開発目標と産業化のロードマップを策定して以降、政府が国家戦略としてＡＩの研究開発を進めてきたことは承知をしています。しかし、結果として、研究開発も産業化も、海外との差はむしろ開いたのではありませんか。これまでの取組の具体的成果及びＡＩの研究開発の遅れの現状と原因について、どう検証し認識していますか。お答えください。
　本法案では、ＡＩを経済社会の発展の基盤と位置づけ、国際競争力の向上を掲げていますが、典型的な推進法の域を出ず、推進に当たって従来と異なる点は何か、全く見えてきません。
　政府は、ＡＩ研究開発の推進に当たり、何を目標として設定し、何に重点を置くのですか。その中で、国産ＡＩの開発の必要性をどのように考えていますか。また、スタートアップ企業を始め、官民の研究開発に対し、どのような内容や規模の支援を行うのですか。具体的な答弁を求めます。
　次に、プライバシー侵害、著作権侵害などの懸念への対応について伺います。
　ＡＩに係るイノベーションの促進が重要であることに異論はありません。しかし同時に、ＡＩには様々なリスクがあります。
　例を挙げると、一つ目はプライバシー侵害です。同級生や知人の写真を基に性的な画像を生成、拡散した、ＡＩの学習に同意なく個人情報が利用されたなど、ＡＩによる権利や利益の侵害とされる事案が国内外で相次いで報告をされています。こうした現状を受け、どの世論調査でも、ＡＩに対する国民の強い懸念が示されています。法案の前提となった内閣府ＡＩ制度研究会の中間取りまとめに対するパブリックコメントでも、適切な規制を望む声が多く見られます。
　政府は、これまで、こうしたプライバシー侵害や個人情報保護違反のリスクに既存の法制度で的確に対応してきたとお考えですか。また、国民の懸念をどう受け止めておられますか。見解を伺います。
　二つ目に、著作権など知的財産権の侵害です。記事の無断使用、特定の作風の模倣などの事案が報じられ、クリエーターを中心に懸念が広がっています。著作物、肖像、音声の無断学習や生成は生成ＡＩの持つリスクの一つですが、本法案の記述は抽象的で、著作権法などの今後の議論に丸投げされています。
　ＡＩによる著作権や人格権の侵害について、なぜ本法案は制度的な手当てをしていないのですか。既存の法制度で対応可能とお考えなのですか。政府として、法的責任や規制、救済の在り方について、今後、いつ、どのような方針の下で整備を進めるのか、城内大臣並びにあべ文科大臣に具体的な答弁を求めます。
　知的財産保護においては、適切な対価還元も重要です。無断での学習利用が放置されれば、優良なコンテンツを創出する好循環も損なわれます。ＡＩ開発者による学習データの利用に対し、創作者へ何らかの対価を還元する仕組みが必要ではないでしょうか。必要ならば、いつ、どのように整備する見通しでしょうか。政府の方針を城内大臣にお伺いをします。
　三つ目は、ディープフェイクなどへの対応です。本法案には、ＡＩが生成した偽情報による被害について、誰が責任を負うのかという原則や、勧告や命令、救済などのリスクに対する具体的対応策がほとんど盛り込まれておりません。中間取りまとめでは、既存の法令で一定の対応がなされているとされています。また、今後、指針で追加のリスク対応を打ち出すのかもしれません。
　しかし、実際に、アメリカ大統領選など海外の選挙で、偽音声、偽画像が拡散し、投票行動に影響を与えたとされる事例が報告をされています。これが日本で起きた場合、果たして、公職選挙法など現行法で対応できるのでしょうか。
　政府は、既存の個別法や、法的拘束力のないガイドラインや規範による対応で、ＡＩを用いた権利利益の侵害から本当に国民を守れるのでしょうか。そもそも、どのような方法で対応するのでしょうか。また、ディープフェイクによる選挙における偽情報の拡散への対応について、どのように考えますか。政府の見解を伺います。
　次に、ＡＩが社会に及ぼす影響についてお伺いをします。
　ＡＩ技術の進展が加速する中で、いわゆるシンギュラリティー、技術的特異点の到来を懸念する声があります。シンギュラリティーが起きた場合、科学技術の飛躍的な進化によって、様々な課題の解決や経済成長が急速に進む可能性がある反面、雇用の喪失や富の集中、倫理や民主主義の混乱、さらにはＡＩが人類に敵対する危険性までが指摘をされています。
　このシンギュラリティーの到来する可能性について、政府はどのような認識を持っておられますか。また、現在の科学的知見を踏まえつつ、リスクへの備えとして、どのような政策的対応を検討しているのですか。見解を伺います。
　次に、イノベーション促進とリスク対応の両立についてお伺いをします。
　我が国は、Ｇ７広島サミット以来、広島ＡＩプロセスを主導し、人間中心のＡＩ、安全、安心で信頼できるＡＩを国際社会に提唱してきました。法案の前提となった中間取りまとめでも、イノベーション促進とリスクの対応の両立を掲げ、各国のモデルとなるようなＡＩ制度を構築することを求めています。
　これら従来からの議論を踏まえ、ＡＩの持つリスクや国民の懸念を考えれば、我が国の初の包括的なＡＩ立法は、基本法として立法すべきではないでしょうか。リスクへの対応を含め、国としての基本姿勢を明らかにし、政策の全体像を国民に示すものとすべきところ、基本法ではなく、技術推進法にとどめたのはなぜですか。見解を伺います。
　次に、法案の内容について伺います。
　まず、第二条の人工知能関連技術の定義について伺います。この定義次第では、第六条から第八条の責務規定や、第十六条の調査研究等の及ぶ対象者の範囲が大きく変わり、必要以上に幅広い事業者に懸念が広がりかねません。
　人工知能関連技術には、具体的にどのようなものが含まれますか。そもそも、政府は人工知能をどのように定義しているのか、見解を伺います。あわせて、人工知能関連技術の対象となる研究者や事業者は国内にどのくらいいるのですか。また、対象となる者には国外の者も含まれるのですか。お答えください。
　第七条には、活用事業者の責務として、国及び地方公共団体が実施する施策に対する協力義務が規定をされています。この責務の具体的内容について伺うとともに、研究機関など他の責務規定が努力義務となっている中、本条項のみ義務規定である理由について伺います。また、協力義務といえども、実効性を問う声がある中で、罰則を設けなかった理由を伺います。あわせて、今後の見直しの議論によっては罰則が設けられる可能性があるのか、お伺いをします。
　また、第八条には、国民の責務として、ＡＩに対する理解と関心を深めること、及び、国及び地方公共団体の施策に対する協力が努力義務として定められています。義務ではなく、罰則もないことは理解をしますが、例えば、ＡＩなんてよく分からないという御高齢の方々は、国民の責務に違反していることになるのですか。あるいは、国が整備を進めるデータセット、学習に使われるデータベースですが、これへの情報提供を拒んだら、これも責務違反になるのでしょうか。どこからどこまでが責務となるのか、責務の具体的な内容について、国民に分かるようお答え願います。
　そもそも、国に対して理解増進の義務を負わせるなら理解できますが、理解と関心を深めることをなぜ国民の責務として規定するのでしょうか。なぜ責務まで課す必要があるのかの理由を含め、お答えください。また、あわせて、施策に協力しない国民が何か不利益を受ける可能性があるのですか。明確にお答えください。
　結びに、これから私たちを待っているのは、ＡＩとともにある新たな社会です。そこへ向けて、ＡＩを適切なガバナンスの下に置き、信頼できる構成要素として社会の中に組み込んでいくことが政府と政治の責任です。また、国民一人一人にとっても、ＡＩへの理解を深め、ＡＩに振り回されることなく、自らの体と頭の一部のごとく使いこなすことが求められます。
　本法案をめぐる議論が、国民の皆様にとって、ＡＩに対する理解と関心を深め、ＡＩとの共存の在り方を考えるきっかけとなることを願い、質問を終わります。
　御清聴ありがとうございました。（拍手）
　　　　〔国務大臣城内実君登壇〕