杉尾秀哉の発言 （本会議）

○杉尾秀哉君　立憲民主・社民・無所属の杉尾秀哉です。
　ただいま議題となりました人工知能関連技術の研究開発及び活用の推進に関する法律案、いわゆるＡＩ新法について、会派を代表して質問します。
　人類の知能をしのぐ機械が発明までこなす。一九六五年、イギリスの数学者アービング・ジョン・グッド氏は、高度なＡＩの登場をこう予言しました。それからちょうど六十年、同氏が指摘した世界は着実に実現に近づきつつあります。
　このところ、ＡＩに関するニュースを目にしない日はないと言っても過言ではありません。そもそもＡＩが私たちの仕事や生活を大きく変えようとしているきっかけとなったのは、まるで人間のように答えてくれる対話型ＡＩ、チャットＧＰＴの登場でした。二〇二二年十一月のことです。さらに、今年に入り、低コストで高性能な中国発のＡＩ、ディープシークが発表され、世界中に衝撃が走りました。
　ＡＩは、上手に使えばあらゆる人間の営みを効率化できる一方、使い方を間違えると人類の脅威ともなり得る。まさに、天使か悪魔か。その急速な進化の前に、我々はＡＩにどう向き合えばいいのか、今、根源的な問いを突き付けられていると言ってもいいでしょう。
　ＡＩが人間の知能を超える瞬間をシンギュラリティー、技術的特異点といいますけれども、アメリカの発明家にして思想家でもあるレイ・カーツワイル氏は、二十年前に出版した著書でこの言葉を世に知らしめた上で、二〇四五年にシンギュラリティーが起きると提唱しました。人類の歴史における転換点、いわゆる二〇四五年問題です。ところが、ここに来て、シンギュラリティーはもっと早いと指摘する専門家が増えています。
　このシンギュラリティーについて、政府は、いつ頃到来し、また社会や経済にどんな影響を与えると予測しているのか、城内大臣、お答えください。
　日本のＡＩ研究の第一人者、東京大学大学院の松尾豊教授によれば、ＡＩは既に日本最難関と言われる東京大学理科三類の入学試験を突破できるレベルにあり、早ければ、二〇三〇年頃にもシンギュラリティーが到来する可能性があるのだそうです。
　これほどまでに急激なＡＩの進化の一方で、我が国の取組は一体どうだったんでしょうか。
　政府は、二〇一六年の第五期科学技術基本計画や二〇一九年のＡＩ戦略二〇一九などで、ＡＩを特に速やかな強化を図る基盤技術と位置付け、研究開発体制の強化方針を繰り返し示してきました。にもかかわらず、二〇二三年の国内でのＡＩに関する民間投資額は世界十二位で、しかも、二〇二四年情報通信白書によると、生成ＡＩの個人利用率で中国五六％、アメリカ四六％、イギリス三九％などに対し、日本は僅か九％と極めて低い水準にとどまっています。
　では、なぜ我が国がこれほどまでにＡＩの分野で世界に後れを取ってしまったのか。また、石破総理が言うように、世界で最も開発、活用しやすい国を目指すと言うのなら、これまでの政策がなぜ功を奏しなかったのか、十分に検証した上で実効性が高い方策を講じるべきではないか。さらに、ＡＩの民間投資や利用率、ＡＩ関連予算など、日本が遅れているこれらの指標で、今後、具体的な数値目標や達成時期などを設定し、公表すべきではないでしょうか。いずれも城内大臣の答弁を求めます。
　なお、デジタル敗戦に続き、ここで日本がＡＩの分野でも今までの遅れを挽回できなければ、もう後がないというぐらいの覚悟で政策を強力に推進すべきである、このように申し添えます。
　ここからは、本法案について伺います。
　過去、各省庁などで取りまとめられたガイドラインには、人間の尊厳が尊重される社会とか、多様な背景を持つ人々が多様な幸せを追求できる社会など、いずれも普遍的な価値が明示されていますが、本法案には一切そうした記述がありません。しかし、何といっても日本初のＡＩ関連法制ですから、我々が目指すべき社会とその実現のためにＡＩをどう利用するのかということこそ法案の基本理念に書き込まれるべきではないでしょうか。
　さらに、二〇二三年Ｇ７広島サミットの成果として策定された世界初のＡＩに関する包括的ルール、広島ＡＩプロセスの国際規範に盛り込まれた人間中心の原則こそ核心中の核心です。欧米諸国のルール作りに共通するのは、いかにＡＩ社会で人間の自己決定権を確保するのかという人間中心主義の理念ですし、国内でも、例えば鳥取県が策定したＡＩ（えぇ愛）ガイドラインでも人間主導の原則が高らかにうたい上げられています。
　こうして考えてみますと、個人の尊厳や民主主義を支える理念としての人間中心主義を本法にも明記すべきと考えますけれども、城内大臣にこれまでよりも踏み込んだ答弁をお願いしたいと思います。
　本法案が目指す方向性は、イノベーションの推進とリスク管理のバランスを取ることでしょう。例えば、悪質なＡＩに対し国が調査できる権限や国の施策への事業者の協力など、一定の法的規制は掛けられていますが、一方で罰則規定の導入が見送られており、規制と推進のバランスに最大限配慮したことがうかがえます。
　ところが、他国の状況を見ると、例えば去年春成立したＥＵのＡＩ新法では、ＡＩ法では、許容できるリスクを四段階に分け、リスクの程度に応じて規制などを行う罰則付きのリスクベースアプローチが採用されていたり、また、去年暮れ成立した韓国のＡＩ基本法でも透明性や安全性確保の義務規定を設けるなど、より規制に踏み込んだ内容となっています。他方、アメリカではトランプ政権がＡＩ規制の緩和を進めるなど、各国のアプローチは大きく異なっています。
　こうした複雑な情勢の下で、果たして我が国のＡＩ法案が他国のモデルとなり得るのか私には甚だ疑問ですし、そもそも石破総理が世界のモデルとなるＡＩ制度と胸を張る根拠は示されておりません。城内大臣、お答えください。
　また、ＥＵ流のリスクベースアプローチは一定の合理性を持つと考えますけれども、なぜ本法案はそうした考え方を取らなかったのか、これも城内大臣、併せてお答えください。
　続いて、ＡＩの利用により生じる様々なリスクへの対応を中心に質問してまいります。
　まず、ＡＩと著作権をめぐる問題ですが、インターネット上の情報を含む著作物を学習データとして利用することについて日本新聞協会は、情報源として報道コンテンツを無断で使用しており、著作権侵害に該当する可能性が高いとして、生成ＡＩ時代に即した新たな法整備を求めています。さらに、生成ＡＩの登場で、文章や音楽はもとより、極めてリアルな画像や動画などの作成さえも容易に可能になっていることから、日本音楽著作権協会や日本民間放送連盟など言論表現に関わる様々な団体から法改正も含めた検討の必要性が指摘されています。
　そこで、こうしたＡＩによる著作権侵害に対する認識と今後の対応について、あべ文科大臣に基本的な考え方と対策の検討状況を伺います。
　とりわけ生成ＡＩの進歩で世界的に大きな問題となりつつあるのが、いわゆるディープフェイクポルノによる被害です。個人の同意なく作成、拡散されるディープフェイクポルノは深刻な人権侵害を招いており、とりわけ学校の同級生など身近な人をターゲットにした被害は広がる一方です。例えば、アメリカでは、十八歳未満の八人に一人が自分かあるいは身近な人が被害に遭ったことがあるという、こういう調査結果もあります。
　こうした状況を受け、海外では法制化に向けた動きが進んでおりますけれども、日本でも被害者の迅速な保護や救済はもちろんのこと、実効性ある法規制の検討が早急に必要なのではないでしょうか。鈴木法務大臣に今後の対応方針を伺います。
　また、この問題で、最近私は、現行の児童ポルノ禁止法では規制の対象とならない、架空の人物を描いたわいせつなＡＩ生成物についても速やかな対策を講じてほしいという切実な訴えを受けました。鈴木大臣にこの問題も併せて検討するよう求めます。お答えください。
　もちろん、ＡＩは万能ではありません。例えば、ＡＩを搭載したシステムの誤作動や意図しない挙動により、物理的な損害や身体への危害が生じる可能性も否定できません。最も深刻なのは、軍事活用でＡＩの自律的判断による誤爆が起きるケースですが、これから身近な生活においても、ＡＩ技術を使った自動運転車やロボットなどが様々な場面で誤作動を起こし、結果として深刻な被害を生む可能性が高まる事態も予想されます。
　そこで、城内大臣に、ＡＩシステムの安全性確保について、今後どのような基準を設け、どのように監督を行っていくつもりか、現時点での考え方をお聞かせください。
　では、実際にＡＩシステムの誤作動等により損害が引き起こされた場合、その責任は一体誰が負うことになるのでしょうか。
　ＡＩでは、開発者、システムの提供者、利用者など複数の主体が関与するため、責任の所在を明確にすることが困難なケースも十分に考えられます。そうしたＡＩによる損害発生時の責任の所在はどのような考え方に基づき対応がなされるのか、政府としての認識を城内大臣にお尋ねします。
　ある世論調査を見ますと、生成ＡＩの利用や普及拡大で国民が不安に思うことは、一、社会の分断、二、人間の制御が及ばなくなる、三、雇用が失われるというのが上位の三つでした。
　ちなみに、ＡＩによる労働代替によって生じる影響について大和総研が調査し、去年十一月に公表した分析によると、生成ＡＩの普及により、我が国のＧＤＰは一六・二％押し上げられると試算され、また、労働者全体の失業者数の減少と賃金水準の上昇というプラスの影響がもたらされるとしています。
　そうした一方で、労働者を職業グループで分けた場合、プログラマーや一般事務など、仕事の主要部分が生成ＡＩにより自動化や代替されやすい職業グループについては、失業者数が七・〇％上昇し、賃金水準が七・三％低下すると、このように推計されています。
　こうして、今後、生成ＡＩの普及が進めば、生産性向上によるＧＤＰの押し上げが期待される反面、労働者の二極化を生み、国内の経済格差の拡大や社会の分断を招くことが懸念されますけれども、これに対する政府の認識と対応について、城内大臣の答弁を求めます。
　最後に、本法案において、国の責務、地方公共団体の責務、研究開発機関の責務、活用事業者の責務と並んで、国民の責務が規定されたことについて伺います。
　我々は、国民の責務の具体的な内容や範囲などが不明確である上、主に世代間のデジタルデバイドの深刻な現状に鑑み、国民の責務を国民の努力とするよう、衆院段階で修正案を提出しました。ところが、残念ながら、党利党略もあったのでしょうか、賛成少数で否決されてしまっています。
　ＡＩ新法にも近いサイバーセキュリティ基本法など、ほかの法律では国民の努力と規定しているのに、なぜ本法案は責務という強い表現にしたのか。
　これについて、衆議院での審議で政府側は、ＡＩに対する正しい理解と関心を深めていただくことが不可欠で、国や地方公共団体が実施する施策への国民の理解、協力が必要不可欠であるという観点から責務という言葉を用いているなどと答弁がありました。しかし、この説明は余りに不十分かつ極めて曖昧なもので、いまだ強い違和感が拭えません。
　さきに述べたように、ＡＩの利用に不安を抱く国民が多くいる中、責務という強い言葉で規定すること自体、無用な懸念を生じさせるだけではないでしょうか。にもかかわらず、ほかの法律とは異なり、あえて国民の責務と規定した理由について、改めて城内大臣の明快な答弁を求めます。
　ＡＩというテクノロジーの進化は果たして人々を幸せにするのか。まさにＡＩの真価が問われる中で、本法案は、その究極の目的、目標に近づくための小さな一歩にすぎません。
　また、本法案には、実効性に乏しく中途半端だという批判が根強くあり、今後、ＡＩの悪用による深刻な事案が相次げば、強制力を伴う規制法の導入を検討せざるを得ない場面が来ることも十分に予想されます。その際、我々に求められるのは、情報に対するリテラシーや倫理観であり、社会全体で協力をして持続可能で公平公正な未来を築くためのビジョンではないでしょうか。
　そのためにも、私たち立憲民主党は、人間中心のＡＩの旗を高く掲げつつ、時代や状況の変化に応じて果断に法制度の見直しを行う必要性を指摘して、私の代表質問を終わります。
　御清聴、大変ありがとうございました。（拍手）
　　　〔国務大臣城内実君登壇、拍手〕