本会議

令和七年五月十六日（金曜日）
　　　午前十時一分開議
　　　　━━━━━━━━━━━━━
○議事日程　第二十号
　　令和七年五月十六日
　　　午前十時開議
　第一　行政手続における特定の個人を識別するための番号の利用等に関する法律及び住民基本台帳法の一部を改正する法律案（内閣提出、衆議院送付）
　第二　特別会計に関する法律の一部を改正する法律案（内閣提出、衆議院送付）
　第三　下請代金支払遅延等防止法及び下請中小企業振興法の一部を改正する法律案（内閣提出、衆議院送付）
　第四　情報通信技術の進展等に対応するための刑事訴訟法等の一部を改正する法律案（内閣提出、衆議院送付）
　第五　重要電子計算機に対する不正な行為による被害の防止に関する法律案（内閣提出、衆議院送付）
　第六　重要電子計算機に対する不正な行為による被害の防止に関する法律の施行に伴う関係法律の整備等に関する法律案（内閣提出、衆議院送付）
　　　　━━━━━━━━━━━━━
○本日の会議に付した案件
　一、人工知能関連技術の研究開発及び活用の推進に関する法律案（趣旨説明）
　以下　議事日程のとおり
　　　　　─────・─────

○議長（関口昌一君）　これより会議を開きます。
　この際、日程に追加して、
　人工知能関連技術の研究開発及び活用の推進に関する法律案について、提出者の趣旨説明を求めたいと存じますが、御異議ございませんか。
　　　〔「異議なし」と呼ぶ者あり〕

○議長（関口昌一君）　御異議ないと認めます。城内実国務大臣。
　　　〔国務大臣城内実君登壇、拍手〕

○国務大臣（城内実君）　人工知能関連技術の研究開発及び活用の推進に関する法律案の趣旨について御説明申し上げます。
　人工知能関連技術は、その適正かつ効果的な活用によって行政事務及び民間の事業活動の著しい効率化及び高度化、並びに新産業の創出をもたらすものとして経済社会の発展の基盤となる技術であるとともに、安全保障の観点からも重要な技術であります。近年、人工知能関連技術を巡る国際的な競争が激化する中、我が国において、人工知能関連技術の研究開発を行う能力を保持するとともに、関連産業の国際競争力を向上させるための取組が不可欠となっております。
　この法律案は、このような背景を踏まえ、人工知能戦略本部を内閣に設置するとともに、政府が人工知能基本計画を定め、これを推進するなどの所要の措置を講ずることにより、人工知能関連技術の研究開発及び活用の推進に関する施策の総合的かつ計画的な推進を図り、もって国民生活の向上及び国民経済の健全な発展に寄与することを目的とするものであります。
　以下、この法律案の内容につきまして、その概要を御説明いたします。
　第一に、人工知能関連技術の研究開発及び活用の推進について、基本理念及び国の責務等を定めております。
　第二に、基本的施策として、研究開発の推進、施設及び設備等の整備及び共用の促進、人工知能関連技術の研究開発及び活用の適正性の確保、人材の確保、教育の振興、情報収集及び調査研究等の実施、国際協力の推進等を規定しております。
　第三に、政府は、基本理念にのっとり、基本的施策を踏まえ、人工知能基本計画を定めるものとしております。
　第四に、人工知能基本計画の推進体制として、内閣に人工知能戦略本部を設置することとし、内閣総理大臣を本部長とするなど組織、所掌事務等を規定しております。
　以上のほか、所要の規定の整備を行うこととしております。
　以上が、人工知能関連技術の研究開発及び活用の推進に関する法律案の趣旨であります。拍手
　　　　─────────────

○議長（関口昌一君）　ただいまの趣旨説明に対し、質疑の通告がございます。順次発言を許します。杉尾秀哉君。
　　　〔杉尾秀哉君登壇、拍手〕

○杉尾秀哉君　立憲民主・社民・無所属の杉尾秀哉です。
　ただいま議題となりました人工知能関連技術の研究開発及び活用の推進に関する法律案、いわゆるＡＩ新法について、会派を代表して質問します。
　人類の知能をしのぐ機械が発明までこなす。一九六五年、イギリスの数学者アービング・ジョン・グッド氏は、高度なＡＩの登場をこう予言しました。それからちょうど六十年、同氏が指摘した世界は着実に実現に近づきつつあります。
　このところ、ＡＩに関するニュースを目にしない日はないと言っても過言ではありません。そもそもＡＩが私たちの仕事や生活を大きく変えようとしているきっかけとなったのは、まるで人間のように答えてくれる対話型ＡＩ、チャットＧＰＴの登場でした。二〇二二年十一月のことです。さらに、今年に入り、低コストで高性能な中国発のＡＩ、ディープシークが発表され、世界中に衝撃が走りました。
　ＡＩは、上手に使えばあらゆる人間の営みを効率化できる一方、使い方を間違えると人類の脅威ともなり得る。まさに、天使か悪魔か。その急速な進化の前に、我々はＡＩにどう向き合えばいいのか、今、根源的な問いを突き付けられていると言ってもいいでしょう。
　ＡＩが人間の知能を超える瞬間をシンギュラリティー、技術的特異点といいますけれども、アメリカの発明家にして思想家でもあるレイ・カーツワイル氏は、二十年前に出版した著書でこの言葉を世に知らしめた上で、二〇四五年にシンギュラリティーが起きると提唱しました。人類の歴史における転換点、いわゆる二〇四五年問題です。ところが、ここに来て、シンギュラリティーはもっと早いと指摘する専門家が増えています。
　このシンギュラリティーについて、政府は、いつ頃到来し、また社会や経済にどんな影響を与えると予測しているのか、城内大臣、お答えください。
　日本のＡＩ研究の第一人者、東京大学大学院の松尾豊教授によれば、ＡＩは既に日本最難関と言われる東京大学理科三類の入学試験を突破できるレベルにあり、早ければ、二〇三〇年頃にもシンギュラリティーが到来する可能性があるのだそうです。
　これほどまでに急激なＡＩの進化の一方で、我が国の取組は一体どうだったんでしょうか。
　政府は、二〇一六年の第五期科学技術基本計画や二〇一九年のＡＩ戦略二〇一九などで、ＡＩを特に速やかな強化を図る基盤技術と位置付け、研究開発体制の強化方針を繰り返し示してきました。にもかかわらず、二〇二三年の国内でのＡＩに関する民間投資額は世界十二位で、しかも、二〇二四年情報通信白書によると、生成ＡＩの個人利用率で中国五六％、アメリカ四六％、イギリス三九％などに対し、日本は僅か九％と極めて低い水準にとどまっています。
　では、なぜ我が国がこれほどまでにＡＩの分野で世界に後れを取ってしまったのか。また、石破総理が言うように、世界で最も開発、活用しやすい国を目指すと言うのなら、これまでの政策がなぜ功を奏しなかったのか、十分に検証した上で実効性が高い方策を講じるべきではないか。さらに、ＡＩの民間投資や利用率、ＡＩ関連予算など、日本が遅れているこれらの指標で、今後、具体的な数値目標や達成時期などを設定し、公表すべきではないでしょうか。いずれも城内大臣の答弁を求めます。
　なお、デジタル敗戦に続き、ここで日本がＡＩの分野でも今までの遅れを挽回できなければ、もう後がないというぐらいの覚悟で政策を強力に推進すべきである、このように申し添えます。
　ここからは、本法案について伺います。
　過去、各省庁などで取りまとめられたガイドラインには、人間の尊厳が尊重される社会とか、多様な背景を持つ人々が多様な幸せを追求できる社会など、いずれも普遍的な価値が明示されていますが、本法案には一切そうした記述がありません。しかし、何といっても日本初のＡＩ関連法制ですから、我々が目指すべき社会とその実現のためにＡＩをどう利用するのかということこそ法案の基本理念に書き込まれるべきではないでしょうか。
　さらに、二〇二三年Ｇ７広島サミットの成果として策定された世界初のＡＩに関する包括的ルール、広島ＡＩプロセスの国際規範に盛り込まれた人間中心の原則こそ核心中の核心です。欧米諸国のルール作りに共通するのは、いかにＡＩ社会で人間の自己決定権を確保するのかという人間中心主義の理念ですし、国内でも、例えば鳥取県が策定したＡＩ（えぇ愛）ガイドラインでも人間主導の原則が高らかにうたい上げられています。
　こうして考えてみますと、個人の尊厳や民主主義を支える理念としての人間中心主義を本法にも明記すべきと考えますけれども、城内大臣にこれまでよりも踏み込んだ答弁をお願いしたいと思います。
　本法案が目指す方向性は、イノベーションの推進とリスク管理のバランスを取ることでしょう。例えば、悪質なＡＩに対し国が調査できる権限や国の施策への事業者の協力など、一定の法的規制は掛けられていますが、一方で罰則規定の導入が見送られており、規制と推進のバランスに最大限配慮したことがうかがえます。
　ところが、他国の状況を見ると、例えば去年春成立したＥＵのＡＩ新法では、ＡＩ法では、許容できるリスクを四段階に分け、リスクの程度に応じて規制などを行う罰則付きのリスクベースアプローチが採用されていたり、また、去年暮れ成立した韓国のＡＩ基本法でも透明性や安全性確保の義務規定を設けるなど、より規制に踏み込んだ内容となっています。他方、アメリカではトランプ政権がＡＩ規制の緩和を進めるなど、各国のアプローチは大きく異なっています。
　こうした複雑な情勢の下で、果たして我が国のＡＩ法案が他国のモデルとなり得るのか私には甚だ疑問ですし、そもそも石破総理が世界のモデルとなるＡＩ制度と胸を張る根拠は示されておりません。城内大臣、お答えください。
　また、ＥＵ流のリスクベースアプローチは一定の合理性を持つと考えますけれども、なぜ本法案はそうした考え方を取らなかったのか、これも城内大臣、併せてお答えください。
　続いて、ＡＩの利用により生じる様々なリスクへの対応を中心に質問してまいります。
　まず、ＡＩと著作権をめぐる問題ですが、インターネット上の情報を含む著作物を学習データとして利用することについて日本新聞協会は、情報源として報道コンテンツを無断で使用しており、著作権侵害に該当する可能性が高いとして、生成ＡＩ時代に即した新たな法整備を求めています。さらに、生成ＡＩの登場で、文章や音楽はもとより、極めてリアルな画像や動画などの作成さえも容易に可能になっていることから、日本音楽著作権協会や日本民間放送連盟など言論表現に関わる様々な団体から法改正も含めた検討の必要性が指摘されています。
　そこで、こうしたＡＩによる著作権侵害に対する認識と今後の対応について、あべ文科大臣に基本的な考え方と対策の検討状況を伺います。
　とりわけ生成ＡＩの進歩で世界的に大きな問題となりつつあるのが、いわゆるディープフェイクポルノによる被害です。個人の同意なく作成、拡散されるディープフェイクポルノは深刻な人権侵害を招いており、とりわけ学校の同級生など身近な人をターゲットにした被害は広がる一方です。例えば、アメリカでは、十八歳未満の八人に一人が自分かあるいは身近な人が被害に遭ったことがあるという、こういう調査結果もあります。
　こうした状況を受け、海外では法制化に向けた動きが進んでおりますけれども、日本でも被害者の迅速な保護や救済はもちろんのこと、実効性ある法規制の検討が早急に必要なのではないでしょうか。鈴木法務大臣に今後の対応方針を伺います。
　また、この問題で、最近私は、現行の児童ポルノ禁止法では規制の対象とならない、架空の人物を描いたわいせつなＡＩ生成物についても速やかな対策を講じてほしいという切実な訴えを受けました。鈴木大臣にこの問題も併せて検討するよう求めます。お答えください。
　もちろん、ＡＩは万能ではありません。例えば、ＡＩを搭載したシステムの誤作動や意図しない挙動により、物理的な損害や身体への危害が生じる可能性も否定できません。最も深刻なのは、軍事活用でＡＩの自律的判断による誤爆が起きるケースですが、これから身近な生活においても、ＡＩ技術を使った自動運転車やロボットなどが様々な場面で誤作動を起こし、結果として深刻な被害を生む可能性が高まる事態も予想されます。
　そこで、城内大臣に、ＡＩシステムの安全性確保について、今後どのような基準を設け、どのように監督を行っていくつもりか、現時点での考え方をお聞かせください。
　では、実際にＡＩシステムの誤作動等により損害が引き起こされた場合、その責任は一体誰が負うことになるのでしょうか。
　ＡＩでは、開発者、システムの提供者、利用者など複数の主体が関与するため、責任の所在を明確にすることが困難なケースも十分に考えられます。そうしたＡＩによる損害発生時の責任の所在はどのような考え方に基づき対応がなされるのか、政府としての認識を城内大臣にお尋ねします。
　ある世論調査を見ますと、生成ＡＩの利用や普及拡大で国民が不安に思うことは、一、社会の分断、二、人間の制御が及ばなくなる、三、雇用が失われるというのが上位の三つでした。
　ちなみに、ＡＩによる労働代替によって生じる影響について大和総研が調査し、去年十一月に公表した分析によると、生成ＡＩの普及により、我が国のＧＤＰは一六・二％押し上げられると試算され、また、労働者全体の失業者数の減少と賃金水準の上昇というプラスの影響がもたらされるとしています。
　そうした一方で、労働者を職業グループで分けた場合、プログラマーや一般事務など、仕事の主要部分が生成ＡＩにより自動化や代替されやすい職業グループについては、失業者数が七・〇％上昇し、賃金水準が七・三％低下すると、このように推計されています。
　こうして、今後、生成ＡＩの普及が進めば、生産性向上によるＧＤＰの押し上げが期待される反面、労働者の二極化を生み、国内の経済格差の拡大や社会の分断を招くことが懸念されますけれども、これに対する政府の認識と対応について、城内大臣の答弁を求めます。
　最後に、本法案において、国の責務、地方公共団体の責務、研究開発機関の責務、活用事業者の責務と並んで、国民の責務が規定されたことについて伺います。
　我々は、国民の責務の具体的な内容や範囲などが不明確である上、主に世代間のデジタルデバイドの深刻な現状に鑑み、国民の責務を国民の努力とするよう、衆院段階で修正案を提出しました。ところが、残念ながら、党利党略もあったのでしょうか、賛成少数で否決されてしまっています。
　ＡＩ新法にも近いサイバーセキュリティ基本法など、ほかの法律では国民の努力と規定しているのに、なぜ本法案は責務という強い表現にしたのか。
　これについて、衆議院での審議で政府側は、ＡＩに対する正しい理解と関心を深めていただくことが不可欠で、国や地方公共団体が実施する施策への国民の理解、協力が必要不可欠であるという観点から責務という言葉を用いているなどと答弁がありました。しかし、この説明は余りに不十分かつ極めて曖昧なもので、いまだ強い違和感が拭えません。
　さきに述べたように、ＡＩの利用に不安を抱く国民が多くいる中、責務という強い言葉で規定すること自体、無用な懸念を生じさせるだけではないでしょうか。にもかかわらず、ほかの法律とは異なり、あえて国民の責務と規定した理由について、改めて城内大臣の明快な答弁を求めます。
　ＡＩというテクノロジーの進化は果たして人々を幸せにするのか。まさにＡＩの真価が問われる中で、本法案は、その究極の目的、目標に近づくための小さな一歩にすぎません。
　また、本法案には、実効性に乏しく中途半端だという批判が根強くあり、今後、ＡＩの悪用による深刻な事案が相次げば、強制力を伴う規制法の導入を検討せざるを得ない場面が来ることも十分に予想されます。その際、我々に求められるのは、情報に対するリテラシーや倫理観であり、社会全体で協力をして持続可能で公平公正な未来を築くためのビジョンではないでしょうか。
　そのためにも、私たち立憲民主党は、人間中心のＡＩの旗を高く掲げつつ、時代や状況の変化に応じて果断に法制度の見直しを行う必要性を指摘して、私の代表質問を終わります。
　御清聴、大変ありがとうございました。拍手
　　　〔国務大臣城内実君登壇、拍手〕

○国務大臣（城内実君）　杉尾秀哉議員からは、まず、シンギュラリティーの到来時期や、社会や経済への影響についてお尋ねがございました。
　ＡＩの大幅な発展によって社会や経済に大きな影響を与える可能性がありますが、シンギュラリティーについては、例えば、電力の大量消費や性能向上に必要な学習データの不足などの技術的な課題があり、その到来の有無や時期などについては専門家によって意見が異なっているものと承知しております。このため、現時点でシンギュラリティーの到来時期や具体的な影響についてお答えすることは難しいと考えております。
　なお、もしシンギュラリティーが到来した場合には、ＡＩが倫理的に誤った判断をするリスクや利用者が過度にＡＩに依存するリスクなどがあると承知しており、ＡＩ制度研究会などにおいてもそうした議論があったところであります。
　本法案が成立した暁には、法に基づく情報収集や調査などによって、技術発展の動向や課題を把握し、有識者とも議論を行いながら、必要な対応を図ってまいります。
　次に、ＡＩの分野で世界に後れを取った理由についてお尋ねがございました。
　様々な理由があるかと思いますが、ＡＩ開発の遅れの主な理由としては、ＡＩの研究開発に資本や人材が迅速に集まってこなかったこと、日本語はデータ量が少なく同音異義語が多いためＡＩ学習が難しいなど、日本語特有の事情があることなどが考えられます。また、ＡＩ活用の遅れの主な理由としては、ＡＩの持つメリットが不透明であったため、経営者が十分に投資をしてきていないこと、ＡＩがもたらし得るリスクに対する国民の不安が十分に払拭できていないことなどが考えられます。
　ＡＩに関する国際的な競争が激しさを増していることから、関係省庁と連携して、このような状況を克服し、我が国におけるＡＩの研究開発と利活用を強力に推進していきたいと考えております。
　次に、これまでの政策の実効性についてお尋ねがございました。
　ＡＩ政策については、政府が本格的に取組を始めてからまだ多くの時間がたっておらず、現時点において全ての政策効果を評価することは難しいと考えております。
　しかしながら、ＡＩの研究開発、活用が遅れた理由としては、先ほど述べたとおり、ＡＩの活用に対する国民の不安の払拭などを十分に行えなかったことや、資本や人材が迅速に集まってこなかったことなどが挙げられます。
　これまでもＡＩ戦略を作成するなど、政府の取組を進めてきましたが、このような課題の克服に向けて、今後は、本法案により新たに設置するＡＩ戦略本部が司令塔となり、本部の下で策定するＡＩ基本計画に基づき、関係府省庁がより一丸となって、関連する取組を総合的かつ計画的に進めてまいります。
　次に、ＡＩの民間投資などの数値目標等の設置についてお尋ねがありました。
　ＡＩの民間投資などの指標については、これまでＡＩ戦略等を検討する際に調査、分析を行ってきましたが、ＡＩの開発動向は刻々と変化しており、具体的な目標や指標の設定については適時適切に議論する必要があると考えております。
　今後、本法案に基づき設置されるＡＩ戦略本部において、国が講じる施策の基本的な方針等を定めるＡＩ基本計画を策定する際に、有識者の意見も聞きつつ、具体的な目標や指標を設定することも含めて、関係府省庁で連携して検討してまいります。
　次に、我々が目指すべき社会の法案の基本理念への明記についてお尋ねがありました。
　本法案では、第一条の目的において、国民生活の向上及び国民経済の健全な発展に寄与することを掲げております。
　また、第三条の基本理念においては、行政事務及び民間の事業活動の著しい効率化及び高度化並びに新産業の創出、経済社会の発展、安全保障、我が国及び国際社会の平和と発展に寄与といった観点を明記しております。
　このように、我々が目指すべき基本的な方向性については、法律の目的及び基本理念に既に盛り込んでいるところであり、更に具体的な重要事項につきましては、法案に基づき策定するＡＩ基本計画に記載してまいります。
　次に、人間中心主義のＡＩ法への明記についてお尋ねがありました。
　広島ＡＩプロセスの国際指針においても掲げられているとおり、人間中心の考え方を尊重することは、当然にして、非常に重要なことであると考えております。我が国においても、広島ＡＩプロセスに先駆けて、二〇一九年、平成三十一年に人間中心のＡＩ社会原則を策定し、ＡＩ政策を進めてきたところであります。
　今後、ＡＩ戦略本部の下で策定するＡＩ基本計画にも、その冒頭で、人間中心のＡＩ原則の考え方を記載する予定としております。基本計画の冒頭に記載されることで、法案に直接書き込まずとも、人間中心のＡＩ原則に基づき、各施策が行われることを担保できると考えております。
　また、法案第十三条に基づき国が整備する指針においても、広島ＡＩプロセスの国際指針の趣旨を反映させ、人間中心のＡＩ原則の考え方をしっかりと示していくことを予定しております。
　次に、ＡＩ法案が世界のモデルとなる根拠についてお尋ねがありました。
　議員御指摘のとおり、近年、世界各国においてＡＩ法制度に関する対応が進んでおり、その際、各国それぞれの法体系や社会的、歴史的背景に応じて制度整備が進められていると承知しております。
　そうした中、本法案は、国際整合性を保ちながら、イノベーション促進とリスク対応の両立を図るため、体制整備や基本計画及び指針の策定、調査、情報収集等から成る、いわゆる規制法ではない形の法律としており、事業者の自主的取組を尊重するとともに、新しい技術にも柔軟に対応できる制度となっております。
　ＡＩの研究開発や活用を加速することのできるバランスの取れた法制度として、これまでのところ、有識者の方々や、諸外国からも評価されていると考えており、本法案は、今後、世界のモデルになり得るものと考えております。
　次に、本法案がリスクベースアプローチを取らなかった理由についてお尋ねがありました。
　御指摘のあったＥＵのＡＩ法では、ＡＩをリスクに基づき四つのランクに分け、そのうち最上位の許容できないリスクを持つＡＩシステムは禁止され、また、二段階目のハイリスクなＡＩシステムを扱う事業者には基準遵守義務が課されていると承知しております。
　ＥＵで禁止される許容できないリスクを持つＡＩシステムについては、我が国においても個人情報保護法等により規制されております。また、ＥＵが適合性評価を義務付けている重要なインフラ等に関するハイリスクなＡＩシステムについては、我が国においても、個別の業法等により、基準を遵守していないＡＩを用いた医療機器や自動運転車の販売は違法となります。
　現在、各国において、様々な考え方でＡＩ法制度に関する対応が進められておりますが、我が国では、既存法令とガイドライン等の組合せによってリスクへの対応を行いつつ、イノベーションを促進するという考え方を取っております。
　悪質な事例等については、既存法の罰則の適用やＡＩ法案に基づく調査等を行うとともに、潜在的なリスクについては、技術進展の動向を見ながら、必要に応じて、ＡＩ戦略本部の下、全ての関係省庁と連携して適切に対応していくこととしております。
　リスクに適切に対応することで、イノベーションも促進させるため、両者をしっかりと両立させ、ＡＩ政策を推進してまいります。
　次に、ＡＩシステムの安全性確保についてお尋ねがありました。
　まず、汎用の生成ＡＩ等に関しましては、利用場面が千差万別であります。このため、一律の安全基準を設けることは困難でありますが、広島ＡＩプロセスに即した指針を国が整備し、その中において、ＡＩの安全性を向上させるためのＡＩ事業者の取組等を規定する方針であります。
　また、ＡＩ技術を使った自動運転車やロボット等の個別の製品の安全性に関しては、各製品の安全性に関する既存の法令等の下で、基準やガイドラインの整備等、安全対策が講じられているものと認識しております。
　さらに、本法案に基づく、国による調査や情報提起の枠組みも通じて、ＡＩの安全性の実態を把握し、安全性の向上を図ってまいりたいと考えております。
　次に、ＡＩによる損害発生時の責任の所在に関する考え方についてお尋ねがありました。
　ＡＩの利活用によって生ずる損害に対する責任の考え方を明確化させていくことは、ＡＩの開発や利活用を促進していく上で、非常に重要な観点であると考えております。
　こうした観点から、例えば、自動運転車が事故等を起こした場合の責任制度や社会的ルールの在り方等については、産学官の関係者によって検討を行い、今後検討を深めるべき事項等が整理されているものと認識しております。
　今後、司令塔たるＡＩ戦略本部の下、自動運転車以外の分野においても、ＡＩの利活用によって生じる損害に対する責任の考え方を明確化させるべく、関係省庁と緊密に連携しながら検討を深めてまいります。
　次に、生成ＡＩの普及に伴う国内の経済格差の拡大等についてお尋ねがありました。
　生成ＡＩによって業務の自動化や効率化が可能となり、その結果、生産性が向上して経済成長に大きく寄与することが期待できる一方で、多くの職種が奪われるのではないかとの不安や懸念があることは承知しております。
　生成ＡＩが現在の仕事の一部を代替できることは事実であると認識しております。一方で、生成ＡＩの普及により、従来にはない新しい職種や産業が生まれたり、ＡＩエンジニア等のＡＩ関連の産業に対するニーズも増加することが考えられます。
　このように、経済社会における人材需要や働き方が大きくシフトしていくと考えられるため、リカレント教育やリスキリング等の取組を通じて、新たに生まれる職種への労働力の移行をスムーズに行いつつ、労働者がこれまで以上に安全かつ安心に、そして幸せに働くことのできる社会の実現を目指してまいります。
　最後に、国民の責務と規定した理由についてお尋ねがありました。
　本法案第八条の内容は、国民の皆様がＡＩを適切に活用し、便益を享受するためには、ＡＩに対する正しい理解と関心を深めていただくことが不可欠との認識の下、規定したものであります。また、国や地方公共団体が推進するＡＩ活用を推進するための施策が十分な効果を得るためにも、国民の皆様の御協力が必要であります。
　さらに、今後、様々なＡＩが多くの国民に利用されていくことを踏まえると、例えば不適切な動作を行うＡＩを発見した場合に関係機関に情報提供していただくなど、適正なＡＩ利用環境の維持に向けた取組に可能な範囲で御協力いただくことも想定されます。
　こうした観点に基づき、第八条の見出しに果たさなければならない努めを意味する責務という文言を用いたものであります。拍手
　　　〔国務大臣あべ俊子君登壇、拍手〕

○国務大臣（あべ俊子君）　杉尾議員にお答えいたします。
　ＡＩと著作権についてお尋ねがありました。
　ＡＩと著作権との関係については、文化審議会の小委員会で議論を行いまして、クリエーター等の関係者からの著作権侵害等に関する懸念の声を踏まえ、令和六年三月にＡＩと著作権に関する考え方を取りまとめたところです。
　文部科学省においては、この考え方の周知啓発や相談窓口を通じた著作権侵害に関する事例の集積に努めつつ、ＡＩやこれに関する技術の発展、諸外国における検討状況の進展等を踏まえながら、必要に応じた検討を続けてまいります。拍手
　　　〔国務大臣鈴木馨祐君登壇、拍手〕

○国務大臣（鈴木馨祐君）　杉尾秀哉議員にお答えを申し上げます。
　いわゆるディープフェイクポルノに対する法規制の検討及びいわゆる児童ポルノ禁止法では規制の対象とならないわいせつなＡＩ生成物に対する対策についてお尋ねがありました。
　御指摘のようなディープフェイクポルノ及びわいせつなＡＩ生成物について、例えば刑事事件という観点から一般論として申し上げれば、捜査機関においては、個別の事案ごとに、刑法や児童ポルノ禁止法といった関係法令の趣旨及び内容を踏まえ、刑事事件として取り上げるべきものがあれば、法と証拠に基づき適切に対応するものと承知をしております。
　また、現在、こども家庭庁において有識者及び法務省を含む関係省庁によるワーキンググループを開催し、インターネットの利用をめぐる青少年の保護に関し課題と論点の整理を行っており、その中では、生成ＡＩを用いたディープフェイクポルノに関する御意見や、児童ポルノ禁止法の規制対象に関する御意見もあると承知をしております。
　法務省といたしましては、御指摘のようなディープフェイクポルノ及び架空の人物を描いたわいせつなＡＩ生成物についても、引き続き、関係省庁とも連携しながら適切に対応してまいりたいと考えております。拍手
　　　　─────────────

○議長（関口昌一君）　片山大介君。
　　　〔片山大介君登壇、拍手〕

○片山大介君　日本維新の会の片山大介です。
　会派を代表して、城内大臣に質問します。
　世界でＡＩの開発や活用が進む中、日本は後れを取っていて、二〇二三年のＡＩ開発の民間投資額は、アメリカの六百七十二億ドルに比べて日本は七億ドルにすぎず、グローバルに勝負できる企業もほとんどない状況です。
　振り返れば、一九八〇年代、マイクロソフトやアップルが登場したとき、日本では世界でメジャーとなるＯＳは開発できず、ＣＰＵもインテルなどに席巻されました。また、二〇〇〇年代にアメリカのスタートアップから成長したプラットフォーマーがクラウドビジネスで大規模な成長を遂げたときも、日本ではグローバルなクラウドカンパニーは登場しませんでした。
　今回のＡＩ革命でデジタル敗戦を繰り返してはならないと思いますが、過去の敗因とともに、現在の日本のＡＩ開発力や活用の遅れについてどのように分析し、今回、勝機を得ようと考えていますか。
　ＡＩをめぐる我が国の対応は、去年四月のＡＩ事業者ガイドラインなど、法的な根拠を求めないソフトロー中心となっています。
　そうした中、去年の八月以降、法制度の要否を含むＡＩ制度の在り方を検討するため、内閣府のＡＩ戦略会議の下、ＡＩ制度研究会が開かれ、今年二月に中間とりまとめを公表。今回の法案はそれを踏まえてのものですが、中身は、イノベーションの促進とリスクへの対応の両立や、国際協調といった基本的な考えの下、政府の司令塔機能の強化や戦略、それに安全性の向上に向けた施策など、これまで取り組んできた内容を法的に規定したにすぎません。
　法的な根拠を与えれば良くなるというだけでは立法事実にはならないと思いますが、法案によって、これまでの取組から何がどう変わるのか、どのような効果があるのか、教えていただけますか。また、ＡＩ事業者ガイドラインを始め、これまで作ってきたガイドラインなどとの関係性はどうなるのでしょうか。
　法案の柱の一つは、第十六条の調査研究です。
　条文には、ＡＩの開発、活用の動向に関する情報収集のほか、不正な目的などによって国民の権利利益の侵害が起きた場合の対策、それにＡＩの推進に資する調査研究を行い、それらの結果に基づき、事業者に指導や助言など必要な措置を講じるといった内容が一続きの文章で書かれています。これだと、調査研究が、ＡＩ推進のために行うのか、それとも不正への対策のために行うのか、どちらなのかよく分かりません。今回の法案はあくまで推進法なので、不正への対策を独立させると規制法と捉えられかねないとの判断からだと思いますが、これでは悪質な事業者への抑止効果は薄いと思います。
　悪質な事業者名の公表についても、政府はケース・バイ・ケースと遠慮ぎみですが、本来なら、原則公表する、ないしは罰則を設けるべきではないでしょうか。これで実効性を担保できるのでしょうか。
　政府が規制を緩くしているのは、ＥＵなどに比べて緩くすることで、日本に多くのＡＩの研究開発を呼び込みたい思惑があるからだと思います。でも、規制を緩めた場合に想定されることは、規制が厳しいＥＵに準拠したＡＩは引き続き海外で研究開発が行われる一方、日本にはそうではない危険なＡＩの研究開発が集まるおそれがあることです。
　規制を緩めることが誘致につながるという考えは甘く、逆に日本発のＡＩの信頼性、安全性が損なわれ、ＡＩのリスクが高まってしまうのではないかと危惧しますが、どのようにお考えですか。
　ＡＩに限らず、リスクを抱える技術は社会において受け入れられません。なので、技術における規制はリスクを低減させるための手段と考えるべきです。
　実際のところ、規制がイノベーションを誘発することも多く、一例を挙げれば、一九七〇年代、アメリカが厳しい自動車排気ガス規制を掛けたことがありました。それに対し、イノベーションを重ねて世界に先駆けて準拠したのが日本の自動車メーカーで、それが今の地位につながりました。
　ＡＩに対する規制を通じてＡＩリスクを減らすことで不安を和らげ、その結果、ＡＩの普及を促進するという考え方もあると思いますが、いかがお考えですか。
　リスクを過小評価すると技術に対して緩い規制となり、国民の権利利益が侵害される可能性が生じます。また逆に、過大評価すると技術に対して厳しい規制となり、技術の発展が阻害されます。なので、リスクの判断は重要で、それが分からないと規制の必要性も認識できません。
　ＡＩ制度研究会の中間とりまとめでは、ＡＩのもたらし得るリスクの例が関係法令とともに整理されていますが、それぞれのリスクについて、現在の規制が適切か否かにまで踏み込んだ考え方は示されませんでした。
　今回のこの法案は、ＡＩの利活用がもたらすリスクとそれに対する適切な規制の在り方について十分に議論していないまま、法律の枠だけを作ったように感じますが、どのようにお考えですか。
　今回の法案は、日本国内でサービスを提供する海外の事業者にも適用され、アメリカのいわゆるビッグテックにも対象になります。
　ビッグテックは海外の法律に対して敏感で、例えば、ＥＵで去年五月に成立した罰則付きの規制があるＡＩ法を受けて、アップルは一部のＡＩ機能のＥＵ域内での提供を取りやめ、また、メタもマルチモーダルモデルのＡＩ投入を見送ることを決めました。今回の日本の法案に対し、アメリカのビッグテックからはどのような反応が出てきていますか。
　また、アメリカ政府は、バイデン前政権のときはＡＩ開発に関して法規制をする方向で動いていましたが、トランプ政権になって、ＡＩのリスク管理などを企業に求めた前政権の大統領令を廃止して、ＡＩ開発の推進を打ち出す新たな大統領令を発効しました。こうしたＡＩのガバナンスをめぐる国際的な潮流が我が国のＡＩ施策に及ぼす影響について、どのように考えますか。
　そして、日本でサービスを提供する事業者の中には、日本に法人を置いていない事業者も多くいます。こうした事業者に対して、政府は、国が実施する施策に協力をする責務を定め、アメリカやヨーロッパなど諸外国の政策当局及び事業者と連携を図り、情報収集に取り組んでいくとしています。この責務は第七条に規定され、条文には協力しなければいけないと、この手の条文にしては珍しく強い表現になっているのも、そうした考えがあるからだと思います。
　でも、この第七条や先ほどの第十六条だけで、日本法人を置かない海外の事業者に対して十分な調査や指導を行えるのか疑問です。友好国との間であればある程度対応できるとも思いますが、そうでない国の事業者の場合、当局との連携や情報収集を行うことができるのでしょうか。海外の事業者に対する実効性のある対応について、政府の具体的な取組を教えてください。
　与えられた指示に基づいてテキストや画像、音声などのコンテンツを作成する生成ＡＩは、今、日常生活やビジネスシーンで広く活用されています。また、今後は、自律的にタスクを実行し、問題を解決するエージェントＡＩが普及すると見られています。
　ＡＩが高性能化すればするほど、そしてＡＩへの依存度が高まれば高まるほど、社会への影響は大きくなり、人間の能力を超えるＡＳＩ、人工超知能が実現する時代もやがて訪れます。
　今回の法案では、基本計画を定め、指針を作ることになっていますが、こうした変化の激しい技術に対応するには迅速にＰＤＣＡサイクルを回していかなければいけないと思いますが、どのようにお考えですか。
　変化の激しいＡＩ技術のガバナンスに日本が初めて取り組む今回のＡＩ推進法案。適切な法整備を実施すべきことを改めて訴え、私の質問とさせていただきます。
　御清聴ありがとうございました。拍手
　　　〔国務大臣城内実君登壇、拍手〕

○国務大臣（城内実君）　片山大介議員からは、まず、過去のデジタル敗戦の理由とＡＩ革命における勝機についてお尋ねがありました。
　二〇〇〇年代のいわゆるＩＴ革命以降、我が国においては、諸外国と比較して専門知識を有する人材の確保等で後れを取っており、その結果、国際的な競争において苦戦をしたものと認識しております。
　ＡＩについても、現時点では、資本や人材が迅速に集まっておらず、加えて、国民や企業はＡＩに不安を感じていることが、ＡＩの研究開発及び活用において諸外国に後れを取っている要因と考えております。
　これらの状況に鑑み、ＡＩのリスクに対応しつつイノベーションを促進させるための法案を提出いたしました。本法案に基づき、適正なＡＩの研究開発及び活用を推進し、国民の不安解消や我が国の国際競争力の強化を図ってまいります。
　また、今後の我が国の勝ち筋として、汎用モデルについては小規模であっても高性能なモデルを開発できる可能性があります。特に、日本の文化、習慣、歴史等を正しく学習したモデルの開発を進めることで、今後競争力を確保していくことが可能であると考えております。
　加えて、ロボット、医療、防災等の分野においては、我が国は良質なデータを保有するなどの強みを持っており、こうした分野のＡＩの研究開発と活用において、我が国企業が今後世界をリードしていくことができると考えております。
　次に、本法案の意義とガイドラインとの関係についてお尋ねがございました。
　国民のＡＩに対する不安を払拭し、ＡＩの利活用が低迷している状況を克服するためには、ＡＩの研究開発と活用を適正に推進するための法律を制定し、国としての意思を明確に示すことが重要であります。
　本法案により、我が国のＡＩ政策の司令塔機能が強化されるとともに、ＡＩの研究開発及び活用の推進に関する施策を関係府省庁が一丸となって総合的かつ計画的に推進することが可能となります。
　加えて、本法案を通じて、我が国のＡＩ制度に対する基本的考え方、すなわちイノベーション促進とリスク対応の両立、国際整合性の確保、政府による情報統制や過剰な規制の回避といった我が国の立ち位置を国際社会に明確に示していくことができると考えております。
　なお、本法案は、既存の法令やガイドラインと相まって効果を発揮することとなります。これまで関係省庁において特定の主体や分野を対象としたガイドラインを策定していますが、本法案に基づき整備する指針では、全ての関係者に向けて適正性確保のための基本的考え方を示すことを想定しております。ＡＩ事業者等の各主体においては、最も基本となる指針と各主体にとって最も適切なガイドラインの双方を参照しながら、ＡＩの研究開発と活用の適正性を確保していただくことを考えております。
　次に、悪質な事業者等の公表や罰則の必要性についてお尋ねがありました。
　本法案に基づく調査結果の公表については、公表した場合としない場合のメリット、デメリット等を比較検討し、かつ企業秘密等に留意して判断することとなります。
　例えば、悪質なＡＩサービスを提供する事業者名を公表した場合に、当該サービスの社会的な認知度が上がってしまい、興味本位で利用する者が増えてしまうおそれもあると考えております。また、特定の事業者名の公表よりも、悪質なＡＩサービスに類似するＡＩサービス全般について国民に情報提供する方が、注意喚起としての効果があるといった判断もあり得ると考えております。
　こうしたことから、事業者名については原則公表とはしておらず、個別の案件ごとに事業者名の公表の是非について適切に検討してまいります。また、罰則を設けなくとも、悪質な事案は現行法令に基づく措置によって対処可能であると考えております。
　その上で、ＡＩは技術変化が速いことから、現行法令では対応が困難な事案が発生した場合、臨機応変に指針の整備や調査を通じた情報収集、調査結果に応じた事業者や国民に対する指導、助言、情報提供を行うこととしており、これらを通じて実効性を担保してまいります。
　次に、規制を緩めた場合のリスクへの懸念についてお尋ねがありました。
　我が国におけるＡＩのリスクへの対応については、関係省庁と連携し、まずは既存の法令及びガイドラインの遵守徹底を図るとともに、ＡＩ研究開発者及び活用事業者等による自主的な取組の促進、新たな技術の開発、導入など、総合的に取組を進めていくことが重要であると考えております。
　そのため、本法案においては、ＡＩの研究開発及び活用の適正性を確保するための指針の整備、国内外のＡＩの研究開発、活用の動向に関する情報の収集や、国民の権利利益の侵害が生じた場合、事案の分析、対策の検討、その他の調査、調査結果を踏まえた活用事業者等への指導、助言、情報の提供等を国が行うこととしているほか、我が国でＡＩを開発する事業者等に対し、国が実施する施策に協力する責務を定めております。こうした取組や仕組みを通じて、ＡＩのリスクにしっかりと対応していく考えであります。
　また、リスクへの対応については、我が国による取組だけでなく、国際連携の下で対応していくことが重要であり、広島ＡＩプロセス・フレンズグループを始めとする国際的な場やネットワークにおいて各国とコミュニケーションを図ることなどを通じて、実効性の確保に努めてまいります。
　次に、規制によりイノベーションを促進するという考え方についてお尋ねがございました。
　我が国においては、既存法とガイドライン等を適切に組み合わせ、ＡＩのリスクに対応してまいりました。
　議員御指摘のように、一定条件の下での規制の導入がイノベーションを促進するということも考えられるところではありますが、ＡＩは技術の進展が速く、また我が国の企業等は一般的に法令遵守意識が高いことなどを勘案するとともに、ＡＩ戦略会議及びＡＩ制度研究会の中間とりまとめの内容も踏まえ、本法案においては、国が国際的な規範に即した指針をしっかりと整備した上で、事業者等に対してこれに基づく自主的な取組を求めることとしております。
　これにより、柔軟かつ適切にＡＩのリスクに対応するとともに、安全、安心で信頼できるＡＩの研究開発、活用につなげることができると考えております。
　次に、リスクと規制の在り方の議論についてお尋ねがありました。
　本法案の検討に当たっては、ＡＩ制度研究会において適切に議論が行われ、技術の進展が速いＡＩについては、国際情勢や最新技術の動向に合わせた迅速かつ柔軟な対応が可能なガイドライン等と既存の法令の組合せによってリスクへの対応を行う必要があるとされたところであります。
　他方で、現時点で想定できないリスクが今後発生する可能性がある中、議員御指摘のとおり、法律の枠をつくるだけでは不十分であります。本法案により設置されるＡＩ戦略本部の下で、関係府省庁が一丸となって着実な制度の運用を図るとともに、潜在的なリスクに関する情報収集やリスクへの対応に関する検討に、係る検討について、有識者の意見も聴取しながら行っていく考えであります。
　次に、ビッグテックの反応についてお尋ねがありました。
　まず一般論として、法令やガイドラインの内容を厳格で遵守困難である、あるいは運用が不明確であるといった状況下においては、企業は投資やサービス提供に消極的になってしまう傾向にあります。
　これまで内閣府は、ビッグテックと対話を行ってきた中では、本法案については、国による情報統制や罰則付きの厳格な規制を定めるものではなく、国際整合性や事業者の自主性を尊重している点について好意的に評価されているものと受け止めております。
　今後、国が整備する指針や国による情報収集についても国際規範に整合的なものとする予定であり、ビッグテックからの協力は得られるものと考えております。
　次に、我が国の施策に対して国際的な潮流がもたらす影響についてお尋ねがございました。
　御指摘のとおり、昨今の米国などはイノベーションや経済成長を重視する傾向が見られますが、いずれにせよ、各国の法体系や社会的、歴史的背景を踏まえて取り組んでいくことが重要であると考えております。
　引き続き、諸外国の政策や制度も参考としながら、我が国の背景等を十分に踏まえたＡＩ政策を推進してまいります。
　次に、国外の事業者に対する対応についてお尋ねがありました。
　悪質な事案や事象が発生した場合には、日本に法人や事業所のない事業者に対しても本法案に基づく国の調査等を行う方針としております。仮に友好国でない国に所在する事業者であったとしても、当局との連携を模索するなど、あらゆるチャンネルを用いて、可能な限りの手段を尽くし、本法案に定める調査等を実施していきたいと考えております。
　最後に、迅速なＰＤＣＡサイクルの必要性に関するお尋ねがございました。
　先ほども述べたとおり、ＡＩは技術の進展が速く、現在顕在化していない問題が今後生じる可能性もあることなどから、基本計画や指針の見直しを柔軟に行うなど、ＰＤＣＡサイクルを適切に回していくことが必要と考えております。
　具体的には、本法案に基づいて国が計画や指針を策定、整備し、これがプランに当たります。関係者はその遵守に努める、これがドゥーに当たります。そして、国はその実態を把握した上で必要な措置を講じる、これがチェックに当たります。さらに、必要があれば計画等を見直していく、これがアクションとなります。こうしたサイクルを着実に進めることが重要と考えております。
　議員の御指摘も踏まえ、対応が事後的にならないように、実態把握や計画の見直し等に当たっては、変化を予測しつつ臨機応変に対応していきたいと考えております。拍手
　　　　─────────────

○議長（関口昌一君）　竹詰仁君。
　　　〔竹詰仁君登壇、拍手〕

○竹詰仁君　国民民主党・新緑風会の竹詰仁です。
　会派を代表して、ただいま議題となりました人工知能関連技術の研究開発及び活用の推進に関する法律案について質問をいたします。
　ＡＩ技術は急速な進化を遂げており、社会構造や我々の日常生活に既に変化をもたらし、今後更に大きな変化を生み出すことになります。ＡＩの活用は、産業の生産性を飛躍的に高め、経済成長の強力な起爆剤となるだけでなく、少子高齢化による労働力不足といった我が国が抱える構造的な課題の解決にも有効です。
　我が国が国際社会で競争力を維持拡大していくためには、ＡＩの研究開発と活用を最重要課題として位置付け、推進していくことが極めて重要となります。このような認識の下、以下質問いたします。
　まず、国産のＡＩ開発について伺います。
　二〇二二年に米国のオープンＡＩがチャットＧＰＴを発表して以降、生成ＡＩの開発はグーグルやメタなどの海外の巨大ＩＴ企業、ビッグテックがリードしてきました。
　こうした中、国内のＡＩ開発は苦戦を強いられている状況にありますが、独自のＡＩ開発が進められてもいます。例えば、ＮＴＴのｔｓｕｚｕｍｉやＮＥＣのｃｏｔｏｍｉといった日本語大規模言語モデル、国産ＬＬＭが実用化されており、これらのモデルは高い日本語処理能力と軽量性を両立している点で注目を集めています。
　国産のＡＩを開発し、技術基盤を持つことは、経済安全保障の観点から重要であるとともに、ＡＩモデルが開発国の文化や価値観を反映することを踏まえると、日本の文化や社会に通じたＡＩを開発する意義は大きいと言えます。
　一方で、国内のニーズだけに焦点を当て過ぎて海外市場への展開がおろそかになれば、国際標準やトレンドから乖離し、いわゆるガラパゴス化に陥る可能性があり、結果的に国際競争から取り残されることにつながりかねません。
　二〇二四年二月より、経済産業省とＮＥＤＯによりＧＥＮＩＡＣという支援プロジェクトが立ち上げられ、生成ＡＩの開発力の強化が図られていることは評価いたします。一方で、今後は国産ＡＩの技術力を国際競争で取り残されないよう一層高めるとともに、積極的な海外展開に向けた支援が求められると考えます。国産ＡＩ開発及び海外展開についての政府の方針について、城内大臣、そして武藤経産大臣に伺います。
　次に、ＡＩの研究開発、活用を促進する上で欠かせないリスク対応について伺います。
　本法案第十六条では、不正な目的又は不適切な方法によるＡＩ関連技術の研究開発、活用に伴って国民の権利利益の侵害が生じた事案などについて、国が調査を行うこととされています。
　条文では、国民の権利利益の侵害をもたらすおそれのあるＡＩについては、調査を実施することは明記されておりません。ＡＩに対する不安の声も多く聞かれる中、ＡＩの活用を推進するのであれば、権利利益の侵害が生じた事案だけではなく、国が責任を持って被害を未然に防止する観点から適切な調査を実施する必要があると考えます。
　本法案に基づき、国民の権利利益の被害の未然防止のための調査について、城内大臣の答弁を求めます。
　また、本法案第十六条では、調査の結果に基づき、国が情報提供等の必要な措置をとることが規定されています。
　ＡＩは、人間の理解が及ばないほど内部動作が複雑となっており、予期しない有害な出力が発生する可能性があるとされています。発生したインシデントに関する情報をＡＩの開発者や利用者等の間で適切に報告、共有することにより、類似の事案の再発防止や、より信頼性の高いシステムの開発等につなげていくことも重要です。
　Ｇ７広島ＡＩプロセスの国際行動規範でも、産業界、政府、市民社会、学界を含む、高度なＡＩシステムを開発する組織間での責任ある情報共有とインシデントの報告に向けて取り組むことが示されていますが、国が情報提供等の必要な措置及び産業界、学界、開発者等との間でどのように情報共有等を図っていくか、城内大臣に伺います。
　次に、ＡＩの安全性に関する認証制度について伺います。
　ＡＩの安全な利用を確保するために有効な方法となり得るのが、認証制度の創設です。認証の有無によって、信頼性の高いＡＩシステムを選択し、利用することが可能になれば、ＡＩ利用率が低い我が国での利用率向上につながることが期待されます。ＡＩについては、システムの仕組みや用途が千差万別である上に、出力の予測が困難であるなど、特有の課題があると認識していますが、ＡＩの安全性に関する認証制度の現状と新たな認証制度の創設に対する政府の見解について、城内大臣に伺います。
　次に、ＡＩ時代を見据えた教育の在り方について伺います。
　スマートフォンへのＡＩの標準搭載が進み、無料で利用可能なＡＩサービスも多く登場するなど、ＡＩは国民生活に身近なものとなりつつあります。本格的なＡＩ時代の到来に向けて、子供たちのＡＩリテラシー向上が不可欠となっています。
　読解力などの基礎的な学力や、創造性、倫理的な判断能力など、ＡＩの特性を理解した上で利活用することができるリテラシーを養うため、子供たちにＡＩに関する教育を充実させていく必要があると考えますが、子供たちへのＡＩ時代を見据えた教育の在り方について、あべ文部科学大臣に伺います。
　二〇二三年にユネスコが公表した教育・研究分野での生成ＡＩの利用に関する指針では、生成ＡＩの大部分は大人向けに設計されており、子供が使用すれば不適切な内容に触れるリスクがあるとし、利用の最低年齢を十三歳とすべきとしています。
　主要な生成ＡＩサービスでは利用規約に年齢制限が設けられており、チャットＧＰＴでは十三歳未満の利用を認めず、十八歳未満が使う場合は保護者の同意が必要とされています。しかし、昨年開催されたある自治体のイベントで、イベント担当者が年齢制限の存在を把握しておらず、小学生にチャットＧＰＴを操作させてしまった事例があったと報道されております。
　ＡＩのリスクや利用のルールについては、十分に把握されていないのが実情です。ＡＩの適正な利用について社会全体への周知を図るなど、子供たちをＡＩのリスクから守るための取組が必要だと考えますが、城内大臣の認識を伺います。
　ＡＩが悪用されるディープフェイクが大きな問題となっています。ＡＩが合成された音声や動画を用いて、有名人を装った詐欺に悪用したり、偽画像や偽動画を使った情報操作や世論工作に悪用するといった事案が発生しています。ディープフェイクは名誉毀損や著作権侵害等の犯罪ともなり得ます。
　一方で、ディープフェイクの作成や配布を取り締まる場合、憲法上の表現の自由との兼ね合いが問題となるとの指摘もあります。
　ＡＩが進むにつれて、ディープフェイクに対して量、質共に対応していく必要があります。ディープフェイクへの対応について、城内大臣の考えを伺います。
　次に、ＡＩの普及に伴う電力需要に関する課題について質問いたします。
　ＡＩをめぐっては、今後も大規模な基盤モデルの開発や自動運転やロボットなど、幅広い分野での活用が広がっていくことが予想されます。これらを背景に、ＡＩの利用に必要となるデータセンターの電力消費量は今後十年間で十倍以上増加するとも見込まれています。
　発電、変電、送配電の増強など、ＡＩの普及を踏まえた電力の安定供給に向けた取組の方針について伺うとともに、電力と通信の効果的な連携を図るための取組であるワット・ビット連携の実現に向けた検討状況について、武藤経産大臣に伺います。
　最後に、採用活動など人事分野のＡＩ活用について伺います。
　人事分野におけるＡＩ活用については、学習データに偏りがあるために生じる差別、学習データやそのアルゴリズムが見えないことによる公平性への疑問、また、それにより、それによる不利益などを受ける可能性、人事分野の議論が成熟しておりません。
　採用活動など人事分野のＡＩ活用について、城内大臣及び福岡厚生労働大臣に考えを伺います。
　以上、質問を終わります。御清聴ありがとうございました。拍手
　　　〔国務大臣城内実君登壇、拍手〕

○国務大臣（城内実君）　竹詰仁議員からは、まず、国産ＡＩの開発及び海外展開に関する政府の方針についてお尋ねがありました。
　ＡＩは国民生活や経済社会に密接に関係することから、日本の文化や商習慣等を正確に回答できるＡＩを開発することは重要であると認識しており、産業競争力や経済安全保障の観点からも、国産ＡＩの開発がなされることが望ましいと考えております。
　そうした中で、近年、小規模なモデルで高性能なＡＩが実現されるなど、我が国でも多くの企業にチャンスが訪れていると考えております。さらに、我が国が良質なデータを保有するなどの強みを持つロボット、医療、災害、ロボット、医療、失礼しました、ロボット、医療、防災等の分野においては、既にグローバルに活躍している日本企業も存在していると承知しております。
　本法案が成立した暁には、新たに設置されるＡＩ戦略本部の下、関係府省庁での一層の連携を図りつつ、国産ＡＩの開発や海外展開への取組を積極的に後押ししてまいります。
　次に、国民の権利利益の侵害の未然防止のための調査についてお尋ねがありました。
　議員御指摘のとおり、ＡＩの研究開発及び活用を推進する上では、ＡＩによる国民の権利利益の侵害を未然に防止するという観点は重要であると考えております。
　こうした考えの下、本法案においては、実際に権利利益の侵害が発生した事案に関する調査のみならず、ＡＩに関する技術動向等に関する情報収集を不断に実施し、その結果として、権利利益の侵害が発生するおそれがあると考えられるような場合には予防的な調査を実施することもあり得るものと考えております。
　こうした取組を通じて、ＡＩに関する不安の払拭を図り、我が国におけるＡＩの研究開発と活用を後押ししてまいります。
　次に、各主体間の情報提供及び情報共有に関する取組についてお尋ねがありました。
　ＡＩは近年急速な発展を遂げており、今後も様々なリスクが顕在化する可能性があります。そうしたリスクに適切に対応するためには、ＡＩの技術や活用動向等の情報収集、把握を行うとともに、ＡＩに関わる各主体間での適切な情報共有が図られることが重要です。
　そのため、本法案により設置するＡＩ戦略本部や、同本部の下に設置予定の有識者会議の情報共有や、法案第十六条に基づく研究開発機関、活用事業者等への情報提供のほか、説明会やシンポジウム等の各種機会を捉えた周知広報活動などの取組を通じ、国が旗振り役となって関係者間での適切な情報共有を図ってまいりたいと考えております。
　次に、ＡＩの安全性に関する認証制度についてお尋ねがありました。
　認証の有無によって安全性の高いＡＩ事業者やＡＩシステムを認識し、選択することが可能となることから、認証制度は、ＡＩの安全、安心な活用を促進するための一つの手段となり得ることは認識しております。
　現状では、例えば国際標準化機構、ＩＳＯ及び国際電気標準会議、ＩＥＣにおいてＡＩマネジメントシステムに関する国際規格が策定されるなどの動きが見られており、こうした国際規格がより安全、安心なＡＩシステムの普及拡大に貢献することが期待されております。
　仮に今後、国内における認証制度の検討を行うような場合には、こうした国際的な動向も踏まえつつ、制度の実効性も考慮して詳細な検討を行う必要があると考えております。
　いずれにしましても、我が国におけるＡＩの安全性向上に向けては、本法案により新たに設置されるＡＩ戦略本部の下で、関係府省庁が一層の連携を図りつつ取り組んでまいります。
　次に、子供たちをＡＩのリスクから守るための取組についてお尋ねがありました。
　御指摘のとおり、デジタルネーティブの世代である子供たちがＡＩを適正に活用できるようにしていくことは、今後ＡＩとともに発展していく社会にとって非常に重要であります。
　このため、学校における教育施策として、初等中等教育段階における生成ＡＩの利活用に関するガイドラインの策定や、情報モラルに関する指導の一層の充実を図るため、教師が指導する際に役立つ児童生徒向けの動画教材等のコンテンツの作成といった取組をこれまで進めてきました。
　また、これらの学校における施策のほか、広く一般向けには、ＡＩの活用場面や活用時の注意点等を一般消費者向けに分かりやすく周知するコンテンツの作成等の取組を実施しているところであります。
　引き続き、子供を含めた国民の皆様がＡＩがもたらすリスクに適切に対応できるよう、ＡＩの教育やリテラシー向上のための取組について関係府省庁が連携し、しっかりと進めてまいります。
　次に、ディープフェイクへの対応についてお尋ねがありました。
　御指摘のあった詐欺や情報操作等に悪用するディープフェイクについては、これまで刑法等の既存の法令等で対応しつつ、昨年五月に内閣府が策定したＡＩ時代の知的財産権検討会中間とりまとめにおいても、既存法等の適用の可能性などについて整理するなどの対応を行ってきております。
　本法案においては、内閣総理大臣を本部長とし、全閣僚が構成員となるＡＩ戦略本部を新たに設置するなど、ＡＩ政策の司令塔機能を強化することとしております。また、ＡＩ戦略本部の事務局である内閣府が、関係省庁と連携してＡＩに関する情報収集や権利利益を侵害する事案の分析や調査を実施することとしております。
　ディープフェイクが悪用される事例は今後ますます多岐にわたっていくと想定されることから、ＡＩ戦略本部が司令塔機能を発揮し、全ての関係省庁との間で緊密な情報共有、調整等を行いながら、政府全体として一層迅速にディープフェイクへの対応を図ってまいります。
　最後に、人事分野のＡＩ活用についてお尋ねがございました。
　雇用や人事採用選考の在り方については、ＡＩに特化したものではないものの、厚生労働省のガイドライン等において一定の考え方が示されているところであります。
　これに加えて、本法案に基づき国が整備する指針の中で、ＡＩ開発者が偏見や差別の含まれる情報出力を防ぐための対策を講じることについて盛り込んでいく予定としております。
　具体的には、ＡＩ開発者が、学習データから偏見情報を除外することや、ＡＩが差別を助長する出力をしないかどうか、市場に出す前及び出した後にも確認し、必要な修正を行うことなどを明記する方向で検討しております。拍手
　　　〔国務大臣武藤容治君登壇、拍手〕

○国務大臣（武藤容治君）　竹詰仁議員の御質問にお答えをさせていただきます。
　国産ＡＩ開発及び海外展開についてお尋ねがございました。
　産業競争力の強化や経済安全保障の確保等の観点から、国内の事業者が競争力のあるＡＩを開発することは重要であります。特に、今後、ＡＩの開発と利用を一体的に進め、日本に強みのある分野で専門性が高いＡＩを開発することが求められます。
　このため、ＡＩ開発に必要となる高度なコンピューターの整備支援、スタートアップ等による開発支援、ＡＩを利活用できる人材の育成など、開発と利用の両面の取組を進めてまいります。
　海外展開も重要であり、これまで、東南アジアにおいて、国内事業者が開発したＡＩサービスの利用に関する実証のほか、ＡＩの人材育成プログラムを実施しています。
　今後は、ＡＩ・半導体産業基盤強化フレーム等も活用し、関係省庁とも連携しながら、ＡＩに関する施策を更に強化してまいります。
　次に、ＡＩ普及に伴う電力需要の増加に対する課題についてお尋ねがありました。
　今後の電力需要は、ＤＸやＧＸの進展により、省エネの進展を見込んでもなお増加が見込まれており、電力の安定供給と脱炭素化の両立を図っていく必要があります。
　このため、再エネや原子力といった脱炭素電源を最大限活用していくために必要な事業環境の整備や、送配電設備を計画的に設備する枠組み等の安定供給に向けた取組の方針について、関係する審議会において検討を開始しており、本年中を目途に結論を得られるように検討を進めてまいります。
　また、電力と通信の効果的な連携、すなわちワット・ビット連携については、通信、電力、データセンターに関する産業界と政府の関係者が一同に参加する官民懇談会を本年三月に立ち上げ、具体的な方策の検討を進めております。本年六月頃の方向性の取りまとめに向け、議論を詰めております。
　以上です。拍手
　　　〔国務大臣あべ俊子君登壇、拍手〕

○国務大臣（あべ俊子君）　竹詰議員にお答えをいたします。
　ＡＩ時代を見据えた教育の在り方についてお尋ねがありました。
　文部科学省では、情報活用能力を学習の基盤となる資質、能力と位置付けており、各学校段階を通じて、その育成に取り組んでいます。
　また、急速に発展する生成ＡＩへの対応として、ガイドラインを策定し、学校現場における生成ＡＩの適切な利活用を促進しています。
　さらに、現在、中央教育審議会において、生成ＡＩを始め、デジタル技術が飛躍的に発展する中での情報活用能力の抜本的向上を図る方策について具体的な議論を行っているところであり、引き続きしっかりと検討を進めてまいります。拍手
　　　〔国務大臣福岡資麿君登壇、拍手〕

○国務大臣（福岡資麿君）　竹詰仁議員の御質問にお答えいたします。
　採用活動など、人事分野でのＡＩ活用についてお尋ねがありました。
　公正な採用基準の在り方については、ガイドラインにおいて一定の考え方を示し、企業等に対して普及啓発を行っています。また、採用後の労働条件等についても、労働基準法等に基づく差別の禁止等の規定があり、違反があれば指導を行うこととしています。
　厚生労働省としては、ＡＩを活用する場合においても労働関係法令が適切に遵守されることが重要であると考えており、ＡＩ等の最新技術による労務管理の実態を把握するために、ヒアリング調査を行い、事例を把握するなどの取組を行っています。
　今後とも、ＡＩ等の新たなテクノロジーが人事分野に与える影響について注視してまいります。拍手
　　　　─────────────

○議長（関口昌一君）　井上哲士君。
　　　〔井上哲士君登壇、拍手〕

○井上哲士君　日本共産党を代表して、ＡＩ推進法案に対して質問します。
　国境を越えて急速に発展、普及するＡＩは、社会に大きな変化をもたらすと同時に、様々な分野で深刻な問題を生じさせています。
　昨年三月の国連総会では、日本も共同提案したＡＩの開発や利用などに関する決議が採択されました。ＥＵでは、ＡＩのリスクに応じ、四段階に分類して法規制するＡＩ規則の施行が始まっています。
　内閣府が公表したＡＩリスクや安全性に関する意識調査では、現在の規則や法律でＡＩを安全に利用できると答えているのは日本では僅か一三％、ＡＩには規則が、規制が必要だと答えたのは七七％、ＡＩの悪用や犯罪に対する法的対策の強化を求める回答は六六％にも上っています。
　しかし、政府は、ＡＩのリスクに対しては既存法とガイドラインで対応することを基本とし、法案はＡＩ推進一辺倒です。政府は、ＡＩが国民の権利利益を侵害するリスクをどのように認識しているのですか。
　なぜ国民の求める規則や法的対策の強化がないのですか。今必要なのは、ＡＩの発展と普及のスピードに遅れることなく、包括的なＡＩ対策法を作り、国民の権利利益の保護を強化し、予防的観点も含め、ＡＩのリスクに応じた規制を行うことではありませんか。
　一方で、法案は第八条で、国民はＡＩに関する理解と関心を深めるよう努めなければならないと国民の責務を定めています。ＡＩによる不利益や被害を受けても、それはＡＩのリスクを理解する努力が足りなかったからだと自己責任を押し付けるものではありませんか。
　法案第十二条は、国がＡＩ開発のための機械学習用データ、いわゆるデータセットを整備して、ＡＩ事業者への提供を促進すると規定しています。政府が保有の情報に加え、国立研究開発法人、大学が持つ情報も対象です。第五条では、地方公共団体に対し、ＡＩ開発、活用に関し、自主的な施策を策定して実施する責務を規定しています。地方自治体が持つ情報もデータセット化するよう迫るものです。
　このデータセットには、それぞれの機関が保有する個人情報が含まれるのですか。個人情報を含む情報提供を促進させる法案は、プライバシー権を侵害する危険性を高めるものではないですか。
　以上、城内科学技術担当大臣の答弁を求めます。
　ＡＩの普及に対応するためには、個人の権利利益を保護する法制度の強化が不可欠です。
　まず、個人情報保護法の見直し強化について質問します。
　ホームページやＳＮＳへの投稿など、本人の書き込みや入力した個人情報及び思想信条、収入、病歴などの機微な要配慮個人情報も含まれる情報データが様々な事業者によって大量に収集され、ＡＩ開発に利用されている実態があります。
　政府は、既存法とガイドラインで対応すると言いますが、現に、明らかな個人情報保護法違反である本人同意のない要配慮個人情報の取得が行われていることを城内大臣と平個人情報保護法担当大臣はどのように認識をしていますか。
　ＥＵでは、個人情報の自己コントロール権を市民の基本的権利として保障しており、ＥＵ一般データ保護規則は、利用状況の開示、提供の同意撤回、利用停止、削除請求を規定しています。日本の個人情報保護法にも利用停止、削除請求の仕組みがありますが、条件を付けており、権利侵害のおそれがあるときと狭くしています。
　日本では、利用停止、削除を請求しても、権利侵害のおそれはないとして拒否され、対応されない事例が後を絶ちません。これで個人情報が保護されていると言えるのですか。日本法人がない海外企業に拒否された場合は、個人はどのように対応すればよいのでしょうか。
　ＡＩの発展、普及に対応するために、自己に関する情報の自己決定権を保障し、個人情報保護法の目的に明記すること、また、個人情報保護委員会の監視体制の強化、違法な情報収集への罰則強化を求めます。
　以上、平大臣の答弁を求めます。
　ＡＩには、判断の根拠や過程がブラックボックスになる問題、学習したデータに偏りがあったり、人間社会の偏見や不平等を反映したり、時には増幅してしまうバイアス問題があり、既存法や事業者任せのガイドラインでは対応できません。
　さらに、生成ＡＩによる偽情報、誤情報の問題です。衆議院の参考人質疑で、偽情報、誤情報対策、ＳＮＳでの流通、拡散を防止する仕組み、法制度の構築などが具体的に提起されました。生成ＡＩの作成を示す電子透かし、発信者を特定できる埋め込み情報などをＳＮＳ等を提供するプロバイダー、デジタルプラットフォーマーに義務付けることです。直ちに法制化すべきではありませんか。城内大臣、村上総務大臣、それぞれお答えください。
　著作権の侵害について伺います。
　現行の著作権法は、ＡＩの学習目的であれば権利者の許諾なく著作物の利用を認めています。そのため、新聞報道、イラスト、音声などが許諾なく収集されています。日本新聞協会は、報道コンテンツを生成ＡＩに利用する場合は許諾を得るよう繰り返し求めているが改善が見られないとして、ガイドラインではなく法整備が急務としています。俳優や声優などが参加する日本俳優連合など三団体は、声を利用する場合の本人許諾、ＡＩで作成したものであることを明記するなどの法整備を求めています。報道機関が萎縮すれば国民の知る権利を狭めることになり、ＡＩが報道機関に代わって取材、報道を担うことはありません。
　知的財産の保護を強化せず、ＡＩの推進だけでは、コンテンツの再生産の縮小や、創作意欲の減退など、受益者である市民や社会全体に悪影響を及ぼすものであり、著作権法の見直し強化を行うべきです。城内大臣とあべ文科大臣の認識と見解を伺います。
　日本各地で巨大データセンター建設が問題になっています。生成ＡＩの学習と運用には膨大な計算能力と電力が必要です。無計画な建設は、地域住民との対立を生じさせ、地球温暖化問題も悪化させます。ＡＩ推進に名を借りた原発推進は許されません。データセンターの使用電力は再生可能エネルギーで賄うことを事業者に義務付け、電力消費量、ＣＯ２排出量、空調の排熱量や排水など、情報公開を義務付けるべきではないですか。城内大臣の答弁を求めます。
　法案が、ＡＩ技術を安全保障の観点からも重要な技術と位置付けていることは重大です。
　ウクライナではＡＩ搭載のドローンが使用され、ガザではイスラエル軍のＡＩ標的設定システムにより民間人の被害が極端に多くなっているとの報道もあります。生成ＡＩは核戦争並みの脅威になり得ると警告する科学者も多数です。
　ＡＩの軍事利用で先制攻撃や予防攻撃の蓋然性が高まり、紛争がエスカレーションする危険について、どう認識していますか。
　二〇二三年十二月、日米は、次期戦闘機と連動する無人機のＡＩ技術の共同研究に合意しています。防衛省は、人間の関与が及ばない完全自律型の致死性兵器の開発を行う意図は有していないとの立場を明確にしてきたと言いますが、完全自律型か半自律型かを問わず、我が国ではＡＩの軍事利用は禁止すべきです。中谷防衛大臣の答弁を求めます。
　以上、ＡＩの発展と普及に伴うリスクに応じた法規制や国民の権利利益の保護の強化を重ねて求めて、質問を終わります。拍手
　　　〔国務大臣城内実君登壇、拍手〕

○国務大臣（城内実君）　井上哲士議員からは、まず、ＡＩが国民の権利利益を侵害するリスクの認識についてお尋ねがございました。
　ＡＩがもたらし得るリスクとして、様々なものが考えられますが、例えば、偽情報及び誤情報の拡散や、犯罪の巧妙化といったものがあると認識しております。
　本法案におきましては、そのようなＡＩによる国民の権利利益を侵害するリスクに対応するため、ＡＩの研究開発、活用の適正性確保のための国際規範に即した指針の整備や、国民の権利利益の侵害が生じた事案の分析、対策の検討、その他の調査等を国が行うこととしております。
　これらの調査等の取組については、関係府省庁で緊密に連携して迅速に対応してまいります。
　次に、規制強化や法的対策強化の必要性についてお尋ねがありました。
　ＡＩの発展や普及のスピードが今後高まることも予想される中、その動きに遅れることなく、我が国のＡＩの研究開発及び活用を推進していくためには、イノベーション促進とリスク対応の両立を図ることが重要であり、過剰な規制は避けつつ、適切にリスク対策を講じていくことが必要であります。このような考え方は、有識者から成るＡＩ戦略会議及びＡＩ制度研究会の中間とりまとめにおいても指摘されております。
　我が国においては、これまでＡＩのリスクについて、既存の法令とガイドライン等を適切に組み合わせて対応してまいりました。その上で、本法案においては、ＡＩ開発者及び活用事業者等が遵守すべき事項を含む指針の整備や、悪質な事案に対する調査とその結果に基づく指導、助言等を国が行うことなどを規定しております。
　また、本法案では、ＡＩ戦略本部の設置を始めＡＩ政策の司令塔機能を強化することとしており、全ての関係府省庁の緊密な連携の下、今後顕在化するリスクに対して更に適切かつ迅速に対応することができると考えております。
　次に、第八条で国民の責務を定めることの懸念についてお尋ねがございました。
　今後、誰もがＡＩの利用者となり得る中で、国民の皆様がＡＩによる不利益や被害を受けないようにするためには、ＡＩに対する正しい理解と関心を深めていただき、ＡＩを適切に活用していただくことが極めて重要であることから、法案第八条の内容を規定しております。
　国といたしましては、法案第十五条に規定する教育及び学習の振興、広報の充実等に必要な施策を講じる予定としており、第八条の規定により国民の皆様に過度な負担を掛けたり、自己責任を押し付けたりすることは決してなく、誰もが安全、安心にＡＩを活用できる環境を構築していきたいと考えております。
　次に、データセットにおける個人情報の扱いについてお尋ねがありました。
　データセットには個人情報が含まれる機会があり、このようなデータセットの使用に当たっては、個人情報を保護するための適切な処理を行うなど十分に配慮がなされるべきと考えております。また、本法案はＡＩの研究開発及び活用の推進のためのものであり、個人情報の保護を含む既存の法律の考え方を変えるものではありません。
　個人情報やプライバシー権の保護については、既存の法令に従って引き続き対応をいただくものであり、既存の権利利益の保護を後退させるものでは一切ありません。
　次に、要配慮個人情報の扱いについてお尋ねがありました。
　個人情報保護法上、個人情報取扱事業者は、原則として、あらかじめ本人の同意を得ないで、要配慮個人情報を取得してはならないとされていると承知しております。
　個人情報保護法の遵守を促すため、総務省及び経済産業省が策定するＡＩ事業者ガイドラインにおいては、プライバシー保護の観点から、事業者には適切なデータの学習が重要となること、また利用者には個人情報の不適切な入力への対策が重要となることを示した上で、必要な注意喚起を行っているものと認識しております。
　次に、生成ＡＩによる偽情報、誤情報対策についてお尋ねがございました。
　本法案第十三条では、国際的な規範の趣旨に即した指針を整備する旨を規定しております。この国際的な規範に含まれる広島ＡＩプロセスの国際指針では、偽情報、誤情報に係る対策として、ＡＩが生成したコンテンツであることを認識できるよう、ＡＩ開発事業者等に対し、可能な場合には電子透かし等の技術を開発、導入すべき旨が規定されております。このため、今後国が整備する指針においても電子透かし等の技術の導入を奨励するなどを明記することを検討しており、このような取組を通じて生成ＡＩによる偽情報、誤情報対策を強化してまいります。
　次に、知的財産の保護の強化や著作権法の見直しについてお尋ねがございました。
　生成ＡＩによる著作権を含む知的財産権の侵害の懸念が指摘されていることは認識しております。昨年五月に内閣府が策定したＡＩ時代の知的財産権検討会中間とりまとめにおいて、ＡＩと知的財産権との関係について法的ルールの考え方の整理を行うとともに、ＡＩ技術の進歩と知的財産権の適切な保護の両立が重要であることをお示ししております。
　また、著作権法については、私の所掌ではございませんが、この中間とりまとめは、文化庁が文化審議会での議論を経て昨年三月に取りまとめたＡＩと著作権に関する考え方についても踏まえて策定されており、著作権法を含めた知的財産権の関係法令にのっとって適切な対応が行われるよう、引き続き関係省庁とも連携を図りつつ取り組んでまいります。
　最後に、データセンターにおける使用電力等の問題についてお尋ねがございました。
　データセンターにおける使用電力等については、私の所掌ではございませんが、ＡＩの研究開発と活用を進めていく上では、インフラをしっかりと整備していくことが重要であると認識しております。データセンターのエネルギー消費効率の改善に向けては、第七次エネルギー基本計画において、技術開発の促進に加えて、事業者が満たすべき効率を設定した上でその取組を可視化するなど、諸外国の取組も踏まえつつ、支援策と一体で制度面での対応を行うこととされており、経済産業省において現在その検討がなされていると承知しております。拍手
　　　〔国務大臣平将明君登壇、拍手〕

○国務大臣（平将明君）　井上哲士議員にお答えいたします。
　まずは、本人同意のない要配慮個人情報の取得についてお尋ねがありました。
　個人情報保護法上、個人情報取扱事業者は、原則として、あらかじめ本人の同意を得ないで、要配慮個人情報を取得してはならないこととされています。
　個人情報保護委員会においては、令和五年六月には、生成ＡＩサービスを開発、提供する特定の事業者に対して、同委員会がその時点で明確に認識した懸念事項を踏まえ、機械学習のために収集する情報に要配慮個人情報が含まれないよう必要な取組を行うこと等について注意喚起を行ったものと承知をしています。
　今後とも、個人情報保護法との関係で問題が見受けられた場合には、同委員会において同法の規定に基づき必要に応じて権限行使を行うなど、適切に対応されるものと考えております。
　次に、利用停止等請求についてお尋ねがありました。
　本人が、自らの権利又は正当な利益が害されるおそれがあるとして、事業者に対して保有個人データの利用停止等の請求を行った場合、当該事業者が、そのおそれがないと判断をし、当該請求を拒むことも想定をされます。これに対して、本人は、個人情報保護法上、当該請求について裁判所への訴えの提起をすることが可能とされています。
　また、個人情報保護委員会は、本人からの苦情等により、事業者が利用停止等の請求を拒否していることを認識し、当該拒否に正当な理由がないと判断した場合等には、当該事業者に対して必要な指導、助言等を行うことができるものと認識をしており、個人の権利利益の保護のための仕組みが設けられていると認識をしています。
　次に、海外事業者が応じない場合についてお尋ねがありました。
　個人情報保護法は、個人情報取扱事業者が、国内にある者に対する物品又は役務の提供に関連をして、国内にある者を本人とする個人情報等を外国において取り扱う場合についても適用されると認識をしています。
　そのため、個人情報保護委員会は、日本法人を有さない海外事業者であっても、本人からの苦情等により事態を認識した場合には、国内事業者の場合と同様に必要な指導、助言等を行うことができると認識をしています。
　最後に、ＡＩの発展、普及に対応するための法改正の必要についてお尋ねがありました。
　いわゆる自己情報コントロール権については、その内容、範囲及び法的性格に関し様々な見解があり、明確な概念として確立しているものではないと認識をしております。
　個人情報保護法では、個人の権利利益を保護することが目的として規定され、また、個人情報の取扱いに対する本人の関与の重要性に鑑み、開示、訂正、利用停止等の請求を可能とする規定が設けられており、個人情報保護委員会においては同法の規定を適切に運用し、個人の権利利益を実効的に確保していくことが重要と認識をしております。
　また、個人情報保護委員会では、ＡＩの急速な普及を始めとした技術革新や技術の社会実装の動向等も踏まえ、いわゆる三年ごと見直しに向けた検討を行っております。
　監視体制の強化や罰則の強化については、見直しに向けた検討において、個人情報取扱事業者等による規律遵守の実効性を確保するための規律の在り方などを制度的な論点として示していると認識をしており、引き続き関係者との対話も重ねながら検討を進めていくものと認識をしております。拍手
　　　〔国務大臣村上誠一郎君登壇、拍手〕

○国務大臣（村上誠一郎君）　井上議員からの御質問にお答えいたします。
　生成ＡＩによる偽・誤情報対策について御質問がございました。
　先ほど城内大臣から電子透かしの導入の奨励につき御答弁がございましたが、それ以外の技術も含め、生成ＡＩの技術革新のスピードに対応するためには、技術開発で迅速に対応していくことも必要と考えております。
　総務省におきましては、インターネット上の画像等の対象とするＡＩ生成物の判別技術や発信者の真正性を確保する技術の開発、実証を行っており、社会実装や国際標準化を進めていく予定であります。
　引き続き、インターネット上の偽・誤情報につきまして、表現の自由に十分配慮をしながら、技術開発を含む対応を積極的に進めてまいりたいと考えております。
　以上であります。拍手
　　　〔国務大臣あべ俊子君登壇、拍手〕

○国務大臣（あべ俊子君）　井上議員にお答えいたします。
　ＡＩと著作権についてお尋ねがありました。
　ＡＩと著作権との関係については、文化審議会の小委員会で議論を行い、クリエーター等、関係者からの懸念の声を踏まえ、令和六年三月にＡＩと著作権に関する考え方を取りまとめたところです。この考え方において、ＡＩ学習のための著作物の利用であっても、権利者から許諾を得ることが必要な場合があり得ることなどを示しています。
　文部科学省においては、この考え方の周知啓発や相談窓口を通じた著作権侵害に関する事例の集積に努めつつ、ＡＩやこれに関する技術の発展、諸外国における検討状況の進展等を踏まえながら必要に応じた検討を続けてまいります。拍手
　　　〔国務大臣中谷元君登壇、拍手〕

○国務大臣（中谷元君）　井上哲士議員にお答えいたします。
　最後に、ＡＩの軍事利用についてのお尋ねがありました。
　ＡＩは、その有用性から、諸外国においては民生分野に加え安全保障分野における活用が進んでおり、防衛省におきましても、各種分野におけるＡＩの活用を進めております。
　他方、ＡＩ活用には、一定の誤りが含まれることがあるという信頼性の懸念などのリスクも指摘をされております。
　防衛省としましては、こうしたリスクに係る政府内や国際社会における議論を注視をしつつ、リスクを低減する取組を進めながら、ＡＩの有用性を最大限、ＡＩの有用性を最大化し、活用を進めていく考えであります。拍手

○議長（関口昌一君）　これにて質疑は終了いたしました。
　　　　　─────・─────

○議長（関口昌一君）　日程第一　行政手続における特定の個人を識別するための番号の利用等に関する法律及び住民基本台帳法の一部を改正する法律案（内閣提出、衆議院送付）を議題といたします。
　まず、委員長の報告を求めます。地方創生及びデジタル社会の形成等に関する特別委員長山田太郎君。
　　　　─────────────
　　　〔審査報告書及び議案は本号末尾に掲載〕
　　　　─────────────
　　　〔山田太郎君登壇、拍手〕

○山田太郎君　ただいま議題となりました法律案につきまして、地方創生及びデジタル社会の形成等に関する特別委員会における審査の経過と結果を御報告申し上げます。
　本法律案は、国民の利便性の向上及び行政運営の効率化を図るため、マイナンバーを利用できる事務として酒類の製造免許に関する事務、司法書士等の国家資格に関する事務等を追加するとともに、地方公共団体情報システム機構から本人確認情報の提供等ができる事務の規定を整備しようとするものであります。
　委員会におきましては、国家資格等のオンライン・デジタル化による効果、マイナンバー制度に対する懸念への対応、マイナンバー活用に向けた今後の取組等について質疑が行われましたが、その詳細は会議録によって御承知願います。
　質疑を終局し、討論に入りましたところ、日本共産党の伊藤委員より反対の旨の意見が述べられました。
　次いで、採決の結果、本法律案は多数をもって原案どおり可決すべきものと決定いたしました。
　以上、御報告申し上げます。拍手
　　　　─────────────

○議長（関口昌一君）　これより採決をいたします。
　本案の賛否について、投票ボタンをお押し願います。
　　　〔投票開始〕

○議長（関口昌一君）　間もなく投票を終了いたします。──これにて投票を終了いたします。
　　　〔投票終了〕