内閣委員会

令和七年五月二十日（火曜日）
　　　午前十時開会
　　　　─────────────
　　出席者は左のとおり。
　　　　委員長　　　　　　　　　和田　政宗君
　　　　理　事
　　　　　　　　　　　　　　　　磯崎　仁彦君
　　　　　　　　　　　　　　　　酒井　庸行君
　　　　　　　　　　　　　　　　山本　啓介君
　　　　　　　　　　　　　　　　木戸口英司君
　　　　　　　　　　　　　　　　竹谷とし子君
　　　　委　員
　　　　　　　　　　　　　　　　青木　一彦君
　　　　　　　　　　　　　　　　石井　浩郎君
　　　　　　　　　　　　　　　　今井絵理子君
　　　　　　　　　　　　　　　　太田　房江君
　　　　　　　　　　　　　　　　友納　理緒君
　　　　　　　　　　　　　　　　山谷えり子君
　　　　　　　　　　　　　　　　石垣のりこ君
　　　　　　　　　　　　　　　　石川　大我君
　　　　　　　　　　　　　　　　奥村　政佳君
　　　　　　　　　　　　　　　　鬼木　　誠君
　　　　　　　　　　　　　　　　河野　義博君
　　　　　　　　　　　　　　　　片山　大介君
　　　　　　　　　　　　　　　　柴田　　巧君
　　　　　　　　　　　　　　　　竹詰　　仁君
　　　　　　　　　　　　　　　　井上　哲士君
　　　　　　　　　　　　　　　　大島九州男君
　　　国務大臣
　　　　　　　国務大臣
　　　　　　　（内閣府特命担
　　　　　　　当大臣（科学技
　　　　　　　術政策））　　　　城内　　実君
　　　副大臣
　　　　　　　内閣府副大臣　　　辻　　清人君
　　　　　　　防衛副大臣　　　　本田　太郎君
　　　大臣政務官
　　　　　　　内閣府大臣政務
　　　　　　　官　　　　　　　　友納　理緒君
　　　事務局側
　　　　　　　常任委員会専門
　　　　　　　員　　　　　　　　岩波　祐子君
　　　政府参考人
　　　　　　　内閣府男女共同
　　　　　　　参画局長　　　　　岡田　恵子君
　　　　　　　内閣府科学技術
　　　　　　　・イノベーショ
　　　　　　　ン推進事務局統
　　　　　　　括官　　　　　　　渡邊　昇治君
　　　　　　　内閣府科学技術
　　　　　　　・イノベーショ
　　　　　　　ン推進事務局審
　　　　　　　議官　　　　　　　徳増　伸二君
　　　　　　　警察庁生活安全
　　　　　　　局長　　　　　　　檜垣　重臣君
　　　　　　　個人情報保護委
　　　　　　　員会事務局長　　　佐脇紀代志君
　　　　　　　デジタル庁審議
　　　　　　　官　　　　　　　　井幡　晃三君
　　　　　　　総務省大臣官房
　　　　　　　地域力創造審議
　　　　　　　官　　　　　　　　望月　明雄君
　　　　　　　総務省大臣官房
　　　　　　　審議官　　　　　　近藤　玲子君
　　　　　　　総務省大臣官房
　　　　　　　審議官　　　　　　下仲　宏卓君
　　　　　　　法務省大臣官房
　　　　　　　審議官　　　　　　堤　　良行君
　　　　　　　法務省大臣官房
　　　　　　　審議官　　　　　　吉田　雅之君
　　　　　　　文部科学省大臣
　　　　　　　官房学習基盤審
　　　　　　　議官　　　　　　　日向　信和君
　　　　　　　文部科学省大臣
　　　　　　　官房審議官　　　　奥野　　真君
　　　　　　　文部科学省大臣
　　　　　　　官房審議官　　　　松浦　重和君
　　　　　　　文部科学省大臣
　　　　　　　官房文部科学戦
　　　　　　　略官　　　　　　　中原　裕彦君
　　　　　　　経済産業省大臣
　　　　　　　官房審議官　　　　奥家　敏和君
　　　　　　　防衛省大臣官房
　　　　　　　サイバーセキュ
　　　　　　　リティ・情報化
　　　　　　　審議官　　　　　　家護谷昌徳君
　　　　　　　防衛装備庁装備
　　　　　　　政策部長　　　　　坂本　大祐君
　　　　─────────────
　　本日の会議に付した案件
○政府参考人の出席要求に関する件
○人工知能関連技術の研究開発及び活用の推進に関する法律案（閣法第二九号）（衆議院送付）
○参考人の出席要求に関する件
　　　　─────────────

○委員長（和田政宗君）　ただいまから内閣委員会を開会いたします。
　政府参考人の出席要求に関する件についてお諮りいたします。
　人工知能関連技術の研究開発及び活用の推進に関する法律案の審査のため、本日の委員会に、理事会協議のとおり、内閣府男女共同参画局長岡田恵子君外十七名を政府参考人として出席を求め、その説明を聴取することに御異議ございませんか。
　　　〔「異議なし」と呼ぶ者あり〕

○委員長（和田政宗君）　御異議ないと認め、さよう決定いたします。
　　　　─────────────

○委員長（和田政宗君）　人工知能関連技術の研究開発及び活用の推進に関する法律案を議題といたします。
　政府から趣旨説明を聴取いたします。城内内閣府特命担当大臣。

○国務大臣（城内実君）　ただいま議題となりました人工知能関連技術の研究開発及び活用の推進に関する法律案につきまして、提案理由及びその内容の概要を御説明いたします。
　人工知能関連技術は、その適正かつ効果的な活用によって行政事務及び民間の事業活動の著しい効率化及び高度化、並びに新産業の創出をもたらすものとして経済社会の発展の基盤となる技術であるとともに、安全保障の観点からも重要な技術であります。近年、人工知能関連技術をめぐる国際的な競争が激化する中、我が国において、人工知能関連技術の研究開発を行う能力を保持するとともに、関連産業の国際競争力を向上させるための取組が不可欠となっております。
　この法律案は、このような背景を踏まえ、人工知能戦略本部を内閣に設置するとともに、政府が人工知能基本計画を定め、これを推進するなどの所要の措置を講ずることにより、人工知能関連技術の研究開発及び活用の推進に関する施策の総合的かつ計画的な推進を図り、もって国民生活の向上及び国民経済の健全な発展に寄与することを目的とするものであります。
　以下、この法律案の内容につきまして、その概要を御説明いたします。
　第一に、人工知能関連技術の研究開発及び活用の推進について、基本理念及び国の責務等を定めております。
　第二に、基本的施策として、研究開発の推進、施設及び設備等の整備及び共用の促進、人工知能関連技術の研究開発及び活用の適正性の確保、人材の確保、教育の振興、情報収集及び調査研究等の実施、国際協力の推進等を規定しております。
　第三に、政府は、基本理念にのっとり、基本的施策を踏まえ、人工知能基本計画を定めるものとしております。
　第四に、人工知能基本計画の推進体制として、内閣に人工知能戦略本部を設置することとし、内閣総理大臣を本部長とするなど組織、所掌事務等を規定しております。
　以上のほか、所要の規定の整備を行うこととしております。
　以上が、この法律案の提案理由及びその内容の概要でございます。
　何とぞ、慎重御審議の上、速やかに御賛同あらんことを切にお願い申し上げます。

○委員長（和田政宗君）　以上で趣旨説明の聴取は終わりました。
　これより質疑に入ります。
　質疑のある方は順次御発言願います。

○山谷えり子君　自由民主党、山谷えり子でございます。
　質問の時間をいただき、感謝いたします。
　人工知能関連技術の研究開発及び活用の推進に関する法律案、日本初のＡＩ関連法、推進法案であります。
　今、社会の様々な場でＡＩの利用が急速に進んでいます。しかし、日本は、ＡＩの分野で世界的に後れを取っている。ＡＩへの投資、開発を進め、国民の生活水準の向上や経済の健全な発展に資するよう、さらに、世界にも貢献していく国としたいものです。
　イノベーションの推進とリスク管理のバランスを取ったこの法案は世界のモデルになり得るということですが、改めて、本法案の提出の目的、効果、必要性についてお考えをお示しください。

○国務大臣（城内実君）　お答えいたします。
　ＡＩは、我が国の経済社会の発展に必要となる基盤技術であるとともに、安全保障の観点からも不可欠な技術であります。一方で、ＡＩがもたらす様々なリスクも懸念されており、多くの国民がＡＩに対して不安を感じているとともに、我が国のＡＩの研究開発と活用は他の主要国と比べて低迷している状況であります。このような状況を克服していくためには、柔軟かつ適切にリスクへの対応を行うとともに、安全、安心なＡＩの開発を進めることで国民の皆様のＡＩに対する不安を払拭し、ＡＩの研究開発と活用を強力に進めていくことが重要と考えております。
　こうしたＡＩにつきまして、これまで我が国においては、既存の刑法や個別の業法等によりＡＩに係るリスクに対応するとともに、ＡＩ戦略の策定などを通じまして政策の推進を図ってきたところであります。
　他方で、昨今のＡＩの技術進展の状況等を踏まえますと、既存の法令等による対応に加えて、ＡＩ政策の司令塔機能を強化するとともに、ＡＩ関連技術の研究開発と活用の推進に係る施策を総合的かつ計画的に推進する必要があることから、今般のＡＩ法案を提出させていただいたところであります。

○山谷えり子君　本日はＡＩ関連法についての審議ですので、チャットＧＰＴをいろいろ活用してみたいと考えています。
　まず、城内大臣のこの意気込みはいかがですかとチャットＧＰＴに聞きましたところ、強い意欲を示していますとあって、何月何日にこういう記者会見をやったというのがずらっと書かれておりまして、そして、法案に対して積極的な姿勢を示し、日本がＡＩ技術の分野で世界をリードするための取組を進めていますというふうに結ばれています。
　また、国会質疑において三十分でどういう質問をしたらいいですかというのも聞いてみました。そうしましたら、非常に細かくて、一番、総論に対して五分、二番、ＡＩ利活用の促進に関して五分、リスク、規制、透明性に関して十分、人権、倫理、プライバシーへの配慮に関して五分、国際連携、技術革新、今後の展望について五分と書いてありまして、必要であればパワーポイントやスライドの要約資料も作成可能ですと、非常に細かい項目も出ているんですね。
　そして、この法案への取組、何点だと思いますかと聞きましたら、七十五点と書いてありまして、評価ポイントは、イノベーション推進とリスク対応の両立を目指す姿勢、国際協調と柔軟性のある制度設計、それから司令塔機能の強化とあります。
　では、課題と懸念、減点要素は何ですかと聞くと、罰則規定の欠如による実効性の懸念、リスク対応の具体性不足、市民の権利保護への配慮不足というのが書いてありまして、なるほどと思う一方、データをどこからどう取って組み合わせたのかなという違和感がある部分もございます。出典先が書いてあるものもないものもあります。回答は必ずしも正しいとは限りませんとも書いてあるんです。
　例えば、法案をチャットＧＰＴに作らせる、国の方向性を決めることに使うと、ディスインフォメーションとかディープフェイクとか、あるいは外国からの干渉など、意図が入った場合に恐ろしいことになるということは肝に銘じなきゃいけないかなというふうにも思いましたけれども、今、このチャットＧＰＴのもろもろもろもろ、城内大臣はどんな感想をお持ちになられましたか。

○国務大臣（城内実君）　感想を申し上げますと、ＡＩは、ある程度の出力によって、必ずしも全部ディープフェイクではなくて、適切な客観的事実に基づく情報を出力し提供してくれている反面、やはりそれが全てが全部正しいとは限りませんし、誤情報、偽情報も時々混入するやに伺って、認識しておりますので、そういった点からは、やはり、最終的には人間が、人間中心のＡＩということをうたっておりますので、人間がしっかりとチェックする、しないとその分リスクの対応に追われることになるのではないかと思いますが。
　ただ、他方で、数年前に比べて、出力する、出てくる情報の精度はかなり上がって、どうしてこんなことまで分かっているのかなという。例えば、私自身について数年前に問いただしたら半分ぐらいが全く偽情報だったんですが、最近はかなり正確に出力が出ていますので、そういう点では相当程度進歩しているなというふうな感想であります。

○山谷えり子君　成立すれば、基本理念の下、ＡＩ戦略本部が基本計画を策定し、施策を進めていくわけですけれども、この基本計画の考え方、作成へのプロセス、スケジュール、御説明いただけますでしょうか。

○国務大臣（城内実君）　お答えします。
　委員御指摘のＡＩ基本計画は、各府省庁によるＡＩの研究開発から活用に至るまでの幅広い施策を政府として一体的かつ横断的に進めるために策定するものであります。
　具体的には、本法案に定める基本理念や基本的施策を踏まえまして、ＡＩの研究開発、活用の推進に関する施策の基本的方針や、その基本的方針の下で政府が総合的かつ計画的に講ずべき施策等について定めることとしております。
　また、その策定に当たりましては、全ての閣僚から成るＡＩ戦略本部での議論に加えまして、有識者の御意見を伺うなどのプロセスを丁寧に進めていきたいと考えております。
　他方で、ＡＩの進展の速さを踏まえますとできる限り早期に策定する必要があると認識しており、本法案が成立した暁には、まずは本年、本年内の策定を目指して関係府省庁で一丸となって精力的に取り組んでいく考えであります。

○山谷えり子君　ありがとうございます。スピード感を持って、そして関係省庁の連携、よろしくお願いいたします。
　発展が見込まれるＡＩ活用の分野についてチャットＧＰＴでまた聞いてみたんですね。そうしましたら、八分野挙げられていまして、一、医療、バイオヘルス、二、製造業、三、農業、漁業、四、教育、五、交通、モビリティー、六、金融、七、創作、エンタメ、メディア、八、行政、公共サービスと書いてありまして、それぞれにまた細かく書いてございます。
　例えば、医療、バイオヘルスだと画像診断、ロボット手術など、そして交通、モビリティーですと自動運転車、それから金融などではクレジットスコア、ローンの審査、資産運用、行政、公共サービスでは災害予測と対応、避難支援などといろいろ書いてありまして、確かに効率化、生産性上がることが期待されるわけですけれども、しかし、ＡＩを組み込んだ製品などが間違った判断をする、またＡＩによる差別的な取扱いが起きる可能性もある。
　生成ＡＩによる証券口座乗っ取りとか詐欺とかいろいろ今あるわけですけれども、命に関わる事故やミスがあった場合、責任の所在、救済、補償についてどう考えるか、今後どういうふうに検討していくか、お教えください。

○国務大臣（城内実君）　ＡＩの利活用によって生じる損害に対する責任の考え方を救済や補償の在り方を含めて明確化させていくことは、ＡＩの開発や利活用を促進していく上で非常に重要な視点だと考えております。
　こうした観点から、個別の分野につきましては、例えば自動運転車が事故等を起こした場合の責任制度や社会的ルールの在り方等につきましては産学官の関係者によって検討を行い、今後検討を深めるべき事項等が整理されているものと認識しております。
　今後、司令塔たるＡＩ戦略本部の下で、自動運転車以外の様々な分野についても、ＡＩの利活用によって生じる損害に対する責任の捉え方、考え方を明確化させるべく、関係省庁と緊密に連携しながらしっかりと取り組み、検討を深めてまいる考えであります。

○山谷えり子君　本当に驚きの進化とどう向き合っていくか、速い、速く進展をするＡＩでございます。今見えているリスクだけがリスクではない、情報収集と対応、臨機応変の素早さが求められていくというふうに思っております。
　続きまして、教育についてお伺いしたいと思います。
　個別最適化学習の支援ということが言われているところですけれども、基本計画に教育をどう位置付けていくのか。多くの学生生徒がＡＩを使っている状況でございます。
　今回質問するに当たって、ちょっと中学生たちにヒアリングをしてみたんですね。使っているかと聞きますと、多くの中学生が使っているよって。例えば最近どんなことに使ったのと聞きましたら、浅草に社会科見学に行くから浅草について調べろって先生から言われたから、それをチャットＧＰＴで出してもらった。でも、チャットＧＰＴっぽいから、もっと中学生っぽくやってと言ったら、またそれを出してくれた。それから、浅草で外国人の観光客と会うかもしれない、そのときに浅草の魅力を三十くらいの英単語で説明してと言うと、またさっと出てくると、すごく便利だと言うんですね。
　私は、いや、それじゃ記憶に定着しないでしょうと言ったら、それはすぐ忘れればいいんだと、また必要なら出してもらえば、チャットＧＰＴで聞けばいいんだし、一生それが必要なければそれでいいじゃないという答えを聞きまして、いや、何というか、学びへの姿勢が変わってきているし、これからも変わっていくだろうなというふうに思いました。
　脳科学、発達心理学の立場からは様々な研究が出ておりまして、例えば東北大学加齢医学研究所教授の川島隆太先生、「スマホが学力を破壊する」、私も読みましたけれども、インターネットを使う時間が長いほど前頭葉、側頭葉の発達が止まって、情報伝達の役割を果たす部分、脳全体にわたって止まると、自尊心、自己肯定感、感情抑制力が低くなると。ほかにもいろいろな研究、欧米でもなされておりまして、記憶力や集中力、探求心が低くなるとも言われております。
　昨年十二月、文科省は、生成ＡＩ利活用ガイドライン、初等中等教育段階におけるガイドラインで、ＡＩは使い方によって人間の能力を補助、拡張し、可能性を広げると捉えるべきと記しておりますけれども、楽観的過ぎないかなというふうに思います。また、先生も御指導本当に困っておられます。
　これから学習指導要領の議論もあると思いますけれども、デジタル学習やＡＩの取扱いについては、発達年齢、段階を踏まえて、脳科学者、心理学者、教育者、保護者など加えながら慎重によく検討してほしいと思いますが、どのように考えを整理していかれるのでしょうか。

○政府参考人（日向信和君）　お答えいたします。
　生成ＡＩを始めとする様々なデジタル技術が急速に普及する中、デジタル化の負の側面等の顕在化も指摘されており、それらに適切に対応していくことが重要であると考えております。
　現在、中央教育審議会におきまして、生成ＡＩを始めデジタル技術が飛躍的に発展する中で、デジタル化による負の側面も踏まえ、情報活用能力の抜本的向上を図る方策について、情報モラルやメディアリテラシーなどの育成強化も含め、具体的な検討を行っているところです。
　例えば、フィルターバブルなどのデジタル化社会の負の側面に対し情報モラルの育成など、情報技術を適切に扱うことができるようにすることなど具体的な議論を進めていただいているところでございまして、このような議論を踏まえながら引き続きしっかりと検討を進めてまいりたいと考えております。

○山谷えり子君　教育のデジタル化は、今、先進的に進めた諸国で見直しの動きが進んでいます。
　城内大臣も先日、四月十一日の衆議院の内閣委員会で、脳科学的にも、デジタルよりも紙で調べたり調査した方が脳科学の分野で記憶に定着しやすいということが既に証明されておりますとも答弁されておりますので、教育の場でのデジタル教育やＡＩの利活用についてはしっかりした、いろいろ複合的な視点から考えながら検討をしていただきたいというふうに思っております。
　さて、ＡＩ学習用の言語のデータベース、コーパスの整備についてでございます。
　ＡＩは英語の大規模言語モデルが軸となっていると言ってもいい現状でありまして、日本語は英語に変換されて、解析して日本語にして出力されることも多い。
　日本語、文化、表現のニュアンスは非常に繊細でありまして、日本語のデータベースも増えてきてはおりますけれども、例えばチャットＧＰＴで赤、赤の色、伝統色について尋ねると、緋色、朱色、紅色、紅、赤紅、濃紅、えんじなんて出てきます。雪の表現、言葉、言い回しを聞きますと、粉雪、綿雪、ぼたん雪、細雪、吹雪、みぞれなんて出てきますけれども。
　なかなか出てきているなという部分と、いや、もっともっとあるだろうという部分とあるわけでございますけれども、日本語のデジタル基盤整備事業はどうなっているのか、また今後どんなふうに取り組んでいくのか、方向性をお示しください。

○政府参考人（中原裕彦君）　お答え申し上げます。
　文化庁におきましては、国立国語研究所が過去に整備しました現代日本語書き言葉均衡コーパスにつきまして、令和六年度から五年計画で直近二十年分の約一億語分のデータを追加しまして、言語コーパスの充実を図る事業というのを実施させていただいてございます。
　この事業は、現代日本語の書き言葉の縮図となりますよう、統計的手法によりまして対象を選択し、品詞名、用法、修飾関係、意味などの情報を付与したデータベースを作成するものでございます。これらのデータは、信頼度が高く、大規模言語モデルを基にＡＩで生成される日本語の的確性を高めるファインチューニングなどでの活用も想定しております。
　今後も、本事業の着実な実施に向けて取り組んでまいります。
　また、方言と申しますのは、その地域の文化の基盤を成すものでございますけれども、その衰退が著しく、消滅の危機にあるとユネスコに認定されているものもございます。そのため、文化庁におきましては、そうした方言の保存、継承にも取り組み、記録を蓄積してまいりました。
　加えて、全国的に方言の衰退が進んでいる現状を踏まえまして、今後は大規模言語モデルでの活用も想定した全国方言の記録及びデータベースの作成の計画にも着手してまいりたいと存じます。

○山谷えり子君　着実な実施をお願いしたいと思います。
　基本理念として掲げるのが、人間中心のＡＩなんですけれども、ちょっと抽象的過ぎて何を意味しているのかよく分からない部分がありますので、具体的に説明をお願いします。

○政府参考人（渡邊昇治君）　人間中心についてお答えをいたします。
　この概念は、二〇一九年の三月に、内閣府の方で人間中心のＡＩ社会原則というのを作りまして、これが、一つこれ日本の中で割とメジャーになったきっかけだと思うんですけれども、そこで言われていることを申し上げますと、ＡＩが基本的人権を侵さないとか、あるいはＡＩは人間の能力を拡張するのに役立つとか、あるいはＡＩをどう利用するかは人間が決めるとか、あるいは情報弱者をつくらないと、こういったことが人間中心の概念になっておりますが、これ具体的な例を二つほど御説明をしたいというふうに思います。
　一つは、この人権を例に取って御説明しますと、差別的な発言をＡＩに作らせようとすると、ＡＩの方でそれを拒否するというのが一つございます。これはどういう技術かといいますと、何通りかパターンがあるんですけれども、そもそも偏見、差別的な情報をＡＩが学習しないようにすると、これはＡＩ開発者が努力するというのがございます。それともう一つは、フィルターを使いまして、何か不適切な質問に対しては、それをフィルターではじくとか、あるいはその不適切な出力をフィルターではじくと、こういう技術がございます。こういうことで、人権を侵害しないような努力というのを開発者はやっています。
　もう一つの例は、これは私が最近体験したものなんですけれども、私がある数学の問題をＡＩに解かせようとすると、ＡＩは、あっ、なかなか難しくていい問題ですねと、じゃ、一緒に考えましょうかという回答が来まして、いや、分からないから質問したのに一緒にって言われても。ただ、これ、そのＡＩ開発者の方に聞いたところ、要はやっぱり人間にも考えさせる、人間をサポートするというのがそのＡＩの重要な部分なので、そういうパターンで答えているんじゃないかというふうに言われました。
　こういう形で、人間がＡＩ依存症に安易に陥らないように、そういうＡＩ開発者の方で工夫はされているということでございまして、こういう取組を是非政府としても推奨させていただきたいというふうに考えております。

○山谷えり子君　ありがとうございます。大分具体的に説明をしていただきまして、ありがとうございます。
　また、チャットＧＰＴに人間中心のＡＩについて聞いたんですね。五点明示されておりまして、一が倫理性の重視、プライバシーの尊重、公平性、透明性、説明責任、差別やバイアスを防ぐ設計が求められる。二番、人間の福祉の促進。三番、人間の関与と制御の維持、意思決定において人間の最終判断を尊重する、例えば自動運転でも緊急停止ボタンが人にある、完全な自律よりも協働を目指す。四番、透明性と説明可能性、ＡＩの判断や行動が理解できるように説明されること、利用者や関係者がＡＩの仕組みや限界を知ることができる設計。五、インクルーシブな設計、特定の層に偏らず、誰もが恩恵を受けられるように開発される、弱者や少数派にも配慮したアルゴリズム設計。
　まあ本当になるほどなとは思うんですが、しかし、ＡＩの開発者、事業者、提供者、利用者に対して適切に自主的に取り組むようにと言われてもなかなか難しいんではないかなと、今本当にかなり具体的に御説明いただいたんですけれども、それがそれぞれの皆様に徹底されるかというと、なかなか難しいかなというふうに思います。
　また、情報提供の場合、これはＡＩで作成しましたというクレジットを入れる必要もあるんじゃないかなとか、いろんなふうに思うんですが、どんなデータを入れてこうなったという明示も必要で、人間中心といっても、本当にどこまでも難しいと思いますが、この今の現状をどのように皆様に理解してもらう努力をしていこうとお思いですか。

○政府参考人（渡邊昇治君）　最近のＡＩは、先ほどちょっと御紹介がありましたけれども、出典、この回答の出典はここですというのを表示するようなＡＩが結構メジャーになりつつありまして、そういうことによって、信頼できる情報かどうかを改めて人間がもう一度確認をするということができるようになっています。こういう技術を私どもとしては広報していきたい、広報活動をしっかりやっていきたいというのもございますし、分かりやすいコンテンツを作ってリテラシー教育に貢献をしていきたいというふうに思っています。
　ただ、一つ私どもの悩みは、ＡＩ技術とか倫理問題に詳しい方というのは、詳しいので、すごく難しく、難しい言葉を使う傾向がございまして、こういうＡＩ技術とか倫理とか法律とか政策とか、すごく幅広い知識を持っていて、しかもそれを分かりやすく教えると、そういう方をやっぱり増やしていくということも大変重要だと思っていまして、そういう活動に是非取り組んでいきたいというふうに思います。

○山谷えり子君　続きまして、海外の悪質な事業者への対応についてお聞きいたします。
　協力責務があるといっても、これ、悪質な事業者に対しては大丈夫かなと思うんですが、いかがでしょうか。

○政府参考人（渡邊昇治君）　私どもの法案が成立いたしますと、不正な目的あるいは不適切な利用によって被害が生じた場合には国としてしっかり調査をするということになると思いますけれども、これ、当然、その事業者が外国籍事業者、日本に法人を持たない、あるいは事業所を持たない場合であっても調査をしていきたいというふうに思います。仮に友好国ではない国の企業が問題を起こした場合には、なかなか難しい問題がございますけれども、可能な限りの手段を尽くして調査等を実施してまいりたいというふうに考えております。
　また、なかなかその調査で正確なことが分からなかったとしても、こういう懸念があるものがはやり始めているということをしっかり情報提供させていただくということが重要かなというふうに思っております。

○山谷えり子君　実効性を高めていくように、不断の見直し、努力をお願いしたいというふうに思います。
　続きまして、日本のマーケットだけでは狭うございます。日本は東南アジアとのつながりも強くて、衆議院の参考人の意見聴取で、東京大学大学院工学系研究科人工物工学研究センター松尾豊教授などは、例えば東南アジアの諸言語をつなぐ大規模言語モデル、ラージ・ランゲージ・モデル、ＬＬＭができればビジネスも増える、日本がイニシアチブを取っていくべきではないかと述べられておりますけれども、民間の取組の支援、日本の強みを生かす勝ち筋を求めていくことについては、政府はどう考え、取り組んでいかれますでしょうか。

○政府参考人（奥家敏和君）　お答え申し上げます。
　国内の事業者により開発されたＡＩを海外に展開していくことは、若い技術者などの活躍の場を広げるとともに、我が国の産業競争力の強化の観点からも重要であるというふうに認識しています。
　御指摘のとおり、特に東南アジアは有望な市場と認識しております。経済産業省では、これまで、マレーシア工科大学やバンドン工科大学における日本のトップＡＩ専門家によるＡＩ人材育成プログラムの実施、また、アジアのＩＴサービス関連業界団体の全体会合、こちらにおいて日本のトップＡＩスタートアップを紹介し、協業を提案すると。さらに、グローバルサウス補助金を活用しまして、我が国の優れたＡＩ開発企業と東南アジアの現地ユーザー企業とのマッチング、そして実証、こういった取組をしています。
　具体的な実証事業の一例としまして、日本のフィンテック企業のココペリ、こちらがＡＩスタートアップのイライザと連携しまして、ビジネスマッチングプラットフォームにタイ語と日本語を理解した生成ＡＩを搭載してタイへの展開を進めていると、こういった事業に支援をしているというところでございます。
　引き続き、こうした取組を推進して、国内事業者の東南アジア展開を促進していきたいというふうに考えています。

○山谷えり子君　力強く未来を切り開いていただきたいと思います。
　生産年齢人口減少の中に、ＡＩ技術が経済に対する貢献というのは大きいと思います。しかし、リスクも不安も大きいわけでありまして、二〇二五年二月四日の内閣府のＡＩ戦略会議発表の中間とりまとめの中の意識調査では、ＡＩには規制が必要が七七％、悪用や犯罪に対して法的対策の強化の必要が六六％と出まして、既存法で対応できない場合、速やかに法的措置も考えていく必要があると考えます。
　ＡＩの活用戦略を確かなものとしていくために、既存法令、ソフトロー、ガイドラインでの対応、関係省庁の連携、ますます重要でありますが、最後に、城内大臣、審議を通じて感じていらっしゃることをお伝えください。

○国務大臣（城内実君）　まず、この本法案、ＡＩのイノベーションの促進とリスクの対応、これ両立を図るということでありまして、やはり我が国が目指すべきは、世界で最もＡＩを開発、活用しやすい国となることを目指すことであって、そういう意味でこれは非常に重要な法案であり、しっかり丁寧に審議を進めていく考えであります。
　まずは、本委員会においてこの法案をお認めいただけるよう、その趣旨はもちろんのこと、実施する取組内容についてもまずはやはり御理解いただけるよう尽くしていきたいというふうに思います。
　その上で、この本法案が成立した暁には、研究開発の推進、人材育成等、本法案に規定された施策等を全力で進めていくことが大事ではないかなというふうに考えております。その際、やはり我々が人間であり日本人であることをしっかりと意識し、それを誇りに持って取組を進めていく考えであります。
　例えば、ＡＩ研究開発については、ＡＩは国民生活や経済社会に密接に関係することから、やはり日本語で、先ほど山谷委員の御指摘にあったように、日本語を重視して、日本の文化や商習慣等を正確に回答できる、日本人の心、日本人の情緒を持った国産ＡＩをしっかりと開発していくことが私自身は重要だというふうに認識しております。
　いずれにしましても、国際社会の中で我が国がリーダーシップを発揮できるような形でＡＩ政策の推進を図ってまいる考えであります。

○山谷えり子君　司令塔をしっかりし、よろしくお願いいたします。
　ありがとうございました。

○石川大我君　おはようございます。立憲民主・社民・無所属の石川大我でございます。
　私のこれからの質問は、チャットＧＰＴなど生成ＡＩは使っていないということをまず初めに申し上げたいというふうに思っております。人力で作らせていただきました。
　ＡＩ新法ですけれども、このＡＩというものがこれからの我々の社会をより良い方向に導いてくれるのか、それとも悪い方向に導いてしまうのかというのは、なかなか分からないところがあるというふうに思います。
　もちろん、私はこのチャットＧＰＴなど使って、そして生成ＡＩを使って、ＡＩというものがより良い日本の国、そして世界というものをつくっていただきたいなというふうに思っております。当然、それは世界が平和になり、あるいは差別とか貧困というものがなくなり、そして世界の人々が豊かに暮らすというような未来像を夢見ていることは、もうこれは間違いないと、皆さんがそう思っていることは間違いないと思うんですが、今日の質問は、少しやはり心配な部分というのがありますので、是非その辺りも聞かせていただきたいというふうに思います。
　まず、ＡＩの平和利用についてお伺いをしたいと思います。
　ＡＩを活用したことによって平和な社会が来たんだということになればいいんですけれども、それが、五十年後、百年後の皆さんが今日の議論を聞いたときに、ああ、あそこでこの議論をしていたから世界が平和になったんだというふうに思っていただけるような、そんな五十年後、百年後の皆さんに向けた質問でもあるのかなと思っておりますけれども、このＡＩを活用したことによって安全保障環境が悪化してしまっては仕方がないということで、私たち日本は、憲法前文そして九条の平和主義を持つ国として、ＡＩの利用の限界についてまず政府の考えを教えてください。