内閣委員会

令和七年五月二十二日（木曜日）
　　　午後一時開会
　　　　─────────────
　　　委員の異動
　五月二十一日
　　　　辞任　　　　　　　　　補欠選任
　　　　　奥村　政佳君　　　　　三上　えり君
　　　　　河野　義博君　　　　　窪田　哲也君
　　　　─────────────
　　出席者は左のとおり。
　　　　委員長　　　　　　　　　和田　政宗君
　　　　理　事
　　　　　　　　　　　　　　　　磯崎　仁彦君
　　　　　　　　　　　　　　　　酒井　庸行君
　　　　　　　　　　　　　　　　山本　啓介君
　　　　　　　　　　　　　　　　木戸口英司君
　　　　　　　　　　　　　　　　竹谷とし子君
　　　　委　員
　　　　　　　　　　　　　　　　青木　一彦君
　　　　　　　　　　　　　　　　石井　浩郎君
　　　　　　　　　　　　　　　　今井絵理子君
　　　　　　　　　　　　　　　　太田　房江君
　　　　　　　　　　　　　　　　友納　理緒君
　　　　　　　　　　　　　　　　山谷えり子君
　　　　　　　　　　　　　　　　石垣のりこ君
　　　　　　　　　　　　　　　　石川　大我君
　　　　　　　　　　　　　　　　鬼木　　誠君
　　　　　　　　　　　　　　　　三上　えり君
　　　　　　　　　　　　　　　　窪田　哲也君
　　　　　　　　　　　　　　　　片山　大介君
　　　　　　　　　　　　　　　　柴田　　巧君
　　　　　　　　　　　　　　　　竹詰　　仁君
　　　　　　　　　　　　　　　　井上　哲士君
　　　　　　　　　　　　　　　　大島九州男君
　　　事務局側
　　　　　　　常任委員会専門
　　　　　　　員　　　　　　　　岩波　祐子君
　　　参考人
　　　　　　　独立行政法人情
　　　　　　　報処理推進機構
　　　　　　　ＡＩセーフティ
　　　　　　　・インスティテ
　　　　　　　ュート所長　　　　村上　明子君
　　　　　　　一般社団法人日
　　　　　　　本経済団体連合
　　　　　　　会デジタルエコ
　　　　　　　ノミー推進委員
　　　　　　　会国際戦略ＷＧ
　　　　　　　主査
　　　　　　　日本電気株式会
　　　　　　　社ＣＤＯ　Ｏｆ
　　　　　　　ｆｉｃｅ主席プ
　　　　　　　ロフェッショナ
　　　　　　　ル　　　　　　　　永沼　美保君
　　　　　　　慶應義塾大学法
　　　　　　　学部法律学科教
　　　　　　　授　　　　　　　　大屋　雄裕君
　　　　　　　一橋大学イノベ
　　　　　　　ーション研究セ
　　　　　　　ンター特任教授
　　　　　　　東京科学大学デ
　　　　　　　ータサイエンス
　　　　　　　・ＡＩ全学教育
　　　　　　　機構特任教授　　　市川　　類君
　　　　─────────────
　　本日の会議に付した案件
○人工知能関連技術の研究開発及び活用の推進に関する法律案（閣法第二九号）（衆議院送付）
　　　　─────────────

○委員長（和田政宗君）　ただいまから内閣委員会を開会いたします。
　委員の異動について御報告いたします。
　昨日までに、河野義博君及び奥村政佳君が委員を辞任され、その補欠として窪田哲也君及び三上えりさんが選任されました。
　　　　─────────────

○委員長（和田政宗君）　人工知能関連技術の研究開発及び活用の推進に関する法律案を議題といたします。
　本日は、本案の審査のため、四名の参考人から御意見を伺います。
　御出席いただいている参考人は、独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長村上明子さん、一般社団法人日本経済団体連合会デジタルエコノミー推進委員会国際戦略ＷＧ主査・日本電気株式会社ＣＤＯ　Ｏｆｆｉｃｅ主席プロフェッショナル永沼美保さん、慶應義塾大学法学部法律学科教授大屋雄裕君及び一橋大学イノベーション研究センター特任教授・東京科学大学データサイエンス・ＡＩ全学教育機構特任教授市川類君でございます。
　この際、参考人の皆様に一言御挨拶を申し上げます。
　本日は、御多忙のところ御出席いただき、誠にありがとうございます。
　皆様から忌憚のない御意見を賜りまして、今後の審査の参考にいたしたいと存じますので、どうぞよろしくお願いをいたします。
　次に、議事の進め方について申し上げます。
　まず、村上参考人、永沼参考人、大屋参考人、市川参考人の順にお一人十五分程度で御意見をお述べいただき、その後、委員の質疑にお答えいただきたいと存じます。
　また、御発言の際は、挙手をしていただき、その都度、委員長の許可を得ることとなっておりますので、御承知おきください。
　なお、御発言は着席のままで結構でございます。
　それでは、まず村上参考人からお願いをいたします。村上参考人。

○参考人（村上明子君）　ありがとうございます。
　ＡＩセーフティ・インスティテュート所長の村上でございます。本日はこのような場にお呼びいただきまして、ありがとうございます。しっかりと意見の陳述をさせていただきます。
　では、こちらのお配りしております配付資料に基づいて御説明を差し上げます。
　まず最初に、簡単に私の自己紹介をさせていただきたいと思いますので、二ページ目を御覧ください。
　私は、先ほど申し上げましたＡＩセーフティ・インスティテュートの所長をしております。そして、民間の立場もございまして、ＳＯＭＰＯホールディングス並びに損害保険ジャパン株式会社でチーフ・データ・オフィサーということで、データの観点からこのＡＩの促進というものを見ております。また、ＡＩ戦略会議の下部組織であるＡＩ制度研究会にも参画いたしまして、座長代理を務めさせていただきました。
　私のキャリアはＡＩの研究者から始まっておりまして、ＩＴの会社で長年ＡＩのＲアンドＤに関わってまいりました。ＡＩの研究者、そしてソフトウェア開発というふうに立場を変えまして、五年前に転職をいたしまして、事業会社でのＡＩの活用をしております。そして、一年少し前に立ち上がりましたＡＩセーフティ・インスティテュートで初代の所長をさせていただくということで、政府の立場も今持っております。
　また、一市民といたしましては、民間ボランティアでＩＴを用いた防災・減災といった活動もしておりまして、このような多様な立場から、近年急速に発展してきたＡＩに関して、安全性への不安というものも交えながら意見を述べさせていただきたいというふうに考えております。
　本日は、本法案に関して、下記の、今から述べます三つの観点から御意見をさせていただきます。一つ目は、ＡＩの安全性に関することと国際的な動向ですね。二つ目が、国際整合性を踏まえた制度設計の重要性について、そして三つ目は、それを支えるためのＡＩの国としての戦略と人材確保、育成の重要性についてでございます。
　まず、法案への意見に入る前に、日本におけるＡＩ活用の重要性とＡＩの安全性について御説明をさせていただきたいと思いますので、配付資料の三ページ目を御覧ください。
　この日本におけるＡＩの活用といったところで一番重要なものといいますのは、私も民間の立場で経験しておりますけれども、一番はＡＩを用いた効率性の確保ではないかというふうに考えています。日本は人口が減少しておりまして、それに伴う労働力の不足に耐えるためには、仕事の効率化、今日している仕事を今より少ない人数でするということが非常に重要になってまいります。
　しかし、残念なことに日本の労働生産性は世界的に見て高い方ではありません。二〇二三年のデータではございますけれども、先進主要七か国、Ｇ７で最下位、そしてＯＥＣＤの中でも二十三位という、褒められた成績ではございません。また、ＯＥＣＤは二〇二三年に、日本企業のデジタル化、そして自動化投資の遅れを指摘して、ＡＩなど先端技術の積極的活用を通じた生産性向上というのを提言してきております。
　この生産性がなかなか向上しない理由といいますものの一つに、日本の企業文化というのがございます。保守的、前例踏襲的といったことでございますけれども、これが組織間のサイロを生んで、サイロ的断絶を生んでしまいます。この組織間の断絶というところがガバナンスの欠如というものも招いてしまいまして、このガバナンスの低下というのは技術の導入によるリスクを上昇させてしまいます。このＡＩのような新しい技術を導入することを避けるという負のスパイラルに入ってしまっているというのが日本の産業界の現状だというふうに思っております。
　これを打破するためには、書かせていただいた二つの施策というのが重要になってくると思います。一つとしては、国としてのＡＩ戦略を明確化すること、そして二つ目としては、安全に関する情報の提供でございます。
　やはりＡＩというものというのがなかなか、ＩＴをなりわいとしていない企業に関しましてはえたいの知れないもの、不安なものということなんですけれども、これを国あるいは自治体が率先して利用していくことでＡＩの活用による効果というものを見せていく、そして、ＡＩのイノベーション、国内のイノベーションにつなげていくためには、骨太のＡＩ戦略というものを継続的に打ち出し続けていくという必要がございます。毎年毎年ＡＩを取り巻く状況は変化しておりますので、こちらの継続的に見直していくということが必要です。
　この本法案の第十九条において、内閣に人工知能戦略本部を置き、そしてそのＡＩの活用推進に関する施策というのを統合的に見ていらっしゃるという条文があり、この内閣に設置される人工知能戦略本部に期待したいところでございます。
　また、ＡＩの安全性に対する情報の提供です。やはり、ＡＩに対する安全性に関する不安というものが、このＡＩを活用していくことの障害になっているというふうに考えられます。そのためにも、この本法案の第三条の四に記載されております、人工知能関連技術の研究開発及び活用の過程の透明性の確保その他の必要な施策を講じるといったところに宣言されたもの、これを実行していくということは重要でございます。
　私が所長をしておりますＡＩセーフティ・インスティテュートはこの部分にしっかり貢献をしていくというところでございますけれども、やはりこの透明性の担保あるいは安全性の技術的なところというのは、非常に技術力も、それから調査能力も必要でございます。こちらを私どものＡＩセーフティ・インスティテュートで内閣設置の戦略本部の下進めていくということが重要と考えております。
　また、ＡＩというもの、国境ございませんので、国境を越えた利用というものが非常によく行われます。そのため、国境を越えた企業活動のための国際整合性、非常に重要になってまいります。また、その最先端の技術を理解し続ける、そして戦略を打ち続けるというための人材の確保というもの、重要になってきますので、この二点については後ほど少し御説明いたします。
　資料の四ページ目に移らせていただきます。少し時間を取りまして、ＡＩセーフティ・インスティテュートの話をお話しさせてください。
　二〇二三年、生成ＡＩ元年と呼ばれていますけれども、チャットＧＰＴに代表される生成ＡＩが一気に広まった年に、ＡＩのイノベーションとともに、ＡＩのリスクに関する懸念というものも非常に多く取り沙汰されることがありました。その年に広島で行われたＧ７で、広島ＡＩプロセスの議論でＡＩの安全性についての議論、そしてその年の十一月に英国で開催されたＡＩセーフティーサミットの議論を経て、世界でのＡＩの安全性に対する認識が高まり、世界各国でＡＩセーフティーに関する組織というのが設立されております。
　日本でも、ＡＩセーフティ・インスティテュートが、ＵＫ、ＵＳに次いで三番目という早さで設立をいたしました。これは本当に政治の御判断、そして省庁の実行のスピードの速いというところで、私、所長をしておりますけれども、称賛に値するものではないかなというふうに考えてございます。
　また、この世界で立ち上がっているＡＩセーフティーの組織をつなぐために、ＵＳの掛け声でＡＩＳＩ国際ネットワークが設立され、日本も積極的に参画をしてございます。
　次のページ、五ページ目に、ＡＩセーフティ・インスティテュート、これ、ＡＩＳＩとお呼びするんですけれども、この役割とスコープをまとめさせていただきました。
　私どもの役割というものは、ＡＩの安全、安心な活用が促進されるようこの官民の取組を支援すること、技術的な支援をすることというのが私たちの役割でございます。役割としては、まず、政府への支援、そして、技術的な文書などの集約といったＡＩセーフティーに関する情報のハブになること、そして三つ目に、関連の研究機関、国研でも多くのＡＩに関する研究をされていますので、そちらの関連機関との連携というものがございます。
　一番大事なのは、このＡＩセーフティーで安全性のことだけを考えるのではなくて、私たちの最終的な目標は、安全性を通してＡＩのイノベーションを加速することにあります。安全性を担保できても、このイノベーションが加速しなければ意味がないわけです。なので、このＡＩセーフティ・インスティテュートの立場といたしましては、安全とそしてイノベーションのバランスを取った施策というものをしっかりと進めていこうとしています。
　そして、そのためには、国内そして国際的な関係機関との連携というのも非常に重要になってまいります。国際のことに関しまして次のページ、六ページ目を御参照いただければと思います。
　各国で様々なガイドライン出てございます。皆様御存じのように、日本では、世界に先んじてＡＩ事業者ガイドラインというものをガイドラインとして省庁から発出しております。アメリカも、米国ＮＩＳＴの下でＡＩリスクマネジメントフレームワークというものが出されております。
　これ、各国のレギュレーションというものが、例えば日本企業が海外で活動するときに非常に重要になってきますけれども、日本とほかの国のものを一対一で比較するというのは非常に時間的にも効率的ではございませんので、まず私どもは、そのアメリカのリスクマネジメントフレームワークと日本のＡＩ事業者ガイドラインの比較をいたしまして、それをリファレンスといたしまして世界各国の比較を可能としております。
　また、このガイドラインをこの活動、このクロスウォークの活動を通しまして世界的に通用する各種ガイドラインを作成するということを継続して行っております。昨年度は、ＡＩセーフティーに関する評価観点ガイドであったりレッドチーミング手法というものを日本語のみならず英語でも発出しております。
　また、こういったレギュレーションあるいはガイドラインといったものは、国際的に合意形成の下進んでいくということが大事です。こういうことにしっかり日本として参画をしていくことで、例えば日本にとって不利になるようなレギュレーションを作られないように、あるいは、日本が忘れている、抜け漏れのあるようなガイドラインというものはないかということをチェックしながら進んでいくということで、こちら一例書かせていただきましたけれども、先ほど挙げさせていただいたＡＩＳＩ国際ネットワーク会合を中心とした国際的な連携というものも進めさせていただいているのがＡＩＳＩの活動でございます。
　ＡＩＳＩの御紹介させていただきましたけれども、私どものＡＩセーフティ・インスティテュートは立法機関ではございません。立法をなさる政府の方たちに技術的にサポートをしていくという組織になります。また、研究機関でもございませんけれども、国研を中心としたアカデミックの活動をしていらっしゃる方としっかりと連携をすることで、世界的に技術の先端というものを集約し、しっかりと国際貢献というものをしていくというところが重要だというふうに考えております。
　最後のページでございます。七ページ目を御覧いただければと思います。
　今お話しさせていただいたんですけれども、ＡＩの安全性とイノベーションの推進というところは、しっかりとした国としてのＡＩ戦略というものが重要になります。そして、それを継続的に、設立、実施していくためにはやはり人材ということで、最後のページは人材について書かせていただきました。
　このＡＩのリスクを防御するためには、やはり最先端のＡＩというのがどういうものなのかということをしっかりと理解して、自分自身で開発をできるようなＡＩ人材というものが日本の中で必要になってまいります。
　ところが、そのＡＩ人材って今まだまだ日本では足りないということで、育成をしていかなければならないということなんですけれども、やはり、今ＡＩ立国と呼ばれているそういう国は、この母集団が多いんですね。もうとにかく人口が多くて、その中からエリートが出てくると。
　今、日本の人口は減少傾向にありまして、今すぐに人口を増やす、母数を増やすというのは難しいことではありますけれども、私が考えるには、一つの方法として、今ＡＩに関連している技術者というのがほとんど男性であるという観点に注目をいたしました。
　私も、三十年前に大学にいるときには、残念ながら理系の大学というのは女性五％程度でございましたけれども、今現時点でも、ＡＩに関する学部、学科というのは一〇％程度という、まだ余り改善している状況とは言えません。もしこれが男性を減らすことなく女性の希望者というのを増やすと母集団を増やすことができるんじゃないかと、そういったその一つの方法がございます。
　それをすると、実は、女性という多面的なところが入ってきますと、この多様性、ダイバーシティーというのも確保されまして、公平性そしてインクルージョンということで、多面的に実はＡＩの安全性というのを見ることができるというふうに考えています。ＡＩの危険、リスクというものは非常に多面的なものです。これが危険だったものというのが、ほかの国に行ってしまえば余り危険とみなされないものも多くあります。そういったものをいち早く多面的なもので獲得していくためにも、人材の多様性と、そして持続的な育成というものが重要になってくると思います。
　もう一つは、やはり高度な専門家やエンジニアの確保という文脈に加えて、国民が広く人工知能関連技術の利活用に興味を持ってもらうということも重要だと思っています。この利活用とリスク対策の双方に興味を持って、そして関心を深めていくような、そういう施策という面でもＡＩ戦略のところで期待をしております。
　今述べたような人材の確保にとっては本法案の十四条、そして、教育の振興等には十五条に記載されていますので、この辺りをしっかりと推進していただくというふうに期待をしております。
　最後になりますけれども、ＡＩの安全性というものは、このＡＩのイノベーションのブレーキではございません。これは、皆さんがイノベーションをする、あるいは効率的に仕事をするためのアクセルを踏むためのガードレールというふうに考えています。このしっかりとしたイノベーションと安全性のバランスの取れたＡＩ戦略というものを本法案で実現していっていただければというふうに期待をしております。
　私からは以上でございます。

○委員長（和田政宗君）　ありがとうございました。
　次に、永沼参考人にお願いをいたします。永沼参考人。

○参考人（永沼美保君）　ありがとうございます。
　経団連のデジタルエコノミー推進委員会で国際戦略ワーキンググループというのがございまして、そちらの主査を務めております永沼でございます。本日はよろしくお願いいたします。
　経団連として本日意見を述べさせていただきますが、同時に、私は、日本企業である日本電気株式会社においてＣＤＯ　Ｏｆｆｉｃｅというものが今年から新設されておりまして、このＣＤＯはチーフ・デジタル・オフィサーでございます、このデジタルに関する内容に関して、弊社のＣＤＯ、これは当然、役員級の、副社長級の者が入っているところで、やはりこれから議題になってまいりますこのＡＩに関しまして、特に私の場合はガバナンスというところに関しまして、今プロフェッショナルという立場で推進をしているところでございます。
　まずは、最初に、今回のＡＩの法案を取りまとめられました行政府の皆様並びに国会の審議に関わる立法府の皆様の御尽力に心より敬意を表します。また、本日はこのような機会をいただきまして深く感謝をしております。
　経団連では、このＡＩの制度及びそれからＡＩの法案に関する議論に関しては深く参画をさせていただいておりまして、特に経済界からの意見を入力をさせていただいております。その観点からも、本日、私どもの考えを述べさせていただきたいと思いますが、皆様のお手元に一枚、こちらの、本日、これから私の方で申し上げる三つの点がまとまっております。本日は、この三つの、我々の経団連としての基本的な考え方、それからＡＩの法案に対する考え方、それから、あと最後に、お願いというか、今後の制度の運用に当たってのお願いですね、要望といったようなところを中心にお話をさせていただきます。
　まず、経団連の基本的な考え方でございますが、まず、経団連では、この持続的な社会ということの実現に向けてソサエティー五・〇フォーＳＤＧｓというものが掲げられております。こちらでは、ＡＩを始めとする先端技術の積極的な活用、あとはデータの連携ですとか、それから利活用というところを積極的に推し進めるというところが基本的な考え方でございます。
　こうした認識の下に、まず人間中心のＡＩというこの理念を明確にした上で、ＡＩがもたらす生産性の向上ですとか、またイノベーションの創出といったような、こういったプラスの面、恩恵につきましては、あらゆる主体が享受をできるべきであるというこのＡＩパワードな社会の実現というものを目指しております。
　こちらについては、二〇二三年の十一月、二年前になりますけれども、一年半前ですね、二〇二三年の十一月に、ＡＩ活用戦略のセカンド、二番目というところでの提言を公表をしております。
　ここで申し上げているのは、産業の競争力の向上というところは当然なんですけれども、やはり健全な競争環境を確保するという観点が必要であって、その観点から、我が国におけるこのＡＩの開発能力の強化というところも提言をさせていただいております。
　これらの提言の取りまとめに当たりましては、ＡＩの開発、それから利用、済みません、開発、提供、利用というこの三つの主な各フェーズに携わる様々な企業の方、あるいは有識者の方々から御意見を伺っております。ここでは、世に言う大企業と言われるところのみではなくて、ＡＩに関してはやはり多様な事業者が関わっておりますので、中小企業ですとか、特にＡＩのスタートアップといったような方々からの御意見の方も取り入れさせていただいております。特に、この提言においては、先ほど申し上げましたが、ＡＩの利活用を後押しする環境の整備ということと、リスクに対する適切な対応を両立していくということが重要であるということを強く提言をさせていただいております。
　こちらが経団連としての基本的な考え方なんですけれども、これを基に、今回のＡＩの法案につきまして、私どもの考え方を述べさせていただきます。
　まず、こちらのＡＩの法案でございますが、経団連のこの基本的な考え方とまずおおむね方向性が一致をするものであるというふうに認識をしております。我々としては、これから申し上げる四つの点につきましては特に評価をしておるところでございます。
　まず一つ目でございますが、基本理念として、イノベーションの促進とリスク対応の両立ということが明確に打ち出されているという点がございます。これちょうど、私が先ほど我々のこの基本的な考え方として提言をさせていただいた内容とほぼ一致している内容でございますので、やはり経済界としてはこの両立の部分というところがキーポイントだと考えております。
　それから二つ目でございますが、今回の司令塔機能が明示をされたというところで、内閣総理大臣を本部長とするＡＩ戦略本部、こちらの設置によりまして、関係府、また省庁間の連携というところ、それから司令塔機能の強化というところが図られるということで、日本でもこういった機能がきちんと機能をするというところが明示化されていると。この点につきましては評価をしております。
　また、次、三番目なんですけれども、先ほど村上様のところからもあったんですが、やはり経済界として一つ大きなポイントになるのが、国際的なこの整合性というところがございます。国際的な規範との整合性ですとか、あと、日本は今中心にやっていますが、データの越境流通、これよくＤＦＦＴ、信頼性のある自由なデータ流通というような議論が今行われておりますけれども、そういったようなものにも配慮をして、データの流通部分ですね、越境を含んだ流通部分といったところにも配慮がされていて、日本企業のグローバル展開を後押しする内容であるというところを私どもとしては非常にポイントであると考えております。
　また、最後になりますが、四つ目のポイントとしましては、事業者の協力が、これが我々一番関わりますけれども、我々のこの協力というところが努力義務として整理をされたというところと、それによって、我々のこの民間による自主性の尊重をしつつ、過度な規制とならないというところの配慮がされていると。ここ、先ほど一番目に申しましたイノベーションの促進とリスク対応の両立というところにも関わってまいりますが、この四つの点につきまして大変高く評価をさせていただいております。
　これらはいずれも先ほど申し上げましたＡＩパワードな社会というものの実現に向けた重要な一歩であると捉えておりまして、私ども経団連として本法案を支持しております。
　次に、四つ目の観点でございますが、制度運用というところのお願いの部分になります。
　これ、今申し上げたことの一方で、今後、法律に基づくその政策の運用ですとか、具体的な施策のこの設計というものが行われてまいります。この際も、これから申し上げる四つの点を是非御考慮いただいて、重視をいただくというところが私どもからのお願いとなってまいります。
　まず一つ目は、何度も申し上げておりますが、恐縮でございますが、イノベーションとリスク対応のバランス、ここについては是非柔軟な設計をお願いをしたいと思っております。
　この観点は、やはり日本のＡＩ産業の振興並びに国際競争力と、この部分の強化という観点は、これはもう不可欠なものでございまして、やはりそのときには、国内技術の開発、それからその育成というものが不可欠でございます。海外の技術への過度な依存と、現実的なところもありますけれども、過度な依存ということを減らすということについては、やはり今後、経済安全保障の観点からも、私どもにとっても非常に重要であると捉えております。
　その上で、開発者、提供者、この開発をするものを提供をする方々のこの責任分担の明確化というところが必要かなと。かつ、ＡＩの製品ですとか安全対策といったところに関しては、認証制度等がこれから出てきてまいります。我々はそれを活用して、組織的なガバナンスの強化をやはり行っていくということが必要になりますので、こういった部分でのガバナンスの強化。また、先ほどからもお話出ておりますけれども、高度なＡＩリテラシーを備えた人材の育成といった取組をバランスよく着実に推進をいただきたいと思います。
　特に人材については、先ほど村上様からも細かくあったところでございますが、やはり今の時代に沿った形の多様性も含めたところでの専門家というところの育成が必要になってくると考えております。
　それから、二番目でございます。柔軟で実効性のある制度設計というところでございます。
　これは、経済界なので、やはりここの部分のところは経団連のメンバーも非常に気にしておりまして、やはり技術の進歩はＡＩにつきましては相当速いと、それから、それに伴ってビジネスの環境も変化をするというところがございます。そちらに対応するべく、経済界の意見を政策に反映する仕組みというところについては、引き続き整備をお願いをしたいというふうに考えております。
　また、政府が全体のゴールを示して、具体的なところは我々の方に、民間側の方に委ねると。これはゴールベースアプローチというふうに呼んでおりますが、こういった民間側の方の柔軟な動きというものを後押ししていただく、そういったアプローチを期待をしております。
　それから、三つ目でございます。ここは我々非常に重要でございまして、国際的整合性の確保でございます。
　グローバルでは、今欧米もそうですし、それ以外の国々、途上国も含めてなんですが、多くの場でＡＩの議論がなされております。国際機関も、影響力のある国際機関でも、いろんなフレームワークですとかいろいろなことが議論をされている中で、これらの動向を踏まえて、国際的な相互運用を確保していただくと。
　そのために、広島ＡＩプロセスと、広島ＡＩプロセスについては報告の枠組みがありまして、これは特に日本がリードをしてつくったものでありますし、今国際的にも認知をされていると。こういったような枠組みですとか、あとは国際の標準化といったようなところを推進するとともに、ＡＩ関連の国際ルール形成に当たっての日本のプレゼンスというものを確保いただきたいというふうに考えております。
　この部分はルール形成というところでございまして、今後の我々の社会のところに大きく響いてまいりますので、是非この点については官民の連携を強化をいただきたいというふうに考えております。
　そして最後、四つ目でございますが、政府調達の先導的な役割という観点でございます。
　政府自らがＡＩを積極的に調達し利活用するという、そういう姿勢を示していただくということは、民間の活用の促進ですとか市場の形成に大きく影響を与えてまいります。
　その際のこの調達の透明性の確保というところが一つポイントではあるんですが、できればこの透明性の確保をした上で、やはり先ほど申し上げたように、日本は多様な民間の事業者がおりますので、スタートアップを含めて多様なこの我々の事業者に公正な機会を与えていただくというところがやはりこれから我々が非常に期待をしていくところでございます。
　こちらにつきましては、経団連の中で実はアンケートを取ったりしまして、我々の意見の集約をしております。詳細につきましては、皆様のお手元のこの参考人関係資料の中に入っておりますので、是非御覧いただきまして、こちらの四点の観点からの、この今後の日本における制度の運用の設計をお願いしたいと思っております。
　最後になりますが、いろいろと申し上げましたが、改めまして、本法案の審議に当たりまして、経済界の考え方を述べる機会を頂戴し、感謝をしております。今後の施策のところの具体化に当たりましても、引き続き、実務を担っていく我々企業側の声をお酌み取りいただけますと大変幸いに存じます。
　また、経団連としましても、ＡＩパワードな社会の実現に向けて、官民で緊密に連携をして取り組んでいくという決意を持ってまいります。先生方の御理解を賜りたく、どうぞよろしくお願いを申し上げます。
　私からは以上です。ありがとうございました。

○委員長（和田政宗君）　ありがとうございました。
　次に、大屋参考人にお願いいたします。大屋参考人。

○参考人（大屋雄裕君）　慶應義塾大学の大屋と申します。本日はこのような機会を与えていただきまして、誠にありがとうございます。
　以下、審議の対象となっている人工知能関連技術の研究開発及び活用の推進に関する法律案に対する若干の意見を述べさせていただきます。
　まず初めに、私自身について若干の御説明をすることをお許しください。御紹介いただいたとおり、私は法学部法律学科に所属する教員ですが、実定法学を専門にしている者ではなく、基礎法学に属する法哲学という分野を専攻しております。これは、憲法や民法といった特定の実定法を前提にして、その解釈について議論するのではなく、そもそも法とは何か、何であるべきか、あるいは法解釈に客観的な正解はあるかといったような法全体に対する哲学的な分析を主な任務とする学問分野であります。私自身は、その中でも、情報社会論と申しますか、コンピューターやインターネット技術の発展が法や政治のシステムにどのような影響をもたらすかという問題について、ここ三十年ほど研究を続けてまいりました。
　そして、御承知のとおり、ここ十年ほど、このような議論における重要な新要素となってきたのが人工知能、ＡＩでありまして、私もＡＩの倫理やガバナンスについてこの間多くの論文を書いてまいりましたし、総務省におけるＡＩ開発ガイドライン、ＡＩ利活用ガイドラインや、統合イノベーション戦略推進会議に決定していただきました、人間中心のＡＩ社会原則の策定を目指した議論に参画してまいりました。ただ、令和五年に設置されましたＡＩ戦略会議及びその下部組織の議論には加わっておりませんので、今回の法案には独立の立場で意見を申し上げるということになろうかと存じます。
　そこで、今回の法案に対する評価を一言で申し上げるならば、時宜を得た適切なものであるというふうに私自身は考えております。
　御承知のとおり、近事、急速な発展を遂げているＡＩ技術については、それを適切に利活用した場合には非常に大きなメリットが得られるであろう、あるいは社会全体の効率化に著しい貢献をなし得るであろうということが確実視されており、法案の第三条第二項でもそのように位置付けられております。その一方、それが悪用された場合、あるいはその利活用に当たってプライバシー等の重要な価値が侵害された場合には非常に大きな問題が発生するであろうということも予測されており、これについても第三条第四項で明言されております。
　そこで、この技術をどのようにガバナンスしていくか、副作用を防ぎながら、そのメリットを享受できるように技術発展をコントロールするためにはどのように考えるべきかということが議論の対象になってまいりました。その際、日米欧という範囲においてもその考え方に大きな差があるという点が明らかになってきているわけであります。
　御承知のとおり、欧州連合、ＥＵにおきましては、二〇二四年にＡＩ法と通称される法律が成立しており、順次施行が進められている状況にあります。その特徴は、第一に、官、民といったセクターを分けることなく、また、医療、金融、教育、雇用など様々なセグメントごとに規制を分けることもせず、全てを一本の法律で規制するというオムニバス方式を採用したこと、第二に、様々なＡＩ技術の利活用目的について、その内在的なリスクに応じて四段階にクラス分けし、最高レベルのものについては明確に禁止ＡＩとして位置付けたほか、それ以下についても危険性に応じた安全確保措置を講じるべきことを定めた点にあります。したがって、一定の要件を定めてガバナンス措置を強制し、違反に対しては制裁を科すというハードローアプローチが明確に選択されたということになろうかと存じます。
　これに対してアメリカでは、バイデン政権下において、二〇二三年十月に、ＡＩの安全、安心で信頼に値する開発、利用に関する大統領令が出され、アルゴリズムに由来する差別を防ぐための支援プログラムやガイダンス、消費者、患者、学生の権利を保護し、労働者を支援することなどを目標とする政策実現が、主として行政府内を対象に命じられました。
　また、生成ＡＩを開発している企業の経営者等が集められ、一定のガバナンスへの努力を自主的に行うことへのコミットメントを取り付けるといったような形での緩やかな規制が施行されていたと考えることができます。ところが、第二次トランプ政権の発足に伴い、この大統領令は即日撤回されております。
　今後、トランプ政権がどのような方向性でＡＩ技術のガバナンスを行おうとするかは全く見通せない状況でありますが、この五月九日に連邦著作権局が著作権とＡＩに関する報告書の第三部、生成ＡＩのトレーニングの草稿を公表したところ、その直後に同組織のトップである著作権登録官シラ・パールマター氏が解雇されるという経緯がございました。
　この二つの出来事の関連性についての正式な情報は何もありません。しかし、同報告書案が、単なる分析や研究ではなく、市場で競合するコンテンツを生成するために既存の著作物を学習に用いること、特に違法なアクセスを通じて入手したコンテンツを用いることは著作権の例外として許容されるフェアユースの限界を超えると指摘し、ＡＩ学習に対し否定的な方向性を示したとされていることからは一定の示唆が得られる可能性があります。
　さて、これらに対し我が国はこれまでどのようなガバナンス方法を模索してきたかというと、これはマルチステークホルダープロセスという言葉でしばしば表現されております。
　すなわち、ＡＩ技術の研究者や開発者、あるいはそれを利活用する企業を一方に、インターネット利用者の団体や技術発展の影響を受けるであろう消費者、高齢者などの団体をもう一方に、そして、私を含めた法律学、経済学等の有識者を更に加えまして、これらの関係者が一堂に会したところで議論を行い、一定のコンセンサスを得た上で、それを基にガイドラインとして内容を取りまとめていくというソフトローアプローチであります。
　さきに言及した様々なガイドラインも、このような関係者間での広範な議論に基づくコンセンサスを通じて形成されてきたものであり、あらかじめ議論に参加していることから得られる結論への納得感といったものを一つの契機として、関係者の自主的、自発的な遵守の尊重にまずは期待するという方向性であります。
　その背景としては、大きく二点ほど指摘しておくことができようかと思います。
　第一は、やや悲観的な話ですが、ＡＩの開発も含めて巨大ＩＴ企業の多くはアメリカにその本拠を置いているグローバル企業であり、それに対して我が国が単に法的な強制力のみを根拠として一定の規制に従わせることが本当に可能かという問題。
　彼らにしてみれば、技術開発やサービス提供の拠点を日本から撤退させるとか、あるいは、過去にオーストラリアやカナダでいわゆるニュース税の導入、すなわち、これらのＩＴ企業が既存マスメディアの報道を利用して独自のニュースサービスを利用者に対して提供した際に一定の使用料をメディアに対して支払うことを義務付けるという制度を構築しようとした際、グーグルやフェイスブックが当該国家の領域におけるニュースサービスの提供を打ち切るという事態が発生したように、日本でのサービス提供も打ち切ってしまうということが常に選択肢として存在しております。
　我が国の企業活動、市民生活共に、あるいは政府を含めた公共セクターの活動も含めて、これらの巨大ＩＴ企業が提供するサービスに依存している状況でそのような危険を冒すことは賢明か、むしろ、彼らも含めた当事者が納得し、遵守できる規制の在り方について共に模索することの方が賢明なのではないかというのが第一点であります。
　第二は、別の方向で悲観的な話ですが、そもそもＡＩ技術の現状を正確に理解し、その将来的な発展の方向性を予測し、それらを踏まえて適切な規制をデザインすることなど本当に可能かという問題であります。
　その際に重要なのは、ＡＩ技術はなお全体として萌芽的な段階にあり、急速に変化しつつ、状態であるということ、また、従来の巨大科学技術のように、専門的な知識、経験が被規制側に偏って存在しているというのも事実ではありますが、それ以上に、開発や利活用を行っている企業などの当事者自身にもその将来については予測し難い状況にあるということであります。
　前述したＥＵのＡＩ法の原案が欧州委員会から公表されたのは二〇二一年四月ですが、その後、成立に至るまでに相当の期間を要しております。これは、その間にステーブルディフュージョンやチャットＧＰＴといった生成系ＡＩ技術が急速な発展と普及を遂げたところ、これが規制のスコープに入っていなかったために大規模な修正が必要になったからと報道されております。
　ハードローによる規制においては、その対象となる技術それ自体や利活用方法について明確な要件として規定することが必要となるところ、例えば二〇二二年末からの二年強で生成系ＡＩはこれだけ急速に進歩し、企業の現場などにおいて利用されるようになると予想していた人は、ＡＩの専門家も含めていなかったのではないかと思います。
　この専門家を含めてという点が重要であって、従来想定していたような巨大科学技術、典型的には、原子力発電のようなものであれば、高度の能力を持った専門家が電力会社やその研究所には多数存在し、何をすればどうなるかということは理解できていたわけです。その割にあのていたらくかという御批判は当然あり得ようかと思いますが、一応はそういうことであります。
　それに対し、規制側の官庁において同等の能力を備えることは、研究者にとってのインセンティブという面からも処遇の面からも難しく、その状況で政府の側が適切な規制をデザインすることは可能かということが問題として意識されてまいりました。
　ところが、ＡＩについては、もちろん実際に開発などを行っている企業側には規制者である政府より豊富な知識と経験が備わっているものの、彼ら自身も技術発展の方向性やスピードを予測できていないというのが実態だと思われます。このような状況において適切なハードロー規制を考えることは輪を掛けて困難だというのが私見であります。
　そこで、今回の法案ですが、これは、一言で言えば、このソフトローアプローチを継続するということをハードローとして規定したということになります。
　既に御覧いただいているとおり、この法案は、第三条において目指すべき方向性を基本理念として示した上、国、地方自治体、研究開発機関、活用事業者、そして国民について、それぞれの立場から基本理念の実現に向けて努力し、貢献し、相互に協力していこうということを第四条から第九条にかけて規定し、その後、第十一条から第十七条までに取るべき施策の方向性を列挙した上で、必要な施策を講じるべきことを定めるというプログラム規定を置くものです。言い換えれば、新たに事業者や国民に法的な義務を課すものではなく、何かを禁止することもなく、これまでも関係者間で合意形成してきた方向性でそれぞれが自主的、自発的に努力しようと呼びかけるもので、具体的に講じるべき措置や避けるべき対応については引き続きガイドラインにより示していくということになろうかと思います。
　あえて言えば、人工知能戦略本部を設置し、人工知能基本計画を定めるということを明言した点と、第十六条ですが、国民の権利利益の侵害が生じた事案について政府が分析や対策の検討を行い、その結果に基づいて指導、助言、情報提供を行うべきことを定めている点が新たな対応と位置付けられるかと思いますが、この調査権限についても、民間事業者に対しては協力を求め得ることが第二十五条第二項において定められているにとどまります。これまでと同様、必要な場合には関係者のコンセンサスに基づく対応を行うという方向性であり、ＥＵのように特定の正しいガバナンス手法を強制するわけでもなく、アメリカのように自由放任主義を取るわけでもないという意味では、その中間に自らを位置付けたものと言えようかと思います。
　現在、様々な事情によりＥＵとアメリカの政策的志向が大きく分裂しつつあるという状況がありますが、ＡＩのガバナンスを適切かつ有効に行うためには、日米欧の間で相互に協力し、互いの施策の相互運用性を確保していくことが必要不可欠であると私自身も考えておりますし、そのような考え方に基づいて、二〇二三年広島サミットを契機として広島ＡＩプロセスの取組が進められているものと認識しております。そのような国際的ハーモナイゼーションに積極的に貢献することを目指す我が国として、極端な立場を取らず、関係者の合意と自主的な協力を呼びかけることには十分な正当性があると考えるところです。
　あるいは、今後、ＡＩ技術の発展がある程度安定し、どのような分野においてどのような利活用をどの程度規制すべきかということについて、関係者の一致した見通しが成り立つという事態が到来するかもしれません。あるいは、ＥＵのＡＩ法における禁止ＡＩの類型をその一例と考えることもできるかもしれませんが、その段階に至った場合には、より積極的かつ明確なハードローによる規制を考慮すべきであるとは考えております。しかし、それは現在の話ではなく、現時点において我が国が採用すべき枠組みとしては妥当な内容がこの法案には示されていると考えます。
　以上から、本法案については適切なものと考えているという結論を再度述べさせていただきまして、私の発言を終わらせていただきたいと思います。
　ありがとうございました。

○委員長（和田政宗君）　ありがとうございました。
　次に、市川参考人にお願いいたします。市川参考人。

○参考人（市川類君）　御紹介ありがとうございます。一橋大学、東京科学大学で特任教授をしております市川と申します。
　まず、参考人としてお招きいただきまして非常に光栄に存じます。
　私は元々は、長らく霞が関で役人をやっておりまして、役所の中でもずっと長らく技術とかイノベーション政策に取り組んでおりました。その中では、デジタルとかＡＩ技術もその際にもやっておりました。その関心が高じて、今では大学でイノベーションとかＡＩ政策に係る教育研究に取り組んでいると、こういう立場でおります。
　私のそのイノベーション政策の関心といいますと、どういった研究開発をやるかというよりは、むしろ、社会とイノベーションがどういう関係にあるのかと、こういう関心がありまして、一つは、もちろんどういった社会であればイノベーションが進むんだろうと、こういう話もあるんですけれども、もう一つは、技術、イノベーションがどんどん進んでいく、そうするといろんな制度ができてくるよねと、それがどういうふうなメカニズムで動くのかという、こういう関心を持っておりまして、特にＡＩ政策は、リスクのガバナンスも含めてそういったところが動いているものですから、かれこれこの十年くらいずっと世界のＡＩガバナンス政策の動向を見て、世界各国がどういうメカニズムでこういうことが議論され、動いているのか、その中から学び取れることは何かと、こういうことをやっておりました。
　今回、本法案に関しましては、先ほど大屋参考人と同じく、私自身は政策立案とか戦略会議とかには全く参加しておりませんので、元役人であるということも含めて、忖度するつもりは全くないのですけれども、原則としては評価、現時点のものとしては評価できるものではないかなという観点から、まず、特に論点になるような三つのポイントと、あと今後取り組むべき課題として、たくさんやることはあると思うんですけど、余り議論されていなさそうだなという点を三点ほど意見を述べさせていただければなというふうに思っています。
　まず、これはもう皆さん、各参考人の方々がおっしゃっておりますけれども、今回、ＡＩ戦略本部をつくるということになっておりまして、これ自身については、やはり昨今のＡＩ技術の重要性の増大、それからそれの社会的なインパクトの大きさを踏まえると、非常に適切なものなのではないかなと思います。
　ＡＩ政策全体で申し上げますと、実はこの数か月くらいで世界が大きく変わっております。チャットＧＰＴが出た後、二〇二三年、二四年は、何かすごい技術が出てきたよね、そのためにこれちょっと規制しないと危ないんじゃないかというのが特に欧米を中心に動いていましたが、二五年になってから大きく方向が変わっています。
　それは、もちろんトランプ政権になって方向転換されたのももちろんなんですが、欧州も、今や英国も含めて、世界各国、ＡＩ技術を使って自国の産業競争力を強化しようという方向に全て動いてしまっています。もちろん、ＡＩガバナンスは引き続き重要なんですが、こういったすごい技術の政策の流れの中、かつ、もう言うまでもなく、世界各国、主要国は今イノベーション政策の最重要政策としてＡＩ政策を打ってきております。アメリカももう一丁目一番地になっています。という流れの中で、日本がどうするかということになっております。
　日本の政策体制につきましては、チャットＧＰＴが出てきた二三年以降、ＡＩ戦略会議も含めて、体制は整ってきているとは思うんですけれども、過去から踏まえると、実は日本でＡＩ戦略を作ったというのが二〇一七年のＡＩ技術戦略なんですが、これは非常に世界的にも早い戦略を作っているんですが、その後、体制が変わり、また一から作って、ＡＩ戦略二〇一九を作り、また審議会の体制を変え直して二〇二二を作った。それぞれは非常にいいんですけれど、事務局の体制も含めて非常に不確実なところで動いてきたかなというところの反省が個人的には外から見ていて思います。そういった中で、今回法定をして、位置付けをしてきたというところには非常に意義があるんではないかなと思うのが一点目でございます。
　それから二点目でございますけれども、今回法案の中にＡＩガバナンスに係る政策の方針を明記したということは非常に重要だと思います。
　その際、やはりもう当然、ＡＩ技術というのは非常に有用な技術である一方、それがゆえに、すごい強力であるがゆえに、使い方によってはリスクが生じる。リスクというのは、いいことに使ったつもりなんだけど悪影響してしまったという非意図的なリスクと、これは何でも使える技術なんで悪い方に使うという人もいると、この両方のリスクをどう抑えるかというこの二つになってくるわけですけれども、それに対して対応していくということが重要なんですが、やはりＡＩ技術というのは、何でも使えるという技術、汎用技術と言われますけれど、ということと、それからもう一つは、どんどんやっぱり技術が進んでくるので、いろんな使い方が更にどんどん増えてくる、こういう話になってきて、事前のリスクを特定するというのがかなり難しい、絶対ゼロとは言いませんけど、難しいというのがあります。
　例えば、ＡＩが、第三次ＡＩブームが出てきて、ＡＩがすごいぞと、ディープラーニングがすごいぞというのが出てきて、これは面白いと言いつつも、やっぱりＡＩ倫理が重要なんではないかというのが二〇一五、六年くらいからもう議論が起きています。
　で、何かもうありそうだよねと言いながら、例えば、二〇一八年に欧州が一番初めのＡＩリスク、当時、ＡＩ倫理なんですけれども、レポートを出しているんですけど、そのとき書かれているリスクの内容というのが、自動運転のトロッコ問題が問題じゃないかというのが筆頭にあるんですね。今議論されているようなＡＩリスクは当時はやっぱり予想できなかった。その後、中国で社会スコア、社会的スコアみたいなの使ったり、あるいは監視カメラを使って人を追跡したりしているのを見て、欧州では、あんなことに使ったら駄目じゃないかといって法案に記載し、アメリカで黒人を差別しているようなＡＩが出ているといって、それは駄目だといって法案出して、その後、二〇二一年にＡＩ法案ができたと、こういう流れになっています。
　なので、やはりアンテナを高く張って世界各国の事例を見ていくというところは非常に重要なんですけれども、完全に事前から予測できることはない。したがって、やらなきゃいけないのは、できるだけアンテナを高く張ってリスクを見つつもアジャイルに対応していくという政府内体制をつくっていく、これらをちゃんとやっていくということが非常に重要という意味で、今回の法案のところはそこが書かれているという意味でいいかなと思っています。
　それから第三点目でございますが、先ほど大屋参考人からも話ありましたけど、やはり規制をどうするのかというのは非常に大きな世界的な論点になります。
　これは、一つは、ＡＩといったときにかなり文化的な、によって見方が異なるというのを私は見ております。ＡＩって、工学的に考えると、人間が目標なりインプットを入れて、それに対して期待するようなアウトプットで出してきて、場合によってはそれに基づいて行動を行うような機械、システムなんですね。それがもちろん間違った使い方をすると変な結果になるし悪影響を及ぼすというのは先ほど申したとおりですけど、もう一つの見方があって、これは、ＡＩって人工知能だろうと、知能だよねと、人間の知能に匹敵するようなのが今後出てくるんだろうと。そうすると、人間社会を壊してしまうんじゃないかというやはりイメージを持ちます。本当にそうなるかというのはもう専門家たちが山のように議論しているが、答えというのは出ていません。
　だから、やはりそれをすごく気にすると、ＡＩの開発自体をちゃんと規制しないといけない、ＡＩ自体ですね、使い方以前にという話が出てきて、その中でＡＩ、規制をしなきゃいけない、不安があるし、規制をしなきゃできないというのが特に欧米で議論がなされています。
　一方で、内閣府の資料を見ると、日本では、何でしたっけ、社会的にＡＩに対する不安感がある。これは、ちょっと私、どうやって調査をしたかは完全には理解していないですけど、あり得べしだなと思っておりますが、先ほどのようなそのＡＩが何か人類を超えてしまうから怖いというのでは多分ないと思っていて、これは、ＡＩに限らず新興技術が世の中に出てくると、やはり何か怖いよねと思うのは社会としての当然の反応として出てきます。
　特にそれは、若い人は全く気にしないんですね。どんどん技術を入れていこうというところがあるんですけど、ここでダグラス・アダムズの法則と書いていますけど、若い人はどんどん技術を取り入れていくんですけど、やっぱり中高齢者は今までの技術でいいんじゃないかという思いがあるので、そうすると技術に対して否定的になる、したがって社会受容性が落ちるということが言われています。
　当然ながら、日本というのは一九七〇年代くらいは若い人がすごく多かったので、日本って新技術をどんどん取り入れる国として世界的に有名だったわけですね。が、今はもう、これは自慢してもいいのかもしれないですけど、日本は高齢化社会です。だから、その際に、やはり新技術に対して否定的なところが、側面が出てきているだろう、その中でどうしていくのかというのが多分我々に掲げられた課題の一つではないかなというふうに思います。
　そういった中で、いろいろＡＩの規制については、私ここに書きましたように五つくらい、最先端ＡＩ技術をどう規制するのか、あるいはＡＩ一般全体の使い方についてちゃんとガイドラインを作っていくのかという話と、特に重要技術の分野で、ＡＩに置き換えると変なことしてしまったらまずいよねって、この辺りの話、それからあとは、データコンテンツ、著作権とか個人情報保護法とかこういったところが今のままでいいんですかって議論が当然出てくる。刑法に関しても、今まで想定してこなかったような悪用が、使われる、悪用されるんじゃないですか、そうするとどうするんですかというふうなところがある。
　特にこの三、四、五みたいなことは、今後ＡＩ戦略本部でどう議論していくかというところが課題だと思っていますが、特に一みたいなＡＩをどう規制するかというような話は、この三の動きの中で、カリフォルニア州でも提案されたけど否決になり、欧州はもうＡＩ法を作っちゃいました。ただ、今、ＡＩ法を作ったそばからＡＩの手続の、法の手続の簡素化だという形に振れておりまして、かなり時代の流れで法規制という、現時点での法規制というのは難しい状況になっているのかなというのが私の理解です。
　という以上の三点を踏まえて三点ほど、今後の重点課題という形でまとめさせていただきました。もちろん、いろんな施策はこれまでも行われていると思いますが、その中でも余り議論されていないかなという点を挙げたつもりでございます。
　一つは、やはり今回ＡＩ法を出したということは、何で出したかというと、やはり社会的にＡＩという技術が非常に重要になってきている、じゃ、そのときに、政府はどうしているんだという話をちゃんと取り組まないといけない課題なのかなというふうに思っています。
　今回、ＡＩ戦略本部ということができて、これをちゃんと動かすことも重要なんですけど、やはり国家全体としてＡＩをどう位置付けるかというふうな、もう少し俯瞰的な立場からＡＩ以外も含めた戦略をちゃんと進めていく必要があるんだということを思っているのが一点ございますし、あとは、もうこれも、今回ＡＩガバナンスとしていろんな体制、関係省庁間との連携をやっていくということは、これは重要なんですけど、その際にも、もうたくさん言われているので言う必要はないかと思っていますが、アジャイルガバナンスをどうするか、マルチステークホルダープロセスをどうやって実現していくのか、これは当然課題です。
　それに加えて、やはり重要な話としては、政府自らがちゃんとＡＩの利活用を促進していくということの重要性について触れたいと思っております。
　今まで、例えば経産省とかが、民間の研究開発とか、ＤＸ、ＡＩ含むＤＸの推進とか、あるいはガイドラインの策定とか、こういったことをして、民間にやれやれと言っているわけですが、じゃ、振り返ってみて、政府がどれだけやっているのかといったところでいうと、いろんな評価はあるんでしょうし、最近デジタル庁が取り組み始めたというところもありますけれども、政府がまずＡＩ頑張っているのというところが非常に重要なところの論点なのではないかなというふうに思っております。
　本来はやはり、またアメリカとかで見ていくと、もちろんそのアメリカの政策の対象が、やはり政府自らのところが一番やりやすいというのは当然あるんですが、やはり、まずやるのは、政府でＡＩ人材をどんどん活用していって、政府内のＡＩを促進し、調達を通じて民間企業に促進するという、そういった戦略が大きく書かれているわけですね。そういったところが非常に重要かなというふうに思っております。
　あとは、ＡＩの外交体制というのが非常に重要です。
　日本の産業競争力は遅れているといいますけれども、実は、国際外交のところで見ると、広島ＡＩプロセスも含めて、日本って非常によくやっているんではないかなというふうなところが評価をされているんではないかと思います。これをやっていく際には、またやはり役所の体制をちゃんと強化していく必要があるのかなと思います。
　最後、時間もなくなりましたのでまとめたいと思いますけれども、これは皆さんも言っていますように、やはり人材が、ＡＩ戦略って基本的にはもう研究、コンピューター資源を整備し、データを整備し、人材をして、あと、ベンチャーと利活用促進策をつくれば大体仕上がるわけですが、日本に関しては、単にＡＩ人材が全くやはり律速、ＡＩの進め方にあって律速になっているということと、若者人口が減っているという、そういう流れの中で、あとは先ほど言ったように、やはり高齢者にちゃんと理解してもらう、あるいは高齢者も使っていく、かつＡＩを使っていくという世界をつくっていくには、実はＡＩ戦略の今人材戦略というのは、ＡＩ戦略、二〇一九年のとき作ったもので、それが二〇二五年に切れることになっているんですね。そういうことを踏まえますと、やはり新しい戦略本部が人材、広い意味での人材をどうするのかということが重要なんではないかなと思います。
　時間を超過して申し訳ございませんが、以上で終わらせていただきたいと思います。ありがとうございました。

○委員長（和田政宗君）　ありがとうございました。
　以上で参考人の御意見の陳述は終わりました。
　これより参考人に対する質疑を行います。
　なお、質疑及び答弁は着席のままで結構でございます。
　質疑のある方は順次御発言願います。

○山本啓介君　ありがとうございました。
　それぞれの参考人におかれましては、本日の出席はもとより、これまで、お話を伺えば、長年にわたってこの分野で政府又はそれぞれのお立場で大変な御尽力をいただいておることがうかがい知れました。改めて心からの敬意を表したいと思います。
　その上で質問をしていくのは、この法律案の中身について今参考人の方々からお話を伺ったことを質疑していくわけですけれども、非常にちょっと興味の湧く話ばかりだったので、法案を離れて興味本位で聞いてしまわないように何とか戒めていきたいんですが、ただ、時間は限られておりますので、ちょっと大変失礼な物言いですけれども、お尋ねしますが端的にお答えいただきたいというふうに思います。
　まず、市川参考人からお伺いしたいんですけれども、総じて皆さんがおっしゃっていた話というのは、広島プロセスのことも含めて、我が国の政府のこのルールメーキングについては、非常によくできている、取り組んでいる、また今回の法案についても、評価するとか高いということ。しかしながら、今後取り組む内容のポイントというのは、まずは国が動くということ。安全性についても、国が動くことによって、官民の連携によって、国民にそういった部分を知っていただく必要性があると。しかしながら、しかしながら、原則、この分野は日進月歩というよりももっと速いと。だから、今のリスクがずっと置いてきぼりのリスクになることはないという話だったと思うんですけど。
　しかしながら、その中でも、市川参考人のお話であったんですけれども、それでも、そのときはそのときでしっかりと分析をして、リスクと捉まえて、しっかりと立ち止まってやっているんだというお話があったと。今、一番直近のリスクは何なのかということを少し、一言いただければと思います。

○参考人（市川類君）　御質問ありがとうございます。
　直近のリスク、ＡＩに係るリスクという御質問ですが、これはやはり多様なものがあります。
　ＡＩのリスクというときに、私はいつも考えているんですけど、ＡＩを使って、いろんな分野で使われるんですけれども、ＡＩだけのリスクではなかったりするかなというふうに思っています。
　その前提でお話をすると、世界的には、今、先ほど言った①のところですね、先端的なＡＩというのが今後、将来怖いんじゃないか、そのために規制をしなきゃいけないというのがやはり世界的には大きな課題です。
　一方で、現実でも、今後、怖いというよりもリスクが生じているという点でいうと、日本でいうとやはり偽情報、誤情報みたいな問題、これはＡＩだけというよりも、ＡＩを使ったものがデジタルプラットフォームで共有されて問題になるという、そういったところの使い方の全体の流れの中でどうするかとか、あとは、その一環でございますけれども、例えばディープフェイクみたいな話とかがやはり世間的には関心のある重要な話かなと思っています。
　ただ、それ以外にも、やはり、例えば重要なインフラとかで使う際にＡＩの信頼性は大丈夫なのかとかいうのは、もう個別の各分野では非常に重要になっている課題かなというふうに思います。
　以上です。

○山本啓介君　ありがとうございます。
　そういったリスクについても、しばらくするともう過去の考え方になってしまう可能性もあるというところも先ほどの説明で十分分かったんですけれども、基本的にやはり人間が開発して考えていくものでありますので、人間が取り得る対応というのは、これを一つの技術として取り続ける以上はさほど大きな脅威にならないのかなと。しかしながら、しかしながら、やはり物理的なものにつながったり、あと、オートマチックに判断を行う、そういったものを作ったならば、恐らく脅威になっていくのかなというふうなことは感じました。
　今回の法律の中身というのは、日本のＡＩ開発、活用がまず遅れているという前提に立った上で、多くの国民がＡＩに対して不安を持っている、そのことについては、先ほど申し上げたとおり、皆さんは、官民の連携の前の、国が動くということでクリアされていくんじゃないかというふうな話をされました。
　次に、大屋参考人にお尋ねしたいんですけれども、欧米の動きですね、日米欧の中で、欧米の動きで、やはり少し強制的な取組になっていったヨーロッパに対して、米というのはやはりビジネスの観点というものが、まあちょっと柔らかにソフトランディングしていこうと。
　日本というのは、そういった事柄も含めて、関わる方々全体がこの議論に参画したことによって、一定柔らかい状況を維持しながら、さっきから言うように、どんどんどんどん更新されていく技術だったり、どんどんどんどん更新されていく想定されるリスクというものにそのときそのときで対応していく、そういった部分で、社会全体が、これは国民性もあるんだと思いますけれども、そういった捉まえ方のルールが今回もできているんだと思う。これが、広島以降の議論の、世界的な議論の中においても日本がリードする一つの余地になっていくのかなというふうに私は感想としては思いました。
　そういう考え方においた場合、今後、その開発研究が発展していく、これをグリップすることは当然やっぱり大事なことだと思うんです。我々はそれを法律で定めようとしているんですけれども、その観点についてもう少し補足で説明をいただきたいと思います。

○参考人（大屋雄裕君）　お答えいたします。
　おっしゃるとおりで、きちんと現状を把握しながら、やるべきものはやっていかなければいけない。しかし、何をやるべきかということを一番よく理解しているのは研究開発の当事者であります。したがって、まずは研究者、開発者自身が、これはやってはいけないということを深く自覚していただくことが非常に重要である。その次は、例えばそれを、利活用企業であれば、企業の経営者層あるいは法務等のガバナンス部局が、やってはいけないことを技術側がやろうとしていたら止めていただくということが必要である。
　これら、現場に近い側からガバナンスを利かせていき、それが全く効果がないとか、あるいは、そもそもそういうことを考えない企業という不届きな存在が出てこないように国の方できちんとグリップする必要があると。逆に言うと、そういうことをきちんとやれる優良企業に対して国が余りその行動を制約すべきではないというふうに考えているので、法律の在り方もそのように設計すべきだというふうに考えているということでございます。
　以上です。

○山本啓介君　ありがとうございます。
　そうする場合、ややもすると少しビジネス先行になっていく、経済的なものがうまくいけば国の発展に資するというところが先行し過ぎると、こういう国民生活や国の安全保障に関係する事柄については少し結果と異なるものになってしまいがちかなと。
　先ほど少しアメリカと日本の状況についてお話しいただいたときに、我が国においてはなかなか、巨大ＩＴ企業というのはほとんどアメリカのもの又は海外のものが多くありますと。それらをビジネスのテーブルで議論すると、撤退されたり打切りをされたりというふうな、アメリカ側の判断というものに委ねなきゃいけないところが、そこを何とか我が国国内のルールを世界的なルールの中に落とし込んでいって世界的な共通の価値観をつくっていくということができれば、そういったアメリカの巨大なＩＴ企業についても国内のこの日本の価値観の中でのルールでできるんじゃないかという説明だと私は、ちょっと乱暴なんですけど、そういう理解をしたんですけど、その辺についてはいかがですか。

○参考人（大屋雄裕君）　お答えいたします。
　まず、そのとおりだと思っております。
　そして、まず巨大ＩＴ企業には、やはり一億二千万人がいる巨大市場としての日本というものに真面目に向き合うインセンティブはあるはずであります。また、我々が彼らのサービスを安心して使えば使うほど彼ら自身がもうかるという、共存共栄の関係が本来はあるはずであります。それを我々も信じているし、だから我々に誠実に向き合っていただきたいというメッセージを発することがまず重要なんだと思っております。
　ただ、安全保障についてはちょっとそのような共存共栄の関係とは違う側面が出てこようかと思いますので、それについては別に考えなければいけないと思っておりますが、私自身は、その点はこの法案のスコープからは若干外れるのかなと思っているということでございます。
　以上です。

○山本啓介君　ありがとうございます。
　そういった取組を世界に発信していくにおいても、今回この法律の中に定められている、内閣総理大臣を本部長として全閣僚を構成員として置いているＡＩ戦略本部の位置付けであるというふうに私も理解しています。
　ただ、安全保障の観点と経済的なビジネスの世界とを、それらをおいても、やはりこのＡＩの技術というのは我々の生活や物事の考え方を大きく変化させる。先ほど少し市川さんのときも話しましたけれども、物理的な行動や自動的な判断をＡＩに委ねなければ、人類に対する影響はさほどないだろうというふうに私は思っているんですけれども、ただ、そのＡＩの判断が世界の常識をつくったときに、我々の持っている価値観だったり歴史観だったり人生観といったものも影響を受けるわけですから、物理的なものがなくてもやっぱり人類は影響を受けてしまうのかなと。
　そういったもので、世界の常識までこのＡＩを引き上げていくことはやはり良くない、こういったところを少しストップしていくこと、これが国内の中において自然に、先ほど参考人がおっしゃった、私は緩やかな状況を維持しながらという表現をしましたけれども、しながら関わりのある人たちに理解を求めていく、納得感をつくっていく、そしてそれを官民の取組を通じて国民全体に、また世界のルールとして位置付けていく、こういう動きというのは可能と思っていらっしゃるわけですよね。

○参考人（大屋雄裕君）　第一に、これまでその努力はしてきましたし、それなりの成果は上がっているというふうに認識しております。第二に、それはできるかできないかというより、やらねばならぬことだというふうに私自身は認識をしておるということでございます。

○山本啓介君　ありがとうございます。
　その上で、やらねばならぬの、まあ経団連の代表でといったらおかしいでしょうけれども、経団連の代表でお見えいただきました永沼参考人にお尋ねしたいんですけれども、健全な競争能力というのは維持しながら、開発、提供、利用というこの三つを今後やっぱり進めていかなきゃいけない。しっかりとした取組があるからこそ、そしてそこに安全保障の観点も入れながら、さらにはしっかりとした人材を確保しているからこそ国際的な信用というのも高まっていくんだと思います。
　国内においてこういった取組が確立していく先に国際社会においてのルールメーキングのリーダーともなり得るんだと思うんですが、先ほどちょっと少し説明の中で触れられましたＤＦＦＴの国際的なこの我が国への信頼、勝ち得ていく、その取組についてもう少し補足して説明をいただけますか。

○参考人（永沼美保君）　ありがとうございます。お答えをいたします。
　今おっしゃったとおりでございまして、やはり民間も我々の、まあガバナンスというところが、今回ＡＩのガバナンスという言葉、いろいろ各所で出てきておりますが、やはり自主的に我々が自分たちを律していく、その中の共通のガイドラインというか、するべき指針といったようなものにやっぱり従っていく、その中で、それに準拠した形で、我々は基本的にルールを社内の中にも、組織の中にもルールを持って運用するというところがまず必要になってくるというのが、最初の前半部分のところに私の方でも賛同する点でございます。
　それからもう一つ、御質問のありましたＤＦＦＴ、この信頼あるデータの自由な流通に関しましては、これは、これから議論がもちろん活発化していくものであるというふうに考えます。そもそも、こちらもサミットのところで、ダボスですね、ダボスのところで日本から提唱したものでもありますけれども、このプライバシーですとか、それから、基本的にはプライバシーですね、プライバシーであったりセキュリティーといったようなところを確保しつつ、今までどうしてもデータというのを抱え込むというような形になりがちだったところを、信頼のできる関係者間のメカニズムの中では、そういったようなところの担保をしつつ、技術的にプライバシーであったりとか、そういったようなトラスト部分のところの技術を確保しながら利活用を進められないかというところがこちらの基本のベースの話であるというふうに私どもは捉えております。
　で、越境データの部分のところになってきて、そうはいっても、やはり各国の法令が違ったりとか、やはり現実問題のところの課題は今ありますが、今そこのところを政府の皆様を中心に、また国際機関を中心に議論が進められているというところで、我々民間からも、特に経団連も含めてでございますが、民間の課題は何か、特に、非常に政府の方々の目線のところとそれから我々の実務のところの部分を埋める形で何か日本からそういったところに貢献できることはないかというところを議論をしているというところでございます。
　以上でございます。

○山本啓介君　ＡＩに関してもそうでありますし、デジタルの技術もそうでありますけれども、もうそんなに新しいものではなくて、長い年月掛けて各国が取り組んでいて、民間においては、非常に大きな巨大ＩＴ企業などにおいては、もう更なるデータの更新というか、どんどん技術の更新が行われていくわけですけれども、そういう取組の中においても、なおかつ今日御出席の参考人の方々は、こういったルールについてはまだこれからなんだと、日本の取組についてはまだリーダーとしてもやっていけるんだと、これからこの世界観においてはしっかりとしたルールメーキングをやっていく必要性があると。そこにおいてのビジネスのシーンにおいては、各国の信用を得るために今御説明いただいたような取組、ルールを作っていく中で必要になってくると。
　ＩＴの世界がという映画の話のような話をするつもりはないんですけれども、しかしながら、この中にある常識というのが、これからしっかりとつくっていかれるということであれば、やはり日本が世界にリードをしていく立ち位置にならなきゃならない。
　今回の法律、法案の中には、それぞれの立場の方々に責務という形で取り組むことというのが位置付けられています。経団連の、所属されているということも踏まえて、永沼参考人に、この責務の捉えについて少し説明いただけますか。

○参考人（永沼美保君）　ありがとうございます。
　こちらについては、特にルールメークというところの観点でのお話もあったと思うんですけれども、ルールの形成は幾つかのレイヤーがあるというふうに捉えております。
　非常に我々と同じ方向を向く方々との議論であったり、それから民間同士の話であったり、あるいはもっとハイレイヤーな話、例えば国際連合であったりとかそういったようなところでも、いろんなフレームワークとかそういったようなところがやはり議論をされていく中で、やはり、我々民間も含めてでございますが、何が基本的に譲れないものであるかと、ここだけは、この部分というところは担保されなければならないというようなところを明確にして、その上でルール形成のところに官民連携で臨んでいるというところが今一点ございます。
　そういったようなものに対して、そこの議論の中で出てきたルールというところを準拠した上で、そちらの方をやはり運用していくというところにやはり落とし込んでいくというところが我々にとっての大きな責務であるというふうには考えております。

○山本啓介君　時間がなくなってまいりました。
　最後に満を持して、満を持しているのはこっちなんですけども、村上参考人にお尋ねしたいと思いますけど、説明というか、お話の最後の辺りにダイバーシティーという言い方があったですかね。やはりこれは、この世界観においてはまだまだ常識がないということであれば、間違った常識がそこで確立されたならば、人類というのは物理的なものを介さなくてもやはり影響を受けるんだと私も思います。多くの論文を発出している大学のものが検索に引っかかりやすいように、そういう世界観ではあるんだと思います。
　そういったことを踏まえて、このガードレールとなるものを作っていく、取り組んでいく、国が先導してそういったものを構築していかなければならない、そういった説明は非常に分かりやすいものでありました。こういった世界観のルール、日本が今後どのようになお一層トップとしてルールメーキングを果たしていくべきなのか、そういった部分についての説明を詳しくいただきたいと思います。

○参考人（村上明子君）　お答えいたします。
　今、ダイバーシティーというところ、今回の御説明の中では、女性の母数を増やす中での女性の拡大というところで取り上げさせていただきましたが、女性というのはダイバーシティーの一部でしかないというふうに考えています。
　ＡＩの開発というのは、二〇一〇年代に開発者が三十代の白人男性しかいないということが非常に問題になっていました。参考人のどなたかが例に出されていた黒人の差別的なＡＩのシステムができたというところも、そういったことが原因で起きています。
　そういったそのＡＩとしてつくられたものがリスクがあるかどうかというのは多様な見方がありまして、そこをしっかりと、国にとって、あるいは国民にとって害のないＡＩというものをどうつくっていくのかというのは非常に重要なところだと思っています。これに関しては技術的な側面と倫理的な側面という二つあると思っています。
　まず、倫理的に許されないものは何なのか、物理的に許されないものは何なのか。ＡＩがやって駄目なものという以前に、人間としてやって駄目なものというのは法律で罰せられるべき、そして、ＡＩ独自のことで、既存の法律でカバーできないものが当法案で、今罰則はないものではあるんですけれども、しっかりとそこを避けるようにということを責務としてやっていくということが重要なんだというふうに思っています。
　最後に、技術的なところに関しまして言うと、倫理的なところで駄目ということを技術的に捉えられるかというのは別な問題なんですね。そこは技術力が必要になってくるので、先ほど言っていたその人材の確保というところが必要になってくるかというふうに存じます。

○山本啓介君　何か箱庭みたいなものを作っていくような世界観を持っていたんですけれども、やはり人間がつくるというもの、人間が駄目なものはＡＩでも駄目だというところは譲れないし、私ども日本人というのは非常に謙虚な国民性もあります。それこそが世界でやはりルールメーキングしていくにふさわしい立ち位置かなというふうに感じました。
　ありがとうございました。終わります。

○石垣のりこ君　立憲民主・社民・無所属会派の石垣のりこと申します。
　本日は、四人の参考人の皆様、それぞれのお立場から貴重な御意見、誠にありがとうございました。
　今回の法案、そして、昨今、このＡＩを取り巻く様々な話題、ニュースなどを見聞きしておりまして、私、ロボットを研究することは人間を深く知ることだという、このアンドロイドサイエンス、ロボット研究者の一人者の方がおっしゃっていた言葉を思い出すんですけれども、このＡＩ開発においても、ニューロンの数理モデルですよね、脳神経系を基にしてということもありまして、これ基本は、このヒューマンアンドロイドサイエンスにも通じるというか、ベースを同じにするものだなというふうに思っております。
　そこで、非常に素朴な疑問で恐縮なんですけれども、どんなに技術が進歩したとしてもＡＩにはできないことというのを、それぞれの参考人の皆様どのようにお考えになるか、お答えをいただきたいんですが、お願いしてよろしいでしょうか。順番に。

○参考人（村上明子君）　ありがとうございます。
　これは私の私見でございますけれども、ＡＩは人間に寄り添ったり共感するふりはできると思うんですけれども、そこが本当に人間のためになって人間のことを考えているかということを保証できない。これは実は人間関係も同じなんですけれども、機械に関して言うと、相手のことを信じるかどうかというときに、相手の機械を人間と同じように信用できるかというところが、恐らく人間にとってのＡＩが仲間になれるかの違いなのかなというふうに思っています。
　ちょっと御質問の趣旨とは違うかもしれないんですけど、ＡＩができないことというより、人間がＡＩに対しての感情の障壁を今持っているというところが、ちょっと返答とさせていただきました。

○参考人（永沼美保君）　ありがとうございます。
　私も技術の会社におりまして、ほとんどの者が技術の開発者であったりエンジニアの方々でありますので、彼らはいろいろとやりたいというところもあるし、あるかと思いますが。
　ＡＩにはなかなか取って代われないような職業とか、そういった話は昨今いろいろなところであると思うんですけれども、今日のお話のところで一つ、恐らくここはないだろう、人間の関与は絶対に必要になるのは、やはり先ほどから出ているルールメークの部分でございます。
　ここの部分というのは、やはり交渉事があると同時に、これは官でも民でもどんなレベルでもそうだと思いますが、我々はコロナを体験をしまして、その間に世に言うオンラインのみの世界を知ってまいりましたけれども、やはりこの部分のところというのは一つ、こういう交渉事部分のところについて、それからそこを促進していくような、そういうような活動というところは一つ、本日の議論に関するところですと一つあるかというふうに考えております。

○参考人（大屋雄裕君）　お答えいたします。
　ＡＩというのは、特定の評価基準を前提としたときに、それをより効率的に実現する機械だというふうに言えようかと思います。したがって、あらかじめ評価基準が定まっているチェスや囲碁、将棋といったゲームでは、これは人類の大方をとっくに追い越してしまったということになるわけです。
　ところで、例えば現代アートというのはそういうものではなくて、むしろ新たな評価基準を提案する、そういう営みであります。あるいは、法解釈、私の専門領域について申し上げますと、例えばこれまでの判例があるのでそれに沿って判断するという比較的機械化できそうな部分も当然あるわけですが、最高裁判決の多くがそうであるように、むしろこれまでと違う考え方、これまでと違う評価基準というものを積極的に提案するようなものもあるわけですね。
　そのようなクリエーティブな側面というのをＡＩはいまだ成し得ていない。したがって、それは当面、人間の責務として残るであろうというふうに考えております。
　以上です。