村上明子の発言 （内閣委員会）

○参考人（村上明子君）　ありがとうございます。
　ＡＩセーフティ・インスティテュート所長の村上でございます。本日はこのような場にお呼びいただきまして、ありがとうございます。しっかりと意見の陳述をさせていただきます。
　では、こちらのお配りしております配付資料に基づいて御説明を差し上げます。
　まず最初に、簡単に私の自己紹介をさせていただきたいと思いますので、二ページ目を御覧ください。
　私は、先ほど申し上げましたＡＩセーフティ・インスティテュートの所長をしております。そして、民間の立場もございまして、ＳＯＭＰＯホールディングス並びに損害保険ジャパン株式会社でチーフ・データ・オフィサーということで、データの観点からこのＡＩの促進というものを見ております。また、ＡＩ戦略会議の下部組織であるＡＩ制度研究会にも参画いたしまして、座長代理を務めさせていただきました。
　私のキャリアはＡＩの研究者から始まっておりまして、ＩＴの会社で長年ＡＩのＲアンドＤに関わってまいりました。ＡＩの研究者、そしてソフトウェア開発というふうに立場を変えまして、五年前に転職をいたしまして、事業会社でのＡＩの活用をしております。そして、一年少し前に立ち上がりましたＡＩセーフティ・インスティテュートで初代の所長をさせていただくということで、政府の立場も今持っております。
　また、一市民といたしましては、民間ボランティアでＩＴを用いた防災・減災といった活動もしておりまして、このような多様な立場から、近年急速に発展してきたＡＩに関して、安全性への不安というものも交えながら意見を述べさせていただきたいというふうに考えております。
　本日は、本法案に関して、下記の、今から述べます三つの観点から御意見をさせていただきます。一つ目は、ＡＩの安全性に関することと国際的な動向ですね。二つ目が、国際整合性を踏まえた制度設計の重要性について、そして三つ目は、それを支えるためのＡＩの国としての戦略と人材確保、育成の重要性についてでございます。
　まず、法案への意見に入る前に、日本におけるＡＩ活用の重要性とＡＩの安全性について御説明をさせていただきたいと思いますので、配付資料の三ページ目を御覧ください。
　この日本におけるＡＩの活用といったところで一番重要なものといいますのは、私も民間の立場で経験しておりますけれども、一番はＡＩを用いた効率性の確保ではないかというふうに考えています。日本は人口が減少しておりまして、それに伴う労働力の不足に耐えるためには、仕事の効率化、今日している仕事を今より少ない人数でするということが非常に重要になってまいります。
　しかし、残念なことに日本の労働生産性は世界的に見て高い方ではありません。二〇二三年のデータではございますけれども、先進主要七か国、Ｇ７で最下位、そしてＯＥＣＤの中でも二十三位という、褒められた成績ではございません。また、ＯＥＣＤは二〇二三年に、日本企業のデジタル化、そして自動化投資の遅れを指摘して、ＡＩなど先端技術の積極的活用を通じた生産性向上というのを提言してきております。
　この生産性がなかなか向上しない理由といいますものの一つに、日本の企業文化というのがございます。保守的、前例踏襲的といったことでございますけれども、これが組織間のサイロを生んで、サイロ的断絶を生んでしまいます。この組織間の断絶というところがガバナンスの欠如というものも招いてしまいまして、このガバナンスの低下というのは技術の導入によるリスクを上昇させてしまいます。このＡＩのような新しい技術を導入することを避けるという負のスパイラルに入ってしまっているというのが日本の産業界の現状だというふうに思っております。
　これを打破するためには、書かせていただいた二つの施策というのが重要になってくると思います。一つとしては、国としてのＡＩ戦略を明確化すること、そして二つ目としては、安全に関する情報の提供でございます。
　やはりＡＩというものというのがなかなか、ＩＴをなりわいとしていない企業に関しましてはえたいの知れないもの、不安なものということなんですけれども、これを国あるいは自治体が率先して利用していくことでＡＩの活用による効果というものを見せていく、そして、ＡＩのイノベーション、国内のイノベーションにつなげていくためには、骨太のＡＩ戦略というものを継続的に打ち出し続けていくという必要がございます。毎年毎年ＡＩを取り巻く状況は変化しておりますので、こちらの継続的に見直していくということが必要です。
　この本法案の第十九条において、内閣に人工知能戦略本部を置き、そしてそのＡＩの活用推進に関する施策というのを統合的に見ていらっしゃるという条文があり、この内閣に設置される人工知能戦略本部に期待したいところでございます。
　また、ＡＩの安全性に対する情報の提供です。やはり、ＡＩに対する安全性に関する不安というものが、このＡＩを活用していくことの障害になっているというふうに考えられます。そのためにも、この本法案の第三条の四に記載されております、人工知能関連技術の研究開発及び活用の過程の透明性の確保その他の必要な施策を講じるといったところに宣言されたもの、これを実行していくということは重要でございます。
　私が所長をしておりますＡＩセーフティ・インスティテュートはこの部分にしっかり貢献をしていくというところでございますけれども、やはりこの透明性の担保あるいは安全性の技術的なところというのは、非常に技術力も、それから調査能力も必要でございます。こちらを私どものＡＩセーフティ・インスティテュートで内閣設置の戦略本部の下進めていくということが重要と考えております。
　また、ＡＩというもの、国境ございませんので、国境を越えた利用というものが非常によく行われます。そのため、国境を越えた企業活動のための国際整合性、非常に重要になってまいります。また、その最先端の技術を理解し続ける、そして戦略を打ち続けるというための人材の確保というもの、重要になってきますので、この二点については後ほど少し御説明いたします。
　資料の四ページ目に移らせていただきます。少し時間を取りまして、ＡＩセーフティ・インスティテュートの話をお話しさせてください。
　二〇二三年、生成ＡＩ元年と呼ばれていますけれども、チャットＧＰＴに代表される生成ＡＩが一気に広まった年に、ＡＩのイノベーションとともに、ＡＩのリスクに関する懸念というものも非常に多く取り沙汰されることがありました。その年に広島で行われたＧ７で、広島ＡＩプロセスの議論でＡＩの安全性についての議論、そしてその年の十一月に英国で開催されたＡＩセーフティーサミットの議論を経て、世界でのＡＩの安全性に対する認識が高まり、世界各国でＡＩセーフティーに関する組織というのが設立されております。
　日本でも、ＡＩセーフティ・インスティテュートが、ＵＫ、ＵＳに次いで三番目という早さで設立をいたしました。これは本当に政治の御判断、そして省庁の実行のスピードの速いというところで、私、所長をしておりますけれども、称賛に値するものではないかなというふうに考えてございます。
　また、この世界で立ち上がっているＡＩセーフティーの組織をつなぐために、ＵＳの掛け声でＡＩＳＩ国際ネットワークが設立され、日本も積極的に参画をしてございます。
　次のページ、五ページ目に、ＡＩセーフティ・インスティテュート、これ、ＡＩＳＩとお呼びするんですけれども、この役割とスコープをまとめさせていただきました。
　私どもの役割というものは、ＡＩの安全、安心な活用が促進されるようこの官民の取組を支援すること、技術的な支援をすることというのが私たちの役割でございます。役割としては、まず、政府への支援、そして、技術的な文書などの集約といったＡＩセーフティーに関する情報のハブになること、そして三つ目に、関連の研究機関、国研でも多くのＡＩに関する研究をされていますので、そちらの関連機関との連携というものがございます。
　一番大事なのは、このＡＩセーフティーで安全性のことだけを考えるのではなくて、私たちの最終的な目標は、安全性を通してＡＩのイノベーションを加速することにあります。安全性を担保できても、このイノベーションが加速しなければ意味がないわけです。なので、このＡＩセーフティ・インスティテュートの立場といたしましては、安全とそしてイノベーションのバランスを取った施策というものをしっかりと進めていこうとしています。
　そして、そのためには、国内そして国際的な関係機関との連携というのも非常に重要になってまいります。国際のことに関しまして次のページ、六ページ目を御参照いただければと思います。
　各国で様々なガイドライン出てございます。皆様御存じのように、日本では、世界に先んじてＡＩ事業者ガイドラインというものをガイドラインとして省庁から発出しております。アメリカも、米国ＮＩＳＴの下でＡＩリスクマネジメントフレームワークというものが出されております。
　これ、各国のレギュレーションというものが、例えば日本企業が海外で活動するときに非常に重要になってきますけれども、日本とほかの国のものを一対一で比較するというのは非常に時間的にも効率的ではございませんので、まず私どもは、そのアメリカのリスクマネジメントフレームワークと日本のＡＩ事業者ガイドラインの比較をいたしまして、それをリファレンスといたしまして世界各国の比較を可能としております。
　また、このガイドラインをこの活動、このクロスウォークの活動を通しまして世界的に通用する各種ガイドラインを作成するということを継続して行っております。昨年度は、ＡＩセーフティーに関する評価観点ガイドであったりレッドチーミング手法というものを日本語のみならず英語でも発出しております。
　また、こういったレギュレーションあるいはガイドラインといったものは、国際的に合意形成の下進んでいくということが大事です。こういうことにしっかり日本として参画をしていくことで、例えば日本にとって不利になるようなレギュレーションを作られないように、あるいは、日本が忘れている、抜け漏れのあるようなガイドラインというものはないかということをチェックしながら進んでいくということで、こちら一例書かせていただきましたけれども、先ほど挙げさせていただいたＡＩＳＩ国際ネットワーク会合を中心とした国際的な連携というものも進めさせていただいているのがＡＩＳＩの活動でございます。
　ＡＩＳＩの御紹介させていただきましたけれども、私どものＡＩセーフティ・インスティテュートは立法機関ではございません。立法をなさる政府の方たちに技術的にサポートをしていくという組織になります。また、研究機関でもございませんけれども、国研を中心としたアカデミックの活動をしていらっしゃる方としっかりと連携をすることで、世界的に技術の先端というものを集約し、しっかりと国際貢献というものをしていくというところが重要だというふうに考えております。
　最後のページでございます。七ページ目を御覧いただければと思います。
　今お話しさせていただいたんですけれども、ＡＩの安全性とイノベーションの推進というところは、しっかりとした国としてのＡＩ戦略というものが重要になります。そして、それを継続的に、設立、実施していくためにはやはり人材ということで、最後のページは人材について書かせていただきました。
　このＡＩのリスクを防御するためには、やはり最先端のＡＩというのがどういうものなのかということをしっかりと理解して、自分自身で開発をできるようなＡＩ人材というものが日本の中で必要になってまいります。
　ところが、そのＡＩ人材って今まだまだ日本では足りないということで、育成をしていかなければならないということなんですけれども、やはり、今ＡＩ立国と呼ばれているそういう国は、この母集団が多いんですね。もうとにかく人口が多くて、その中からエリートが出てくると。
　今、日本の人口は減少傾向にありまして、今すぐに人口を増やす、母数を増やすというのは難しいことではありますけれども、私が考えるには、一つの方法として、今ＡＩに関連している技術者というのがほとんど男性であるという観点に注目をいたしました。
　私も、三十年前に大学にいるときには、残念ながら理系の大学というのは女性五％程度でございましたけれども、今現時点でも、ＡＩに関する学部、学科というのは一〇％程度という、まだ余り改善している状況とは言えません。もしこれが男性を減らすことなく女性の希望者というのを増やすと母集団を増やすことができるんじゃないかと、そういったその一つの方法がございます。
　それをすると、実は、女性という多面的なところが入ってきますと、この多様性、ダイバーシティーというのも確保されまして、公平性そしてインクルージョンということで、多面的に実はＡＩの安全性というのを見ることができるというふうに考えています。ＡＩの危険、リスクというものは非常に多面的なものです。これが危険だったものというのが、ほかの国に行ってしまえば余り危険とみなされないものも多くあります。そういったものをいち早く多面的なもので獲得していくためにも、人材の多様性と、そして持続的な育成というものが重要になってくると思います。
　もう一つは、やはり高度な専門家やエンジニアの確保という文脈に加えて、国民が広く人工知能関連技術の利活用に興味を持ってもらうということも重要だと思っています。この利活用とリスク対策の双方に興味を持って、そして関心を深めていくような、そういう施策という面でもＡＩ戦略のところで期待をしております。
　今述べたような人材の確保にとっては本法案の十四条、そして、教育の振興等には十五条に記載されていますので、この辺りをしっかりと推進していただくというふうに期待をしております。
　最後になりますけれども、ＡＩの安全性というものは、このＡＩのイノベーションのブレーキではございません。これは、皆さんがイノベーションをする、あるいは効率的に仕事をするためのアクセルを踏むためのガードレールというふうに考えています。このしっかりとしたイノベーションと安全性のバランスの取れたＡＩ戦略というものを本法案で実現していっていただければというふうに期待をしております。
　私からは以上でございます。