村上明子の発言 （地域活性化・こども政策・デジタル社会形成に関する特別委員会）

○村上参考人　皆様、本日は、発言の機会をいただき、ありがとうございます。ＡＩセーフティ・インスティテュートで所長をしております村上でございます。また、私は、ＳＯＭＰＯホールディングス並びに損害保険ジャパン株式会社でチーフデータオフィサーもさせていただいております。
　私は、これまで、ＡＩの開発者からキャリアをスタートいたしまして、ＡＩソフトウェアの開発、事業会社でのＡＩ活用、チーフデータオフィサーというデータの活用というところの立場、そして政府の立場と、ＡＩに関わる様々なフェーズで関係しておりまして、私、現在では、チーフデータオフィサーとしてデータの利活用の最前線に立っております。また、政府、自治体関連といたしましては、人工知能戦略専門調査会の委員や、日本成長戦略のＡＩ・半導体ワーキンググループ、デジタル・サイバーセキュリティワーキンググループの構成員なども務めております。さらに、経団連ではデジタルエコノミー推進委員会の企画部会長も担っております。
　本日は、このような多様な立場から、また、メインではＡＩセーフティ・インスティテュートの所長として、特に、ＡＩ、技術、データに関して安全性の観点からお話をさせていただければと思います。
　資料を御覧いただきますけれども、三ページ目を見ていただきますが、現在、ＡＩ開発をめぐる国際競争は極めて激しく、また、データ利活用の制度環境は企業や研究開発の競争力に直結していると言えると思います。単にＡＩを使っている、ＡＩを持っているだけでは他国や他社との差別化はできず、真の競争力となるのは、データをいかに安全にＡＩとともに活用できるかという点に尽きるというふうに考えられます。
　これから、またさらに、ＡＩエージェントの時代においては、社内データなどをＡＩに読み込ませて回答を生成するＲＡＧ、検索拡張生成と呼ばれるものや、個別データにおけるファインチューニング、また、ＡＩ検索といった技術の活用が急速に拡大しており、膨大なデータの活用というものが不可欠になってまいります。しかし、その一方で、データの利用のたびにその都度個人に同意を得るということが実務上非常に困難であるというのが現場の実態でございます。
　そうした中、今回の法制案では、統計情報等の作成にのみ利用されることが担保されている場合にのみ、本人の同意なく、個人データの第三者提供や、公開されている要配慮個人情報の取得を可能とする措置が盛り込まれました。個人情報保護委員会の資料についても、この統計作成等には、統計作成等整理できるＡＩの基盤モデルやアプリケーションの開発等も含まれているとされています。この点は、事業者によるＡＩ開発を大きく後押しし得る極めて重要な一歩であると、実務家の立場からも高く評価しております。
　四ページ目を御覧いただきますけれども、ここで少し、ＡＩの安全性という観点からヒントを得たいと思います。
　安全性の担保をするためのＡＩガバナンスというものについて、世界の潮流でございますけれども、ここに示しておりますように、ＡＩの利用を過度に制限し禁止するゼロリスクから、リスクの大きさに応じて適切な制御を行うリスクベース、管理と活用についてのアプローチへと明確に変更しております。
　例えば、欧州のＡＩ法、ＥＵ・ＡＩアクトと呼ばれるものでは、リスクレベルに応じた法的義務の階層化が行われております。また、米国のＮＩＳＴ・ＡＩＲＭＦ、リスクマネジメントフレームワークでは、科学的知見に基づくリスクマネジメントというものが示されております。また、ＩＳＯなどのＡＩマネジメントの国際規格であったり、また、私が所属しておりますＡＩセーフティ・インスティテュート、これは各国にございますけれども、こちらも、安全性評価の技術的基準の策定というものもリスクベースで進んでおるところでございます。これらの共通する思想というものは、ＡＩを止めるのではなく、リスクを正しく理解し、そのリスクに応じた、制御可能な状態に置いた状態で活用するという姿勢でございます。
　当然、このリスクベースという考え方は、安全性に対する技術というものが非常に重要になってまいります。五ページ以降を御覧いただきますと、残念ながら、ＡＩシステムには学習データを狙った情報収集攻撃などの多様なリスクが存在しております。お手元の五ページ目、これはＡＩモデルレベルでのプライバシー等の情報漏えいに対する対応を示しております。
　そして、ページ六には、開発段階から運用段階に至るシステムレベル全体のリスクというものをお示ししております。ここでも示しておりますように、例として、プロンプトインジェクションと呼ばれる悪意のある入力によって内部データを引き出すといったような、様々なデータ漏えいに対するリスクというのがあるのが現在知られております。
　しかし、こうしたリスクを回避するための技術というのも現在急速に確立しつつございます。五ページ目にございますけれども、情報漏えいを防ぐためには、大きく分けて、事前と推論時そして事後、学習データを入れる前の前処理、推論時の調整、そして出力された後の後処理という三つの段階での防御アプローチが取られております。
　そして、特に重要となるのが、七ページ目を御覧ください。本人を識別できない形にデータを変換しつつ、データが持つ統計的な情報、インサイトを安全に得ることのできるプライバシー強化技術、ＰＥＴｓと呼ばれる一連の技術というものもございます。
　具体的には、計算されたノイズをデータに意図的に与えることにより、個々のデータ、個々の木とありますね、つまり、個人は見えないけれども、森の形、全体の統計傾向というものを正確に把握できる状態をつくる差分プライバシーといった技術がございます。また、特定の情報を削除、置換して個人へのひもづけを遮断する匿名加工という技術もございます。さらには、実データの匿名的情報を模倣してプライバシーリスクをゼロにした仮想データを生成する合成データというもの、それから、データを各拠点に置いてセキュアなままモデルだけを賢くする連合学習、また、データを暗号化したまま中身を一切のぞかせずに計算処理を行う秘密計算などがございます。これらのＰＥＴｓというものは、安全なデータ活用のための強力なガードレールであるというふうに言えると思います。
　また、さらに、資料のページ八に示させていただきますように、ＡＩの力自身を用いてガードレールをするというものも劇的に進化しております。入力された情報から個人情報を先にＡＩを用いて自動検知してマスキングする技術や、危険な入力を未然に防ぐフィルタリング、それから出力時に機密情報を遮断する技術、また、万が一不要なデータを学習してしまった場合、学習データ、先ほどもありましたように、モデルを作るということ自体が匿名加工をすることではございませんので、そういった不要なデータを学習してしまった場合に、きちんとそのデータ、特定データをモデルから削除する、アンラーニングといった技術もございます。
　このような七ページ、八ページでお示ししたようなガードレールによってＡＩを、個人データを含むデータを使うときに、住所や電話番号また病歴等といったようなセンシティブな個人データというものは厳格にフィルターされ、外部に漏えいするリスクというものが大幅に減ってきていると言えます。これらを組み合わせた高度なガードレールというのは、既に多く使われている主要なＡＩサービスにも組み込まれており、更なる性能向上も日々進められているということが言えると思います。
　このように、最新のプライバシー強化技術などをガードレールとして組み込むことで、先ほど申し上げたようなデータの利活用をしっかり進めていくことでＡＩの競争力ということを進めていくこと、それからデータのプライバシー保護を技術的に両立させることが可能となってきております。
　技術の御説明については以上とさせていただいて、このような技術的な解決策の進展の中でも、法改正の方向性もすばらしい一方で、ちょっと実務上の懸念事項についても、最後、申し上げさせていただければと思います。
　九ページ目を御覧いただければと思います。
　第一に、統計作成等の特例に関する実務負担の懸念でございます。この統計作成のみに利用されることを担保するための規律として、公表事項の規定や、第三者提供の際の提供元、提供先間における書面合意などが想定されているというふうに承知しておりますが、これらは社会的な信頼確保の観点から非常に重要であります。しかし、もしその手続が、原則である本人同意を取得する場合と同等、あるいはそれ以上の重い実務的負担となってしまえば、特例の利用が進まない可能性があるというふうに考えられます。今後、委員会規則やガイドライン等を整備されるに当たっては、ＡＩ開発やデータ連携の現場の実務を踏まえ、過度に形式的、重複的な負担とならないよう、事業者の意見を丁寧に酌み取った慎重な制度設計を強くお願いいたします。
　第二に、ガイドラインにおける具体性の充実です。特例の対象となる場合、ならない場合について、現場の開発者や法務担当者が判断に迷いやすい具体例をできる限り充実させてお示しいただきたいと思います。予見可能性が高まることで、事業者は、萎縮することなく、安心して適正なデータ利活用に取り組むことができると考えております。
　第三に、課徴金制度への配慮です。課徴金制度の設計におきましても、正当な目的でデータの適正な利活用を目指し、技術的な安全措置を講じている民間事業者が、過度なリスクを恐れて萎縮してしまうことのないような制度設計をしていただきたいということを切に願っております。
　最後になりますが、我が国のＡＩ開発、データ利活用が国際的に劣後することがないよう、個人の権利利益の保護を大前提としつつも、諸外国の制度動向や実務を踏まえたバランスの取れた運用というものが不可欠と考えております。
　私たちは、リスクを恐れてデータを遮断するという選択をするべきではございません。適切な管理体制の下、本日御紹介したような最新技術を最大限に駆使し、データを安全に生かすことこそがこれからの日本の競争力をつくる上でも最も重要であるというふうに確信しております。
　私の説明は以上となります。御清聴いただき、どうもありがとうございました。（拍手）