大屋雄裕の発言 （内閣委員会）

○参考人（大屋雄裕君）　慶應義塾大学の大屋と申します。本日はこのような機会を与えていただきまして、誠にありがとうございます。
　以下、審議の対象となっている人工知能関連技術の研究開発及び活用の推進に関する法律案に対する若干の意見を述べさせていただきます。
　まず初めに、私自身について若干の御説明をすることをお許しください。御紹介いただいたとおり、私は法学部法律学科に所属する教員ですが、実定法学を専門にしている者ではなく、基礎法学に属する法哲学という分野を専攻しております。これは、憲法や民法といった特定の実定法を前提にして、その解釈について議論するのではなく、そもそも法とは何か、何であるべきか、あるいは法解釈に客観的な正解はあるかといったような法全体に対する哲学的な分析を主な任務とする学問分野であります。私自身は、その中でも、情報社会論と申しますか、コンピューターやインターネット技術の発展が法や政治のシステムにどのような影響をもたらすかという問題について、ここ三十年ほど研究を続けてまいりました。
　そして、御承知のとおり、ここ十年ほど、このような議論における重要な新要素となってきたのが人工知能、ＡＩでありまして、私もＡＩの倫理やガバナンスについてこの間多くの論文を書いてまいりましたし、総務省におけるＡＩ開発ガイドライン、ＡＩ利活用ガイドラインや、統合イノベーション戦略推進会議に決定していただきました、人間中心のＡＩ社会原則の策定を目指した議論に参画してまいりました。ただ、令和五年に設置されましたＡＩ戦略会議及びその下部組織の議論には加わっておりませんので、今回の法案には独立の立場で意見を申し上げるということになろうかと存じます。
　そこで、今回の法案に対する評価を一言で申し上げるならば、時宜を得た適切なものであるというふうに私自身は考えております。
　御承知のとおり、近事、急速な発展を遂げているＡＩ技術については、それを適切に利活用した場合には非常に大きなメリットが得られるであろう、あるいは社会全体の効率化に著しい貢献をなし得るであろうということが確実視されており、法案の第三条第二項でもそのように位置付けられております。その一方、それが悪用された場合、あるいはその利活用に当たってプライバシー等の重要な価値が侵害された場合には非常に大きな問題が発生するであろうということも予測されており、これについても第三条第四項で明言されております。
　そこで、この技術をどのようにガバナンスしていくか、副作用を防ぎながら、そのメリットを享受できるように技術発展をコントロールするためにはどのように考えるべきかということが議論の対象になってまいりました。その際、日米欧という範囲においてもその考え方に大きな差があるという点が明らかになってきているわけであります。
　御承知のとおり、欧州連合、ＥＵにおきましては、二〇二四年にＡＩ法と通称される法律が成立しており、順次施行が進められている状況にあります。その特徴は、第一に、官、民といったセクターを分けることなく、また、医療、金融、教育、雇用など様々なセグメントごとに規制を分けることもせず、全てを一本の法律で規制するというオムニバス方式を採用したこと、第二に、様々なＡＩ技術の利活用目的について、その内在的なリスクに応じて四段階にクラス分けし、最高レベルのものについては明確に禁止ＡＩとして位置付けたほか、それ以下についても危険性に応じた安全確保措置を講じるべきことを定めた点にあります。したがって、一定の要件を定めてガバナンス措置を強制し、違反に対しては制裁を科すというハードローアプローチが明確に選択されたということになろうかと存じます。
　これに対してアメリカでは、バイデン政権下において、二〇二三年十月に、ＡＩの安全、安心で信頼に値する開発、利用に関する大統領令が出され、アルゴリズムに由来する差別を防ぐための支援プログラムやガイダンス、消費者、患者、学生の権利を保護し、労働者を支援することなどを目標とする政策実現が、主として行政府内を対象に命じられました。
　また、生成ＡＩを開発している企業の経営者等が集められ、一定のガバナンスへの努力を自主的に行うことへのコミットメントを取り付けるといったような形での緩やかな規制が施行されていたと考えることができます。ところが、第二次トランプ政権の発足に伴い、この大統領令は即日撤回されております。
　今後、トランプ政権がどのような方向性でＡＩ技術のガバナンスを行おうとするかは全く見通せない状況でありますが、この五月九日に連邦著作権局が著作権とＡＩに関する報告書の第三部、生成ＡＩのトレーニングの草稿を公表したところ、その直後に同組織のトップである著作権登録官シラ・パールマター氏が解雇されるという経緯がございました。
　この二つの出来事の関連性についての正式な情報は何もありません。しかし、同報告書案が、単なる分析や研究ではなく、市場で競合するコンテンツを生成するために既存の著作物を学習に用いること、特に違法なアクセスを通じて入手したコンテンツを用いることは著作権の例外として許容されるフェアユースの限界を超えると指摘し、ＡＩ学習に対し否定的な方向性を示したとされていることからは一定の示唆が得られる可能性があります。
　さて、これらに対し我が国はこれまでどのようなガバナンス方法を模索してきたかというと、これはマルチステークホルダープロセスという言葉でしばしば表現されております。
　すなわち、ＡＩ技術の研究者や開発者、あるいはそれを利活用する企業を一方に、インターネット利用者の団体や技術発展の影響を受けるであろう消費者、高齢者などの団体をもう一方に、そして、私を含めた法律学、経済学等の有識者を更に加えまして、これらの関係者が一堂に会したところで議論を行い、一定のコンセンサスを得た上で、それを基にガイドラインとして内容を取りまとめていくというソフトローアプローチであります。
　さきに言及した様々なガイドラインも、このような関係者間での広範な議論に基づくコンセンサスを通じて形成されてきたものであり、あらかじめ議論に参加していることから得られる結論への納得感といったものを一つの契機として、関係者の自主的、自発的な遵守の尊重にまずは期待するという方向性であります。
　その背景としては、大きく二点ほど指摘しておくことができようかと思います。
　第一は、やや悲観的な話ですが、ＡＩの開発も含めて巨大ＩＴ企業の多くはアメリカにその本拠を置いているグローバル企業であり、それに対して我が国が単に法的な強制力のみを根拠として一定の規制に従わせることが本当に可能かという問題。
　彼らにしてみれば、技術開発やサービス提供の拠点を日本から撤退させるとか、あるいは、過去にオーストラリアやカナダでいわゆるニュース税の導入、すなわち、これらのＩＴ企業が既存マスメディアの報道を利用して独自のニュースサービスを利用者に対して提供した際に一定の使用料をメディアに対して支払うことを義務付けるという制度を構築しようとした際、グーグルやフェイスブックが当該国家の領域におけるニュースサービスの提供を打ち切るという事態が発生したように、日本でのサービス提供も打ち切ってしまうということが常に選択肢として存在しております。
　我が国の企業活動、市民生活共に、あるいは政府を含めた公共セクターの活動も含めて、これらの巨大ＩＴ企業が提供するサービスに依存している状況でそのような危険を冒すことは賢明か、むしろ、彼らも含めた当事者が納得し、遵守できる規制の在り方について共に模索することの方が賢明なのではないかというのが第一点であります。
　第二は、別の方向で悲観的な話ですが、そもそもＡＩ技術の現状を正確に理解し、その将来的な発展の方向性を予測し、それらを踏まえて適切な規制をデザインすることなど本当に可能かという問題であります。
　その際に重要なのは、ＡＩ技術はなお全体として萌芽的な段階にあり、急速に変化しつつ、状態であるということ、また、従来の巨大科学技術のように、専門的な知識、経験が被規制側に偏って存在しているというのも事実ではありますが、それ以上に、開発や利活用を行っている企業などの当事者自身にもその将来については予測し難い状況にあるということであります。
　前述したＥＵのＡＩ法の原案が欧州委員会から公表されたのは二〇二一年四月ですが、その後、成立に至るまでに相当の期間を要しております。これは、その間にステーブルディフュージョンやチャットＧＰＴといった生成系ＡＩ技術が急速な発展と普及を遂げたところ、これが規制のスコープに入っていなかったために大規模な修正が必要になったからと報道されております。
　ハードローによる規制においては、その対象となる技術それ自体や利活用方法について明確な要件として規定することが必要となるところ、例えば二〇二二年末からの二年強で生成系ＡＩはこれだけ急速に進歩し、企業の現場などにおいて利用されるようになると予想していた人は、ＡＩの専門家も含めていなかったのではないかと思います。
　この専門家を含めてという点が重要であって、従来想定していたような巨大科学技術、典型的には、原子力発電のようなものであれば、高度の能力を持った専門家が電力会社やその研究所には多数存在し、何をすればどうなるかということは理解できていたわけです。その割にあのていたらくかという御批判は当然あり得ようかと思いますが、一応はそういうことであります。
　それに対し、規制側の官庁において同等の能力を備えることは、研究者にとってのインセンティブという面からも処遇の面からも難しく、その状況で政府の側が適切な規制をデザインすることは可能かということが問題として意識されてまいりました。
　ところが、ＡＩについては、もちろん実際に開発などを行っている企業側には規制者である政府より豊富な知識と経験が備わっているものの、彼ら自身も技術発展の方向性やスピードを予測できていないというのが実態だと思われます。このような状況において適切なハードロー規制を考えることは輪を掛けて困難だというのが私見であります。
　そこで、今回の法案ですが、これは、一言で言えば、このソフトローアプローチを継続するということをハードローとして規定したということになります。
　既に御覧いただいているとおり、この法案は、第三条において目指すべき方向性を基本理念として示した上、国、地方自治体、研究開発機関、活用事業者、そして国民について、それぞれの立場から基本理念の実現に向けて努力し、貢献し、相互に協力していこうということを第四条から第九条にかけて規定し、その後、第十一条から第十七条までに取るべき施策の方向性を列挙した上で、必要な施策を講じるべきことを定めるというプログラム規定を置くものです。言い換えれば、新たに事業者や国民に法的な義務を課すものではなく、何かを禁止することもなく、これまでも関係者間で合意形成してきた方向性でそれぞれが自主的、自発的に努力しようと呼びかけるもので、具体的に講じるべき措置や避けるべき対応については引き続きガイドラインにより示していくということになろうかと思います。
　あえて言えば、人工知能戦略本部を設置し、人工知能基本計画を定めるということを明言した点と、第十六条ですが、国民の権利利益の侵害が生じた事案について政府が分析や対策の検討を行い、その結果に基づいて指導、助言、情報提供を行うべきことを定めている点が新たな対応と位置付けられるかと思いますが、この調査権限についても、民間事業者に対しては協力を求め得ることが第二十五条第二項において定められているにとどまります。これまでと同様、必要な場合には関係者のコンセンサスに基づく対応を行うという方向性であり、ＥＵのように特定の正しいガバナンス手法を強制するわけでもなく、アメリカのように自由放任主義を取るわけでもないという意味では、その中間に自らを位置付けたものと言えようかと思います。
　現在、様々な事情によりＥＵとアメリカの政策的志向が大きく分裂しつつあるという状況がありますが、ＡＩのガバナンスを適切かつ有効に行うためには、日米欧の間で相互に協力し、互いの施策の相互運用性を確保していくことが必要不可欠であると私自身も考えておりますし、そのような考え方に基づいて、二〇二三年広島サミットを契機として広島ＡＩプロセスの取組が進められているものと認識しております。そのような国際的ハーモナイゼーションに積極的に貢献することを目指す我が国として、極端な立場を取らず、関係者の合意と自主的な協力を呼びかけることには十分な正当性があると考えるところです。
　あるいは、今後、ＡＩ技術の発展がある程度安定し、どのような分野においてどのような利活用をどの程度規制すべきかということについて、関係者の一致した見通しが成り立つという事態が到来するかもしれません。あるいは、ＥＵのＡＩ法における禁止ＡＩの類型をその一例と考えることもできるかもしれませんが、その段階に至った場合には、より積極的かつ明確なハードローによる規制を考慮すべきであるとは考えております。しかし、それは現在の話ではなく、現時点において我が国が採用すべき枠組みとしては妥当な内容がこの法案には示されていると考えます。
　以上から、本法案については適切なものと考えているという結論を再度述べさせていただきまして、私の発言を終わらせていただきたいと思います。
　ありがとうございました。