井上哲士の発言 （本会議）

○井上哲士君　日本共産党を代表して、ＡＩ推進法案に対して質問します。
　国境を越えて急速に発展、普及するＡＩは、社会に大きな変化をもたらすと同時に、様々な分野で深刻な問題を生じさせています。
　昨年三月の国連総会では、日本も共同提案したＡＩの開発や利用などに関する決議が採択されました。ＥＵでは、ＡＩのリスクに応じ、四段階に分類して法規制するＡＩ規則の施行が始まっています。
　内閣府が公表したＡＩリスクや安全性に関する意識調査では、現在の規則や法律でＡＩを安全に利用できると答えているのは日本では僅か一三％、ＡＩには規則が、規制が必要だと答えたのは七七％、ＡＩの悪用や犯罪に対する法的対策の強化を求める回答は六六％にも上っています。
　しかし、政府は、ＡＩのリスクに対しては既存法とガイドラインで対応することを基本とし、法案はＡＩ推進一辺倒です。政府は、ＡＩが国民の権利利益を侵害するリスクをどのように認識しているのですか。
　なぜ国民の求める規則や法的対策の強化がないのですか。今必要なのは、ＡＩの発展と普及のスピードに遅れることなく、包括的なＡＩ対策法を作り、国民の権利利益の保護を強化し、予防的観点も含め、ＡＩのリスクに応じた規制を行うことではありませんか。
　一方で、法案は第八条で、国民はＡＩに関する理解と関心を深めるよう努めなければならないと国民の責務を定めています。ＡＩによる不利益や被害を受けても、それはＡＩのリスクを理解する努力が足りなかったからだと自己責任を押し付けるものではありませんか。
　法案第十二条は、国がＡＩ開発のための機械学習用データ、いわゆるデータセットを整備して、ＡＩ事業者への提供を促進すると規定しています。政府が保有の情報に加え、国立研究開発法人、大学が持つ情報も対象です。第五条では、地方公共団体に対し、ＡＩ開発、活用に関し、自主的な施策を策定して実施する責務を規定しています。地方自治体が持つ情報もデータセット化するよう迫るものです。
　このデータセットには、それぞれの機関が保有する個人情報が含まれるのですか。個人情報を含む情報提供を促進させる法案は、プライバシー権を侵害する危険性を高めるものではないですか。
　以上、城内科学技術担当大臣の答弁を求めます。
　ＡＩの普及に対応するためには、個人の権利利益を保護する法制度の強化が不可欠です。
　まず、個人情報保護法の見直し強化について質問します。
　ホームページやＳＮＳへの投稿など、本人の書き込みや入力した個人情報及び思想信条、収入、病歴などの機微な要配慮個人情報も含まれる情報データが様々な事業者によって大量に収集され、ＡＩ開発に利用されている実態があります。
　政府は、既存法とガイドラインで対応すると言いますが、現に、明らかな個人情報保護法違反である本人同意のない要配慮個人情報の取得が行われていることを城内大臣と平個人情報保護法担当大臣はどのように認識をしていますか。
　ＥＵでは、個人情報の自己コントロール権を市民の基本的権利として保障しており、ＥＵ一般データ保護規則は、利用状況の開示、提供の同意撤回、利用停止、削除請求を規定しています。日本の個人情報保護法にも利用停止、削除請求の仕組みがありますが、条件を付けており、権利侵害のおそれがあるときと狭くしています。
　日本では、利用停止、削除を請求しても、権利侵害のおそれはないとして拒否され、対応されない事例が後を絶ちません。これで個人情報が保護されていると言えるのですか。日本法人がない海外企業に拒否された場合は、個人はどのように対応すればよいのでしょうか。
　ＡＩの発展、普及に対応するために、自己に関する情報の自己決定権を保障し、個人情報保護法の目的に明記すること、また、個人情報保護委員会の監視体制の強化、違法な情報収集への罰則強化を求めます。
　以上、平大臣の答弁を求めます。
　ＡＩには、判断の根拠や過程がブラックボックスになる問題、学習したデータに偏りがあったり、人間社会の偏見や不平等を反映したり、時には増幅してしまうバイアス問題があり、既存法や事業者任せのガイドラインでは対応できません。
　さらに、生成ＡＩによる偽情報、誤情報の問題です。衆議院の参考人質疑で、偽情報、誤情報対策、ＳＮＳでの流通、拡散を防止する仕組み、法制度の構築などが具体的に提起されました。生成ＡＩの作成を示す電子透かし、発信者を特定できる埋め込み情報などをＳＮＳ等を提供するプロバイダー、デジタルプラットフォーマーに義務付けることです。直ちに法制化すべきではありませんか。城内大臣、村上総務大臣、それぞれお答えください。
　著作権の侵害について伺います。
　現行の著作権法は、ＡＩの学習目的であれば権利者の許諾なく著作物の利用を認めています。そのため、新聞報道、イラスト、音声などが許諾なく収集されています。日本新聞協会は、報道コンテンツを生成ＡＩに利用する場合は許諾を得るよう繰り返し求めているが改善が見られないとして、ガイドラインではなく法整備が急務としています。俳優や声優などが参加する日本俳優連合など三団体は、声を利用する場合の本人許諾、ＡＩで作成したものであることを明記するなどの法整備を求めています。報道機関が萎縮すれば国民の知る権利を狭めることになり、ＡＩが報道機関に代わって取材、報道を担うことはありません。
　知的財産の保護を強化せず、ＡＩの推進だけでは、コンテンツの再生産の縮小や、創作意欲の減退など、受益者である市民や社会全体に悪影響を及ぼすものであり、著作権法の見直し強化を行うべきです。城内大臣とあべ文科大臣の認識と見解を伺います。
　日本各地で巨大データセンター建設が問題になっています。生成ＡＩの学習と運用には膨大な計算能力と電力が必要です。無計画な建設は、地域住民との対立を生じさせ、地球温暖化問題も悪化させます。ＡＩ推進に名を借りた原発推進は許されません。データセンターの使用電力は再生可能エネルギーで賄うことを事業者に義務付け、電力消費量、ＣＯ２排出量、空調の排熱量や排水など、情報公開を義務付けるべきではないですか。城内大臣の答弁を求めます。
　法案が、ＡＩ技術を安全保障の観点からも重要な技術と位置付けていることは重大です。
　ウクライナではＡＩ搭載のドローンが使用され、ガザではイスラエル軍のＡＩ標的設定システムにより民間人の被害が極端に多くなっているとの報道もあります。生成ＡＩは核戦争並みの脅威になり得ると警告する科学者も多数です。
　ＡＩの軍事利用で先制攻撃や予防攻撃の蓋然性が高まり、紛争がエスカレーションする危険について、どう認識していますか。
　二〇二三年十二月、日米は、次期戦闘機と連動する無人機のＡＩ技術の共同研究に合意しています。防衛省は、人間の関与が及ばない完全自律型の致死性兵器の開発を行う意図は有していないとの立場を明確にしてきたと言いますが、完全自律型か半自律型かを問わず、我が国ではＡＩの軍事利用は禁止すべきです。中谷防衛大臣の答弁を求めます。
　以上、ＡＩの発展と普及に伴うリスクに応じた法規制や国民の権利利益の保護の強化を重ねて求めて、質問を終わります。（拍手）
　　　〔国務大臣城内実君登壇、拍手〕