佐藤正久の発言 （憲法審査会）

○佐藤正久君　次に、インターネットをめぐる課題の中でも、生成ＡＩによるディープフェイクについて、工藤参考人に伺います。
　韓国では、ディープフェイクを利用した選挙運動の禁止条項が、二〇二四年一月に施行された改正公職選挙法に盛り込まれた。ＡＩで生成され、本物と見分けが付きにくい音声や画像、映像コンテンツをディープフェイクと定義し、それらを選挙で使う行為を禁じているといいます。
　昨日投票が行われた韓国の大統領選挙では、中央選挙管理委員会が公選法違反に当たる投稿の削除を積極的に進めることを確認しています。しかし、ディープフェイクを利用した選挙犯罪を捜査する警察などの機関は、削除要請しても、ＳＮＳを通じて更に拡散し、取締りが追い付かない状況から、全てのディープフェイクをチェックするのは困難と語っているとも報じられています。
　生成ＡＩが進化し、人間の発声が僅か数秒でもあれば音声クローンをつくることができる時代では、切取り音声どころではなく、全くゼロからフェイクの演説が可能となっています。生成ＡＩがつくり出すディープフェイクには生成ＡＩによるファクトチェックが考えられますが、生成ＡＩ対生成ＡＩの際限のない攻防となりかねません。また、生成ＡＩの利用を制限する法的制限も考えられますが、法制を整えるスピードよりも生成ＡＩによるディープフェイクの開発スピードが速く、追い付くことが難しいのではないかとも考えます。
　膨大かつ爆発的に拡散され、投票行動や投票結果に多大な影響を及ぼす可能性があり、しかもチェックを擦り抜ける技術の開発スピードが速い生成ＡＩによるディープフェイクなどから、自由な技術開発と利用は尊重しつつも、どのように民主主義の健全性を守ればよいのでしょうか。工藤参考人、お願いします。