浅田均の発言 （憲法審査会）

○浅田均君　人工知能、「ＡＩ　社会支配の恐れ」という見出しで、人工知能研究を先導してきたトロント大学のヒントン名誉教授へのインタビュー記事が十二月四日の読売新聞朝刊に掲載されました。
　私も、人工知能、とりわけ生成ＡＩが登場して以来、社会を支配してしまうのではないかと懸念しております。ＡＩが人類の知能を超える特異点、シンギュラリティーは二〇四五年より早く起こると考えています。
　まず、この場におられる委員の皆様には、ネットでゴースト・ロボティクス社の犬型ロボットやボストン・ダイナミクス社の人型ロボットを是非御覧いただきたいと思います。これらのロボットは汎用性が高く、多方面で人以上の活躍が期待できると思われます。何らかの形で人が関与していますが、搭載ＡＩを生成型にすることによりロボットが自律して、つまり自分で判断、意思決定して動くロボットに変わります。この自律性を持つ人型ロボットが殺人を犯したとき、殺人罪は適用できるのでしょうか。被害者はどう救済されるのでしょうか。自律性を持つ人型ロボットや機械兵器群が我が国を攻撃してきたとき、防衛出動を発令することはできるのでしょうか。
　プリゴジンとロボットは紙一重です。特定通常兵器使用禁止制限条約、ＣＣＷの中で自律型致死兵器システム、ＬＡＷＳについて議論が重ねられていますが、どこまで規制するか結論は出ておりません。しかし、立憲主義による国家を存続させようとするならば、また、国家の役割を国家国民の生命、財産を守ることとするならば、生成ＡＩの時代に対応できる憲法を持つ国家にしておく必要があると思います。
　生成ＡＩの登場は、例えば、ロボットがロボットを作る、ロボットが集団をつくる、ロボット集団が国家をつくる、憲法を持つ、政府をつくる、警察、軍隊をつくる、何でもできます。ディープフェイクなど、ほんの表層にすぎません。
　ロシアによるウクライナ侵略、アフガニスタンの戦争、アルメニアとアゼルバイジャン紛争は、ドローン戦争と言ってもいいほどドローンが使われています。偵察以外にも、通信妨害、攻撃等にＬＡＷＳの一種として開発が進められているＡＩ搭載ドローンが、シミュレーション実験の最中とはいえ、ＡＩ自らの判断で操縦者である人間を攻撃するという事件が起きています。
　孫子の兵法、「ガリア戦記」からクラウゼビッツ等まで学習した生成ＡＩに対抗するために、憲法を変えたい人も守りたい人も憲法議論は避けられません。合区議論に終始しているうちに、生成ＡＩはシンギュラリティーを……