村上明子 に関する国会発言
18件 / 1ページ / 1 ページ目
○丹羽委員長 これより会議を開きます。 内閣提出、情報通信技術を活用した行政の推進等に関する法律及び情報処理の促進に関する法律の一部を改正する法律案及び個人情報の保護に関する法律等の一部を改正する法律案の両案を議題といたします。 本日は、両案審査のため、参考人として、東京大学名誉教授、一般社団法人次世代基盤政策研究所代表理事森田朗君、弁護士法人英知法律事務所弁護士森亮二君、独立行政法人情報処理推進機構ＡＩセーフティ・インスティテ
○参考人（村上明子君） まず、一点目の国際協力に対してできるのかというのは、恐らく本日参加している四人の参考人が皆心配しているところというふうに思っております。 私がＡＩの安全性に関しての日本を代表して国際の場に出ると、大体、日本から出る方、同じ方なんですね。同じ人が結構代わる代わる闘っているというところで、ほかの国を見ますとかなり層が厚くなっています。なので、これはもう急務として、その国際的な議論ができる人材というのを育成しなきゃ
○参考人（村上明子君） ありがとうございます。 今、既存法とガイドラインでしっかりと見ていくといったところは、まさにこの法案での指針なんですけれども、例えば人事採用であるとか、そういった人の選別にあるようなものというものに関して一定のガイドラインを設けたときに、そのガイドラインに従っているかどうか、あるいはガイドラインに従っていることを透明性高くしているかどうかということは、何らかの外に分かる形で示すということで対応ができるのではな
○参考人（村上明子君） お答えいたします。 まず、ブラックボックス化というところですけれども、これブラックボックスには実は二つありまして、一つはその中身を、ロジックを公開したくないというブラックボックス、それから、生成ＡＩを利用したものによくあるんですけれども、そのシステムを作った者ですらなぜその出力が出てくるのか分からないという、そういうブラックボックスが両方ございます。 それをちょっと一緒に議論をしてしまうとややこしくなるの
○参考人（村上明子君） お答えいたします。 海外と日本と比べるとＡＩに対する障壁が少ないというのは、私も肌感覚ではございますけれども、感じております。やはり、ＡＩの暴走であるとか人権侵害ということを考えるのは、日本の方よりも海外の方の方が多いという印象でございます。 一方で、その安全に使えるのが、安全だというふうに考えているのが一〇％台、規制が必要だと考えているのが七割を超えているというこの現状でございますけれども、こちらは、や
○参考人（村上明子君） ありがとうございます。 私からは、政府の組織の立場とそれから民間の立場と、両方の立場からお答えさせていただければと思います。 まず、民間での、その民間同士といったときに、今ＧＡＦＡの例出されましたけれども、まず一般的に、ＡＩが加速して自分たちの提供しているものが使われるために協力をし合うということが今のＡＩの会社同士でも起こっていることです。 例えば何があるかというと、ラージ・ランゲージ・モデルという
○参考人（村上明子君） ありがとうございます。 私の民間としての立場としてこちらお答えさせていただきたいと思います。 私は保険会社でＡＩの促進をしておりますけれども、ＡＩに限らず、技術を使った効率化というものは本当に、一〇％、二〇％ではなくて、五〇％、八〇％といった大きな効率化につながることがございます。その一つのビジネスプロセスを何かＡＩに置き換えるのではなくて、もうＡＩの時代に合わせたビジネスプロセスにする。それで、これは私
○参考人（村上明子君） ありがとうございます。 私は、ＡＩセーフティ・インスティテュートの所長としてこの戦略本部に対して非常に期待もしておりますし、一方で、おっしゃられたような不安というものも感じているところでございます。 ＡＩは、全てを理解しようと思うと、私のような技術者出身でも全ての技術というものを今理解しているかというと、私は残念ながら、それはお答えとしては違うというふうにお答えせざるを得ません。これ、世界広しといえど、全
○参考人（村上明子君） ありがとうございます。お答えいたします。 まず、その人材、一般的に男女関係なくＡＩ人材をどう増やしていくのかというところでございます。一見矛盾しているように思われるんですけれども、理系、文系という考え方があるのは世界的に見ても日本だけなんですね。理系的、サイエンスといったときに、いろいろな学問を勉強した上で自分の強みというものに、その工学であるとか理学というものを専攻するといったものが大学の勉強のところでは一
○参考人（村上明子君） ありがとうございます。 ＡＩ人材だけではなくて、ＡＩの利用人材におけるダイバーシティーというところでございますけれども、これは、私からの個人的な意見としては、やはり業務で今ＡＩを使うということと、あと、普通の市民生活でＡＩを使うということ、両方今進んでいます。 正直、ちょっと、私は日本の企業におりますけれども、企業よりも皆さん生活で使われている方が進んでいるというところになります。そうなると、生活者として
○参考人（村上明子君） ありがとうございます。 御指摘いただいたまず前段のところで、自治体、国が活用していくというところは非常に私も期待しているところでございます。 〔委員長退席、理事磯崎仁彦君着席〕 私個人としては、東京都のＡＩ戦略会議の方にも参画させていただいておりまして、東京のような大きい自治体は先んじてそういう安全性の担保なども含めてできることが多いと思うんですけれども、東京都に比べると、比較的小さい自治体という
○参考人（村上明子君） ありがとうございます。お答えいたします。 ジェンダーの例に関しましては、ちょっと生成ＡＩ以前になるんですけれども、同じ収入、同じ立場の男性と女性のクレジットカードの与信額が女性の方が三分の一程度にＡＩで自動的になってしまうというようなことであったり、あるいは採用ですね。特に、とあるＩＴ企業のエンジニアの採用で、過去に採用した人がたまたま全員男性でしたと。そうなると、女性的なことが書いてあるレジュメは全部自動的
○参考人（村上明子君） ＡＩ、多岐にわたっているので、これということを一つ選ぶのが非常に難しいというふうに感じています。 今、私は、ＡＩ開発者を経験して、それから今、ＡＩ安全性のところをしているところを鑑みますと、やはり私たちは、技術者あるいは研究者である前に人間だと思っています。人間がしていけないことというのは技術者がしていけないということ。なので、やはりその技術を考える前に、人間として何をするべきなのか、あるいは人間として何をし
○参考人（村上明子君） ありがとうございます。 これは私の私見でございますけれども、ＡＩは人間に寄り添ったり共感するふりはできると思うんですけれども、そこが本当に人間のためになって人間のことを考えているかということを保証できない。これは実は人間関係も同じなんですけれども、機械に関して言うと、相手のことを信じるかどうかというときに、相手の機械を人間と同じように信用できるかというところが、恐らく人間にとってのＡＩが仲間になれるかの違いな
○参考人（村上明子君） お答えいたします。 今、ダイバーシティーというところ、今回の御説明の中では、女性の母数を増やす中での女性の拡大というところで取り上げさせていただきましたが、女性というのはダイバーシティーの一部でしかないというふうに考えています。 ＡＩの開発というのは、二〇一〇年代に開発者が三十代の白人男性しかいないということが非常に問題になっていました。参考人のどなたかが例に出されていた黒人の差別的なＡＩのシステムができ
○参考人（村上明子君） ありがとうございます。 ＡＩセーフティ・インスティテュート所長の村上でございます。本日はこのような場にお呼びいただきまして、ありがとうございます。しっかりと意見の陳述をさせていただきます。 では、こちらのお配りしております配付資料に基づいて御説明を差し上げます。 まず最初に、簡単に私の自己紹介をさせていただきたいと思いますので、二ページ目を御覧ください。 私は、先ほど申し上げましたＡＩセーフティ・
○委員長（和田政宗君） 人工知能関連技術の研究開発及び活用の推進に関する法律案を議題といたします。 本日は、本案の審査のため、四名の参考人から御意見を伺います。 御出席いただいている参考人は、独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長村上明子さん、一般社団法人日本経済団体連合会デジタルエコノミー推進委員会国際戦略ＷＧ主査・日本電気株式会社ＣＤＯ Ｏｆｆｉｃｅ主席プロフェッショナル永沼美保さん、慶應義塾大学
○政府参考人（野原諭君） 我が国のＡＩセーフティ・インスティテュート、ＡＩＳＩでございますが、アメリカ、イギリスのＡＩＳＩなどパートナー国の関係機関との二国間連携を図ってまいりました。多国間では、昨年十一月にアメリカがホストしましてサンフランシスコで国際ＡＩＳＩネットワーク会合、それから、今年二月にフランスで主催されたＡＩアクションサミットを始め、ＡＩの安全性をテーマに国際会合数々開かれておりますので、日本のＡＩＳＩの所長に御就任いただ