オードリー・タン

ロイター通信が伝えたデジタル発展部の統計によると、2025年には、なりすまし詐欺広告が94%、投資詐欺広告は96%も減少しました。さらにデジタル発展部が今年7月に公表した数字では、2024年のピーク時と比べて、なりすまし詐欺広告は98%減り、ピーク時の2%未満になりました。投資詐欺広告は、99%も減っています。これは国会での立法に加えて、プラットフォームによる広告主の本人確認、政府がAIを使って行う広告のスキャン、市民の通報窓口、そして官民の連携が、一緒になって効果を上げた結果です。

これは、市民の集合知を結集し、立法する側と法を執行する側が、市民の総意をAIのレッドラインとして引けば、手遅れになる前に問題を食い止められることを示しています。もちろん詐欺グループはほかの経路へ移っていきますから、レッドラインもそれに合わせて引き直さなければなりません。レッドラインを引くにはみんなの参加が必要で、そのレッドラインは実際に執行できるものでなければなりません。この二つがそろえば、悪玉チームによる危険な使い方を最小限に抑えながら、善玉チームの使い方を後押しすることができるのです。

まず、研究者や政策担当者をはじめとする日本の皆さんに、お礼を申し上げたいと思います。議論を重ねるなかで、私たちは日本とかなり多くの意見を交わし、ひとつの共通認識にたどり着きました。AIがもたらすリスクは「分類」するものであって、「等級づけ」するものではない、ということです。

つまり、あるコミュニティの使い方がこの類型に属するなら、この類型のリスクが生じうる。別のコミュニティの使い方が別の類型なら、リスクもまた別の類型になる。けれども、類型どうしのあいだに、低いものから高いものへと並ぶ等級の関係はないのです。

自動運転には、レベル0からレベル5までの段階がありますよね。レベル5になれば、ハンドルから手を離して、運転を完全に車に任せられる。AIによる自動化を等級の目で見てしまうと、AIにたくさん任せるほど、AIが自律的になるほど良い、という落とし穴にはまりやすくなります。でも先ほどお話ししたように、実際はそうではありません。その場に来られない人を、まるでその場にいるかのようにする。それがAIのひとつの使い方なら、すでにその場にいる二人が互いを理解しやすくする、つまり翻訳するのは、また別の使い方です。

私の血液型はB型ですが、いつかA型に「アップグレード」しようとは思いません。そもそも、それがどういう意味なのかわかりませんよね。現場が違えば使い方も違い、使い方が違えばリスクの類型も違う。けれども類型のあいだに、一、二、三、四、五という階段はないのです。

具体的には、この法律の主管機関は国家科学技術委員会（国科会）です。デジタル発展部が策定を担うAIリスク分類フレームワークは今年7月に公表され、3つの大分類、20項目のリスクに整理されています。あらかじめ決められたリスクの等級の階段はありませんが、各省庁はリスクの影響の大きさを評価し、重大な害をもたらすおそれがあるかどうかを判断します。そのおそれがあれば「高リスク」に当たります。高リスクは階段の一段ではなく、はっきりした責任を求めるものです。責任の所在を明確にし、救済・補償・保険の仕組みを整えなければなりません。

当初は、議論もありました。各省庁がそれぞれ直面する特定のリスク類型ごとに洗い出す、多元的なやり方をとるのか。それとも全部を一か所に集めて、少人数のグループが、これはレベル1のリスク、あれはレベル2、レベル3と、一手に決めてしまうのか。

最終的に採用されたのは、多元的なやり方です。各省庁が、自分の所管する法律を見直すことになりました。これはまさに、リスクは分類するものであって等級づけするものではない、という私たちの考えの核心とも響き合っています。

だからこそ、この法律が必要だったのです。この法律は、みんなに共通の言葉を与えてくれました。これまでは、各省庁がそれぞれに見ているリスクを、互いに共有したり、見えるようにしたりすることが難しかった。いまは、共通の言葉があります。これは国際的にも大切なことです。私たちが目にした新しいリスクの類型や、それへの対応の仕方を共有できる共通の言葉が、国際社会にも生まれてほしいと強く願っています。

これは基本法なので、示しているのは一般的な枠組みです。先ほどのリスク分類やリスク評価など、基本法が求める範囲を、手持ちの法的な手段で十分にカバーできているかどうかを、各省庁に点検するよう求めています。足りなければ、既存の法律を見直し、解釈や規則、さらには法改正によって補わなければなりません。各省庁は、基本法の施行から2年以内、つまり2028年1月中旬までに、これを終える必要があります。

この作業は、いまもまだ進行中です。そしてここでこそ、世界中の皆さんの力が必要です。新しいリスクや新しい使われ方を見つけたら、できるだけ早く共有してください。そうすれば各国の人々が一緒にこの新しい技術を点検して、どの部分なら善い人たちを加速させ、悪い人たちを追い越せるかを見極められます。

みんなが同じリスクを見ることができれば、誰もが針路を変えられ、協調できます。そうすれば、私たちには時間があるのです。

多くの友人が心配しています。AIがごく少数の人の手で開発され、それでいて非常に多くの人に影響を与えるなら、いつか影響を受ける側の私たちには、こうした大規模で集中型のAIが自分たちに何をしているのか、まったくわからなくなってしまうのではないか、と。つまり説明責任（アカウンタビリティ）が失われ、きちんと説明する責任が果たされなくなるということです。その原因は、いつか私たちが、もうストップをかけようとしなくなる、ひもを引いて止めようとしなくなることにあります。アンドンのひもが、効かなくなってしまうのです。

ただ、私は実はそれほど悲観していません。

かつて科学者たちが、冷蔵庫の冷媒がオゾン層を壊すかもしれないと気づいたときも、それは止めようのない災厄のように見えました。いったん冷房や冷蔵庫を使い始めた人たちに、冷蔵庫を使うのをやめようと説得するなんて、まず無理な話ですから。

でも、事態はそこまで絶望的ではありませんでした。1970年代、科学者の警告が出るとすぐに、消費者たちはフロン（CFC）を含む製品、たとえばスプレー缶の不買運動を始め、メーカーも代わりの方法を見つけ出しました。アメリカは1978年には、スプレー缶へのフロンの使用を禁止しています。

1985年には、科学者たちが南極上空のオゾンホールの観測結果を発表しました。ホールの広さは1000万平方キロメートル以上にも及び、これ以上ないほど明白な警告射撃でした。そのわずか2年後、研究者たちは航空機で南極上空に飛び込んで実地に観測し、フロンが本当にオゾン層を壊すことを確かめました。こうして因果関係の筋道が、独立した観測によって裏づけられたのです。ほぼ同じころ、外交官たちはモントリオール議定書に署名し、まずはフロンの生産を凍結して一部を削減することにしました。観測の結果が出そろうと、各国は何度か議定書を改正して、全廃を決めました。今日では、国連のすべての加盟国が参加しています。

議定書は、投資家たちに共通の期限を示しました。その期限までに、オゾン層を壊さずに冷媒をつくる方法を、何としても見つけなければならない。そこで投資家たちは、研究開発の資金をごっそり振り向けました。先進国は1996年前後にフロンの生産をやめ、途上国も2010年にはそれに続きました。こうして産業全体が方向を転換したのです。もちろん、代わりのものにも思いがけない副作用がありました。その後に普及した代替フロン（HFC）は、オゾン層こそ壊さないものの、強力な温室効果ガスだったのです。それでも、この仕組みには説明責任があり、ストップをかけることもできたからこそ、各国は2016年のキガリ改正によって、代替フロンの段階的な削減にも踏み出しました。

ですから、事態が手に負えなくなりそうになるまで、代わりの方法を考えるのを待っていてはいけません。十分に多くの人が、手元で動く小さなエッジモデルを使い、自分でコントロールできて、いつでもストップをかけられるツールと組み合わせれば、状況は変わります。たとえばアンドリュー・エン（Andrew Ng）の OpenWorker は、重要な操作をする前に必ずあなたに確認を取りますし、自分のパソコンで動く小さなモデルと組み合わせることもできます。私自身がよく使っている Paseo なら、AIを自分のパソコンの上で直接働かせることができます。どちらもオープンソースで、ソースコードが公開されていて誰でも点検でき、ソフトウェア自体は無料です。みんなが自分の使い方を少しずつ変えていけば、ますます巨大で、ますます制御しにくくなるAIに投資していた投資家たちも方向を変え、もっと周りに気を配り、きちんと責任を果たせる小規模なAIモデルに目を向け始めるはずです。

オゾン層の物語は、今日にもそのまま当てはまります。必要なのは三つです。

一つ目は、透明な検証です。当時のあの独立した観測のように、起こりうるリスクを早めに見えるようにすることです。

二つ目は、かつてフロンを不買したのと同じように、消費者が一緒になって、不透明で検証できないシステムを拒むことです。一人ひとりが、まず自分に問いかけてみてください。自分のお金は、不透明で検証もできず、インターネットや私たちの協調する力を壊しかねないAI企業に払われているのか。それとも、透明性を約束し、第三者の認証を受け入れ、自分の目の届くマシンの上で動かすことさえできるAI企業に払われているのか。消費者が購買力によって針路を変えれば、政策をつくる立場にある大使や官僚も、消費者の本当の声を反映できるようになります。

三つ目は、モントリオール議定書のような共通のルールです。「自分が安全な方へ舵を切っても、まだ危険なことをしている悪い人がいたらどうするのか」と、誰もが恐れずにすむようにする。みんなで手を携えて共同で防衛し、悪い人たちの使い方を食い止められるからです。

みんながまだ見ることができ、止めることができ、協調することができるかぎり、選択はまだ私たちの手の中にあります。

まだ間に合います。ただ、その「間に合う時間」は、待つためではなく、行動するためにあるのです。