AIを野放しにすれば、10億人が死亡する可能性がある
ビル・ゲイツ氏の発言は、まるで終末予言のように聞こえます。しかし、AIが突然自我を持って人類を襲うという話ではありません。
ゲイツ氏が警戒しているのは、悪意ある人間がAIを使うことで、バイオ兵器やサイバー攻撃を実行するハードルが下がってしまうことです。
そのため、危険な使い方への対策をAI企業任せにしていいのか、と問題提起しています。
10億人が死亡するというわけではありません。十分な管理がないままAIが悪用された場合、最悪のケースではそれほど大きな被害につながる可能性もある、という警告です。
AI企業の自己規制だけでは足りない
ゲイツ氏はNBCの「Meet the Press」で、AI企業による自己規制だけでは十分ではないと話しています。
AIを開発している企業自身が「ここまでは安全」「ここから先は危険」と決めるだけではなく、政府や法執行機関も関わり、一定のルールを守らせる必要があるという考えです。
とはいえ、AI開発そのものを止めるべきだと言っているわけではありません。
安全確認のために多少の負担は必要でも、AIの進歩を大きく遅らせる必要はないという立場です。
「10億人が死亡する可能性がある」と聞けば、かなり強い規制を求めているように感じます。
しかし実際には、「危険だからAIを止める」ではなく、
「便利なAIは使い続ける。ただし危険な使い方は止められるようにする」
という考え方に近いです。
怖いのはAIの暴走より、人間による悪用
AIの危険性というと、「AIが自我を持って人類に反乱する」というSF映画のような話を思い浮かべる人も多いでしょう。
しかし、ゲイツ氏が問題にしているのはもっと現実的です。
AIが勝手に悪いことをするのではなく、悪いことをしようとする人間がAIを使う危険性
例えば、これまで高い専門知識が必要だったバイオ兵器やサイバー攻撃でも、AIを使えば必要な情報を探したり、方法を整理したりするハードルが下がる可能性があります。
もちろん、AIに質問しただけで危険な兵器が完成するわけではありません。
実際に何かを起こすには、設備や材料、資金も必要です。
それでもAIによって、これまでできなかった人が、ある程度できるようになる可能性はあります。
私はここが一番怖い部分だと思います。
私たちが普段「AIに聞けば何でも教えてくれる」と便利に感じているその能力は、悪意を持った人にとっても同じように便利だからです。
「10億人」という数字はどう見るべきか
では、なぜ10億人という大きな数字が出てくるのでしょうか。
AIによって危険な技術へのハードルが下がり、それが感染症や大規模なサイバー攻撃などと組み合わさった場合、被害が非常に大きくなる可能性があるという意味です。
危険な情報そのものは昔から存在していました。
ただ、それを理解して実際に使える形まで持っていくには、高い専門知識が必要でした。
AIは、その途中を手伝えてしまいます。
ここが今までとの大きな違いです。
AIそのものが危険なのではなく、人間の能力を底上げすることで、悪用されたときの影響も大きくなる。
今回の発言は、そこへの警告だと考えた方が分かりやすいでしょう。
「危なくなったら止める」だけでは足りない
AIの安全対策というと、最後に電源を切れるようにしておけばいいと思いがちです。
しかし、人間がAIを悪用する場合、それでは遅い可能性があります。
重要なのは、危険な行動が始まる前や途中で気づけることです。
誰が使っているのか、どんな目的で使っているのか、危険な操作を繰り返していないか。
こうした部分まで見なければ、AI本体を止める仕組みだけでは十分ではありません。
最近は、質問に答えるだけではなく、Webを操作したり、ファイルを開いたり、外部サービスを使ったりするAIエージェントも増えています。
AIにできることが増えれば、悪用されたときにできてしまうことも増えます。
だから「最後に止める」より、「危険な使い方に入る前に止める」仕組みの方が重要になってきます。
では誰が監視するのか
難しいのはここです。
AI企業だけに任せれば、自分たちに都合のいい基準になる可能性があります。
逆に政府だけに任せても、進化の速いAIについていけないかもしれません。
現実的には、企業、政府、第三者機関がそれぞれ役割を持つ形になるのでしょう。
ただし、何でもかんでも規制すればいいという話でもありません。
文章を書いたり画像を作ったりする一般的な使い方と、危険な病原体の設計を手伝わせるような使い方を、同じルールで縛る必要はないはずです。
本人確認や利用記録、危険な操作の検知などは、本当にリスクの高い用途へ絞るべきでしょう。
規制を広げすぎれば、普通にAIを使っている人や小さな開発会社ばかりが不便になり、本当に監視すべき部分がぼやけてしまいます。
一般ユーザーにも無関係ではない
10億人という話になると、あまりにも規模が大きく、自分とは関係のない話に感じます。
しかし、考え方そのものは普段のAI利用にもつながっています。
例えばAIエージェントにメールを読ませる。Google Driveへアクセスさせる。社内ファイルを操作させる。外部サービスへ情報を送らせる。
便利になればなるほど、AIへ渡す権限も大きくなります。
だからこそ、「このAIは何ができるのか」だけではなく、「本当にそこまで任せていいのか」も考える必要があります。
会社でAIを使う場合も同じです。
どのAIを使っていいのか。何を入力していいのか。外部サービスをどこまで操作させるのか。問題が起きたときに止められるのか。
こうしたルールを決めないまま、高性能なAIだけ導入するのは危険です。
性能が高いから安全なのではありません。
性能が高いからこそ、間違った使い方をしたときにできてしまうことも増えます。
「10億人」に驚くだけでは何も変わらない
「AIで10億人が死亡する可能性がある」
ここだけ切り取れば、かなり刺激的なニュースです。
しかし、ゲイツ氏が言いたいのは、AIが人類を滅ぼすという予言ではありません。
AIが強力になれば、それを悪用する人間の能力も強くなる。
だから危険な使い方については、企業任せではなく、社会全体で止められる仕組みを作る必要があるという話です。
私は、AIを怖がって使わなくなる必要はないと思います。
むしろAIはこれからもっと便利になり、仕事や生活の中へ入ってくるでしょう。
だからこそ大事なのは、「AIを使うか、使わないか」ではありません。
「どこまでAIに任せるのか」です。
コメント