AIって、実は裏でインド人が回答してるって噂あるけど、本当？
先日、そんなことをChatGPTに冗談半分で聞いてみました。
実はインドにいる誰かへ内容が転送され、その人がものすごい勢いでキーボードを叩いている……。そんなわけないでしょう。
ところが返ってきた答えは、思っていたものとは少し違いました。
半分ネタですが、実は半分真実です。
気になって調べてみると、「AIの裏には実は人間がいる」という話は、想像以上に奥が深かったのです。
しかも調査している途中で、
そういえば以前、自分も『AIの正体がインド人700人だった』という記事を書かなかったけ？
という、少し嫌な記憶まで蘇ってきました。
今回は、冗談から始まった「AIの中身は本当に人間なのか？」という疑問を、実例を追いながら調べてみます。
まず結論、ChatGPTの中にインド人が入っているわけではない
当たり前ですが、最初にここははっきりさせておきます。
今ChatGPTに質問すると、入力された文章をもとにAIモデルが回答を生成しています。質問がどこかの国のオペレーターへ送られ、誰かが毎回答えを書いているわけではありません。
その意味では、「AIの正体は実は人間だった」という話は間違いです。
ただし、質問を少し変えて、
「AIの裏側に、人間による大量の作業は存在するのか？」
と聞かれると、答えは変わります。
しかもこの話、生成AIが登場するずっと前から存在していました。
「機械だと思ったら中に人間」は250年前にもあった
この話を調べていて真っ先に出てくるのが、「メカニカル・ターク」です。
18世紀のヨーロッパで公開された、チェスを指す機械人形でした。人間と対局して実際にチェスを指すため、当時としては驚異的な機械だったはずです。
ところが実際には、装置の内部に人間のチェスプレイヤーが隠れ、その人物が駒を操作していました。
要するに、「ものすごい機械が登場したと思ったら、中に人がいた」という話です。
そして約200年後、Amazonはこの名前をサービス名として復活させます。
2005年に始まった「Amazon Mechanical Turk」です。
Amazon自身が当時、この仕組みを「Artificial Artificial Intelligence」と表現しています。
直訳すると「人工・人工知能」。
コンピューターだけでは難しい仕事を人間へ依頼し、その結果をプログラムから利用できるようにする仕組みです。Amazonは当時、画像の中にある物体を判別するといった仕事では、コンピューターより人間の方が優れているケースが多いと説明していました。
AIの中に人間がいるというジョーク。
実はIT業界そのものが、かなり昔からこの発想を使っていたわけです。
Amazonでも「完全自動」の裏に人間がいた
さらに分かりやすい実例があります。
Amazonの「Just Walk Out」です。
店に入り、商品を取り、そのまま外へ出る。カメラやセンサー、AIによって購入商品が自動判定され、レジに並ばなくても会計できるという未来的な仕組みです。
ところが2024年、このシステムについて「インドのスタッフが映像確認に関わっていた」と報じられました。
Amazonも、人間のレビュー担当者がシステムの精度向上に関わっていること自体は認めています。一方で、「人間が客の買い物をリアルタイムですべて確認し、レシートを作っている」という見方については否定しています。
ここはかなり重要です。
「AIと言いながら、実はインド人が全部レジ打ちしていた」という話ではありません。
AIが自動認識し、その精度を上げたり、一部の判断を確認したりするために人間が関わっていた、という方が実態に近いようです。
それでも利用者側から見れば、完全自動に見えるシステムの裏側に、人間の仕事が組み込まれていたのは興味深い話です。
そういえば私も「インド人700人」の記事を書いていた
ここで一つ思い出しました。以前このサイトでも、
「AIだと思ったら、実際には700人のインド人エンジニアが作業していた」
という記事を紹介していました。
……前の記事、かなり刺激的なタイトルを付けています。
これは私自身もちょっと反省。
ただ、今回の記事のテーマを考えると、「AIだと思ったら全部人間だった」という話は、とにかくニュースとして面白い。だからこそ広がりやすい。
でも実際のAIサービスは、AIだけで動いているわけでも、人間だけで動いているわけでもありません。
その中間にあるケースがかなり多いのです。
ChatGPTにも、本当に人間が関わっている
では、最初に質問したChatGPTはどうなのでしょう。
ここでも人間が登場します。
TIMEは2023年、OpenAIがChatGPTの安全性向上に使うデータ作成のため、ケニアのアウトソーシング企業Samaを利用していたと報じました。
作業者たちは大量の文章を読み、ヘイトスピーチ、暴力、性的な内容、自傷、虐待などに分類していました。中には、かなり精神的負担の大きな文章も含まれていたとされています。
TIMEによれば、作業者への手取り報酬は時給1.32～2ドル程度だったと報じられています。
もちろん、ケニアの人たちがChatGPTになりすまして、ユーザーへの回答を直接書いていたわけではありません。
人間が文章を分類し、そのデータをAIの安全対策に使う。
こうした地道な作業の積み重ねが、現在のAIにつながっています。
AIが進化すると人間はいらなくなる……わけでもない
AIという言葉から受ける印象は、
「これまで人間がやっていた作業を機械が代わりにやる」
というものです。
私も基本的にはそう考えていました。
ところが今回調べてみると、少し見方が変わりました。
AIが高度になるほど、そのAIに教える人、回答を評価する人、データを分類する人、間違いを確認する人、安全性を検証する人も必要になります。
もちろん、将来的にはそうした作業自体もAIへ置き換わっていくかもしれません。
それでも少なくとも現時点では、AIだけですべてが完結しているわけではありません。
普段ChatGPTを使っていると、
質問を書く
↓
数秒待つ
↓
回答が表示される
この部分しか見えません。
だから、巨大なGPUとAIモデルだけですべてが動いているように感じます。
でもその裏には、モデルそのものを作る研究者だけでなく、データを整える人、回答を評価する人、安全性を確認する人など、多くの人間の仕事があります。
AIは「人間を消した技術」ではなく「人間を見えなくした技術」なのかもしれない
今回、一番印象に残ったのはここです。
AIについて語るとき、「AIが人間の仕事を奪う」という話はよく出てきます。
確かに、そうなる仕事もあるでしょう。
ただ、今のAIを見ていると、人間の作業そのものがすべて消えたというより、ユーザーから見えなくなった部分もかなり多いように感じます。
Amazon Mechanical Turkでは、人間の判断をコンピューターシステムから利用できるようにしました。
Amazon Just Walk Outでは、自動認識システムの裏側に人間のレビューがありました。
ChatGPTをはじめとする生成AIでも、学習データや安全対策を作る過程に多くの人間が関わっています。
もちろん、現在あなたがChatGPTへ質問した文章を、裏で誰かが直接書いているわけではありません。
ただ、「AIだけでここまで来た」というのも、少し違う。
そう考えると、AIというものの見え方が少し変わってきます。
結局「AIの中身はインド人」は本当なのか？
最初の質問に戻りましょう。
AIの中身って実はインド人なの？
答えは、
違う。でも笑い話として完全な的外れとも言えない
でした。
ChatGPTの回答をインド人がリアルタイムで入力しているわけではありません。
つまり、「AIの中にインド人がいる」ではなく、「AIの裏側には、想像以上にたくさんの人間がいる」の方が正しいのでしょう。
冗談半分でChatGPTに聞いただけだったのに、調べ終わってみれば「そもそもAIとはどこまでがAIなのか？」という結構真面目な話になってしまいました。
AI時代。疑うべきなのはAIの回答だけではありません。人間が書いた記事も同じです。
もちろん、この文章も含めて。
コメント