AIを賢くするために雇われた人間が、作業の大半をChatGPTに任せている——そんな内部告発が相次いでいます。学習データの汚染は、モデル性能の低下を招く「model collapse（モデル崩壊）」と直結します。MLOpsやAI運用に携わる人にとって、データの出自をどう担保するかが実務上の論点になります。
この記事でわかること
- AI学習データ作業者がChatGPTを使う実態と背景
- model collapseが起きるメカニズム
- 専門家が示す影響の規模と緩和策
- データ品質を守るための運用上の視点
AIを賢くする仕事が、AIの出力で埋まっている
英国の科学メディアNew Scientistは2025年6月22日、AI学習データの作成に関わる複数の内部告発者の証言を報じました。AI企業は、人間とAIの対話や回答評価から得た高品質データで次世代の大規模言語モデル（LLM）を鍛えようとしています。ところが、そのデータを作るはずの作業者が、ChatGPTなどのチャットボットに丸投げしているというのです。
告発者の一人は「どの会社でもガイドラインはあるが、実質的に止められない」と語っています。別の作業者は、AI特有の文体（長いダッシュの多用など）を避けるよう指示すれば、検知はほぼ不可能だと述べました。低賃金・短期契約の下で働く第三者委託の作業者にとって、ChatGPTは作業時間を短縮する合理的な手段になります。
なぜインターネットのデータだけでは足りないのか
現行のLLMの多くは、Webから収集したテキストで事前学習されています。モデル規模が拡大するにつれ、ネット上のデータだけでは不足し、人間が意図的に作った対話や評価データの需要が高まりました。AIが自然な会話をし、複雑な指示を理解し、誤りを減らすには、人間の判断を反映した事例が欠かせません。
ここにAI生成の回答が混ざると、人間の言語や思考を学ぶはずのモデルが、過去のAIの癖や誤りを反復学習することになります。人間の多様性やレアな表現が薄れ、AIがよく出す平均的な文体だけが残る——この連鎖がmodel collapseの本質です。
model collapseとは何か
https://www.nature.com/articles/s41586-024-07566-y
model collapseは、生成AIが自分たちの出力を学習データに使い続けることで、モデル性能が段階的に劣化する現象です。2024年にNature誌へ掲載された研究（Shumailovら）では、LLMだけでなく変分オートエンコーダーやガウス混合モデルでも起きる普遍的な問題だと示されています。
劣化は二段階で進みます。初期段階（early model collapse）では、データ分布の「尾」——出現頻度の低い表現や稀なケース——が消えていきます。後期段階（late model collapse）では、元の分布との類似性が失われ、出力のばらつきが極端に小さくなります。研究チームは、Webスクレイピングによる大規模学習の恩恵を維持するには、この問題を真剣に扱う必要があると指摘しています。
現場で起きている具体的な手口
New Scientistの取材では、Scale AI傘下の学習プラットフォームOutlierで働いた告発者の証言も掲載されています。作業者のデスクトップをランダムにスクリーンショットするHubstaffで監視し、タスクバーやフォルダ名からAI利用の痕跡を探す体制だったとされます。OutlierはMetaやCisco向けの業務を公式サイトで公表しており、告発者はGoogle向けプロジェクトにも関わったと語っています。
ある作業者は、厳しいガイドライン違反で即座にプロジェクトから外される恐怖から、まずAIで自分の作業をチェックし始めたと説明します。その後、シナリオ作成や関連ファイルの起草まで、複数のLLMに任せるようになりました。「AIに自分自身を学習させているのではないか」と不安を口にしています。
専門家はどう見ているか
英国バーミンガム大学のMark Lee氏は、AI生成コンテンツを再帰的に学習するとモデルが崩壊するという研究結果を踏まえ、最悪のシナリオでは能力が劇的に落ちると指摘しています（参考）。
一方、Lee氏は現実には完全な崩壊には至らない可能性も示しています。人間由来のデータが全体の約10%でも混ざっていれば、model collapseは緩和されるという見方です。ただし「壊滅的ではないが、人間らしいタスクへの適性は本来より低くなる」という評価であり、データ汚染は性能の上限を下げる要因として残ります。
MLOps・AI運用で押さえるべき視点
この問題は、いま稼働中のモデルが明日突然使えなくなるという話ではありません。むしろ、次世代モデルの品質が静かに蝕まれていくリスクとして理解するのが実務的です。
データの出自管理が第一の防波堤になります。人間が作成したはずのデータにAI生成物が混入していないか、文体の均一性やメタデータの不整合などで監査する仕組みが求められます。Natureの研究が示すように、合成データで既存の実データを置き換えるのではなく、実データを減らさず蓄積していく学習方針も有効です。
作業者側のインセンティブ設計も見落とせません。告発者は「質の高いデータが欲しいなら、質の高い契約を出せ」と繰り返し訴えています。低賃金・短期雇用のまま厳格なガイドラインだけを課しても、検知と処罰のいたちごっこに終わりやすい構図です。
AI業界が人間データへの依存を深めるほど、その品質を守るコストも上がります。学習パイプラインの設計段階から、データ汚染を前提にした検証と、実データのアンカー（基準点）の確保を組み込むことが、長期的なモデル品質の鍵になります。