合成データの量を増やすだけでは、モデルの性能は伸びません。難しすぎても易しすぎても、学習に使える信号になりにくいからです。Metaが2026年6月に公開した論文「Autodata」は、AIエージェントをデータサイエンティストとして動かし、データの生成・検証・改善をループで回す枠組みを提案しています。
この記事でわかること
- Autodataが従来のSelf-Instruct系手法と何が違うか
- Agentic Self-Instructの4つのサブエージェント構成
- CS・法律・科学推論の3領域での実験結果
- メタ最適化でデータ生成エージェント自体を改善する仕組み
合成データ生成の壁
大規模言語モデル（LLM）の性能向上には、高品質な学習データとベンチマークが欠かせません。人手でラベル付けする従来型のデータ収集は、コストと時間の両面でボトルネックになりやすいです。
Self-InstructやCoT Self-Instructのような合成データ手法は、プロンプト1回で大量の例を作れます。一方で、問題の難易度を直接コントロールできないという限界があります。フィルタリングや進化・改良で品質を上げる手法もありますが、生成と評価が分離したままです。
MetaのRAM（Reasoning, Alignment, and Memory）チームは、Autodataでこの分離を解消します。エージェントが人間のデータサイエンティストと同様に、データを作り、目視相当の分析を行い、性能を測定し、学びを次の生成に反映する一連の流れを自律的に回します（公式ブログ）。
Autodataの全体像
Autodataは大きく3段階で動きます。
データ作成では、論文・法律文書・数学問題などのソース資料をもとに、学習用または評価用のデータを生成します。ツール呼び出しや推論時の計算量も使えます。
データ分析では、個別の例が正しいか、難易度は適切か、データセット全体として多様かを検証します。分析結果は次の生成サイクルへフィードバックされます。
メタ最適化では、データサイエンティスト役のエージェント自体を改善します。内側のループ（データ品質）と同じ基準で、外側のループ（エージェントのプロンプトやハーネス）を進化させる仕組みです。論文ではautoresearch型の最適化を採用しています。
Agentic Self-Instructの仕組み
論文で実装例として示されているのが、Agentic Self-Instructです。オーケストレーターとなるメインエージェントが、4つのLLMサブエージェントを指揮します。
- Challenger — 問題・回答・評価ルーブリックを生成する
- Weak solver — 学習対象の小規模モデル（実験ではQwen3.5-4B）
- Strong solver — 能力の高いモデル（実験ではQwen3.5-397B-A17B）
- Judge — 回答品質と問題自体の妥当性を判定する
生成された問題をWeak solverとStrong solverの両方に解かせ、Judgeがスコアを付けます。Strong solverが正解に近く、Weak solverが苦戦する例だけを採用します。基準を満たさなければ、どの問題が易しすぎたか・Strong solverでも解けなかったかといったフィードバックをChallengerに渡し、別の角度から問題を作り直します。
CS研究タスクでは、採用基準を「Strong solver平均0.65以上」「Weak solver平均0.5未満」「両者の差が20ポイント以上」と定義しています。1件あたり平均6.59ラウンドの反復が必要で、80%の失敗は「易しすぎる」と判定されたケースでした。
実験結果：難しくするのではなく「ちょうどよく」する
論文の核心は、単に難しいデータを作ることではなく、学習対象モデルにとってちょうどよい難易度のデータを作ることです。
コンピュータサイエンス研究タスク
S2ORCコーパスから1万本超のCS論文を処理し、Agentic Self-Instructで2,800件を採用、品質検証後に1,300件をRL学習に使用しました。
CoT Self-InstructではWeak solverとStrong solverのスコア差が1.9ポイントにとどまり、両モデルがほぼ同じ得点でした。Agentic Self-InstructではWeak solverが43.7%、Strong solverが77.8%となり、差は34ポイントに広がります。
Qwen3.5-4BをGRPOで学習させた結果、Agenticデータで訓練したモデルはCoTデータで訓練したモデルを両方のテストセットで上回りました。難しいAgenticテストでは、ベースモデル0.366からAgentic訓練で0.632へと大幅に改善しています。
法律推論タスク
法律分野では逆の失敗モードが起きます。CoT Self-Instructの問題は難しすぎて、Weak solverの平均スコアが15.9%にとどまり、5回中4〜5回がゼロ点というケースが多発しました。GRPO（Group Relative Policy Optimization、強化学習の一手法）では報酬の分散が小さすぎると学習信号が弱くなります。
Agentic Self-InstructはWeak solverの平均を28.3%まで引き上げ、ロールアウトの標準偏差も7.93から12.63へ増やしました。問題文も平均1,569文字から900文字に短縮され、応用型の問いへと形を変えています。
PRBench-Legalでの評価では、Agenticデータで学習した4BモデルがGPT-5を採点者とした場合0.441を記録し、CoTデータで学習した4B（0.377）と、追加学習なしの397Bベースライン（0.404）の両方を上回りました。Kimi-K2.6を採点者にしても同じ順位です。
科学推論タスク
数学・物理のPrincipiaコレクションをソースにした実験でも、Agentic Self-InstructデータはCoTデータや両者を合わせた2倍サイズのデータセットを上回る改善を示しました。
メタ最適化でエージェント自体を進化させる
Autodataのもう一つの特徴は、データ生成エージェントのプロンプトやハーネスを自動改善できる点です。CS研究タスクでは、Boltzmannサンプリング（温度0.1）で親ハーネスを選び、失敗軌跡をLLMが分析し、コード編集エージェントがハーネスを修正する進化型フレームワークを使いました。
検証通過率は12.8%から42.4%へ上昇し、233イテレーション中126件が採用されました。自動で見つかった改善には、論文固有の知識を問う自己テストの追加、コンテキストからの解答漏れ防止、ルーブリックの正の重みのみに限定する変更などがあります。
実務への示唆
Autodataは現時点で一般向けのツールとして公開されているわけではありません。ただし、合成データの品質管理にエージェントループを組み込むという発想は、データ不足に悩む現場にも応用しやすい考え方です。
推論時の計算量をデータ品質へ変換する、という論文の主張は、モデルサイズの拡大だけでは届かない領域への手がかりになります。autoresearch（AIが研究プロセス自体を自動化する潮流）がモデルアーキテクチャや学習レシピに注目する中、データ生成側にエージェントを向けるという位置づけは新しいです。
一方で、Weak solverへの指示を改変して意図的に弱くさせるなど、エージェントが基準をすり抜けようとする事例も報告されています。データの意味のある難しさと、形式的な難しさを分けて評価する仕組みは、今後の課題として論文でも言及されています。