9Bパラメータのオープンモデルが、32B級の先行研究を上回るスコアを出した。

2026年6月22日、Allen Institute for AI（Ai2）とワシントン大学の研究チームが、ターミナル操作に特化した強化学習（RL）モデル群「Tmax」を公開しました。データセット、学習済み重み、RLのロールアウト記録まで一式がApache 2.0で公開され、再現研究の足場になります。

この記事でわかること

  • Tmaxが何を公開したのか
  • Terminal-Bench 2.0での性能と先行研究との差
  • TMAX-15Kデータセットの特徴
  • モデルの使い方と公開リソース

ターミナルエージェントの学習データが足りなかった

ターミナルエージェントとは、シェルでコマンドを打ち、出力を読み、次の操作を選ぶ言語モデル型のエージェントです。Claude Codeのような製品が普及する一方、学術界ではRLでターミナルエージェントを訓練する研究が少なく、難しいベンチマーク、データ不足、再現可能なベースラインの欠如が障壁になっていました。

既存の合成データセットは、ファイル操作中心で簡単すぎるものや、ソフトウェア工学に偏ったものが多く、Endless TerminalsではGemini 3 Flashのpass@1が90%超に達するなど、現行モデルには学習信号が弱い傾向がありました。

Tmaxが公開した3つの柱

https://github.com/hamishivi/tmax

Tmaxは、データ生成・学習・評価を一つのリポジトリにまとめたオープンRLレシピです。公開内容は次の3点に集約されます。

TMAX-15K — 14,600件のRL環境データセット。フル環境データを公開している既存ターミナルデータセットの2.5倍以上の規模です。9つの構造化軸（ドメイン、スキル、難易度、ペルソナ、検証方式など）を組み合わせて合成し、難易度と多様性を明示的に制御しています。

Tmaxモデル群 — Qwen 3.5/3.6をベースにDPPO（Divergence Proximal Policy Optimization、GRPOの安定化版）で学習した2B/4B/9B/27Bのモデル。代表モデルTmax-9BはHugging Faceのallenai/tmax-9bで入手できます。

学習アーティファクト — Tmax-9BのRLロールアウトやlogprobsなど、訓練過程の記録も公開されています。論文著者のHamish Ivison氏は、データ・重み・ロールアウトをすべて公開するとXで明言しています。

Terminal-Bench 2.0で何が変わったか

Terminal-Benchは、コンテナ上のターミナルでエージェントの実務能力を測るベンチマークです。公式設定（65,536トークンのコンテキスト上限、タイムアウト変更なし）でのスコアが比較の基準になります。

モデル Terminal-Bench 2.0
Qwen 3.5 9B（ベース） 21.1%
Tmax-9B 27.2%
Tmax-27B 42.7%
Claude Haiku 4.5（参考） 29.8%

Tmax-9Bはベースモデルから約6ポイント改善し、10B未満のオープンウェイトモデルとしては最強クラスです。先行のオープンRLレシピ（Endless-8B、OpenThinker-Agentなど）が訓練した32Bモデルを上回り、クローズドのClaude Haiku 4.5（29.8%）に近い水準です。27Bに拡大したTmax-27Bは42.7%に達し、1兆パラメータ級のKimi K2.5（43.2%）に迫ります。

Ivison氏の発表では、デフォルト設定かつ65kトークン予算の条件下で、先行オープン研究を上回ると述べられています。

データ設計が性能差の要因

Tmax-15Kは、ドメイン9分野にほぼ均等に分布し、ドメインバランススコア0.998を記録しています。一方、SWE-smithはソフトウェア工学に95%が集中するなど、先行データは偏りが大きいです。

難易度面でも、Gemini 3 Flashでのpass@1が42%、pass@8が53%と、Endless Terminals（pass@1 92%）より明らかに難しく設計されています。検証方式も文字列一致だけでなく、閾値判定やファズ検証など段階的な報酬を使い、RLの学習信号を維持します。

Qwen 3.5 9Bを固定してRLデータだけを変えた比較では、Tmax-15KがTerminal-Bench 2.1で28.8%と最高スコアを出し、ベースモデルの16.1%から約13ポイント伸びています（論文）。

学習レシピの要点

学習はopen-instructを拡張した基盤上で、vLLMによるロールアウトとPodman/Apptainerのサンドボックスを組み合わせています。主な設定は次のとおりです。

  • 学習ステップ500（Tmax-9Bの公開チェックポイントは200ステップ時点が最良）
  • グループサイズ32、バッチあたり8プロンプト
  • 最大コンテキスト65,536トークン、エピソードあたり最大64ツールコール
  • LMヘッドをFP32で保持し、学習と推論のlogprob不一致を抑制

典型的な訓練はH100を8ノード（学習2・推論6）使い、2〜3日かかります。ハーネスはmini-SWE-agent由来のVanillux2Agentを採用し、永続シェルでコマンドを実行します。

他ベンチマークへの汎化も確認

Tmax-9Bはターミナル特化の訓練ながら、他タスクでも改善が見られます。SWE-Bench Verifiedは44.0%から53.5%へ、AIME 2024/25（ターミナルエージェント設定）は73.3%から91.1%へ上昇しています（公式ブログ）。

評価ハーネスをOpenHandsやTerminus-2に差し替えても、ベース比で9〜15ポイントの改善が出ており、特定ハーネスへの過学習ではなく、ターミナル操作スキルの獲得と解釈できます。

使い方と公開リソース

https://huggingface.co/allenai/tmax-9b

ローカルGPU環境ではvLLMでモデルを起動し、Harborフレームワーク経由でTerminal-Benchを回せます。GitHubのREADMEに、vLLMの起動コマンドとHarbor評価の手順が記載されています。15,000件のタスクコーパスはHarbor形式でtmax/TMax-15K-Harborとしても配布されています。

関連リンクは次のとおりです。

  • 論文: https://arxiv.org/abs/2606.23321
  • コード: https://github.com/hamishivi/tmax
  • モデル・データ: https://huggingface.co/collections/allenai/tmax
  • 公式ブログ: https://wai-org.com/blog/tmax/

ターミナルエージェントのRL研究は、データ・重み・訓練ログが揃った初の本格的なオープンベースラインが手に入った段階に入りました。自前環境での再現や、DPPOやデータ合成の改良実験を始めたい開発者・研究者にとって、試す価値のある公開です。