コンテキストを増やしても、モデルは過去の情報を深く推論できない——そんな壁を、睡眠のメカニズムで突破しようとする研究が登場しました。
本記事では、カーネギーメロン大学とメリーランド大学の研究チームが発表した「Language Models Need Sleep」（arXiv:2605.26099）を解説します。KVキャッシュの仕組み、従来手法の限界、睡眠フェーズの動作原理、実験結果までを整理します。
この記事でわかること
- KVキャッシュがLLMの「短期記憶」として機能する仕組み
- ハイブリッドモデルが抱える「記憶はあるが推論できない」問題
- CMU研究が提案する睡眠フェーズの具体的な動作
- 数学推論タスクでの精度改善データ
なぜLLMに短期記憶の限界があるのか
Transformerベースの大規模言語モデル（LLM）は、自己注意機構を通じて過去のトークンを参照します。このとき、各トークンのKey（キー）とValue（値）ベクトルを保持するのがKVキャッシュです。新しいトークンを生成するたびに過去分を再計算せず済むため、推論速度の向上に欠かせない仕組みです。
一方で、KVキャッシュのメモリ消費量はコンテキスト長に比例して増えます。コンテキストが長くなるほど、GPUメモリの圧迫やレイテンシの悪化が起きやすくなります。近年はSSM（State-Space Model、状態空間モデル）と注意機構を組み合わせたハイブリッドモデルが普及し、KVキャッシュから追い出された情報を固定サイズの「高速重み（fast weights）」に圧縮して保持する方式が採用されています。
しかし、カーネギーメロン大学のSangyun Leeらの研究は、記憶容量そのものがボトルネックではないと指摘します。KVキャッシュから追い出されたコンテキストを、後段の推論に使える形へ変換するための計算量が不足している——これが深い推論を妨げる本質的な原因だと論じています。
従来のハイブリッドモデルが抱える課題
注意機構とSSMを組み合わせたハイブリッドモデルは、限られたコンテキスト窓を超えた情報を高速重みに圧縮して保持できます。一見、長文処理の課題は解決したように見えます。
研究チームは、セルオートマトンRule 110を使った合成タスクでこの限界を検証しました。コンテキスト窓を24トークンごとに完全消去する設定では、標準的なTransformerはKVキャッシュが消えるためランダム推測と同等の性能に留まります。GDN（Gated Delta Network）と注意機構の4層ハイブリッドモデルも、必要な計算ステップ数が増えるほど精度が急落しました。
重要なのは、系列長を固定したまま推論の深さだけを変えた実験である点です。記憶容量は十分なのに性能が落ちるため、問題は「情報を保存できるか」ではなく「保存した情報を深く処理できるか」にあると結論づけています。
睡眠フェーズがKVキャッシュ枯渇前に行うこと
研究チームが提案する「LLM Sleep」は、KVキャッシュを消去する直前に睡眠フェーズを挿入する手法です。動物の脳が睡眠中に海馬の短期記憶を皮質のシナプス重みへ統合するプロセスに着想を得ています。
具体的な流れは次のとおりです。
- コンテキスト窓（サイズL）が満杯になる
- 外部からの新規トークン入力を止め、睡眠フェーズに入る
- 蓄積されたコンテキストに対し、N回のオフライン再帰パスを実行する
- SSMブロック内の高速重みを学習済みの局所ルールで反復更新する
- KVキャッシュを消去し、通常の推論（覚醒フェーズ）に戻る
N=1の場合は従来のSSM-注意ハイブリッドモデルと同等です。Nを増やすほど睡眠時間が長くなり、高速重みへの統合が進みます。追加の計算は睡眠中に集中させるため、覚醒時の1パス推論レイテンシは変わりません。
実験結果が示す性能改善
3種類のタスクで効果が検証されています。
セルオートマトン（Rule 110、t=32）
ループなしのベースラインは約10%の精度にとどまり、ランダム推測に近い水準でした。睡眠パスを2回に増やすと約20%、3〜4回で30%超に達しました。コンテキスト長や消去ルールを固定したうえでの改善であり、睡眠中の追加計算が寄与した結果です。
Depo（多段ホップ知識検索）
グラフ上のkホップ先ノードを答えるタスクでは、1ループモデルは4ホップ以上のクエリで学習が停滞しました。4ループモデルのみが16ホップの最難クエリで改善の兆しを見せています。
GSM-Infinite（数学推論）
実用的な規模のモデルでも効果が確認されました。Jet-Nemotron 2Bでは6演算問題の精度が0.742から0.812へ、8演算問題では0.351から0.388へ向上しました（6ループ時）。Ouro 1.4Bでは6演算問題で0.419から0.615へ、8演算問題で0.210から0.272へ改善しました（4ループ時）。演算数が多いほどループ数の差が広がる傾向です。
スライディングウィンドウ消去（L=512）の設定では、Ouro 1.4Bの精度が0.596から0.905へ跳ね上がり、52%の改善が報告されています。アクティブな注意窓が系列長より大幅に小さい場合、睡眠時間の延長が推論だけでなく情報の圧縮・検索にも効くことを示しています。
既存手法との位置づけ
長文コンテキストの圧縮やKVキャッシュの最適化に関する研究は多数存在します。PagedAttentionによるメモリ断片化の解消、トークン単位やチャンク単位のキャッシュ圧縮、テスト時学習による重み更新などが代表例です。
本研究の特徴は、圧縮対象を短縮するのではなく、消去前のコンテキストを高速重みへ「反復的に」移す点にあります。テスト時学習が固定の損失関数に対する1回の勾配更新を行うのに対し、学習済みの再帰的フォワードパスを記憶更新ルールとして使う設計です。深度再帰モデルが推論時にループする方式とも異なり、追加計算は睡眠中に前倒しして覚醒時のレイテンシを守ります。
実装面の注意点
睡眠フェーズは推論時のレイテンシを守る一方、学習コストはNに比例して増加します。コンテキスト窓をまたぐ再帰処理は系列方向の並列化を妨げるため、学習のスループットにも影響します。論文では、窓サイズLが十分大きければGPU利用率は維持できると報告していますが、大規模モデルへの適用には学習安定化の工夫が今後の課題として挙げられています。
研究が示す設計の方向性
LLMの長文処理は、コンテキスト窓の拡大だけでは解決しません。KVキャッシュから追い出された情報を、後続の推論に使える内部状態へ変換する計算——これが不足している場面があるのです。カーネギーメロン大学の研究は、脳の睡眠に着想を得たオフライン再帰処理でこのギャップを埋める道を示しました。合成タスクからGSM-Infiniteまで、睡眠時間Nの増加が深い推論タスクで最も大きな改善をもたらすことが確認されています。長時間のエージェント運用やマルチターン対話の設計に、新たな設計軸が加わる可能性があります。