生成 AI に長い資料を渡して質問したとき、冒頭や末尾に書かれた内容には正しく答えるのに、中盤に書かれた内容は見落としてしまう。この現象は「 Lost in the Middle（ロスト・イン・ザ・ミドル）」と呼ばれ、AI を業務で使ううえで知っておきたい問題の一つです。各社のモデルが数十万〜 100 万トークン以上の入力に対応するようになった今も、完全には解決されていません。今回はこの問題について、原因、ユーザーへの影響、各社の対応、そして今すぐ取れる対策までを整理してみます。
U 字型に下がる回答精度
この現象を体系的に示したのは、スタンフォード大学などの研究チームが 2023 年 7 月 6 日に arXiv で公開した論文『 Lost in the Middle: How Language Models Use Long Contexts 』です。研究では、複数の文書のうち 1 つだけに正解が含まれる状態で、その文書の位置だけを変えて質問応答の精度を測りました。その結果、正解が冒頭や末尾にあると精度が高く、中央付近にあると大きく下がる「 U 字型」の傾向が確認されました。中央に置いた場合、資料を一切渡さずにモデルの知識だけで答えさせたときより成績が低くなるケースもありました。
注意したいのは、AI が中盤を物理的に読み飛ばしているわけではないという点です。入力自体はモデルに渡っています。問題は、回答を作る際に必要な情報を選び出す過程で、位置による偏りが生じることにあります。
なぜ起きるのか
原因は一つではなく、いくつかの要因が重なっています。
まず、モデルの仕組みに由来する偏りです。現在の主要な LLM の土台である Transformer は、Attention（注意機構）という仕組みで文中の各部分の関連性を計算します。この Attention には、冒頭に注意が集まりやすい傾向と、回答を生成する位置に近い末尾が重視されやすい傾向があることが研究で確認されています。人間も最初と最後に聞いたことを覚えやすいと言われますが、それとよく似た振る舞いです。
次に、学習データの偏りです。ニュースや論文などの文章は、冒頭に要点、末尾にまとめを置く構成が多く、指示に従う訓練でも、冒頭のシステムプロンプトと末尾のユーザー指示を重視するよう学習されます。また、学習に使われる文章は比較的短いものが多いため、長い文書の離れた場所にある情報を結びつける経験が不足しがちです。
さらに、入力が長くなるほど一つひとつの情報に向けられる注意が薄まり、必要な情報がノイズに埋もれやすくなります。
ユーザーにとって何が問題なのか
実務で最も厄介なのは、AI が嘘をつくのではなく、「正しい情報だけを使って、誤った結論を出す」ことがある点です。
例えば、100 ページの投資レポートを AI に渡して投資判断を尋ねたとします。冒頭の成長戦略と末尾の強気な結論は回答に反映される一方、中盤に書かれた「主要顧客との契約が来年終了する」というリスク情報が抜け落ちる可能性があります。回答の一文一文は事実に基づいているため誤りに気づきにくく、ハルシネーション（事実と異なる情報の生成）よりも発見が難しい問題と言えます。
契約書の例外規定や、決算書の複数ページに分散した数値を突き合わせる作業でも同じことが起こり得ます。また、長時間動く AI エージェントでは、最初に与えた「大きな変更は必ず承認を得ること」といった条件が、大量の作業履歴に埋もれて適用されなくなるおそれもあります。
どこまで改善が進んだのか
では、こうした問題は現在どこまで改善されているのでしょうか。これを考えるうえで、まず押さえておきたいのが「評価の物差し」の変化です。
以前は、長文の中に無関係な一文を 1 つだけ埋め込み、それを見つけられるかを測る「 Needle in a Haystack（干し草の山から針を探す）」というテストが主流でした。ただ、このテストでは主要モデルがほぼ満点を取るようになり、性能の差がつかなくなっています。そこで現在よく使われているのが「 MRCR v2 」という評価です。これは、よく似た内容の情報を長文の中に 8 つ紛れ込ませ、その中から指定された 1 つを正確に取り出せるかを測るもので、似た情報を取り違えずに区別する力が問われます。
こうした「見分ける力」の難しさは、以前から指摘されていました。2025 年に発表された NoLiMa という研究では、当時の GPT-4o は、質問と答えに同じ単語が含まれない条件にすると、約 3 万 2000 トークンの長さで正答率が 99.3% から 69.7% まで下がりました。単純に「探せる」ことと、紛らわしい情報の中から「正しく見分けられる」ことは別の能力だということです。
この MRCR v2 で見ると、最新モデルの改善はかなり進んでいます。OpenAI が 2026 年 9 月 3 日に公開した GPT-6 Astra は、50 万〜 100 万トークンの範囲で 96.3% と発表しており、前世代の GPT-5.6 Sol の 73.8% から大きく伸びました。Anthropic も、2026 年 2 月 5 日に公開した Claude Opus 4.6 で、100 万トークンにおいて 76% を記録したと発表しています。前世代の Claude Sonnet 4.5 は 18.5% だったので、1 世代で 4 倍以上に改善したことになります。2025 年頃までは、100 万トークン規模でこのテストの正答率が 2 割を下回るモデルも珍しくなかったことを考えると、この 1 年ほどで状況は大きく変わったと言えます。
一方で、各社の間には差もあります。Google の公式ページによると、Gemini 3.1 Pro は 12 万 8000 トークンでは 84.9% と他社の主要モデルと同水準ですが、100 万トークンでは 26.3% にとどまっています。最大で受け付けられる入力の量では Google が先行してきましたが、その上限近くまで情報を詰め込んだときの精度は、まだ課題が残る状況です。
ただし、これらの数字を見るときには注意点が 3 つあります。
1 つ目は、ほとんどが各社の自社発表であることです。推論の設定や集計方法がそろっていないため、数字を単純に横並びで比べることはできません。
2 つ目は、MRCR v2 で測っているのはあくまで「情報を正しく取り出せるか」であり、「取り出した情報を組み合わせて正しく推論できるか」ではない点です。例えば、長文の中に散らばった情報をたどって多段階の推論をさせる「 Graphwalks 」というテストでは、2026 年 3 月時点で比較された主要モデルでも、100 万トークンでの正答率が一部の課題で 4 割前後にとどまっていました。
3 つ目は、公称のコンテキストの上限と、実際に安定した精度を保てる長さは違うという点です。外部の分析では、実際に安定して使えるのは公称の半分程度、モデルによってはそれ以下という見方もあります。
まとめると、「長文の中の特定の情報を見つけ出す」という意味での Lost in the Middle は、最新モデルではかなり緩和されてきました。しかし、「大量の情報を組み合わせて、正しい結論を導く」という点では、まだ道半ばというのが現状です。
各社の対応
各社の対応は、大きく 2 つの方向に分けられます。1 つはモデル自体の長文処理能力を高めること、もう 1 つは、モデルに渡す情報を整理し、必要なときに必要な情報だけを取り出せる仕組みを整えることです。前者については前章で見たとおりなので、ここでは主に後者を見ていきます。
OpenAI は、GPT-6 Astra とあわせて、コーディング支援の Codex で、コンテキストがいっぱいになってもメモを残して作業を引き継ぎ、過去のやりとりやツールの出力を後から検索して読み直せるようにしたと説明しています。すべてを一度に覚えておくのではなく、必要になった時点で過去の記録に戻れるようにする仕組みです。
Anthropic は、公式ドキュメントの中で「トークン数が増えるほど精度と想起（必要な情報を思い出す力）が低下する」と明記し、これを「 Context Rot（コンテキストの劣化）」と呼んでいます。そのうえで、「どれだけ入れられるか」と同じくらい「何を入れるか」が重要だという立場をとっています。具体的な機能としては、会話が長くなったときに古い部分をサーバー側で自動的に要約する「 Compaction 」、エージェントの作業で不要になった古いツールの実行結果を削除する「 Context Editing 」、重要な情報を外部のファイルに保存し、次の作業で参照できるようにする「 Memory 」などを提供しています。2025 年 9 月 29 日に公開した技術記事では、こうした考え方を「 Context Engineering 」として体系的にまとめています。
Google は、最大で受け付けられる入力の量を広げることで先行してきました。一方で、Gemini API の公式文書では、単一の情報を探すタスクでは高い精度が出せても、複数の情報を探す場合には同じ精度にならないと説明しています。対策としては、質問を長い資料の後ろに置くといったプロンプトの工夫を推奨しています。なお、同社の「 Context Caching 」は、同じ大量の入力を繰り返し使う際のコストや速度を改善する機能であり、見落としそのものを防ぐものではない点には注意が必要です。
3 社の取り組みに共通しているのは、「すべての情報を一度に覚えさせる」発想から、「情報を整理して保存し、必要なときに取り出して確かめる」発想への移行です。入力できる量の競争から、大量の情報を確実に使いこなせるかという信頼性の競争へと、軸が移りつつあると言えそうです。
ユーザーが今取れる対策
モデルの改善が進んでいるとはいえ、ここまで見てきたように課題は残っています。ユーザーの側でも、使い方を工夫することで見落としのリスクを減らすことができます。
1 つ目は、情報を置く位置を工夫することです。分析の目的や守ってほしい条件は冒頭に、分析対象の資料は中央に、具体的な質問は末尾に置く構成が基本です。Google と Anthropic の両社が、長い資料の後ろに質問を置く方法を推奨しています。特に重要な条件は、冒頭だけでなく末尾でもう一度書いておくと効果的です。
2 つ目は、いきなり回答を求めず、まず関連する箇所を抜き出させることです。例えば「回答の前に、資料全体から質問に関係する記述をページ番号付きで抜き出してください。冒頭・中盤・末尾を偏りなく確認してください」と指示します。こうすることで、中盤も含めて資料全体を見直させることができ、どの記述を根拠に結論を出したのかも確認しやすくなります。ただし、抜き出された箇所がすべてとは限らないため、重要な案件では漏れがないかの確認は必要です。
3 つ目は、長い資料を一度に処理させず、分割して段階的に処理することです。例えば 300 ページの報告書であれば、30 ページずつ重要な事実や数値、リスクを抽出させ、最後にそれらを統合させます。分割すると、別々の箇所にある情報同士の関係が見えにくくなるため、区切りの前後を少し重ねて分割し、最後に結論を左右する箇所を原文で確認させるとより確実です。
4 つ目は、資料を入れすぎないことです。モデルが受け付ける上限まで資料を詰め込むと、前述のとおり精度が下がりやすくなります。質問に関係しそうな部分をあらかじめ絞り込んでから渡すほうが、結果として正確な回答を得やすくなります。
そして最後に、金額や日付、契約の例外条件など、結論を左右する情報は人間が原文で確認することが欠かせません。また、AI エージェントに長時間の作業を任せる場合、「重要な変更は承認を得る」といったルールは、AI が覚えていることだけに頼らず、承認しないと実行できない仕組みをシステムの側で用意しておくのが安全です。
まとめ
これまで AI モデルの競争では「どれだけ長い文章を入力できるか」が一つの指標でした。しかし Lost in the Middle の問題が示しているのは、大量の情報を受け取れることと、それを正しく使えることは別だということです。
この 1 年ほどで、長文の中から特定の情報を見つけ出す力は大きく改善しました。一方で、散らばった情報を組み合わせて正しく判断する力には、まだ伸びしろがあります。各社が「入力できる量」から「必要な情報を選び、確かめながら使う仕組み」へと力点を移しつつあるのは、そのためでしょう。
AI エージェントに投資分析や契約書の確認といった重要な業務を任せる場面が増えるほど、AI の回答がもっともらしいかどうかではなく、必要な事実を漏れなく確認したうえでの回答かどうかが問われるようになります。モデルの進化に期待しつつも、当面はユーザーの側でも、AI が見落としうることを前提に使い方を工夫していくことが大切だと思います。