思考のない模倣を超えて、長文理解AIが陥る“コピペ地獄”とその処方箋

学びて思わざれば則ち罔し、孔子のこの言葉は、ただ知識を詰め込むだけで自分の頭で考えなければ、結局は迷ってしまうという戒めです。

現代の大規模言語モデル（LLM）が長文を扱うとき、まさにこの罠に陥っていることを示す研究が発表されました。

AIが長文を読むとき、何が起きているのか

最近のLLMは、段階的に推論の過程を出力することで複雑な課題を解けるようになりました。

さらに、数十ページにわたる資料をまるごと読み込ませて質問に答えさせる「長文脈推論」が注目されています。

ところが、このとき多くのモデルが奇妙な振る舞いを見せます。

問題を解く代わりに、入力された文章を延々とコピーし始めるのです。

まるでテストに解答を書かず、問題文を丸写しする生徒のように。

この「反復的コピー（repetitive copying）」は、最先端の長文対応LLMにも広く見られ、文脈が長くなるほど悪化します。

研究チームがプロンプト（入力）を「課題に関係する鍵となる証拠」と「無関係な脇道情報」に分けて調べたところ、正解率の低いモデルほど、無関係な部分を大量にコピーしていることが判明しました。

つまり、文章の中から本当に大切な部分を選び取れず、無差別に全文を写してしまうのです。

この問題を解決するために提案されたのが、GEAR（Grounding Evidence-Aware Reward）という手法です。

通常、AIの学習では正解かどうかだけを報酬として与えますが、GEARはそれに加えて「証拠に基づいた推論」を促す二つの報酬を上乗せします。

一つは「根拠報酬」で、AIが出した推論の文章が、鍵となる証拠とどのくらい重なっているかを評価します。

もう一つは「妨害ペナルティ」で、無関係な情報をコピーしていると減点される仕組みです。

これにより、AIは正解を目指すだけでなく、必要な情報に絞って考えることを学びます。

このアイデアを実用化するため、研究チームは任意の文書から証拠部分を自動で切り分けるパイプラインも開発しました。

人手でラベル付けしなくても、大量の学習データに証拠の注釈をつけられるようになったのです。

実験では、複数のモデルサイズとベンチマークで検証され、標準的な正解率報酬だけの学習に比べて平均で最大+4.6ポイントの改善が確認されました。

特に文脈が長いほど効果は大きく、反復コピーの量も減り、推論の文章も短く簡潔になったと報告されています。

この研究は、AIが「長い文を読める」ことと「長い文を理解して考えられる」ことの間に、まだ大きな溝があることを示しています。

皮肉にも、AIが人間のように見えるために、私たちはAIに「コピペではなく、ちゃんと考えて」と教えなければならないのです。

孔子の時代から変わらず、「学びて思う」ことの大切さを、今AIに教える段階に来ているのかもしれません。

GEARのような手法が広がれば、法律文書の要約や学術論文の読解など、膨大な情報から本質をすくい取るタスクでAIが力を発揮するでしょう。

とはいえ、本当に賢い推論とは、単に正しい部分を抜き出すだけではないはず。

いつかAIが「なぜそれを選んだのか」を語り始めたとき、私たち人間はどんな問いを投げかければいいのか、少し楽しみでもあります。