長い会話で品質が落ちる理由
対象読者: 会話が長くなると指示を守らなくなる、精度が落ちると感じている方
前提知識: コンテキストウィンドウと制限 の基礎
会話が長くなると、同じモデル・同じ指示でも品質が落ちていきます。原因は3つあり、それぞれ対処が異なります。
原因1:指示の希薄化
モデルは、渡されたコンテキスト全体を判断材料にします。履歴が増えるほど、最初に出した指示が占める割合は下がります。
序盤:指示 + 少量の履歴 → 指示が明確に効く
終盤:指示 + 大量の履歴 → 指示が相対的に埋もれる対処は、重要な指示を繰り返し提示することです。要約のたびに、守るべき制約を書き直して先頭へ置き直します。
原因2:古い情報の混入
長い会話には、途中で却下した案や、すでに解決した問題が残っています。AIはこれらを「無効になった情報」とは認識せず、有効な前提として扱うことがあります。
| 残っている情報 | AIの解釈 |
|---|---|
| 途中で却下した案A | まだ検討中の選択肢 |
| 解決済みのエラー | 現在も起きている問題 |
| 変更前の仕様 | 現在の仕様 |
対処は、状態を明示的に更新することです。「案Aは却下済み」「このエラーは解決済み」と書き加えるだけで、解釈のずれが減ります。
原因3:矛盾の蓄積
会話の途中で方針が変わると、古い指示と新しい指示が両方コンテキストに残ります。どちらに従うかが一貫しなくなり、回答ごとに揺れます。
序盤:「詳しく説明してください」
終盤:「簡潔にしてください」
→ 両方が残り、回答の長さが安定しない対処は、方針変更のときに前の指示を打ち消すことです。「先ほどの『詳しく』は取り消し、以降は簡潔に」と明示します。
節目で整理し直す
3つの原因に共通する対処が、区切りでの再整理です。
- ここまでの確定事項を列挙する
- 却下した案・解決した問題を明記する
- 現在有効な制約を書き直す
- それ以外の履歴を落とす
この整理を経ることで、長い作業でも序盤に近い状態を保てます。作業単位でサブエージェントへ委譲するのも、同じ効果を持つ方法です。
まとめ
- 長い会話で品質が落ちる原因は、指示の希薄化・古い情報の混入・矛盾の蓄積
- 重要な指示は繰り返し提示し、先頭へ置き直す
- 却下した案や解決済みの問題は、無効であることを明記する
- 方針を変えるときは前の指示を明示的に打ち消す
関連リンク
クイズ