自己修正とリフレクション

約5分

AIが誤った結果に気づかず進んでしまう問題を解決したい方、自己チェックの仕組みを設計したい方

自己修正（リフレクション）とは、AIが自分の実行結果を確認し、想定と違えば方針を直す仕組みです。計画が「進む方向を決める」なら、自己修正は「ずれたときに戻る」役割を担います。

基本の流れ

graph LR
    Act["実行\n工程を進める"] --> Check["検証\n結果は期待どおりか"]
    Check -->|期待どおり| Next["次の工程へ"]
    Check -->|違う| Fix["方針を修正して再実行"]
    Fix --> Act

重要なのは、検証の材料を何にするかです。ここで設計が分かれます。

もっとも簡単な検証は、AI自身に「この結果は正しいか」と確認させる方法です。手軽ですが弱点があります。誤りの原因が自分の判断にある場合、同じ視点で見直しても気づけないのです。

信頼性を上げるには、外部の客観的な事実を検証材料に使います。

実務では「テストで機械的に確認できる部分は実行結果、判断が必要な部分は別視点のレビューか人の確認」という組み合わせになります。

自己修正は無限に繰り返せてしまいます。改善しないまま同じ修正を試み続けると、時間とコストだけが増えます。

失敗したときに直すべき対象は、いつも同じではありません。

同じ手順を繰り返すだけの再試行は、3種類目の失敗には効きません。