自律レベルの設計

約5分

AIにどこまで自動実行を許可するか決めたい方、承認フローの設計方針を整理したい方

自律レベルとは、AIエージェントにどこまで自動実行を許すかの段階です。「全部任せる」か「全部確認する」かの二択ではなく、操作ごとに水準を変えるのが実務的な設計です。

判断の2軸

自律レベルは、操作の性質から決めます。

軸	問い
影響範囲	失敗したとき、誰に・どこまで影響するか
可逆性	元の状態へ戻せるか、戻すのにどれだけかかるか

graph TD
    A["影響が小さく、元に戻せる"] --> Auto["自動実行してよい"]
    B["影響が大きい、または戻せない"] --> Appr["実行前に承認を求める"]

判断に迷ったら「取り消せるか」を優先します。取り消せない操作は、影響が小さく見えても承認を挟む価値があります。

承認をどこに置くかで効果が変わります。作業開始時にまとめて許可を取ると、実際に何が起きるか分からないまま承認することになります。

元に戻せない操作の直前に、実行内容を具体的に示して確認するのがもっとも効果的です。

確認が多すぎる設計も失敗します。すべての内部処理で確認を求めると、人は内容を読まずに承認するようになり、本当に重要な承認まで素通りします。

最初から広い権限を与えず、評価で実績を確認しながら、次の4段階で広げます。