「この操作を実行してもよいですか？」——AIを使っていると何度も出てくるこの確認。最初は丁寧に読んでいたのに、いつからか中身を見ずに「はい」を押すようになり、ついには「もう全部自動でいい」と確認そのものを切ってしまう。
身に覚えがある人は多いはずです。そしてある日、AIが思いもよらない操作を実行して、「勝手に動いた」と青ざめる。自動実行モードは、AIの便利さの核心であると同時に、「AIが勝手に動く」体験の主要な発生源でもあります。
全部確認するのは続かない。全部許すのは危ない。ではどこに線を引くか。この記事では、毎回悩まずに済む3つの原則を提案します。
自動実行モードとは何か
最近のAIは、質問に答えるだけでなく、目的を伝えると複数の手順を自分で組み立てて実行する「エージェント」として働きます。資料を探し、まとめ、ファイルを作り、必要ならメールの下書きまで進める。このとき「1手順ごとに人間の承認を求めるか、最後まで自動で進めるか」を決めるのが自動実行の設定です。
厄介なのは、この設定の多くが「一度許可すると、以後は同種の操作を聞かずに実行する」形で効くことです。1か月前の自分がした許可で、今日のAIが動く。利用者の感覚では「勝手に動いた」、AIの側では「許可どおりに動いた」——「AIが勝手に動く」原因の全体マップでも触れたとおり、このすれ違いが誤解の中心にあります。
原則1：読み取りは許す。書き込みは確認する
操作は「読む系」と「書く系」に分けられます。検索する、ファイルを開く、履歴を調べる——読む系の操作は、失敗しても世界が変わりません。ここに毎回確認を挟むのは、安全性がほぼ上がらないのに手間だけ増える、いちばん割に合わない設定です。読む系は自動に振り切って構いません。
一方、送信する、書き換える、削除する、購入する——書く系の操作は、実行された瞬間に世界が変わります。確認を挟む価値があるのはこちら側だけです。まずこの一線を引くだけで、確認の回数は体感で大きく減り、残った確認の一つひとつに意味が出ます。
原則2：「取り消せるか」で分ける
書く系の中でも、さらに濃淡をつけられます。基準は「失敗に気づいたとき、自分の手で元に戻せるか」です。
- 取り消せる操作 — 下書きの作成、ファイルの新規作成、ゴミ箱に入れるだけの削除。失敗しても戻せるので、自動に寄せてよい
- 取り消せない操作 — メール送信、完全削除、決済、外部への公開。相手に届いた瞬間・消えた瞬間に不可逆になるので、どれだけAIを信頼していても確認を残す
「AIの精度が上がったから確認を外す」という判断をしがちですが、順序が逆です。確認を残す理由はAIの精度が低いからではなく、操作が不可逆だから。精度がどれだけ上がっても、不可逆の操作から確認を外す理由にはなりません。
原則3：目の届かない時間の自動実行は、範囲を絞る
エージェントAIの魅力は「寝ている間に働いてくれる」ことです。夜に頼んで、朝に結果を受け取る。この使い方自体は理にかなっています。ただし、寝ている8時間は異変に気づいて止めることが誰にもできない8時間でもあります。
夜間や外出中など目の届かない時間に走らせる作業は、読む系・作る系に限定し、送信や公開のような不可逆の操作は「朝、人間が確認してから」に回す。成果物は夜のうちに、実行ボタンは朝の自分に。これだけで、目覚めて青ざめる事態はほぼ防げます。
ついでに言えば、AIに夜通し働いてもらうのは構いませんが、その進捗が気になって自分が眠れないのでは本末転倒です。任せたら、寝る。それができる範囲だけを任せるのが、いちばん健全な自動化です。
「全部確認」も続かない — 現実的な着地点
安全のために全操作を確認制にする、という選択は一見堅実ですが、実際には続きません。確認が多すぎると人は読まずに「はい」を押すようになり、確認という仕組みそのものが形骸化します。10回の形だけの確認より、1回の本気の確認のほうが安全です。
3つの原則で自動に振れる部分を思い切って自動にするのは、怠慢ではなく、残した確認を本物にするための設計です。あわせて、そもそもAIに渡している権限が適切かどうかは権限の棚卸しチェックリストで、外部の命令にAIが従わされる攻撃への備えは7つの自衛策で確認してください。