AI 에이전트 승인 단계 — 결제·삭제 앞에서 에이전트를 멈추게 하는 법

AI 에이전트에게 일을 맡기다 보면 손이 멈칫하는 순간이 옵니다. 유료 API를 부르기 직전, 파일을 지우기 직전, 고객에게 메일을 보내기 직전입니다. 대부분은 "이건 물어보고 해"라고 미리 말해 둡니다. 그리고 대부분은 한 번쯤 그 말이 지켜지지 않는 걸 겪습니다.

AI 에이전트 승인 단계는 말로 부탁할 게 아니라 작업 순서 안에 자리로 만들어 둘 때 지켜집니다. 이 글은 그 방법을 다룹니다.

"물어보고 해"가 지켜지지 않는 이유

에이전트에게 "결제 전에는 꼭 물어봐"라고 했다고 해 봅시다. 처음에는 잘 지킵니다. 문제는 작업이 길어질 때입니다.

• 지시가 대화 앞쪽에 있다 보니, 대화가 길어지면 요약되거나 밀려납니다.
• "결제"라고 했는데 실제 단계 이름은 "API 호출"이라, 에이전트가 같은 일로 알아보지 못합니다.
• 반복 작업 중간에 한 번 승인을 받으면, 다음 회차도 승인된 것으로 넘겨짚습니다.

이건 에이전트의 성의 문제가 아닙니다. 지시를 기억에만 맡겼기 때문입니다.

휴먼 인 더 루프: 멈출 자리를 미리 정한다

사람이 중간에 확인하는 구조를 흔히 휴먼 인 더 루프(Human-in-the-loop)라고 부릅니다. 핵심은 하나입니다. 어디서 멈출지를 일을 시작하기 전에 정해 둔다.

작업을 단계로 나눠 적고, 사람이 봐야 하는 단계 바로 앞에 "승인" 칸을 하나 넣습니다. 그러면 에이전트가 그 단계에 닿을 때마다 기억에 의존하지 않고 순서 자체를 보고 멈춥니다.

승인 칸을 어디에 둘까

모든 단계에 승인을 걸면 결국 사람이 일을 다 하게 됩니다. 아래처럼 되돌리기 어려운 단계 앞에만 둡니다.

반대로 파일 읽기, 검색, 초안 쓰기, 로컬 빌드처럼 틀려도 다시 하면 되는 단계는 에이전트에게 맡겨 둡니다.

승인은 선택지로 묻게 한다

"진행할까요?"만 묻게 하면 답이 "응" 아니면 긴 설명이 됩니다. 에이전트가 선택지를 붙여 묻게 하면 답하기가 훨씬 쉽습니다.

• 진행해
• 진행해 — 다음부터는 묻지 마
• 고칠 게 있어 (말로 알려 줄게)

두 번째 선택지가 중요합니다. 처음 몇 번 결과를 보고 믿을 만하면, 그 단계의 승인을 거두는 것도 사람이 정하는 일입니다.

Agent Automation 에서 승인 노드 쓰기

Agent Automation은 에이전트의 할 일을 대화창 밖 워크플로로 꺼내 두는 데스크톱 앱입니다(macOS · Windows). 노드 종류 중 하나가 확인(confirm) 노드입니다. 에이전트는 이 노드에 닿으면 멈추고 사람에게 묻습니다. 승인 없이 다음 노드로 넘어가지 않습니다.

에이전트에게 워크플로를 세우게 할 때 이렇게 말하면 됩니다.

유료 API 를 부르는 단계 앞에 확인 노드를 넣어 줘

앱이 명령을 대신 실행하지는 않습니다. 일은 Claude Code·Codex 같은 에이전트가 하고, 앱은 어디까지 왔는지와 어디서 멈춰야 하는지를 들고 있습니다. 그래서 세션이 끊겨도 에이전트가 워크플로를 다시 읽으면 승인 자리를 그대로 지킵니다.

승인은 폰에서

승인 단계의 약점은 사람이 자리에 없을 때입니다. 에이전트가 물어 놓고 몇 시간을 기다리면 자동화한 의미가 줄어듭니다.

에이전트가 결정을 물어 오면 보고서로 남고, 모바일 앱 아리에이전트로 받아 볼 수 있습니다. 새 보고서가 오면 폰이 울리고, 선택지 버튼을 누르거나 직접 써서 답하면 데스크톱의 에이전트에게 바로 전달됩니다. 두 기기가 동시에 답해도 먼저 누른 답만 섭니다.

정리

• "물어보고 해"는 기억에 맡기면 언젠가 빠집니다. 작업 순서 안에 승인 자리를 만듭니다.
• 승인은 돈·삭제·외부 발송·첫 배포처럼 되돌리기 어려운 단계 앞에만 둡니다.
• 선택지로 묻게 하고, 믿을 만해지면 승인을 거두는 것도 선택지에 넣습니다.
• 사람이 자리를 비워도 폰에서 답할 수 있어야 자동화가 멈춰 서지 않습니다.

긴 작업에서 에이전트가 순서를 잃는 문제는 지난 글에서 다뤘습니다.