본문 바로가기

AI 배우기

🛡️ AI 에이전트에 일 맡기기 전, 승인 단계 4가지로 사고 막는 설계법

AI 에이전트에 일을 맡기는 회사가 늘고 있습니다.

그런데 승인 단계 없이 맡기면, 잘못된 발송이나 삭제가 한 번에 일어날 수 있습니다.

📌 3줄 요약

• AI 에이전트는 답만 하지 않고, 계획하고 실행까지 합니다.

• 그래서 일을 등급으로 나누고, 중요한 실행 앞에는 사람 승인을 둬야 합니다.

• 승인 설계는 등급 나누기, 권한 최소화, 승인 지점, 기록과 되돌리기 4단계입니다.

📰 왜 지금 승인 설계가 필요할까요?

11월 들어 기업용 AI 에이전트 소식이 이어졌습니다.

• 스노우플레이크는 11월 3일 질문에 답하던 도구를 자율형 에이전트로 고도화한다고 밝혔습니다. 사용자는 최종 승인만 하면 됩니다. 회사는 환각과 보안 문제를 막으려면 전사 통제 체계가 필수라고 말했습니다. (연합뉴스 2026.11.03)

• 세일즈포스의 에이전트포스 코워커는 출시 약 3개월 만에 사용자 18만 5천 명을 넘었고, 사용량은 21배 늘었습니다. 회사는 결과를 보여 준 뒤 검토와 승인을 거친다고 설명했습니다. (이데일리·파이낸셜뉴스 2026.11.10)

• 삼일PwC는 11월 10일 세미나에서 여러 에이전트의 책임, 보안, 승인과 통제 체계를 함께 마련해야 한다고 말했습니다. (뉴시스 2026.11.11)

🧩 챗봇과 에이전트는 무엇이 다를까요?

챗봇은 답을 줍니다. 틀린 답은 사람이 읽고 버리면 끝입니다.

에이전트는 목표를 받아 단계를 나누고, 도구를 쓰고, 실제로 실행합니다.

메일 발송, 파일 삭제, 결제처럼 실행이 틀리면 되돌리기 어렵습니다. 그래서 설계의 기준이 달라집니다.

🧭 승인 설계는 이 4단계 순서로 합니다

🗂️ 1단계: 일을 3등급으로 나누세요

등급이 있어야 어디서 멈출지 정할 수 있습니다.

처음에는 낮음 등급 업무 하나로 시작하세요. 기준은 한 번 정하고 끝내지 말고 분기마다 다시 보세요.

🔐 2단계: 권한은 필요한 만큼만 주세요

에이전트에 모든 폴더와 계정을 연결하면 사고가 난 범위도 커집니다.

• 읽기 권한과 쓰기 권한을 따로 주세요.

• 업무에 쓰는 자료 폴더만 연결하세요.

• 삭제 권한은 기본으로 빼 두세요.

• 회사 보안 정책에서 허용한 도구만 쓰세요.

✋ 3단계: 승인 지점을 미리 정하세요

승인은 사람이 언제 멈추는지를 정하는 일입니다.

• 외부 사람에게 메일이나 메시지가 나갈 때

• 금액이나 계약 조건이 들어갈 때

• 개인정보나 고객 정보가 들어갈 때

• 기존 자료를 덮어쓰거나 지울 때

승인 요청에는 무엇을, 왜, 어디에 하려는지 한 화면에 보이게 하세요. 승인자가 원문을 찾으러 다니지 않아도 되어야 승인이 실제로 작동합니다.

📝 4단계: 기록과 되돌리기 방법을 두세요

실행 기록이 없으면 무엇이 바뀌었는지 찾기 어렵습니다.

• 누가 어떤 지시를 했고, 에이전트가 무엇을 실행했는지 남기세요.

• 예약 작업은 주기, 대상, 중단 방법을 문서로 적어 두세요.

• 되돌릴 수 없는 작업은 실행 전에 승인으로 막으세요.

🧪 예시로 적용해 보기

고객 문의를 처리하는 에이전트를 가정해 볼게요.

• 문의 분류와 답장 초안 작성: 낮음. 자동으로 두고 결과만 확인합니다.

• 자료 기반 답변을 고객 메일로 발송: 높음. 발송 전에 사람이 승인합니다.

• 환불 금액 계산과 처리: 높음. 금액이 들어가므로 승인 후에만 실행합니다.

같은 에이전트라도 일마다 승인 지점이 달라야 합니다.

❓ 자주 묻는 질문

Q. 승인을 매번 누르면 자동화의 의미가 없지 않나요?

A. 낮은 등급은 자동으로 두고, 높은 등급만 승인받으면 됩니다. 승인이 너무 많다면 등급 기준부터 다시 보세요.

Q. 예약 작업은 승인 없이 돌아가도 되나요?

A. 외부 발송이나 금액 처리가 들어가면 승인 지점을 남기세요. 세일즈포스는 12월에 예약 작업 기능을 예고했지만, 실제 설정과 승인 방식은 공식 안내로 확인해야 합니다.

Q. 어디서부터 시작하면 좋을까요?

A. 낮은 등급 업무 하나에 먼저 붙이고, 기록을 몇 주 본 뒤 중간 등급으로 넓히는 방식이 안전합니다.

💬 한 줄 정리

AI 에이전트를 고를 때 성능보다 먼저 볼 것은 승인 지점입니다. 어디서 멈출지 정해 두면 자동화가 훨씬 편해집니다.

※ 이 글은 공개 보도와 일반 원칙을 정리한 정보 글이며 특정 제품을 추천하지 않습니다. 실제 도입 전에는 회사 보안 정책과 공급사 공식 문서를 확인하세요.

근거 자료: 연합뉴스 2026.11.03 스노우플레이크 보도, 이데일리·파이낸셜뉴스 2026.11.10 세일즈포스 보도, 뉴시스 2026.11.11 삼일PwC 세미나 보도.

반응형