기업 업무를 AI 에이전트에 맡기기 전 나눠야 할 권한

핵심 정리

• AI 에이전트는 목표와 주어진 권한에 따라 정보를 살피고 도구를 사용하며 작업을 진행하는 시스템입니다.

• 문의 열람, 초안 제안, 환불 실행을 별도 도구 권한으로 나눕니다.

• 프롬프트에 “승인 후 실행”이라고 쓰는 것만으로 권한 통제가 되지는 않습니다.

답변 초안을 만드는 AI와 실제로 메일을 보내는 AI에는 다른 기준이 필요합니다. 되돌리기 어려운 행동일수록 누가 승인하고 어디서 멈출지를 먼저 정해야 합니다. 에이전트 도입은 실행 범위를 구체적으로 적는 일에서 시작합니다.

개념부터 확인하려면 AI 에이전트란?에서 뜻과 관련 용어를 살펴보세요.

정해진 절차와 자율 판단의 경계를 정하세요

Anthropic은 사전 정의된 경로의 워크플로와 모델이 과정·도구 사용을 동적으로 결정하는 에이전트를 구분합니다. 업무가 고정된 규칙으로 처리된다면 단순한 절차부터 검토하세요. 자율성을 높이는 것이 구매 가치와 같다고 가정하지 않습니다.

도구별로 읽기와 변경을 분리하세요

가상의 지원 에이전트라면 주문 상태 조회, 환불안 작성, 실제 환불 실행을 서로 다른 권한으로 나눌 수 있습니다. 조회에 성공했다고 변경 권한까지 부여하지 마세요. 계정 식별과 권한 판정은 인증된 서버 정보로 처리하고, 모델이 전달한 고객 번호만으로 접근 범위를 결정하지 않습니다.

승인 시점에는 실제 변경 내용을 보여주세요

승인 버튼에는 대상, 변경 전후 값, 외부 수신처, 되돌리기 가능 여부를 함께 보여주는 방식을 검토하세요. 오래된 포괄 승인으로 다른 고객이나 다른 금액의 작업을 실행하지 않게 합니다. 위험이 큰 작업은 실행 직전에 현재 권한과 대상 상태를 다시 확인해야 합니다.

도구 실패와 재시도를 업무 상태로 관리하세요

외부 요청이 시간 초과됐을 때 실행되지 않았다고 단정하면 중복 처리가 생길 수 있습니다. 작업 식별자, 실행 결과 조회, 중복 방지, 사람에게 넘길 조건을 도구별로 정하세요. 기록에는 추적에 필요한 최소 정보만 남기고 비밀키나 고객 원문을 일반 로그에 노출하지 않습니다.

업무 예시로 적용해 보기

에이전트가 고객 문의를 읽고 환불 초안을 작성한 뒤 실제 환불 처리까지 요청받습니다. 초안 작성과 금액을 움직이는 실행은 실패 결과가 다릅니다.

문의 열람, 초안 제안, 환불 실행을 별도 도구 권한으로 나눕니다. 실행 전 승인 조건과 허용 범위를 확인하고, 거절·시간 초과·중복 요청에서 어떤 상태로 멈추는지 시험하세요.

실패하기 쉬운 조건과 확인 방법

프롬프트에 “승인 후 실행”이라고 쓰는 것만으로 권한 통제가 되지는 않습니다. 실행 도구에서도 인증된 사용자와 승인 상태를 검사해야 합니다.

업무에 적용할 점검표

자주 묻는 질문

모든 도구 호출에 승인이 필요한가요?

업무 영향과 위험에 따라 구분하되, 허용 범위를 명시하고 서버에서 강제해야 합니다.

관련 AI 용어

• AI 에이전트란?

• 상태 유지형 에이전트란?

• AI 평가·PoC란?

출처와 작성 정보

Anthropic: Building effective agents

Microsoft: Security filter pattern

TENCONIC 편집 · 구조 검토 2026-10-28. 공식 문서는 개념과 구현 예의 근거이며 제품별 기능은 다를 수 있습니다. 업무 예시와 점검 절차는 편집 제안으로, 실제 고객 성과나 제공 기능을 뜻하지 않습니다.