회사 문서를 AI에 연결하기 전 준비할 것

핵심 정리

• RAG는 질문과 관련된 외부 자료를 검색하고, 그 내용을 모델에 제공해 답변을 생성하는 구성입니다.

• 먼저 “일반 고객 환불”과 “예외 계약 환불”을 별도 시험 질문으로 만듭니다.

• 폴더 연결 성공을 업무 준비 완료로 판단하지 마세요.

폴더를 연결하고 답변이 나오기 시작하면 준비가 끝난 듯 보입니다. 하지만 일반 환불 규정과 개별 계약의 예외가 충돌할 때 어느 쪽을 따라야 할까요? RAG 준비는 이 질문에 사람이 답할 수 있는 상태를 만드는 데서 시작합니다.

개념부터 확인하려면 RAG(검색 증강 생성)란?에서 뜻과 관련 용어를 살펴보세요.

답해야 할 질문에서 문서 범위를 정하세요

RAG는 관련 자료를 찾아 답변 입력으로 제공하는 접근입니다. 가상의 고객지원팀이라면 “환불 가능한 조건”처럼 반복되는 질문을 먼저 모읍니다. 전체 공유 드라이브를 연결하기보다 그 질문의 정답을 뒷받침하는 승인된 규정과 예외 안내를 선택하세요.

원문 책임자와 유효성을 확인하세요

파일명에 최신이라는 말이 있어도 적용 기준일이 불명확할 수 있습니다. 문서별 담당자, 적용 대상, 시행일, 대체한 이전 버전을 목록으로 만드세요. 서로 충돌하는 원문은 AI가 해결해야 할 문제가 아니라 업무 담당자가 먼저 정리할 기준일 수 있습니다.

검색 가능한 내용과 권한을 함께 점검하세요

스캔 PDF의 글자가 제대로 추출되는지, 표의 열과 주석이 붙어 있는지 실제 결과를 봅니다. 문서 권한은 검색 시점에도 적용돼야 합니다. Azure의 보안 필터 예시처럼 결과 제한을 구현하는 경우에도 필터에 쓸 사용자 식별의 인증은 별도 책임이므로, 화면에서 선택한 조직명을 그대로 권한으로 믿지 마세요.

연결 완료를 답변 시험으로 확인하세요

대표 질문마다 정답 근거와 답할 수 없는 조건을 지정합니다. 최신 문서 질문, 예외 질문, 권한 없는 질문을 구분해 시험하세요. 필요한 자료를 찾았는지와 찾은 자료를 정확히 사용했는지를 따로 기록하면 다음 개선이 문서 정리인지 검색 설정인지 판단하기 쉽습니다.

업무 예시로 적용해 보기

고객지원팀이 환불 규정을 연결합니다. 일반 규정과 특정 계약의 예외가 같은 폴더에 있지만 담당자와 시행일이 정리돼 있지 않은 상황입니다.

먼저 “일반 고객 환불”과 “예외 계약 환불”을 별도 시험 질문으로 만듭니다. 각 질문에 유효한 원문과 접근 가능한 사용자를 지정하고, 검색 결과에 해당 조항과 예외 조건이 함께 들어오는지 확인하세요.

실패하기 쉬운 조건과 확인 방법

폴더 연결 성공을 업무 준비 완료로 판단하지 마세요. 충돌하는 규정의 우선순위를 사람이 정하지 않았다면 AI의 유창한 답변도 정답 근거가 될 수 없습니다.

업무에 적용할 점검표

자주 묻는 질문

문서가 많을수록 좋은가요?

중복·오래된 문서가 늘면 평가가 어려워집니다. 필요한 근거의 범위부터 정하세요.

관련 AI 용어

• RAG(검색 증강 생성)란?

• 임베딩이란?

• 데이터 최신성이란?

출처와 작성 정보

Anthropic: Contextual Retrieval

Microsoft: Security filter pattern

TENCONIC 편집 · 구조 검토 2026-10-28. 공식 문서는 개념과 구현 예의 근거이며 제품별 기능은 다를 수 있습니다. 업무 예시와 점검 절차는 편집 제안으로, 실제 고객 성과나 제공 기능을 뜻하지 않습니다.