대규모 언어 모델(LLM)이란?

쉽게 이해하면

문서 작성자를 돕는 초안 도구를 떠올려 보세요. 질문과 참고 자료를 주면 그 문맥에 맞는 문장을 만듭니다. 그러나 회사의 비공개 규정이나 어제 바뀐 거래 조건을 저절로 아는 것은 아닙니다. 필요한 자료를 연결하거나 입력으로 제공하는 과정이 따로 필요합니다.

예를 들어 출장 규정 원문을 제공하고 핵심만 요약하게 할 수 있습니다. 원문을 주지 않은 채 우리 회사의 숙박비 한도를 물으면, 다른 조직에서 흔한 기준을 회사 규정처럼 답할 수 있습니다. 따라서 자연스러운 답인지와 근거가 맞는지를 나누어 확인해야 합니다.

알아둘 점

모델과 서비스 구분

대화 화면은 모델에 검색·파일 연결·기억·권한 관리 등을 붙인 서비스일 수 있습니다. 같은 모델이라도 어떤 자료와 도구를 연결했는지에 따라 업무 결과가 달라집니다. 제품을 비교할 때 모델 이름만 보는 것으로는 충분하지 않습니다.

이전 대화의 처리

이전 메시지를 다시 입력하거나 별도의 저장소에서 관련 정보를 불러오는 것은 보통 서비스의 역할입니다. 모델이 문장을 잘 만든다는 사실만으로 세션 간 기억이 제공된다고 볼 수 없습니다.

확인할 범위

중요한 수치·규정·인용은 원문과 대조합니다. 답변을 만들 수 있는 능력과 그 답변을 실제 업무에 승인할 책임도 구분해야 합니다.

비슷한 용어와의 차이

LLM

문장을 생성·처리하는 모델

RAG

외부 자료를 검색해 모델의 입력으로 전달하는 구성

AI 에이전트

모델과 도구를 이용해 여러 단계의 작업을 진행하는 시스템