AI를 이해하는 기본

컨텍스트 윈도란?

Context Window

컨텍스트 윈도는 언어 모델이 한 번의 처리에서 다룰 수 있는 문맥의 범위입니다. 일반적으로 토큰 수로 표시하며, 입력·출력 등에 적용되는 구체적인 규칙은 모델별로 다릅니다. 큰 윈도는 많은 정보를 제공할 여지를 주지만 세션 간 기억을 자동으로 보장하지는 않습니다.

컨텍스트 윈도 · 한 번의 처리에서 다룰 수 있는 문맥의 범위입니다. · 지시·질문 · 대화·참고 자료 · 생성할 출력 · 큰 윈도가 세션 간 기억을 보장하지는 않습니다.
개념 한눈에 보기 · 한 번의 처리에서 다룰 수 있는 문맥의 범위입니다.

쉽게 이해하면

작업대의 크기와 보관함을 구분하면 이해하기 쉽습니다. 큰 작업대에는 많은 자료를 펼쳐 놓을 수 있습니다. 그러나 작업을 끝낸 뒤 어떤 자료를 보관하고 다음에 다시 꺼낼지는 별도의 문제입니다. 이 비유에서 작업대가 컨텍스트 윈도, 보관하고 다시 꺼내는 과정이 기억 관리에 가깝습니다.

예를 들어 오늘 계약서 전체를 넣어 검토했더라도 내일 새 대화에서 같은 자료가 제공되지 않으면 어제의 내용을 활용하지 못할 수 있습니다. 반대로 필요한 자료를 매번 충분히 제공할 수 있는 짧은 업무라면 별도 장기 기억 없이도 목적을 달성할 수 있습니다.

알아둘 점

한도와 실제 입력

제품의 최대 수치와 현재 요청에서 쓸 수 있는 예산은 구분해야 합니다. 지시문·대화·검색 결과·도구 설명 등도 공간을 사용합니다. 출력 한도나 부가 처리 방식은 공식 모델 문서에서 따로 확인합니다.

길이가 정확성은 아님

문맥 안에 정보가 들어 있다는 사실만으로 모든 세부 조건을 정확하게 활용한다는 뜻은 아닙니다. 긴 문서의 중간에 있는 예외 조항이나 서로 충돌하는 버전을 실제 질문으로 확인해야 합니다.

메모리와 조합

외부 기억에서 관련 정보만 골라 현재 컨텍스트에 넣을 수 있습니다. 이때는 저장 품질뿐 아니라 검색과 선별의 품질도 결과에 영향을 줍니다.

비슷한 용어와의 차이

컨텍스트 윈도
현재 요청에서 다룰 수 있는 범위
AI 메모리
이전 정보를 저장하고 다시 활용하는 기능·구조
컨텍스트 엔지니어링
현재 요청에 어떤 내용을 넣을지 설계하는 작업

출처·작성 정보

개념 확인에 참고한 공식 문서입니다. 업체 문서는 해당 제품의 구현 예시이며 모든 AI의 공통 기능을 뜻하지 않습니다. 업무 예시·비교·검토 질문은 이해를 돕기 위해 TENCONIC이 작성했습니다.

작성·출처 확인일: · 용어의 사용 범위와 구현 방식은 제품마다 다를 수 있습니다.