AI 메모리란?

쉽게 이해하면

매번 새 동료에게 설명하는 대신 이전에 정한 업무 방식을 메모로 남기는 상황을 떠올려 보세요. 다음 작업에서 그 메모를 꺼내 참고하면 같은 설명을 줄일 수 있습니다. AI도 필요한 정보를 다음 요청의 문맥에 다시 제공하는 방식으로 이런 연속성을 만들 수 있습니다.

예를 들어 사용자가 보고서의 결론을 먼저 쓰는 형식을 선호한다고 말하면 그 선호를 보관했다가 다음 보고서 초안에 활용할 수 있습니다. 다만 일시적인 요청을 영구 선호로 저장하면 오히려 잘못 적용할 수 있으므로, 기억의 범위와 수정 방법이 중요합니다.

알아둘 점

대화 저장과 활용

서비스에 과거 대화가 보인다고 해서 모델이 모든 대화를 현재 답변에 사용하는 것은 아닙니다. 저장한 자료에서 어떤 정보를 검색하고 전달하는지 확인해야 합니다. 기억 기능의 유무와 실제 회상 품질도 다릅니다.

가중치 학습과 구분

외부 저장소에 정보를 기록하고 다시 읽는 방식은 모델 자체의 가중치를 바꾸지 않고도 구현할 수 있습니다. 따라서 기억이 개선되었다는 설명을 자동으로 모델이 재학습되었다는 뜻으로 해석하면 안 됩니다.

오래 기억할수록 필요한 관리

잘못 추출한 내용이나 바뀐 규칙이 다음 작업에도 영향을 줄 수 있습니다. 사용자가 기억을 확인·정정할 수 있는지, 정보의 유효 시점과 삭제 범위를 관리하는지 살펴야 합니다. 필요한 것만 보존하는 기준도 중요합니다.

효과를 확인하는 질문

처음 답변뿐 아니라 대화를 종료한 뒤 다시 질문하는 상황, 조건을 변경한 뒤 묻는 상황도 확인합니다. 기억해야 할 것을 회상하는 능력과 기억하면 안 되는 것을 꺼내지 않는 능력을 함께 보아야 합니다.

비슷한 용어와의 차이

대화 기록

이전 메시지의 원문을 저장한 이력

컨텍스트 윈도

현재 요청에서 다룰 수 있는 문맥의 범위

AI 메모리

이전 정보를 보존하고 이후에 선택해 활용하는 기능·구조