제임스의 ai 라이프

AI는 컨텍스트를 어떻게 이해할까? 많은 사람들이 AI에게 질문을 하면 사람이 문맥을 이해하듯 자연스럽게 사고한다고 생각합니다. 하지만 실제로 GPT 같은 생성형 AI는 인간처럼 “이해”하는 것이 아니라, 입력된 텍스트 패턴을 기반으로 다음 단어를 예측하는 방식으로 동작합니다. 그럼에도 놀라울 정도로 자연스러운 결과를 만드는 이유는 방대한 데이터 학습과 함께, 입력된 컨텍스트를 매우 정교하게 처리하기 때문입니다. 이번 글에서는 컨텍스트 엔지니어링의 핵심 기반이 되는 AI의 문맥 처리 원리를 이해해보겠습니다. 컨텍스트(Context)의 실제 의미 AI에서 컨텍스트란 단순한 질문 한 줄이 아닙니다. 모델이 현재 답변을 생성하기 위해 참고하는 모든 입력 정보가 컨텍스트입니다. 예를 들면 아래 요소들이 포함됩니다. 현재 질문 이전 대화 내용 시스템 프롬프트 역할(Role) 설정 첨부 문서 예시 데이터 출력 형식 지시 즉, AI는 “현재까지 입력된 전체 텍스트”를 기반으로 답변을 생성합니다. 토큰(Token)이 중요한 이유 컨텍스트 엔지니어링에서 가장 중요한 개념 중 하나가 바로 토큰(Token)입니다. AI는 문장을 사람처럼 그대로 읽는 것이 아니라, 텍스트를 잘게 나눈 단위로 처리합니다. 예를 들어 아래 문장은: “컨텍스트 엔지니어링은 중요합니다.” AI 내부에서는 여러 개의 토큰 으로 분리되어 처리됩니다. 모델마다 다르지만 일반적으로: 한글 1~2글자 영어 단어 일부 기호 단위 등으로 나뉩니다. 여기서 중요한 점은 AI 모델마다 처리 가능한 최대 토큰 수가 정해져 있다는 것입니다. 이를 컨텍스트 윈도우(Context Window)라고 부릅니다. 컨텍스트 윈도우란? 컨텍스트 윈도우는 AI가 한 번에 기억하고 참고할 수 있는 최대 입력 범위입니다. 예를 들어: 8K 토큰 모델 32K 토큰 모델 128K 토큰 모델 등이 존재합니다. 숫자가 클수록 더 긴 문서와 대화를 기억할...