컨텍스트
AI와 대화할 때 “컨텍스트”는 두 가지를 뜻한다. AI가 볼 수 있는 공간(컨텍스트 윈도우)과, 그 공간에 담기는 배경 정보(맥락).
쉽게 말하면
AI한테 질문할 때 “맥락을 줘야 한다”는 말, 들어보신 적 있으신가요? 그런데 다른 곳에서는 “컨텍스트 윈도우가 크다”는 표현도 나옵니다. 맥락과 컨텍스트, 같은 말일까요?
영어로는 둘 다 “context”입니다. 하지만 AI를 쓸 때 이 단어는 두 가지 다른 차원을 가리킵니다.
책상을 떠올려 보세요. 하나는 책상의 크기입니다. AI가 한 번에 펼쳐놓고 볼 수 있는 텍스트의 양, 이걸 컨텍스트 윈도우라고 합니다. 다른 하나는 책상 위에 올려놓은 서류입니다. 내가 AI에게 알려주는 배경 정보, 상황, 조건 같은 것들, 이걸 맥락이라고 합니다.
좀 더 정확히
컨텍스트 윈도우 — 공간의 차원
AI가 한 번의 대화에서 처리할 수 있는 텍스트의 최대 범위입니다. 토큰 수로 측정하며, ChatGPT는 128K, Claude는 200K 토큰을 처리할 수 있습니다(2026년 3월 기준). 이 범위를 넘으면 가장 오래된 내용부터 밀려나서 AI가 더 이상 참조할 수 없게 됩니다.
맥락 — 정보의 차원
프롬프트에 담는 배경 정보입니다. “누가, 어떤 상황에서, 왜 필요한지”를 알려주면 AI가 수많은 가능성 중에서 원하는 방향을 더 잘 찾습니다. 같은 질문이라도 맥락에 따라 답이 크게 달라집니다.
둘의 관계
그릇이 아무리 커도 적절한 정보를 담지 않으면 AI는 평범한 답만 내놓습니다. 반대로, 아무리 좋은 배경 정보라도 그릇(컨텍스트 윈도우)에 담기지 않으면 AI가 볼 수 없습니다. 그리고 그릇 안에 서로 충돌하는 정보가 쌓이면 컨텍스트 오염이 발생해 응답 품질이 떨어집니다.
한눈에 보기
flowchart LR subgraph space["공간 차원"] A["컨텍스트 윈도우"] B["얼마나 담을 수 있는가"] end subgraph info["정보 차원"] C["맥락"] D["무엇을 담는가"] end A --> E["응답 품질"] C --> E
흔한 오해
“컨텍스트와 맥락은 같은 말 아닌가요?”라는 질문이 자연스럽습니다. 원래 같은 영어 단어(context)에서 왔지만, AI를 쓸 때는 “공간”과 “정보”라는 서로 다른 차원을 가리킵니다. 컨텍스트 윈도우는 얼마나 담을 수 있는가의 문제이고, 맥락은 무엇을 담는가의 문제입니다.
“컨텍스트 윈도우가 크면 알아서 잘 대답하지 않나요?”라고 생각할 수 있지만, 공간이 크다고 답이 좋아지는 건 아닙니다. 큰 책상이 있어도 필요한 서류를 올려놓지 않으면 일을 잘할 수 없는 것처럼, 적절한 맥락을 담는 것은 사용자의 역할입니다.
이걸 왜 알아야 하나요?
이 구분을 알면 AI 활용의 두 축이 명확해집니다. 하나는 AI의 구조적 한계를 이해하는 것이고(컨텍스트 윈도우가 얼마나 큰가, 컨텍스트 오염은 왜 생기는가), 다른 하나는 그 한계 안에서 최대한 좋은 결과를 얻는 실용적 기술입니다(맥락 제공을 어떻게 하는가). ChatGPT, Claude, Gemini 등 어떤 AI 서비스를 쓰든 이 원리는 동일하게 적용됩니다.