O que é janela de contexto?
Janela de contexto (context window) é a quantidade máxima de informação, medida em tokens, que um modelo de IA consegue considerar de uma só vez ao gerar uma resposta, incluindo suas instruções, o histórico da conversa, os arquivos enviados e a própria resposta.
Em palavras simples
Pense em uma mesa de trabalho. Tudo o que está em cima da mesa você consegue consultar enquanto trabalha: o documento aberto, as anotações, a conversa com o colega. O que não cabe na mesa fica guardado no armário e você não enxerga. A janela de contexto é o tamanho dessa mesa para a IA.
Por isso, em conversas muito longas, o assistente às vezes “esquece” algo que você disse lá no início. Não é falta de atenção: aquele trecho pode simplesmente ter saído da mesa, ou estar tão longe que o modelo dá menos peso a ele. A janela de contexto funciona como uma memória de trabalho, e não como a memória de longo prazo do modelo.
Como funciona
Os modelos de linguagem não leem palavras inteiras, e sim tokens, que são pedaços de texto (uma palavra curta, parte de uma palavra ou um sinal de pontuação). Cada modelo tem um limite de tokens que consegue processar de uma vez. Nesse limite entram:
- as instruções do sistema, que você normalmente não vê;
- todas as mensagens anteriores da conversa, suas e da IA;
- documentos, imagens e outros arquivos enviados;
- a resposta que o modelo está escrevendo naquele momento.
Quando a soma passa do limite, algo precisa sair. Dependendo do serviço, as mensagens mais antigas são descartadas, resumidas automaticamente ou o sistema simplesmente avisa que o texto é longo demais.
É importante saber que uma janela maior não garante respostas melhores. A própria Anthropic, criadora do Claude, explica em sua documentação que, à medida que a quantidade de tokens cresce, a precisão e a capacidade de lembrar detalhes tendem a cair, fenômeno que ela chama de “context rot” (algo como “apodrecimento do contexto”). Ou seja, escolher bem o que entra na conversa importa tanto quanto o espaço disponível.
Exemplos
As janelas de contexto cresceram muito em pouco tempo. Alguns números divulgados pelas próprias empresas:
- Gemini (Google): o Gemini 1.0 tinha janela de 32 mil tokens. Em fevereiro de 2024, o Google anunciou o Gemini 1.5 Pro com 128 mil tokens no padrão e até 1 milhão em versão de testes. Segundo a empresa, 1 milhão de tokens equivale a cerca de 1 hora de vídeo, 11 horas de áudio, mais de 30 mil linhas de código ou mais de 700 mil palavras.
- Claude (Anthropic): a documentação oficial informa que vários modelos atuais do Claude têm janela de 1 milhão de tokens, enquanto outros modelos da família ficam em 200 mil tokens.
- Na prática: com uma janela grande, você pode enviar um contrato inteiro, um livro ou a pasta de um projeto e fazer perguntas sobre o conjunto. Com uma janela pequena, é preciso dividir o material em partes.
Os limites mudam a cada nova versão e podem variar conforme o plano contratado, por isso vale sempre conferir a informação atual da ferramenta que você usa.
Por que isso importa para você
Entender a janela de contexto ajuda a tirar mais proveito da IA no dia a dia. Algumas dicas práticas:
- Em conversas muito longas, abra um novo chat e cole um resumo do que importa, em vez de continuar indefinidamente.
- Repita informações essenciais quando perceber que o assistente “esqueceu” algo.
- Envie só os trechos relevantes de um documento, em vez de arquivos enormes inteiros.
- Desconfie de respostas sobre partes de um arquivo muito longo e confira no original, porque o risco de alucinação de IA aumenta.
Se o assistente está se perdendo ou repetindo erros, veja também nosso guia sobre erros do ChatGPT e como resolver.
Termos relacionados
- Token: a unidade usada para medir o tamanho da janela de contexto.
- LLM: o tipo de modelo que trabalha com uma janela de contexto.
- RAG: técnica que busca só os trechos relevantes de documentos para caber na janela.
- Alucinação de IA: erro mais comum quando o contexto é longo ou confuso.
Perguntas frequentes
A janela de contexto é a memória da IA?
É a memória de trabalho de uma conversa. O conhecimento geral do modelo vem do treinamento e não depende da janela. Recursos de “memória” de alguns assistentes guardam informações à parte e as colocam de volta na janela quando necessário.
Quantas palavras cabem em 1 milhão de tokens?
Depende do idioma e do modelo, porque cada um divide o texto em tokens de um jeito. Como referência, o Google estimou mais de 700 mil palavras para 1 milhão de tokens no Gemini 1.5 Pro. Em outros idiomas e modelos, a conta pode ser diferente.
Uma janela maior sempre é melhor?
Não necessariamente. Ela permite analisar mais material de uma vez, mas a precisão pode cair com contextos muito longos, e o custo de processamento costuma ser maior.