O que é contexto?
Tudo o que o modelo de linguagem enxerga de uma vez para responder: suas instruções, a conversa até ali e os textos que você colou. Tem tamanho máximo, a janela de contexto.
Também chamado de: janela de contexto, context window.
Uma analogia
A pasta que o consigliere leva para a reunião: ele só responde com o que está dentro dela, e a pasta tem um limite de folhas.
Onde isso aparece no curso
- Prompt engineering (critica)
- Transformer (deep-learning)
- Mixture-of-Experts (MoE) (deep-learning)