O que é token?
O pedacinho de texto que o modelo de linguagem lê e escreve de cada vez: pode ser uma palavra, um pedaço dela ou um símbolo.
Também chamado de: tokens, tokenização.
Uma analogia
As fichas do caixa: a conversa inteira é contada e cobrada ficha por ficha, não por frase.
Onde isso aparece no curso
- Mixture-of-Experts (MoE) (deep-learning)
- LLMs por dentro (deep-learning)
- Custos de inferência (production)