O que é sampling?
O jeito como o modelo sorteia a próxima palavra entre as candidatas mais prováveis, em vez de pegar sempre a mais óbvia. Existem várias estratégias de sorteio.
Também chamado de: amostragem, amostragem de tokens, top_p, top-p.
Uma analogia
O Don nem sempre escala o mesmo soldato: sorteia entre os melhores da lista, senão a rotina fica previsível demais pra polícia.
Esta verbete ainda não tem exemplo prático revisado, e por isso não está publicado nos buscadores. A definição e a analogia acima vêm do glossário do curso.
Onde isso aparece no curso
- LLMs por dentro (deep-learning)
- Dados (fundacao)
- Viés e fairness (critica)