Machine Don

O que é prompt injection?

Ataque em que uma instrução maliciosa vem escondida num texto externo (email, site) e o modelo a obedece como se fosse ordem do dono.

Também chamado de: injeção de prompt, injecao de prompt.

Uma analogia

É o bilhete falso enfiado na correspondência da Família: o soldato lê e cumpre a ordem achando que veio do capo.

Esta verbete ainda não tem exemplo prático revisado, e por isso não está publicado nos buscadores. A definição e a analogia acima vêm do glossário do curso.

Onde isso aparece no curso

Termos relacionados