O que é jailbreak?
Tentativa de um usuário de enganar o modelo com truques de conversa pra ele ignorar as próprias regras de segurança e fazer o que não deveria.
Também chamado de: jailbreaks, jailbreaking.
Uma analogia
É o malandro que fica na porta tentando convencer o soldato, no papo furado, a quebrar as ordens do Don.
Esta verbete ainda não tem exemplo prático revisado, e por isso não está publicado nos buscadores. A definição e a analogia acima vêm do glossário do curso.
Onde isso aparece no curso
- AI Safety (critica)
- Glossário (meta)