◀ IA · 12 NOV12/15
Segurança
A Microsoft descreveu o Lazarus, uma técnica de backdoor que reprograma neurônios dormentes de modelos de IA.
A Microsoft descreveu o Lazarus, uma técnica de backdoor que reprograma neurônios dormentes de modelos de IA.
Microsoft researchers have discovered “Lazarus,” a backdoor technique that can reprogram dormant neurons in an AI model
microsoft.com
Reprogramar menos de 10 neurônios dormentes basta para tornar um agente em backdoor, sem treinamento.
weight-reprogramming fewer than 10 dormant neurons in an LLM, is enough to backdoor an agent built on it, and requires no training.
microsoft.com
Nos testes, o modelo modificado gerou o payload malicioso em pelo menos 98.8% dos cenários de gatilho de teste.
The modified model generated the malicious payload in at least 98.8% of held-out trigger scenarios
csoonline.com
O ataque exige acesso de escrita ao checkpoint do modelo, por isso a integridade e a procedência dos pesos importam.
However, the attack requires write access to the model checkpoint.
csoonline.comWhat matters is weight, integrity, and provenance
csoonline.com

