Pular para o conteúdo
Machine Don
COMUNIDADEENTRAR

◀ IA · 12 NOV12/15

Segurança

A Microsoft descreveu o Lazarus, uma técnica de backdoor que reprograma neurônios dormentes de modelos de IA.

4 veículos

A Microsoft descreveu o Lazarus, uma técnica de backdoor que reprograma neurônios dormentes de modelos de IA.

  • Microsoft researchers have discovered “Lazarus,” a backdoor technique that can reprogram dormant neurons in an AI modelmicrosoft.com

Reprogramar menos de 10 neurônios dormentes basta para tornar um agente em backdoor, sem treinamento.

  • weight-reprogramming fewer than 10 dormant neurons in an LLM, is enough to backdoor an agent built on it, and requires no training.microsoft.com

Nos testes, o modelo modificado gerou o payload malicioso em pelo menos 98.8% dos cenários de gatilho de teste.

  • The modified model generated the malicious payload in at least 98.8% of held-out trigger scenarioscsoonline.com

O ataque exige acesso de escrita ao checkpoint do modelo, por isso a integridade e a procedência dos pesos importam.

  • However, the attack requires write access to the model checkpoint.csoonline.com
  • What matters is weight, integrity, and provenancecsoonline.com

A curadoria usa IA e passa por revisão humana.

A seguir · 13/15Atacantes que invadiram a Railway geraram cerca de US$740,000 em uso não autorizado de chaves de provedores de IA roubadas.