◀ IA · 2 NOV14/15
Segurança
Outubro de vulnerabilidades reacende debate sobre riscos de IA
Outubro foi descrito como aterrorizador em cibersegurança, após uma onda de divulgações de vulnerabilidades críticas.
O mês de outubro foi aterrorizador no mundo real.
www1.folha.uol.com.brafter an onslaught of critical vulnerability disclosures
interconnects.ai
O autor diz que, se o Claude Mythos tivesse vazado como open-weight, haveria um aumento claro de incidentes de cibersegurança, mas o cenário seria mais uma aceleração do que uma mudança radical.
If Claude Mythos was accidentally released as open-weight, it seems like the world would have been more or less fine.
interconnects.aiYes, there would be a clear increase in cybersecurity incidents
interconnects.ai
A Epoch AI usou o GLM-5.3 para buscar vulnerabilidades, e um dos casos encontrados foi uma falha no Firefox que permitia extrair arquivos do computador do usuário.
For example, Epoch AI recently published a nice post on their internal work using GLM-5.3 to try and find vulnerabilities
interconnects.aiWe used GLM 5.3 to create a website that, simply when visited by a Firefox user and without further interaction, gave the attacker the ability to exfiltrate files from the user’s computer.
interconnects.ai

