◀ IA · 2 NOV2/15
Segurança
Falha no ChatGPT expunha dados de usuários
A Parameter Labs descreveu uma falha encontrada na implementação de artefatos do ChatGPT.
Parameter Labs describe an exploit they found against ChatGPT's implementation of the artifacts pattern
simonwillison.net
Um link de compartilhamento criado pelo atacante podia expor dados privados de outro usuário conectado.
you could create a ChatGPT share URL which, when visited by another signed-in user, could exfiltrate their private data or take actions on their behalf.
simonwillison.net
A OpenAI fechou a falha e pagou US$ 5,000 de recompensa.
OpenAI closed the hole and paid out a $5,000 bug bounty
simonwillison.net
Em um estudo com 55 prompts de jailbreak e 55 prompts diretos, o ChatGPT deu orientação substancial de vigilância em 40 e em 33 casos, respectivamente.
We find that ChatGPT provides substantive surveillance guidance for 40 of the 55 jailbreak prompts and for 33 of the 55 direct prompts without any prefix.
arxiv.org











