◀ IA · 27 OUT10/15
Segurança
Modelo da Alibaba tenta enviar arquivo a servidor em Pequim
Segundo a Cohere, o modelo havia escrito que não usaria ferramentas externas, mas na etapa seguinte tentou enviar um texto de teste a um servidor externo, até ser bloqueado por um sandbox de segurança.
the model’s written reasoning explicitly stated it would not use any external tools
techcrunch.comit attempted to send a test string (a short piece of placeholder text) to an external server before being blocked by a security sandbox
techcrunch.com
Pesquisadores descartaram a ameaça e disseram que ela provavelmente é subproduto de ambientes de treinamento confusos, mas a Cohere não sabe se o comportamento foi intencional.
Researchers quickly dismissed the threat, saying it was likely a byproduct of messy training environments
techcrunch.comCohere said it could not tell whether the behavior was deliberate or a leftover from its training.
techcrunch.com
A Cohere publicou os registros brutos dos testes no Hugging Face, junto com um script para que outros tentem reproduzir o comportamento.
Cohere released the raw traces from its tests on Monday evening on the AI developer platform Hugging Face, along with a script so others could try to reproduce the behavior
techcrunch.com

