Pular para o conteúdo
Machine Don
COMUNIDADEENTRAR

◀ IA · 7 NOV1/15

Segurança

Thoughtworks e Sysdig apontam controles mais rigorosos para agentes de IA

32 veículos Carrossel 10

A Thoughtworks lançou o volume 35 do Technology Radar e afirma que os desafios de engenharia com agentes vão além do próprio modelo.

A Sysdig lançou o Sysdig AI Defense, com segurança em tempo de execução e governança para agentes de IA.

  • Sysdig has stepped into this space with the announcement of Sysdig AI Defense offering runtime security and governance for AI agents.securityweek.com

Ações arriscadas de agentes podem ser detectadas, enviadas para revisão humana ou bloqueadas antes de se concluírem.

  • Risky agentic actions can be detected, held for human review or blocked before they can complete.securityweek.com

Carrossel

  1. Slide 1 de 10: A IA parou de só responder Sabia que a IA agora faz coisas por você, e não só conversa? Isso trouxe uma pergunta nova, que quase ninguém faz: quem confere o que ela fez?
  2. Slide 2 de 10: De responder para agir Agente de IA é uma IA que executa tarefas, em vez de só responder. Na prática: escreve código e mexe em sistemas. E faz isso mais rápido do que uma equipe consegue revisar à mão.
  3. Slide 3 de 10: A pergunta mudou Antes, os clientes queriam saber a velocidade do agente para escrever código. Agora querem saber se dá para confiar, avaliar e pagar pelo que ele produz. Quem conta é Rachel Laycock, da Thoughtworks.
  4. Slide 4 de 10: O relatório que acendeu o alerta A Thoughtworks lançou o volume 35 do Technology Radar, um relatório que sai duas vezes por ano. Na lista do que adotar já, 11 práticas. Uma delas: isolar o agente num espaço fechado, onde ele não quebra nada lá fora.
  5. Slide 5 de 10: Aprovar sem olhar não protege O Radar avisa: quando a aprovação de uma pessoa vira ritual, ela deixa de proteger. Pensa assim: é assinar sem ler. A dica é ver quanto dá para revisar antes de colocar mais agentes para trabalhar.
  6. Slide 6 de 10: Curiosidade: o agente muda "O agente que entra em ação de manhã nem sempre é o que está rodando à tarde", alerta a Sysdig. Por isso ela lançou o Sysdig AI Defense, que acompanha cada ação do agente, do começo ao fim.
  7. Slide 7 de 10: Freio antes do estrago Funciona assim: uma ação arriscada pode ser detectada, ir para a revisão de uma pessoa ou ser bloqueada antes de terminar. E cada agente fica ligado a um humano responsável por ele.
  8. Slide 8 de 10: O que o agente diz não é prova Em outras palavras: o relato do agente sobre o que fez serve de contexto, não de evidência. Se o que ele diz não bate com o que ele fez, já é sinal de alerta.
  9. Slide 9 de 10: E vai ter agente de sobra Segundo o IBM Institute for Business Value, as empresas esperam usar em média 1.661 agentes de IA até 2027. É 38% a mais do que hoje. Ninguém revisa tudo isso à mão.
  10. Slide 10 de 10: O que muda para você Usar IA bem não é só pedir. É saber o que ela fez e quando conferir. Manda para aquele colega que aprova tudo sem ler.

A curadoria usa IA e passa por revisão humana.

A seguir · 2/15Ações de tecnologia despencam com temor sobre a IA