◀ IA · 4 NOV8/15
Pesquisa
Agentes de IA na saúde exigem controles de acesso a dados
Agentes de IA médica podem recuperar identificadores de pacientes sem revelá-los.
An agent can retrieve identifiers without revealing them.
papers.takara.ai
Em testes com cinco modelos de linguagem, três acessaram ferramentas de dados de pacientes sem necessidade.
across five language models
papers.takara.aiThree models invoked the PHI tools unnecessarily
papers.takara.ai
Um gate de pré-execução baseado na necessidade da tarefa quase eliminou esse acesso.
A pre-execution gate given the task-necessity criterion nearly eliminated this access.
papers.takara.ai
Por isso, os autores afirmam que avaliar só a saída não verifica o acesso mínimo necessário.
Output-only evaluation cannot verify minimum-necessary access
papers.takara.ai

