Pular para o conteúdo
Machine Don
COMUNIDADEENTRAR

◀ IA · 2 NOV8/15

Pesquisa

Pesquisa propõe compressão de contexto sem treinamento para agentes de IA

2 veículos

Os autores apresentam o ASTC, um método de compressão sem treinamento que usa soft tokens dentro do agente.

  • we introduce Agentic Soft-Token Compression (ASTC), a training-free compression method using soft tokens within LLM agent for long-horizon tasks.arxiv.org

Segundo os autores, o ASTC iguala ou supera a precisão do agente sem compressão com até 50.68% menos Attention Pairs.

  • ASTC matches or exceeds the uncompressed agent's accuracy with up to 50.68% fewer end-to-end Attention Pairsarxiv.org

Compressores treinados exigem de 15.4 a 103.7 vezes mais Attention Pairs por tarefa bem-sucedida.

  • while trained compressors require 15.4 to 103.7 times more Attention Pairs per successful task.arxiv.org

A curadoria usa IA e passa por revisão humana.

A seguir · 9/15Gastos com IA pressionam crédito e encarecem capital