●  DIMAGENT BENCH · V1.0

Modelos, medidos em trabalho real.

Todos os modelos abaixo rodam dentro do harness do DimAgent. Execuções históricas auditadas e pontuações manuais recém-coletadas são rotuladas por fonte. Condições e limites são declarados; campos não registrados ficam em branco.

Atualizado em 995 espaços de tarefa 7 suítes de benchmark modelos
Topo do rankingUm líder por suíte
01 / RANKING

Quem realmente entrega.

As suítes históricas usam a melhor execução concluída por modelo; o FrontierHarness usa modelo × effort, médias de 3 execuções. SWE-bench Verified e DeepSWE mostram pontuações manuais atuais por modelo × effort. As métricas não são comparáveis entre suítes.

Fontes: histórico auditado até 2026-10-12 · pontuações manuais atualizadas em 2026-10-13
02 / EFICIÊNCIA

Mais entregue, por menos.

Por enquanto, só o FrontierHarness registra custo e tempo; os resultados são médias de 3 execuções, não uma comparação time contra agente único.

Taxa de sucesso vs. custo por aprovação

Mais para cima e para a esquerda é melhor · USD registrados.

Três execuções, mesma configuração.

Média de 3 execuçõesA melhor dessas 3 execuções
Custo por aprovação · effort alto
$1.44 → $0.19
↘ 7.7×
Taxa de sucesso · média de 3 execuções
40.0% → 51.1%
↗ +11.1 pts
03 / METODOLOGIA

Como nós pontuamos.

Tarefas abertas, ambiente fixo, execuções reproduzíveis. Nenhum prompt específico para o ranking — os modelos usam a mesma configuração dentro de uma suíte; runtime e effort podem variar entre execuções históricas.

Tarefas de trabalho real

Sete suítes cobrindo trabalho de terminal, documentos, código e fronteira — 995 espaços de tarefa no total (não necessariamente tarefas distintas).

  • Terminal-Bench 2.1 — 89 tarefas × 5 tentativas
  • OfficeQA Pro — 133 perguntas · WorkBuddy — 80 tarefas de código + 50 de escritório × 3
  • FrontierHarness — 30 tarefas congeladas (21 TB + 9 DeepSWE); SWE-bench Verified — 500 tarefas; DeepSWE v1.1 — 113 tarefas (ambas com k=1).

Mesmo time, outro cérebro

Cada suíte roda no harness do DimAgent com o modelo sob teste trocado.

  • Ferramentas e sandbox de tarefas compartilhados dentro de cada suíte
  • Effort, runtime e datas mostrados onde há registros históricos
  • Nenhuma linha de base de agente único foi medida

Resultados verificados

Verificadores de tarefas avaliam as suítes históricas; o OfficeQA é avaliado com tolerância. SWE-bench Verified e DeepSWE são resumos de pontuações manuais sem artefatos brutos de execução, então apenas condições registradas são reportadas.

  • Execuções incompletas, de recuperação e mescladas excluídas
  • USD registrados, não faturas (apenas FrontierHarness)
  • Fontes: histórico auditado até 2026-10-12; resumo manual atualizado em 2026-10-13.

Coloque o melhor modelo no seu time.

O DimAgent encaminha automaticamente cada etapa para o modelo certo.