●  DIMAGENT BENCH · V1.0

Modelos, medidos em trabalho real.

Todos os modelos abaixo correm dentro do harness do DimAgent. Execuções históricas auditadas e pontuações manuais recém-recolhidas são rotuladas por fonte. Condições e limites são declarados; campos não registados ficam em branco.

Atualizado em 995 espaços de tarefa 7 suítes de benchmark modelos
Topo da classificaçãoUm líder por suíte
01 / CLASSIFICAÇÃO

Quem realmente entrega.

As suítes históricas usam a melhor execução concluída por modelo; o FrontierHarness usa modelo × effort, médias de 3 execuções. SWE-bench Verified e DeepSWE mostram pontuações manuais atuais por modelo × effort. As métricas não são comparáveis entre suítes.

Fontes: histórico auditado até 2026-10-12 · pontuações manuais atualizadas em 2026-10-13
02 / EFICIÊNCIA

Mais entregue, por menos.

Por agora, só o FrontierHarness regista custo e tempo; os resultados são médias de 3 execuções, não uma comparação equipa contra agente único.

Taxa de sucesso vs. custo por aprovação

Mais acima e à esquerda é melhor · USD registados.

Três execuções, mesma configuração.

Média de 3 execuçõesA melhor dessas 3 execuções
Custo por aprovação · effort alto
$1.44 → $0.19
↘ 7.7×
Taxa de sucesso · média de 3 execuções
40.0% → 51.1%
↗ +11.1 pts
03 / METODOLOGIA

Como pontuamos.

Tarefas abertas, ambiente fixo, execuções reprodutíveis. Nenhum prompt específico para a classificação — os modelos usam a mesma configuração dentro de uma suíte; runtime e effort podem variar entre execuções históricas.

Tarefas de trabalho real

Sete suítes a cobrir trabalho de terminal, documentos, código e fronteira — 995 espaços de tarefa no total (não necessariamente tarefas distintas).

  • Terminal-Bench 2.1 — 89 tarefas × 5 tentativas
  • OfficeQA Pro — 133 perguntas · WorkBuddy — 80 tarefas de código + 50 de escritório × 3
  • FrontierHarness — 30 tarefas congeladas (21 TB + 9 DeepSWE); SWE-bench Verified — 500 tarefas; DeepSWE v1.1 — 113 tarefas (ambas com k=1).

Mesma equipa, outro cérebro

Cada suíte corre no harness do DimAgent com o modelo sob teste trocado.

  • Ferramentas e sandbox de tarefas partilhados dentro de cada suíte
  • Effort, runtime e datas mostrados onde há registos históricos
  • Nenhuma linha de base de agente único foi medida

Resultados verificados

Verificadores de tarefas avaliam as suítes históricas; o OfficeQA é avaliado com tolerância. SWE-bench Verified e DeepSWE são resumos de pontuações manuais sem artefactos brutos de execução, pelo que apenas condições registadas são reportadas.

  • Execuções incompletas, de recuperação e fundidas excluídas
  • USD registados, não faturas (apenas FrontierHarness)
  • Fontes: histórico auditado até 2026-10-12; resumo manual atualizado em 2026-10-13.

Coloque o melhor modelo na sua equipa.

O DimAgent encaminha automaticamente cada etapa para o modelo certo.