FideliaBench

Benchmark

Um teste às cegas de assistentes de IA para a advocacia: 120 perguntas do dia a dia jurídico, em 14 categorias de pesquisa, feitas a 9 configurações de 7 produtos. Todas as respostas estão abertas para conferência.

As notas vêm de três modelos de empresas diferentes, Claude Opus 5.5, GPT‑6 Astra e Muse Spark 1.3, que avaliaram cada resposta sem saber de qual produto era. Vale a nota do meio entre os três, e as citações foram conferidas nas bases oficiais.

perguntas
120
perguntas
categorias de pesquisa
14
categorias de pesquisa
juízes às cegas
3
juízes às cegas
respostas avaliadas
1.080
respostas avaliadas
citações conferidas
5.270
citações conferidas
snapshot
30/09/26
snapshot

Nota geral

Nota média nas 14 categorias, de 0 a 100.

Placar geral, em ordem de nota
# Configuração Nota Cobertura Citação errada Admite limites Por categoria
1 Fidelia Aprofundado web coletado em 27/09

82 ±3

14 de 14 nenhuma 91%
1 Fidelia Rápido web coletado em 27/09

80 ±3

14 de 14 nenhuma 97%
1 Fidelia MCP conector + Claude Sonnet 5.5 coletado em 29/09

77 ±3

14 de 14 nenhuma 94%
4 ChatGPT modelo geral, sem conector jurídico coletado de 29 a 30/09

70 ±2

14 de 14 nenhuma 75%
5 Claude modelo geral, sem conector jurídico coletado em 30/09

65 ±3

12 de 14 nenhuma 75%
6 JusRatio MCP conector + Claude Sonnet 5.5 coletado em 29/09

58 ±4

8 de 14 1 em cada 75 94%
7 MinutaIA web coletado de 25 a 26/09

49 ±3

10 de 14 nenhuma 63%
7 Jus IA web coletado em 29/09

48 ±3

11 de 14 nenhuma 63%
7 Jusfy web coletado de 25 a 26/09

47 ±4

12 de 14 nenhuma 53%
Posição repetida é empate técnico: as margens de erro (±) se cruzam. Em vermelho, quem mais errou citações. Como ler o placar Snapshot de 30/09/2026, juízes Claude Opus 5.5, GPT-6 Astra e Muse Spark 1.3

Por tipo de pergunta

O que explica a nota: fazer o que foi pedido, acertar o dado exato, admitir quando não sabe e combinar fontes diferentes.

Nota de cada configuração por tipo de pergunta
Configuração Faz o que foi pedido Acerta o dado exato Admite limites nas armadilhas Cruza diferentes fontes
Fidelia Aprof. 80 87 78 84
Fidelia Rápido 77 84 79 74
Fidelia MCP 71 81 78 78
ChatGPT 68 79 71 82
Claude 64 66 69 75
JusRatio MCP 57 71 71 75
MinutaIA 49 62 57 60
Jus IA 44 57 58 56
Jusfy 47 45 54 56
Quanto mais forte a cor, melhor a nota. Snapshot de 30/09/2026, juízes Claude Opus 5.5, GPT-6 Astra e Muse Spark 1.3

Por categoria

Clique numa categoria para ver o placar dela e as perguntas.

Nota de cada configuração por categoria
Configuração Jurisp. Legislação Consulta Processual Doutrina Atos CNJ Portais Conf. Citação Jurimetria Normas Regulatórias Publicações Índices Consulta Empresarial Contratações Públicas Marcas e Patentes
Fidelia Aprof. 85 90 57 77 87 96 85 66 86 83 92 82 80 83
Fidelia Rápido 81 84 62 76 83 84 83 72 83 81 92 80 79 76
Fidelia MCP 77 80 60 73 76 86 76 69 79 77 91 82 80 75
ChatGPT 73 86 45 69 91 82 92 72 86 36 89 71 62 30
Claude 65 73 54 61 82 90 77 59 70 45 82 65 44 35
JusRatio MCP 85 81 47 73 53 51 89 35 75 47 65 40 37 34
MinutaIA 61 85 38 47 65 43 78 26 72 39 61 25 21 31
Jus IA 59 71 35 54 44 47 74 28 64 42 60 37 26 32
Jusfy 56 43 36 51 49 52 71 34 53 39 69 46 31 31