Benchmark
Um teste às cegas de assistentes de IA para a advocacia: 120 perguntas do dia a dia jurídico, em 14 categorias de pesquisa, feitas a 7 configurações de 5 produtos. Todas as respostas estão abertas para conferência.
As notas vêm de três modelos de empresas diferentes, Claude Opus 5.5, GPT‑6 Astra e Muse Spark 1.3, que avaliaram cada resposta sem saber de qual produto era. Vale a nota do meio entre os três, e as citações foram conferidas nas bases oficiais.
- perguntas
- 120
- perguntas
- categorias de pesquisa
- 14
- categorias de pesquisa
- juízes às cegas
- 3
- juízes às cegas
- respostas avaliadas
- 840
- respostas avaliadas
- citações conferidas
- 4.435
- citações conferidas
- snapshot
- 28/09/26
- snapshot
Nota geral
Nota média nas 14 categorias, de 0 a 100.
Por tipo de pergunta
O que explica a nota: fazer o que foi pedido, acertar o dado exato, admitir quando não sabe e combinar fontes diferentes.
| Configuração | Faz o que foi pedido | Acerta o dado exato | Admite limites nas armadilhas | Cruza diferentes fontes |
|---|---|---|---|---|
| 82 | 88 | 80 | 87 | |
| 78 | 85 | 81 | 77 | |
| 68 | 74 | 69 | 64 | |
| 53 | 62 | 60 | 77 | |
| 51 | 64 | 59 | 58 | |
| 47 | 46 | 54 | 56 | |
| 41 | 49 | 57 | 57 |
Por categoria
Clique numa categoria para ver o placar dela e as perguntas.
| Configuração | Jurisp. | Legislação | Consulta Processual | Doutrina | Atos CNJ | Portais | Conf. Citação | Jurimetria | Normas Regulatórias | Publicações | Índices | Consulta Empresarial | Contratações Públicas | Marcas e Patentes |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 87 | 90 | 57 | 81 | 90 | 95 | 83 | 65 | 86 | 87 | 95 | 84 | 82 | 84 | |
| 83 | 85 | 63 | 79 | 86 | 86 | 86 | 73 | 85 | 85 | 93 | 82 | 79 | 80 | |
| 68 | 69 | 61 | 75 | 71 | 79 | 71 | 59 | 65 | 61 | 90 | 82 | 83 | 65 | |
| 79 | 70 | 38 | 65 | 43 | 59 | 80 | 29 | 65 | 31 | 58 | 34 | 33 | 34 | |
| 64 | 87 | 39 | 48 | 69 | 43 | 79 | 28 | 69 | 41 | 63 | 27 | 24 | 30 | |
| 56 | 44 | 36 | 53 | 52 | 53 | 71 | 30 | 56 | 40 | 69 | 43 | 32 | 28 | |
| 58 | 65 | 36 | 56 | 41 | 38 | 65 | 29 | 49 | 37 | 31 | 39 | 31 | 28 |