Benchmark
Um teste às cegas de assistentes de IA para a advocacia: 120 perguntas do dia a dia jurídico, em 14 categorias de pesquisa, feitas a 9 configurações de 7 produtos. Todas as respostas estão abertas para conferência.
As notas vêm de três modelos de empresas diferentes, Claude Opus 5.5, GPT‑6 Astra e Muse Spark 1.3, que avaliaram cada resposta sem saber de qual produto era. Vale a nota do meio entre os três, e as citações foram conferidas nas bases oficiais.
- perguntas
- 120
- perguntas
- categorias de pesquisa
- 14
- categorias de pesquisa
- juízes às cegas
- 3
- juízes às cegas
- respostas avaliadas
- 1.080
- respostas avaliadas
- citações conferidas
- 5.270
- citações conferidas
- snapshot
- 30/09/26
- snapshot
Nota geral
Nota média nas 14 categorias, de 0 a 100.
Por tipo de pergunta
O que explica a nota: fazer o que foi pedido, acertar o dado exato, admitir quando não sabe e combinar fontes diferentes.
| Configuração | Faz o que foi pedido | Acerta o dado exato | Admite limites nas armadilhas | Cruza diferentes fontes |
|---|---|---|---|---|
| 80 | 87 | 78 | 84 | |
| 77 | 84 | 79 | 74 | |
| 71 | 81 | 78 | 78 | |
| 68 | 79 | 71 | 82 | |
| 64 | 66 | 69 | 75 | |
| 57 | 71 | 71 | 75 | |
| 49 | 62 | 57 | 60 | |
| 44 | 57 | 58 | 56 | |
| 47 | 45 | 54 | 56 |
Por categoria
Clique numa categoria para ver o placar dela e as perguntas.
| Configuração | Jurisp. | Legislação | Consulta Processual | Doutrina | Atos CNJ | Portais | Conf. Citação | Jurimetria | Normas Regulatórias | Publicações | Índices | Consulta Empresarial | Contratações Públicas | Marcas e Patentes |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 85 | 90 | 57 | 77 | 87 | 96 | 85 | 66 | 86 | 83 | 92 | 82 | 80 | 83 | |
| 81 | 84 | 62 | 76 | 83 | 84 | 83 | 72 | 83 | 81 | 92 | 80 | 79 | 76 | |
| 77 | 80 | 60 | 73 | 76 | 86 | 76 | 69 | 79 | 77 | 91 | 82 | 80 | 75 | |
| 73 | 86 | 45 | 69 | 91 | 82 | 92 | 72 | 86 | 36 | 89 | 71 | 62 | 30 | |
| 65 | 73 | 54 | 61 | 82 | 90 | 77 | 59 | 70 | 45 | 82 | 65 | 44 | 35 | |
| 85 | 81 | 47 | 73 | 53 | 51 | 89 | 35 | 75 | 47 | 65 | 40 | 37 | 34 | |
| 61 | 85 | 38 | 47 | 65 | 43 | 78 | 26 | 72 | 39 | 61 | 25 | 21 | 31 | |
| 59 | 71 | 35 | 54 | 44 | 47 | 74 | 28 | 64 | 42 | 60 | 37 | 26 | 32 | |
| 56 | 43 | 36 | 51 | 49 | 52 | 71 | 34 | 53 | 39 | 69 | 46 | 31 | 31 |