Ranking-Lauf 01.08.2026
Claude Opus 4.7 führt mit 81/100 über alle Domänen. Steuerrecht: Claude Opus 4.7 (75) · Medizin: Claude Opus 4.7 (87) · Jura: Claude Opus 4.7 (84) · Wirtschaftsrecht: GPT-5.6 Sol (79).
Gesamt über alle Domänen
| # | Modell | top100 | 95 % CI | Δ Vorlauf | Ausfälle | Sek. Median/p90 | Hallu-Band | pro 1000 Tok. | Δ eigene Familie |
|---|---|---|---|---|---|---|---|---|---|
| 1 | Claude Opus 4.7 | 0 | 20 / 31 | 81 | 78–84 | +1 | 61 | 1,36 | — |
| 2 | Kimi K3 n=71/100 | 29 (27 T) | 159 / 413 | 80 | 76–84 | +3 | 52 | 0,38 | — |
| 3 | GPT-5.6 Sol | 0 | 89 / 208 | 77 | 73–80 | +1 | 67 | 0,26 | — |
| 4 | Claude Opus 4.8 | 0 | 20 / 31 | 75 | 72–78 | 0 | 69 | 1,04 | — |
| 5 | GPT-5 | 0 | 25 / 43 | 73 | 69–77 | -2 | 66 | 0,67 | — |
| 6 | Grok 4.5 | 0 | 29 / 59 | 59 | 55–63 | -4 | 78 | 3,03 | — |
| 7 | Gemini 3.1 Pro | 0 | 20 / 37 | 56 | 52–60 | +2 | 76 | 3,98 | — |
| 8 | Mistral Large 2 | 0 | 9 / 17 | 51 | 46–56 | -2 | 46 | 4,60 | — |
| 9 | GLM-4.6 n=96/100 | 4 (4 T) | 60 / 137 | 46 | 41–49 | -1 | 69 | 0,44 | — |
Δ Vorlauf = Differenz zum vorherigen publizierten Lauf; „—" = Modell war dort nicht dabei. Hallu-Band: 100 = keine, 0 = ≥ 4 Falschbehauptungen pro Antwort. Pro 1000 Tok. = markierte Behauptungen je 1000 Ausgabe-Tokens (längen-normiert). Δ eigene Familie = Score mit allen Judges minus Score nur mit anbieterfremden Judges, in Punkten; positiv = die eigene Familie bewertet großzügiger; „—" = vor code_version 0.2.8 nicht erfasst oder kein fremder Judge (Methodik §4, §6.5).
Steuerrecht · 15 Items
Platz 1–5 statistisch gleichauf (95-%-CI überlappt mit Platz 1)
Im Bereich Steuerrecht widerspricht Claude Opus 4.7 (Score-Spitze) im Mittel in 0,5 Fällen pro Antwort einem hinterlegten Soll-Fakt und fügt Ø 1,6 Behauptungen hinzu, die das Judge-Panel als falsch oder unbelegt markiert; 100 % der Antworten enthalten mindestens eine Markierung. Den niedrigsten Wert hat Gemini 3.1 Pro mit Ø 1,3 pro Antwort. Auf die Antwortlänge bezogen: 1,60 pro 1000 Ausgabe-Tokens, am niedrigsten GPT-5.6 Sol mit 0,27.
| # | Modell | top100 | 95 % CI | Δ Vorlauf | widerspricht Soll-Fakt | zusätzl. falsch/unbelegt | Ø gesamt | Antworten betroffen | pro 1000 Tok. | IRR |
|---|---|---|---|---|---|---|---|---|---|---|
| 1 | Claude Opus 4.7 | 75 | 70–81 | -3 | 0,5 | 1,6 | 2,2 | 100 % | 1,60 | 72 % |
| 2 | GPT-5.6 Sol | 71 | 62–79 | +2 | 0,9 | 1,3 | 2,2 | 100 % | 0,27 | 73 % |
| 3 | Claude Opus 4.8 | 66 | 58–74 | -3 | 0,8 | 0,8 | 1,5 | 100 % | 1,13 | 70 % |
| 4 | GPT-5 | 63 | 51–74 | +4 | 1,0 | 1,3 | 2,3 | 93 % | 0,81 | 69 % |
| 5 | Kimi K3 | 55 | 47–70 | -6 | 2,0 | 2,3 | 4,3 | 100 % | 0,49 | 71 % |
| 6 | Grok 4.5 | 52 | 42–60 | -4 | 0,7 | 0,8 | 1,5 | 87 % | 4,46 | 60 % |
| 7 | Gemini 3.1 Pro | 47 | 37–57 | +6 | 0,7 | 0,5 | 1,3 | 67 % | 5,32 | 69 % |
| 8 | Mistral Large 2 | 29 | 20–39 | -1 | 2,1 | 1,2 | 3,3 | 93 % | 6,67 | 49 % |
| 9 | GLM-4.6 | 22 | 14–31 | 0 | 1,7 | 0,9 | 2,5 | 93 % | 0,75 | 60 % |
Medizin · 20 Items
Platz 1–5 statistisch gleichauf (95-%-CI überlappt mit Platz 1)
Im Bereich Medizin widerspricht Claude Opus 4.7 (Score-Spitze) im Mittel in 0,5 Fällen pro Antwort einem hinterlegten Soll-Fakt und fügt Ø 0,7 Behauptungen hinzu, die das Judge-Panel als falsch oder unbelegt markiert; 90 % der Antworten enthalten mindestens eine Markierung. Den niedrigsten Wert hat GLM-4.6 mit Ø 0,2 pro Antwort. Auf die Antwortlänge bezogen: 1,07 pro 1000 Ausgabe-Tokens, am niedrigsten GLM-4.6 mit 0,08.
| # | Modell | top100 | 95 % CI | Δ Vorlauf | widerspricht Soll-Fakt | zusätzl. falsch/unbelegt | Ø gesamt | Antworten betroffen | pro 1000 Tok. | IRR |
|---|---|---|---|---|---|---|---|---|---|---|
| 1 | Claude Opus 4.7 | 87 | 80–93 | +4 | 0,5 | 0,7 | 1,2 | 90 % | 1,07 | 81 % |
| 2 | GPT-5.6 Sol | 84 | 80–89 | +3 | 0,4 | 0,4 | 0,8 | 80 % | 0,44 | 80 % |
| 3 | Kimi K3 | 82 | 74–90 | -1 | 0,6 | 0,8 | 1,4 | 100 % | 0,41 | 83 % |
| 4 | GPT-5 | 80 | 72–87 | -2 | 0,4 | 0,7 | 1,1 | 95 % | 0,85 | 77 % |
| 5 | Claude Opus 4.8 | 79 | 72–85 | -1 | 0,5 | 0,6 | 1,0 | 100 % | 0,93 | 77 % |
| 6 | Mistral Large 2 | 71 | 65–76 | +2 | 0,3 | 0,8 | 1,1 | 95 % | 2,25 | 67 % |
| 7 | Gemini 3.1 Pro | 66 | 61–71 | +4 | 0,2 | 0,3 | 0,4 | 60 % | 1,62 | 73 % |
| 8 | Grok 4.5 | 63 | 55–71 | -10 | 0,3 | 0,2 | 0,4 | 50 % | 1,36 | 64 % |
| 9 | GLM-4.6 | 57 | 50–64 | -3 | 0,1 | 0,1 | 0,2 | 37 % | 0,08 | 81 % |
Jura · 35 Items
Platz 1–4 statistisch gleichauf (95-%-CI überlappt mit Platz 1)
Im Bereich Jura widerspricht Claude Opus 4.7 (Score-Spitze) im Mittel in 0,2 Fällen pro Antwort einem hinterlegten Soll-Fakt und fügt Ø 0,7 Behauptungen hinzu, die das Judge-Panel als falsch oder unbelegt markiert; 80 % der Antworten enthalten mindestens eine Markierung. Den niedrigsten Wert hat Claude Opus 4.8 mit Ø 0,7 pro Antwort. Auf die Antwortlänge bezogen: 1,03 pro 1000 Ausgabe-Tokens, am niedrigsten GPT-5.6 Sol mit 0,29.
| # | Modell | top100 | 95 % CI | Δ Vorlauf | widerspricht Soll-Fakt | zusätzl. falsch/unbelegt | Ø gesamt | Antworten betroffen | pro 1000 Tok. | IRR |
|---|---|---|---|---|---|---|---|---|---|---|
| 1 | Claude Opus 4.7 | 84 | 80–88 | +4 | 0,2 | 0,7 | 0,9 | 80 % | 1,03 | 85 % |
| 2 | Kimi K3 | 82 | 77–87 | +2 | 0,6 | 1,0 | 1,5 | 94 % | 0,31 | 79 % |
| 3 | Claude Opus 4.8 | 81 | 76–85 | +1 | 0,1 | 0,5 | 0,7 | 80 % | 0,72 | 80 % |
| 4 | GPT-5.6 Sol | 73 | 65–80 | +1 | 0,5 | 0,7 | 1,2 | 86 % | 0,29 | 75 % |
| 5 | GPT-5 | 72 | 65–78 | -2 | 0,5 | 0,6 | 1,0 | 80 % | 0,59 | 72 % |
| 6 | Gemini 3.1 Pro | 59 | 52–64 | -2 | 0,5 | 0,2 | 0,7 | 57 % | 3,76 | 60 % |
| 7 | Grok 4.5 | 56 | 50–63 | -3 | 0,7 | 0,2 | 0,8 | 66 % | 4,24 | 68 % |
| 8 | GLM-4.6 | 49 | 42–55 | -3 | 0,5 | 0,5 | 0,9 | 67 % | 0,39 | 66 % |
| 9 | Mistral Large 2 | 43 | 35–51 | -6 | 1,3 | 0,8 | 2,2 | 74 % | 7,04 | 67 % |
Wirtschaftsrecht · 30 Items
Platz 1–5 statistisch gleichauf (95-%-CI überlappt mit Platz 1)
Im Bereich Wirtschaftsrecht widerspricht GPT-5.6 Sol (Score-Spitze) im Mittel in 0,7 Fällen pro Antwort einem hinterlegten Soll-Fakt und fügt Ø 0,7 Behauptungen hinzu, die das Judge-Panel als falsch oder unbelegt markiert; 97 % der Antworten enthalten mindestens eine Markierung. Den niedrigsten Wert hat Grok 4.5 mit Ø 1,0 pro Antwort. Auf die Antwortlänge bezogen: 0,21 pro 1000 Ausgabe-Tokens.
| # | Modell | top100 | 95 % CI | Δ Vorlauf | widerspricht Soll-Fakt | zusätzl. falsch/unbelegt | Ø gesamt | Antworten betroffen | pro 1000 Tok. | IRR |
|---|---|---|---|---|---|---|---|---|---|---|
| 1 | GPT-5.6 Sol | 79 | 73–84 | -1 | 0,7 | 0,7 | 1,4 | 97 % | 0,21 | 66 % |
| 2 | Kimi K3 | 79 | 68–89 | +5 | 0,5 | 2,4 | 2,8 | 100 % | 0,43 | 70 % |
| 3 | Claude Opus 4.7 | 76 | 72–81 | -4 | 0,3 | 2,0 | 2,3 | 100 % | 1,63 | 68 % |
| 4 | GPT-5 | 75 | 67–82 | -4 | 0,6 | 0,9 | 1,4 | 100 % | 0,59 | 69 % |
| 5 | Claude Opus 4.8 | 71 | 65–77 | +3 | 0,5 | 1,4 | 1,9 | 93 % | 1,27 | 69 % |
| 6 | Grok 4.5 | 63 | 58–68 | -1 | 0,5 | 0,5 | 1,0 | 87 % | 2,50 | 60 % |
| 7 | Mistral Large 2 | 59 | 52–66 | +2 | 0,9 | 1,4 | 2,3 | 93 % | 3,62 | 58 % |
| 8 | Gemini 3.1 Pro | 52 | 44–59 | +4 | 0,9 | 0,6 | 1,5 | 87 % | 4,82 | 61 % |
| 9 | GLM-4.6 | 47 | 41–52 | +3 | 0,8 | 0,8 | 1,6 | 93 % | 0,47 | 59 % |
Roh-Daten dieses Laufs
raw.jsonl und progress.jsonl sind die öffentlichen, um Antworttexte bereinigten Streams (Kontaminationsschutz, Methodik §7).