Ranking-Lauf 17.05.2026
Claude Opus 4.7 führt mit 79/100 über alle Domänen. Steuerrecht: Claude Opus 4.7 (76) · Medizin: Claude Opus 4.7 (84) · Jura: Claude Opus 4.7 (80) · Wirtschaftsrecht: GPT-5 (78).
Gesamt über alle Domänen
| # | Modell | top100 | 95 % CI | Δ Vorlauf | Ausfälle | Sek. Median/p90 | Hallu-Band | pro 1000 Tok. | Δ eigene Familie |
|---|---|---|---|---|---|---|---|---|---|
| 1 | Claude Opus 4.7 | 0 | 19 / 28 | 79 | 75–82 | +3 | 59 | 1,50 | — |
| 2 | GPT-5 | 0 | 28 / 49 | 75 | 71–78 | +4 | 67 | 0,67 | — |
| 3 | Gemini 2.5 Pro | 0 | 18 / 22 | 53 | 50–57 | +9 | 79 | 3,66 | — |
| 4 | Mistral Large 2 | 0 | 18 / 79 | 51 | 46–55 | +6 | 51 | 4,20 | — |
| 5 | Grok 4.3 | 0 | 9 / 15 | 46 | 42–50 | +4 | 76 | 4,48 | — |
Δ Vorlauf = Differenz zum vorherigen publizierten Lauf; „—" = Modell war dort nicht dabei. Hallu-Band: 100 = keine, 0 = ≥ 4 Falschbehauptungen pro Antwort. Pro 1000 Tok. = markierte Behauptungen je 1000 Ausgabe-Tokens (längen-normiert). Δ eigene Familie = Score mit allen Judges minus Score nur mit anbieterfremden Judges, in Punkten; positiv = die eigene Familie bewertet großzügiger; „—" = vor code_version 0.2.8 nicht erfasst oder kein fremder Judge (Methodik §4, §6.5).
Steuerrecht · 15 Items
Platz 1–2 statistisch gleichauf (95-%-CI überlappt mit Platz 1)
Im Bereich Steuerrecht widerspricht Claude Opus 4.7 (Score-Spitze) im Mittel in 0,3 Fällen pro Antwort einem hinterlegten Soll-Fakt und fügt Ø 2,0 Behauptungen hinzu, die das Judge-Panel als falsch oder unbelegt markiert; 100 % der Antworten enthalten mindestens eine Markierung. Den niedrigsten Wert hat Gemini 2.5 Pro mit Ø 1,7 pro Antwort. Auf die Antwortlänge bezogen: 1,75 pro 1000 Ausgabe-Tokens, am niedrigsten GPT-5 mit 0,79.
| # | Modell | top100 | 95 % CI | Δ Vorlauf | widerspricht Soll-Fakt | zusätzl. falsch/unbelegt | Ø gesamt | Antworten betroffen | pro 1000 Tok. | IRR |
|---|---|---|---|---|---|---|---|---|---|---|
| 1 | Claude Opus 4.7 | 76 | 68–84 | +12 | 0,3 | 2,0 | 2,3 | 100 % | 1,75 | 72 % |
| 2 | GPT-5 | 59 | 47–71 | +13 | 0,9 | 1,2 | 2,1 | 93 % | 0,79 | 65 % |
| 3 | Gemini 2.5 Pro | 34 | 25–44 | +5 | 1,3 | 0,6 | 1,7 | 87 % | 8,27 | 62 % |
| 4 | Mistral Large 2 | 29 | 20–37 | +16 | 1,6 | 1,4 | 3,0 | 100 % | 6,28 | 53 % |
| 5 | Grok 4.3 | 26 | 17–35 | +8 | 1,3 | 0,7 | 2,0 | 80 % | 8,65 | 61 % |
Medizin · 20 Items
Platz 1–2 statistisch gleichauf (95-%-CI überlappt mit Platz 1)
Im Bereich Medizin widerspricht Claude Opus 4.7 (Score-Spitze) im Mittel in 0,3 Fällen pro Antwort einem hinterlegten Soll-Fakt und fügt Ø 0,9 Behauptungen hinzu, die das Judge-Panel als falsch oder unbelegt markiert; 100 % der Antworten enthalten mindestens eine Markierung. Den niedrigsten Wert hat Grok 4.3 mit Ø 0,2 pro Antwort. Auf die Antwortlänge bezogen: 1,25 pro 1000 Ausgabe-Tokens, am niedrigsten GPT-5 mit 0,94.
| # | Modell | top100 | 95 % CI | Δ Vorlauf | widerspricht Soll-Fakt | zusätzl. falsch/unbelegt | Ø gesamt | Antworten betroffen | pro 1000 Tok. | IRR |
|---|---|---|---|---|---|---|---|---|---|---|
| 1 | Claude Opus 4.7 | 84 | 77–89 | -3 | 0,3 | 0,9 | 1,2 | 100 % | 1,25 | 84 % |
| 2 | GPT-5 | 81 | 73–87 | -2 | 0,6 | 0,7 | 1,2 | 95 % | 0,94 | 80 % |
| 3 | Mistral Large 2 | 64 | 58–69 | -1 | 0,3 | 0,9 | 1,2 | 95 % | 2,29 | 68 % |
| 4 | Gemini 2.5 Pro | 56 | 47–63 | +4 | 0,2 | 0,3 | 0,5 | 45 % | 2,37 | 77 % |
| 5 | Grok 4.3 | 52 | 46–59 | -7 | 0,1 | 0,2 | 0,2 | 35 % | 1,04 | 75 % |
Jura · 35 Items
Platz 1–2 statistisch gleichauf (95-%-CI überlappt mit Platz 1)
Im Bereich Jura widerspricht Claude Opus 4.7 (Score-Spitze) im Mittel in 0,2 Fällen pro Antwort einem hinterlegten Soll-Fakt und fügt Ø 0,8 Behauptungen hinzu, die das Judge-Panel als falsch oder unbelegt markiert; 77 % der Antworten enthalten mindestens eine Markierung. Den niedrigsten Wert hat Gemini 2.5 Pro mit Ø 0,4 pro Antwort. Auf die Antwortlänge bezogen: 1,14 pro 1000 Ausgabe-Tokens, am niedrigsten GPT-5 mit 0,57.
| # | Modell | top100 | 95 % CI | Δ Vorlauf | widerspricht Soll-Fakt | zusätzl. falsch/unbelegt | Ø gesamt | Antworten betroffen | pro 1000 Tok. | IRR |
|---|---|---|---|---|---|---|---|---|---|---|
| 1 | Claude Opus 4.7 | 80 | 74–86 | +1 | 0,2 | 0,8 | 1,0 | 77 % | 1,14 | 79 % |
| 2 | GPT-5 | 76 | 69–81 | +2 | 0,2 | 0,8 | 1,0 | 80 % | 0,57 | 71 % |
| 3 | Gemini 2.5 Pro | 62 | 56–65 | +8 | 0,3 | 0,1 | 0,4 | 29 % | 1,78 | 70 % |
| 4 | Grok 4.3 | 49 | 44–54 | -1 | 0,6 | 0,2 | 0,7 | 60 % | 4,82 | 66 % |
| 5 | Mistral Large 2 | 47 | 39–54 | 0 | 1,1 | 0,7 | 1,7 | 83 % | 5,67 | 65 % |
Wirtschaftsrecht · 30 Items
Platz 1–2 statistisch gleichauf (95-%-CI überlappt mit Platz 1)
Im Bereich Wirtschaftsrecht widerspricht GPT-5 (Score-Spitze) im Mittel in 0,3 Fällen pro Antwort einem hinterlegten Soll-Fakt und fügt Ø 1,0 Behauptungen hinzu, die das Judge-Panel als falsch oder unbelegt markiert; 97 % der Antworten enthalten mindestens eine Markierung. Den niedrigsten Wert hat Gemini 2.5 Pro mit Ø 1,2 pro Antwort. Auf die Antwortlänge bezogen: 0,58 pro 1000 Ausgabe-Tokens.
| # | Modell | top100 | 95 % CI | Δ Vorlauf | widerspricht Soll-Fakt | zusätzl. falsch/unbelegt | Ø gesamt | Antworten betroffen | pro 1000 Tok. | IRR |
|---|---|---|---|---|---|---|---|---|---|---|
| 1 | GPT-5 | 78 | 72–83 | 0 | 0,3 | 1,0 | 1,4 | 97 % | 0,58 | 70 % |
| 2 | Claude Opus 4.7 | 75 | 69–80 | +1 | 0,5 | 1,9 | 2,4 | 100 % | 1,75 | 72 % |
| 3 | Mistral Large 2 | 57 | 51–64 | +6 | 0,7 | 1,5 | 2,3 | 93 % | 3,60 | 59 % |
| 4 | Gemini 2.5 Pro | 52 | 46–59 | +12 | 0,6 | 0,6 | 1,2 | 73 % | 4,11 | 63 % |
| 5 | Grok 4.3 | 47 | 40–54 | +6 | 0,6 | 0,6 | 1,2 | 70 % | 4,22 | 59 % |
Roh-Daten dieses Laufs
raw.jsonl und progress.jsonl sind die öffentlichen, um Antworttexte bereinigten Streams (Kontaminationsschutz, Methodik §7).