Welche KI-Modelle reichen. Und warum die stärksten nicht dazugehören
Für Zusammenfassen und Auskunft sind offene Modelle heute nah an der Weltspitze. Das gilt allerdings nur für die mittelgrossen. Was ganz oben steht, können Sie nicht betreiben, und ein Schweizer Modell schneidet schlechter ab, als viele erwarten.
KI-Einsatz im regulierten Umfeld, 4 Teile
-
Teil 1
Was ist erlaubt?
Merkblatt, Datenschutz, Amtsgeheimnis. Und was der Eigenbetrieb löst.
-
Teil 2 · hier
Muss es das stärkste KI-Modell sein?
Gemessene Leistung auf Verwaltungstexten, Lizenzen, Grenzen der Grösse.
-
Teil 3
Der Kostentreiber ist selten das KI-Modell
Cloud gegen Eigenbetrieb, Hardware, Strom, und ab wann es kippt.
-
Teil 4
Schweizer Anbieter, und was sie Ihnen nicht abnehmen
Zehn Anbieter, drei Betriebsformen, und worauf Sie achten müssen.
Kurz gefasst
- Beim Zusammenfassen ist der Abstand fast weg. Ein offenes Modell mit 31 Milliarden Parametern liegt 2,17 Punkte hinter dem besten geschlossenen. Auf einer Skala von 0 bis 100, bei Werten um 78. Das ist ein Unterschied, den man in der Praxis kaum bemerkt.
- Die offene Spitze können Sie nicht betreiben. Die drei stärksten offenen Modelle brauchen 16 bis 30 Grafikkarten allein für ihre Dateien. Bei Listenpreisen sind das mehrere hunderttausend Franken, bevor überhaupt ein Server dabei ist.
- Apertus ist Weltspitze bei Transparenz und Mittelfeld bei der gemessenen Leistung. Beides gehört in dieselbe Beschaffungsnotiz. Wichtig dabei: Gemessen wurde Version 1.0. Für die im Juli erschienene Version 1.5 gibt es bis heute keine veröffentlichten Zahlen.
Wenn die Rechtsfrage geklärt ist, folgt die zweite: Kann ein offenes Modell die Aufgabe überhaupt bewältigen? Für die Verwaltung gibt es dazu seit Juli 2026 eine belastbare Messung. Sie kommt allerdings aus Deutschland, und das ist beim Lesen mitzudenken.
Vier Begriffe, falls Sie hier eingestiegen sind
- Modell. Ein Programm, das Text fortsetzt. Sie geben ihm eine Anweisung und einen Text, es gibt einen Text zurück.
- Gewichte. Die Dateien, aus denen ein Modell besteht, oft mehrere Dutzend Gigabyte. «Offene Gewichte» heisst, dass sich diese Dateien herunterladen und behalten lassen.
- Parameter. Die Zahl der eingestellten Werte im Modell, angegeben in Milliarden. «31B» sind 31 Milliarden. Die Zahl sagt, wie viel Platz das Modell braucht, nicht wie gut es Ihre Aufgabe löst. Verlassen Sie sich nicht auf die Zahl im Namen: «Gemma 4 E2B» hat 5,1 Milliarden, nicht 2, und «Mistral Small 4 119B» ist trotz «Small» grösser als ein 31B. Die Spalte in der Tabelle ist verlässlicher als der Produktname.
- Quantisierung. Ein Verfahren, das die Modelldateien verkleinert, damit sie auf günstigere Hardware passen. Es kostet etwas Genauigkeit.
Ausführlicher stehen diese Begriffe in Teil 1, die Rechenwege dahinter im Grundlagenbeitrag 4B, 70B, 397B-A17B.
Was auf Verwaltungstexten gemessen wurde
MÖVE ist der Modellvergleich für die öffentliche Verwaltung, betrieben vom Innovation Hub der deutschen Bundesdruckerei zusammen mit dem Bundesamt für Sicherheit in der Informationstechnik und dem Fraunhofer-Institut AISEC. Gemessen wird auf deutschsprachigen Testdaten aus realen Verwaltungskontexten. Die Testdaten bleiben nach Angabe der Betreiber unveröffentlicht, damit Modelle nicht darauf trainiert werden. Der Preis dafür: Niemand kann die Messung von aussen nachvollziehen.
Deutsche Verwaltungssprache ist nicht Schweizer Verwaltungssprache. Andere Begriffe, andere Erlasse, dazu Helvetismen und die drei weiteren Amtssprachen. Für die Frage, welche Modellklasse eine Verwaltungsaufgabe bewältigt, ist MÖVE trotzdem die beste verfügbare Quelle im deutschen Sprachraum. Als Rangliste für Ihre Beschaffung taugt er nicht. Einen vergleichbaren Schweizer Benchmark gibt es nach unserer Recherche nicht.
Wir haben die Werte direkt aus der Schnittstelle des Benchmarks gezogen. Datenstand der Messung ist der 7. Juli 2026, geprüft wurden 50 Modelle. Alle Werte in dieser Tabelle laufen in dieselbe Richtung: 0 ist das schlechteste Ergebnis, 100 das beste. Das gilt auch für die Halluzinationsspalte. Ein hoher Wert bedeutet dort, dass das Modell selten etwas erfindet.
| Modell | Herkunft | Mrd. Param. | Zusammenfassen | Fragen beantworten | Erfindet wenig | Lizenz |
|---|---|---|---|---|---|---|
| GPT-5.4 | USA | 450 | 80,79 | 72,05 | 91,46 | geschlossen |
| Claude Sonnet 4.6 | USA | 440 | 79,87 | 69,45 | 92,88 | geschlossen |
| Gemma 4 31B | USA, Google | 31,3 | 78,62 | 70,63 | 88,66 | Apache 2.0 |
| Qwen3.6 27B | China, Alibaba | 27,0 | 78,33 | 69,43 | 89,51 | Apache 2.0 |
| Gemma 4 E2B | USA, Google | 5,1 | 78,39 | 66,82 | 62,10 | Apache 2.0 |
| Phi-4 | USA, Microsoft | 14,7 | 76,97 | 68,86 | 83,49 | MIT |
| GPT-OSS 120B | USA, OpenAI | 117 | 75,81 | 70,33 | 82,93 | Apache 2.0 |
| Apertus 70B | Schweiz | 70,6 | 75,48 | 69,74 | 68,49 | Apache 2.0 |
| Apertus 8B | Schweiz | 8,0 | 66,28 | 64,46 | 52,72 | Apache 2.0 |
| Teuken 7B v0.4 | Deutschland | 7,5 | 51,69 | 55,85 | 35,09 | Apache 2.0, Nachfolger nicht mehr |
MÖVE, deutscher Modellvergleich für die öffentliche Verwaltung. Gemessen auf deutschen Verwaltungstexten, nicht auf Schweizer. Werte am 8. August 2026 aus der Schnittstelle gezogen, Datenstand der Messung 7. Juli 2026. Auszug aus 50 Modellen. Skala 0 bis 100, höher ist überall besser. Parameterzahlen der geschlossenen Modelle sind Schätzungen des Benchmarks. Die Lizenz- und Herkunftsspalten haben wir nicht von MÖVE übernommen, sondern an den Modellen selbst geprüft.
Warum in dieser Serie GPT-5.4, GPT-5.5 und GPT-5.6 vorkommen, und bei Qwen ebenso drei Nummern: Die Benchmarks haben zu unterschiedlichen Zeitpunkten unterschiedliche Modellversionen geprüft. Werte aus verschiedenen Ranglisten sind deshalb nicht direkt vergleichbar, auch wenn der Herstellername derselbe ist.
Drei Werte in dieser Tabelle verdienen einen zweiten Blick.
Für die Kernaufgaben ist der Abstand fast weg. Gemma 4 mit 31 Milliarden Parametern liegt beim Zusammenfassen 2,17 Punkte hinter GPT-5.4, das der Benchmark auf 450 Milliarden schätzt. Beim Beantworten von Fragen sind es 1,42 Punkte. Bei Werten um 78 auf einer Hundertskala ist das ein Abstand, den eine Sachbearbeiterin im Alltag kaum bemerken wird. Dieses Modell läuft auf einer einzelnen Grafikkarte.
Grösse sagt wenig über Verlässlichkeit. Gemma 4 E2B mit 5,1 Milliarden Parametern fasst praktisch so gut zusammen wie das sechsmal grössere 31B, 78,39 gegen 78,62. In der Spalte «Erfindet wenig» fällt es dagegen von 88,66 auf 62,10. Wenn Sie ein Modell für Auskünfte an Bürgerinnen suchen, ist diese Spalte wichtiger als jede andere.
Was «erfinden» hier heisst
- Das Modell bekommt einen Text und soll ihn zusammenfassen. Gezählt wird, ob in der Zusammenfassung etwas steht, das im Ausgangstext nicht steht.
- Typische Fälle: eine Frist, die im Dokument gar nicht vorkommt. Ein Betrag, der leicht abweicht. Ein Gesetzesartikel, der plausibel klingt und nicht existiert.
- Für die Verwaltung ist das keine Qualitätsfrage, sondern ein Rechtsproblem. Eine erfundene Angabe in einer Fallakte ist eine unrichtige Personendatenbearbeitung.
- Daraus folgt eine Regel, die unabhängig vom Modell gilt: Was in eine Verfügung einfliesst, muss eine Person gegen das Original geprüft haben.
Eine zweite, unabhängige Messung zeigt dasselbe Muster von der anderen Seite. In der Halluzinations-Rangliste des amerikanischen Anbieters Vectara, Stand 11. Mai 2026, erfindet ein Qwen3 mit 8 Milliarden Parametern beim Zusammenfassen in 4,8 Prozent der Fälle etwas dazu. GPT-5.5 liegt bei 9,3 Prozent, Gemini 3.1 Pro bei 10,4 Prozent. Auch hier gilt: Grösser heisst nicht zuverlässiger. Übertragen Sie diese Werte allerdings nicht auf die Modelle in der Tabelle oben. Gemessen wurde eine ältere und kleinere Qwen-Version, nicht die, die wir weiter unten empfehlen.
Achtung, diese Rangliste läuft in die andere Richtung als die Tabelle oben: Bei Vectara ist ein tiefer Wert gut. Und dazu gehört eine zweite Spalte, die wir hier nicht wiedergeben: die Antwortquote. Ein Modell, das häufig die Auskunft verweigert, erfindet weniger und ist deshalb nicht besser. Wer die Rangliste für eine Beschaffung heranzieht, sollte beide Spalten nebeneinander lesen. Vectara verkauft im Übrigen selbst Werkzeuge gegen dieses Problem, die Messmethode ist aber offengelegt.
Apertus, zwei Wahrheiten in einem Absatz
Für Schweizer Leserinnen und Leser ist das die unbequeme Stelle. Apertus, entwickelt an der ETH Zürich, an der EPFL und am Hochleistungsrechenzentrum CSCS, wird in zwei unabhängigen Quellen bewertet, und sie sagen Verschiedenes. Drei der vier Zeilen unten stammen aus derselben Messung, dem deutschen Verwaltungsbenchmark.
| Wertung | Apertus 70B | Skala | Was daraus folgt |
|---|---|---|---|
| Trainingsdaten-Transparenz FAccT-Studie, Irland |
Note A und A+ | A+ bis F | Beste aller 39 bewerteten Zusammenfassungen, vor OpenAI, Google, Anthropic, Meta und Mistral. |
| Transparenz MÖVE, Deutschland |
90,48 | 0 bis 100, hoch ist gut | Rang 1 im Feld, deutlicher Abstand zum nächsten Modell. Bestätigt die Studie, allerdings auf derselben Datengrundlage. |
| Zusammenfassen MÖVE, Deutschland |
75,48 | 0 bis 100, hoch ist gut | Mittelfeld. Hinter Phi-4, das fast fünfmal kleiner ist. |
| Erfindet wenig MÖVE, Deutschland |
68,49 | 0 bis 100, hoch ist gut | Der schwächste Wert im oberen Feld. Gemma 4 31B erreicht 88,66 bei weniger als der halben Grösse. |
Der Intelligence Index von Artificial Analysis führt für Apertus 70B zusätzlich einen geschätzten Indexwert von 2 Punkten. Wir geben ihn nicht in der Tabelle wieder: Der Anbieter kennzeichnet ihn ausdrücklich als Schätzung ohne eigene Messung, und er steht in scharfem Widerspruch zu den gemessenen MÖVE-Werten. Eine solche Zahl gehört nicht in eine Beschaffungsnotiz.
Beides stimmt gleichzeitig. Wo Sie belegen müssen, womit ein Modell gelernt hat, ist Apertus konkurrenzlos. Wo es auf präzise Auskünfte ankommt, gibt es bessere. Für eine Beschaffung heisst das: Apertus gehört in die Prüfung, wenn Nachweispflichten bestehen, und es gehört an denselben Testfällen gemessen wie die Alternativen.
Wobei diese Zahlen eine Frage gar nicht stellen. MÖVE misst deutsche Verwaltungstexte. Mehrsprachigkeit, das Argument, mit dem Apertus antritt, kommt darin nicht vor. Wie gut das Modell auf Italienisch oder Französisch arbeitet, sagt keine der Wertungen oben. Der Kanton Tessin betreibt ein Übersetzungswerkzeug auf einem feinabgestimmten Apertus 8B für sechs Sprachen, beschrieben in Teil 1. Wer mehrsprachig arbeitet, findet die Antwort für den eigenen Fall deshalb nicht in dieser Tabelle, sondern nur an eigenen Texten.
Gemessen wurde die Version 1.0. Version 1.5 erschien am 24. Juli 2026 mit erheblich mehr Training. Veröffentlichte Benchmarkzahlen dazu gibt es bis heute nicht, auch der technische Bericht beschreibt weiterhin nur 1.0. Wer Apertus einsetzen will, muss deshalb selbst prüfen. Wie das geht, steht weiter unten.
Die Lizenz entscheidet mit, und Kataloge veralten
Für die Beschaffung ist die Lizenzspalte oben so wichtig wie die Leistungswerte. Der Unterschied in der Praxis:
Apache 2.0 und MIT sind etablierte Open-Source-Lizenzen. Sie erlauben Nutzung, Veränderung und Weitergabe, auch kommerziell, ohne Rückfrage und ohne Nutzerzahlgrenze. Der Rechteinhaber kann die einmal erteilte Erlaubnis für eine bestehende Version nicht zurückziehen.
Herstellerlizenzen wie die früheren Gemma-Bedingungen enthalten dagegen eine Nutzungsrichtlinie, die der Hersteller ändern kann, und teils Meldepflichten oder Gebietsausschlüsse. Für eine Verwaltung, die eine Anwendung über Jahre betreiben will, ist das ein anderes Risiko.
Was wir bei der Prüfung selbst gefunden haben
- MÖVE führt Gemma 4 unter der Lizenz «Gemma License». Am Modell selbst steht seit März 2026 license: apache-2.0. Google hat mit Gemma 4 gewechselt, der Benchmark trägt noch den alten Stand.
- Wo Sie das nachsehen: Jedes offene Modell hat eine öffentliche Seite auf der Plattform Hugging Face, vergleichbar mit einem Produktdatenblatt. Ganz oben auf dieser Seite steht die Lizenz. Suchen Sie den exakten Modellnamen, nicht die Modellfamilie.
- Notieren Sie das Prüfdatum in der Beschaffungsakte. Eine Lizenzangabe aus zweiter Hand hat immer ein Alter, und Hersteller wechseln die Bedingungen zwischen Versionen.
Warum die offene Spitze für Sie nicht existiert
In der Fachpresse liest man, offene Modelle hätten aufgeschlossen. Das stimmt, und es hilft Ihnen nicht. Der Intelligence Index von Artificial Analysis, einem international tätigen Messdienst ohne Schweizer Bezug, führte am 6. August 2026 Claude Opus 5 mit 63 Punkten an, gefolgt von GPT-5.6 mit 61. Das beste offene Modell, Kimi K3, erreicht 60.
Diese Punkte sind keine Prozentwerte. Der Index fasst mehrere schwere Prüfungen zusammen, und 63 ist der beste erreichte Wert im ganzen Feld, keine Note. Für die Verwaltung ist er ohnehin das falsche Mass: Er misst zu einem Drittel selbstständig arbeitende Systeme und zu einem Viertel Programmieren. Für Zusammenfassen und Auskunft zählt die MÖVE-Tabelle oben.
Interessant ist der Index trotzdem, nur wegen einer anderen Spalte. Wir haben aus den Modelldateien gerechnet, wie viel Platz diese Modelle brauchen:
| Modell | Dateigrösse | Index | Karten nötig | Nur die Karten kosten |
|---|---|---|---|---|
| Kimi K3 China, Moonshot |
2,8 TB | 60 | rund 30 | rund CHF 350 000 |
| DeepSeek V4 Pro China |
1,6 TB | k. A. | rund 17 | rund CHF 200 000 |
| GLM-5.2 China, Z.ai |
1,5 TB | 53 | rund 16 | rund CHF 187 000 |
| Apertus 1.5 70B Schweiz |
144 GB | k. A. | zwei, verkleinert eine | rund CHF 23 000 |
| Gemma 4 31B USA, Google |
63 GB | 30 | eine | rund CHF 11 700 |
| Apertus 1.5 8B Schweiz |
18 GB | k. A. | läuft auf einem Notebook | keine |
Dateigrössen aus den Modelldateien bei Hugging Face berechnet, 8. August 2026, jeweils in der Genauigkeit, in der das Modell ausgeliefert wird. Kartenzahl gerechnet mit 96 GB Speicher je Karte, ohne Reserve für laufende Anfragen. Preis gerechnet mit dem Tagespreis einer RTX PRO 6000 Blackwell von CHF 11 660 bei digitec.ch, ohne Server, Netzteil, Kühlung und Rackplatz. Index: Artificial Analysis, Stand 6. August 2026; wo kein Wert vorliegt, steht k. A. «Verkleinert» meint Quantisierung, ein Verfahren, das die Datei kleiner macht und dabei etwas Genauigkeit kostet.
Was Sie selbst betreiben können, spielt nicht in der obersten Liga. Was auf eine einzelne Karte passt, liegt im Index bei 30, nicht bei 60. Wer «offene Modelle haben aufgeschlossen» liest und daraus schliesst, das gelte für den Eigenbetrieb, verwechselt zwei Aussagen. Für Verwaltungsaufgaben ist das kein Nachteil, weil dort die MÖVE-Werte zählen und dort der Abstand klein ist.
Was «läuft auf einer Karte» nicht bedeutet
Die Zahlen oben sind Untergrenzen. Sie sagen, wie viel Platz die Modelldateien belegen, wenn sonst nichts läuft. Im Betrieb kommt der Kontextspeicher dazu, in dem das Modell die laufenden Unterhaltungen hält. Der wächst mit der Länge der Eingaben und mit der Zahl gleichzeitiger Nutzender.
«Läuft auf einer Karte» ist deshalb keine vollständige Aussage. Sie stimmt für eine Person mit kurzen Eingaben. Sie stimmt nicht ohne Weiteres für dreissig Sachbearbeitende, die gleichzeitig je ein Dossier hineingeben. Fragen Sie beim Anbieter nicht, ob ein Modell auf die Karte passt, sondern wie viele gleichzeitige Anfragen es dort bei Ihrer Dokumentlänge verträgt.
Zur Einordnung dieser Frage: In einer Abteilung mit 60 Mitarbeitenden, die täglich je zwei Dossiers verarbeiten lassen, treffen die Anfragen über den Tag verteilt ein. Gleichzeitig sind im Schnitt sehr wenige unterwegs, in Spitzen am Montagmorgen deutlich mehr. Wie viele es in der Spitze sind, haben wir für diese Serie nicht gemessen und nennen deshalb keine Zahl. Sie ergibt sich aus einem Lasttest mit Ihren eigenen Dokumenten.
Was daraus folgt
Was wir empfehlen
Beginnen Sie mit Gemma 4 31B von Google oder Qwen3.6 27B von Alibaba. Beide stehen unter Apache 2.0, beide liegen bei den Verwaltungsaufgaben nah an der Weltspitze, beide laufen auf einer einzelnen Karte. Konkret heisst das: Sie eröffnen ein Konto bei einem Schweizer Anbieter, der eines dieser Modelle führt, und wählen es dort aus einer Liste aus. Welche Anbieter das sind, steht in Teil 4.
Nehmen Sie Apertus dazu, wenn Sie Nachweispflichten haben. Bei der Frage, womit ein Modell trainiert wurde, ist es das transparenteste Modell im Feld. Messen Sie es an Ihren eigenen Fällen gegen die beiden anderen, statt sich auf die Werte in diesem Artikel zu verlassen.
Und lassen Sie die Herkunft nicht die Prüfung ersetzen. Dass ein Modell von Google oder Alibaba stammt, spielt für den Datenschutz keine Rolle, solange die Dateien bei Ihnen oder Ihrem Schweizer Anbieter liegen; die Hersteller sehen davon nichts. In einer Beschaffung müssen Sie die Herkunft trotzdem begründen können, und je nach Gremium ist das eine politische Frage.
So prüfen Sie selbst, in zwei Tagen
- Fälle sammeln. 30 bis 50 echte Vorgänge aus Ihrem Haus, möglichst quer durch die Schwierigkeitsgrade. Ohne Personenbezug, solange die Rechtsgrundlage nicht geklärt ist.
- Durchlaufen lassen. Dieselben Fälle durch zwei oder drei Modelle, mit derselben Anweisung. Bei einem Anbieter mit Abrechnung nach Verbrauch kostet dieser Schritt weniger als einen Franken.
- Blind bewerten. Zwei Fachpersonen aus dem Sachgebiet beurteilen die Ergebnisse, ohne zu wissen, welches Modell sie erzeugt hat. Drei Kriterien genügen: sachlich richtig, vollständig, brauchbarer Ton.
- Schwelle vorher festlegen. Zum Beispiel: Enthält mehr als eine von zwanzig Zusammenfassungen einen sachlichen Fehler, ist das Modell für diesen Zweck untauglich. Ohne vorher gesetzte Schwelle wird aus dem Test eine Geschmacksfrage.
- Ergebnis dokumentieren. Das ist später Teil Ihrer Beschaffungsakte und Ihrer Folgenabschätzung.
Offenlegung
- digitario berät Verwaltungen und Unternehmen bei Auswahl, Beschaffung und Einführung von KI-Systemen. Dieser Artikel endet mit einem Gesprächsangebot.
- Er entstand ohne Auftrag, ohne Bezahlung und ohne Vorabeinsicht eines der genannten Anbieter. Keiner von ihnen hat Material geliefert, das nicht öffentlich abrufbar wäre.
- Die Leistungswerte stammen aus einem fremden Benchmark, den wir weder betreiben noch beeinflussen. Wo wir eigene Prüfungen gemacht haben, steht es im Text.
Offene Fragen
Welches Modell passt zu Ihren Fällen?
Ranglisten beantworten das nicht, Ihre eigenen Vorgänge schon. In einem Erstgespräch legen wir fest, welche Fälle für einen Test taugen, welche Modelle in die engere Wahl kommen und woran Sie das Ergebnis messen.
Quellen
- Deutschland. MÖVE, Modellvergleich für die öffentliche Verwaltung. Innovation Hub der Bundesdruckerei mit dem Bundesamt für Sicherheit in der Informationstechnik und dem Fraunhofer-Institut AISEC. Werte am 8. August 2026 aus der Schnittstelle gezogen, Datenstand der Messung 7. Juli 2026 · moeve.bundesdruckerei.de
- Vereinigte Staaten. Vectara, Hallucination Leaderboard, HHEM-2.3, Stand 11. Mai 2026 · github.com/vectara
- International. Artificial Analysis, Intelligence Index v4.1.1, Stand 6. August 2026 · artificialanalysis.ai
- Irland. Blankvoort, Pandit und Gahntz, Bewertung der Trainingsdaten-Transparenz von GPAI-Modellen, FAccT 2026, AI Accountability Lab am Trinity College Dublin · doi.org/10.1145/3805689.3806755
- Eigene Erhebung. Lizenzen, Parameterzahlen und Dateigrössen aller genannten Modelle, abgefragt an den Modellkarten bei Hugging Face am 8. August 2026 · huggingface.co/swiss-ai
- Eigene Erhebung. Kartenpreis für die Beispielrechnung, Tagespreis bei digitec.ch am 8. August 2026
- In eigener Sache. digitario, Vergleichsmatrix KI-Coding-Tools · digitario.ch/ki-coding-tools-vergleich