Wie Sachsen-Anhalt KI in die Fläche bringt

KI in der Verwaltung ausrollen: Sachsen-Anhalt brachte LLMoin von 1.000 auf 2.000 Nutzende. Was dabei wirklich Arbeit macht und wie es weitergeht.

Luisa Welink
Community Managerin
Leitfaden
2.9.2026
|
4
Min

Mach deinen Behördenalltag einfacher.

DSGVO-konform
+2.500 aktiven Usern
In 2 Minuten drin

Key Takeaways

  1. Sachsen-Anhalt hat den KI-Assistenten LLMoin von 1.000 auf 2.000 Nutzende gebracht. Mit dem nächsten Haushalt sollen 10.000 folgen.
  2. Die eigentliche Arbeit beim Ausrollen steckt in der Organisation: Datenschutzprüfung, IT-Sicherheitskonzept, Personalvertretung in jedem Haus, Kommunikation in jede Behörde.
  3. Das Land hat LLMoin als IT-Basiskomponente im E-Government-Recht verankert. Über dieselbe Grundlage bekommen auch Kommunen eine Version.

Wer das sagt und warum das zählt

Tobias Krüger ist Chief Digital Officer des Landes Sachsen-Anhalt. Bernd Schlömer ist Staatssekretär für Digitalisierung und CIO im Ministerium für Infrastruktur und Digitales und dort auch für Informationssicherheit zuständig. Im Ehrenbehörde-Podcast berichten beide über einen KI-Rollout, der bereits läuft, und über die Frage, was ihn trägt.

Krüger hat in der Landesverwaltung abgefragt, wer LLMoin künftig nicht mehr nutzen will. Zurück kam null.

"Das ist jetzt nicht bei jedem Digitalisierungsprojekt so, dass einem die Beamten quasi das Büro einrennen." Tobias Krüger

Wie rollt Sachsen-Anhalt KI in der Verwaltung aus?

Sachsen-Anhalt rollt seinen KI-Assistenten LLMoin in Stufen aus. Auf eine Pilotierungsphase mit 1.000 Nutzenden folgte die nächste Stufe mit 2.000. Mit der Verabschiedung des nächsten Haushalts soll die Zahl auf 10.000 steigen, und bei 10.000 sei das schon fast ein Voll-Rollout, heißt es in der Folge, dann auch in den dezentralen Landesbehörden und Teildienststellen.

Das Land arbeitet dabei nicht allein. Krüger betont, dass Sachsen-Anhalt LLMoin gemeinsam mit anderen Ländern nutzt und auf Erfahrungen aus Hamburg aufbauen konnte. Die Hamburger Kolleginnen und Kollegen hätten dabei geholfen und unterstützt.

Der Flaschenhals sitzt in der Organisation. Auf die Frage nach den Hürden beim Sprung von 1.000 auf 2.000 fällt in der Folge kein Wort über Technik. Genannt werden das Ausfechten in den einzelnen Behörden und ein gutes Kommunikationsmanagement. Konkret heißt das: Jede ausführende Stelle muss wissen, dass die Datenschutzprüfung erledigt und ein IT-Sicherheitskonzept vorhanden ist. Es muss geklärt sein, wer aus der Behördenleitung noch zeichnet. Und die jeweilige Personalvertretung wird dezentral mitgenommen, Haus für Haus.

Jede Behörde bekommt ein fertiges Paket. Das Land gibt jeder Behörde ein vorbereitetes Set mit, in der Folge Überlebenskit genannt, damit niemand die Freigaben von vorn organisieren muss. Trotzdem bleibt die Kommunikation Arbeit.

Befähigung gehört zum Rollout. Neben der Freigabe brauchen die Nutzenden die ersten Schritte. Das Land zeigt in verschiedenen Formaten, darunter digitale Cafés, wozu ein allgemeiner KI-Assistent taugt und wo er Potenziale bringt. Wenn die Anwendungsfälle sichtbar werden, nutzen die Kolleginnen und Kollegen das Werkzeug auch. Wie eine strukturierte Grundlage für Befähigung aussieht, zeigt der Beitrag zur KI-Pflichtschulung nach dem EU AI Act.

Warum reicht ein Pilotprojekt nicht?

Ein Pilot endet, wenn die Projektmittel enden. Sachsen-Anhalt hat LLMoin deshalb als IT-Basiskomponente nach dem E-Government-Recht des Landes definiert. Als Basisdienste gelten dort Dienste, die nach Einschätzung des Landes jede Stelle der Landesverwaltung braucht. Krüger beschreibt das als Pflock, der für das weitere Ausrollen eingeschlagen wurde.

Der Schritt hat einen zweiten Effekt. Über dieselbe gesetzliche Grundlage hat das Land ermöglicht, dass auch die Kommunen eine Version von LLMoin nutzen und KI im Verwaltungskontext einsetzen können. Den Kommunalstrang hat Sachsen-Anhalt aus Mitteln des Infrastruktursondervermögens finanziert. Warum das ein echtes Problem löst, beschreibt der Artikel darüber, warum jede Kommune ihr eigenes KI-Süppchen kocht.

Bei den Kommunen setzt das Land auf Freiwilligkeit. Krüger nennt als guten Ansatz, nicht gegen Mauern zu kämpfen. Sachsen-Anhalt startete mit freiwilligen Pilotkommunen, die das Konzept mitgetestet haben, sammelte deren Praxisbeispiele und sprach dann die Nächsten an. Wer das fertige Nachnutzungspaket abruft, muss laut Krüger kaum mehr tun, als den eigenen Namen einzutragen. Aus anderen Vorhaben, etwa einem eingeführten Beteiligungsportal, kennt er das Muster: Nach ein, zwei Jahren bleibt nur eine kleine Gruppe von Kommunen übrig, und die spricht das Land dann gezielt an.

Wer nutzt den KI-Assistenten am stärksten?

Die Polizei. In der Folge wird sie als Power-User genannt, weil der Vollzugsdienst unheimlich viele Berichte schreibt und eine KI dafür einen guten ersten Entwurf liefert, den die Kolleginnen und Kollegen anschließend korrigieren.

"Und da nehmen wir auch Druck von wirklich Menschen und von Beamten, die wir ja auch auf der Straße haben wollen, im Kontakt mit den Bürgern." Bernd Schlömer

Schlömer selbst nutzt LLMoin, um längere Berichte zusammenzufassen, wenn er für eine politische Entscheidung schnell wissen muss, was darin steht. Dazu kommt freies Prompten: der Anfang einer Dienstpostenbeschreibung samt tarifrechtlicher Einordnung, kleine Textvorschläge für Aktendokumente. An einem Eckpunktepapier zur digitalen Souveränität arbeitet er zu dritt mit der Landesdatenschutzbeauftragten und einer Informatikprofessorin der Universität Magdeburg. Die Regel in dieser Runde: Das KI-Ergebnis bleibt nicht so stehen, es ist eine Idee, die die drei selbst fortentwickeln, und sie kennzeichnen die Nutzung. Wie Schlömer Digitalisierung insgesamt angeht, hat er schon im Beitrag zu Digitalisierung auf Augenhöhe erklärt.

Was das praktisch bedeutet

  • Freigaben zentral klären, einmal. Datenschutzprüfung, IT-Sicherheitskonzept und die Unterlagen für die Personalvertretung als Paket vorbereiten, damit jede Behörde nur noch zeichnet.
  • Rechtlich verankern, nicht nur pilotieren. Ein Dienst, der als Basiskomponente definiert ist, steht auf einer anderen Grundlage als ein Projekt mit Enddatum.
  • Anwendungsfälle sichtbar machen. Wer zeigt, was der Assistent für einen konkreten Dienstposten leistet, braucht keine Verordnung, damit Menschen ihn nutzen.

Häufige Fragen

Was ist LLMoin?
LLMoin ist ein KI-Assistent für die öffentliche Verwaltung, den Sachsen-Anhalt gemeinsam mit anderen Ländern nutzt. Nach Angaben von Tobias Krüger ist er modellagnostisch, es lassen sich also verschiedene Sprachmodelle darunter betreiben, auch offene. Die Daten verbleiben beim Dienstleister im Rechenzentrum, an das jeweilige Sprachmodell geht nur der Prompt.

Wie viele Menschen nutzen LLMoin in Sachsen-Anhalt?
Aktuell rund 2.000 Beschäftigte. Die Pilotierungsphase lief mit 1.000 Nutzenden, mit der Verabschiedung des nächsten Haushalts ist die Ausbaustufe auf 10.000 geplant. Grob überschlagen hat Sachsen-Anhalt laut der Folge rund 50.000 Beschäftigte, etwa die Hälfte davon in der Landesverwaltung.

Was heißt IT-Basiskomponente nach dem E-Government-Recht?
Als Basisdienste definiert Sachsen-Anhalt Dienste, die jede Stelle der Landesverwaltung braucht. Die Einordnung schafft die Grundlage dafür, LLMoin auch in Zukunft weiter auszurollen. Zusätzlich eröffnet sie den Weg, denselben Dienst den Kommunen anzubieten.

Können Kommunen LLMoin nutzen?
Ja. Sachsen-Anhalt hat ermöglicht, dass Kommunen eine Version von LLMoin nutzen, finanziert aus Mitteln des Infrastruktursondervermögens. Für kommunale Nachnutzung arbeitet das Land mit fertigen Paketen, bei denen Finanzierung und Compliance-Rahmen geklärt sind.

Die ganze Folge anhören

Das komplette Gespräch mit Bernd Schlömer und Tobias Krüger gibt es bei YouTube, auf Spotify und bei Apple Podcasts.

Bist du selbst Behördenmensch?

Auf der Plattform für Behördenmenschen kannst du dich mit anderen austauschen, Antworten auf Alltagsfragen finden und Teil einer Community werden, die Wertschätzung für die Verwaltung lebt.