Ihr KI-Textassistent für den Public Sector
Werkstattbericht aus Sachsen-Anhalt – Stadt, Land, LLMoin
Der von der Freien und Hansestadt Hamburg und Dataport entwickelte KI-Textassistent LLMoin wird inzwischen in immer mehr Verwaltungen eingesetzt. Sachsen-Anhalt zeigt, was beim Rollout entscheidend ist: KI-Kompetenz, Austausch und die Bereitschaft, Erfahrungen zu teilen. Nach der ersten Schulung ist die Neugier groß: Was kann LLMoin im Arbeitsalltag leisten? Wie unterstützt der KI-Verwaltungsassistent bei täglichen Aufgaben? Und warum funktioniert manches bewusst anders als bei frei verfügbaren Sprachmodellen?
Toni Müller, Consultant Digitale Transformation Sachsen-Anhalt bei Dataport, begleitet gemeinsam mit seinen Kolleginnen und Kollegen den Rollout von LLMoin und unterstützt die Mitarbeiter*innen der Landesverwaltung bei ihren ersten Schritten mit der KI. Seit 2025 läuft der Pilotbetrieb in Sachsen-Anhalt. Neben der technischen Einführung stand von Anfang an im Mittelpunkt, KI-Kompetenzen aufzubauen, Mitarbeiter*innen zu schulen und miteinander zu vernetzen. „Die Verwaltungen in Sachsen-Anhalt haben dringend auf ein KI-System gewartet, das sie in ihrem Arbeitsalltag einsetzen dürfen“, sagt Müller.
Schulen, vernetzen, prompten
Viele Mitarbeiter*innen kennen frei verfügbare Sprachmodelle aus dem privaten Umfeld und schätzen deren Funktionsvielfalt – etwa die Möglichkeit, im Internet zu recherchieren, Bilder zu generieren oder sich mit anderen Apps zu verbinden. In der öffentlichen Verwaltung gelten jedoch besonders hohe Anforderungen an Datenschutz und Informationssicherheit. Deshalb arbeitet LLMoin in einer speziell geschützten Umgebung: Alle Daten bleiben sicher, sensible Informationen sind geschützt und die Nutzung ist rechtskonform. LLMoin bietet viele der bekannten Funktionen moderner Sprachmodelle und wird kontinuierlich weiterentwickelt – immer mit Blick auf die besonderen Anforderungen der Verwaltung.
„Lieber eine KI, die ich in der Verwaltung regelkonform nutzen darf, als eine, die zwar mehr kann, aber nicht den Vorgaben entspricht und deshalb nicht eingesetzt werden darf“, sagt Toni Müller.
Genau hier beginnt der eigentliche Rollout. Es geht nicht nur darum, eine neue Software bereitzustellen, sondern Erwartungen einzuordnen und den Umgang mit generativer KI zu vermitteln: Welche Aufgaben kann LLMoin übernehmen? Wie entstehen gute Prompts? Und wie lässt sich generative KI sinnvoll und verantwortungsvoll in den Verwaltungsalltag integrieren?
Wir schaffen von Anfang an grundlegendes Verständnis bei den Mitarbeitenden und reduzieren Berührungsängste mit dem Einsatz von KI.
Toni Müller
Consultant Digitale Transformation Sachsen-Anhalt bei Dataport
Kompetent werden für KI in der Verwaltung
Ein zentrales Element des Rollouts in Sachsen-Anhalt ist der Aufbau eines Netzwerks aus sogenannten KI-Lots*innen. Das Interesse war groß: Statt der ursprünglich geplanten 70 wurden 115 Multiplikatorinnen und Multiplikatoren aus nahezu allen Ressorts und Verwaltungsebenen qualifiziert. Sie unterstützen ihre Kolleg*innen beim Einstieg in LLMoin und sorgen dafür, dass Erfahrungen und Wissen schnell weitergegeben werden.
Damit erfüllt das Projekt zugleich eine Vorgabe des EU AI Act: Anbieter und Betreiber von KI-Systemen müssen sicherstellen, dass Beschäftigte über die notwendige KI-Kompetenz verfügen. Deshalb wurde die Einführung von LLMoin eng begleitet – mit Schulungen, Community-Angeboten und regelmäßigem Erfahrungsaustausch. Dataport unterstützt die Verwaltung dabei, eine passende Governance aufzubauen: mit klaren Regeln für den Umgang mit KI.
„Es gibt Leute, die sich ohnehin für neue KI-Systeme interessieren – und Mitarbeitende, die zunächst den zusätzlichen Aufwand sehen, sich neben dem Tagesgeschäft mit einem neuen Werkzeug vertraut zu machen“, sagt Toni Müller. „Beide Gruppen mitzunehmen, ist ein spannender Prozess.“
Artikel 4 EU AI Act – Kompetenz für den KI-Einsatz
Der EU AI Act verpflichtet alle Anbieter und Betreiber von KI-Systemen, dafür zu sorgen, dass ihr Personal über ausreichende KI-Kompetenz verfügt. Das bedeutet:
Schulungen und Qualifizierung
Mitarbeiter*innen, die mit KI-Systemen arbeiten, müssen entsprechend ihrer Aufgaben geschult und fortgebildet werden.
Technisches Verständnis
Neben der Bedienung geht es auch um das Verständnis der Funktionsweise und der Grenzen von KI.
Kontextbezug
Die Qualifizierung muss sich am konkreten Einsatzfeld und den betroffenen Personengruppen orientieren.
Komplexe Aufgaben bewältigen
Welches Potenzial darüber hinaus in generativer KI steckt, zeigt ein Projekt aus dem Bereich Raumentwicklung in einer Behörde in Sachsen-Anhalt. In der Landesverwaltung mussten zahlreiche Datensätze und Karten bislang manuell zusammengeführt werden – ein zeitaufwendiger und fehleranfälliger Prozess. Die Mitarbeitenden entwickelten mit Unterstützung von LLMoin eine interaktive HTML-Anwendung, die Daten strukturiert, visualisiert und Fehler automatisch erkennt. Das Ergebnis: Rund zehn Prozent Zeitersparnis und mehr Freiraum für fachliche Aufgaben.
Kommunen profitieren von Erfahrungen
Die Erfahrungen aus dem Rollout auf Landesebene fließen inzwischen in ein weiteres Pilotprojekt ein: Im Frühjahr 2026 haben sich die Projektbeteiligten zur Kickoff-Veranstaltung von „LLMoin Kommunal“ getroffen. Fünf Kommunen in Sachsen-Anhalt – darunter der Landkreis Anhalt-Bitterfeld – testen den KI-Textassistenten im Verwaltungsalltag. Im Mittelpunkt steht ein Nachnutzungspaket mit Schulungsunterlagen, Handreichungen und Best Practices, das den Einstieg erleichtern soll. Toni Müller: „Wir wollen gemeinsam herausfinden, welche Anwendungsfälle sich zeigen, welche Prompts gute Ergebnisse liefern und wo das Tool im Alltag an Grenzen stößt. Was sich bewährt, bündeln wir und geben es an alle Beteiligten weiter – damit nicht jede Kommune bei null anfangen muss.“
Besonders positiv bewerten die Pilotkommunen, dass sie auf bereits vorhandene Erfahrungen zurückgreifen können: „Im Vergleich zu anderen Projekten sind die Dokumente sehr gut und können direkt nachgenutzt werden“, sagt Lucas Krause, Sachbearbeiter Digitalisierung im Landkreis Anhalt-Bitterfeld. Und das Nachnutzungspaket wächst dynamisch mit: Die Erfahrungen aus den Pilotkommunen fließen kontinuierlich in die Weiterentwicklung der Materialien ein.
Und auch die Nutzer*innen in den übrigen Trägerländern von Dataport profitieren von den Erfahrungswerten in Sachsen-Anhalt, erklärt Toni Müller: „Die Weiterentwicklung von Sachsen-Anhalt zu Elementen wie dem Sicherheitskonzept hat dazu geführt, dass dieses nun klarer und ausführlicher für alle Kund*innen ist.“
Gemeinsam wachsen
Nicht allein Technik und Software entscheiden also über den erfolgreichen Einsatz generativer KI. Ebenso wichtig sind niedrigschwellige Schulungsangebote, der Austausch zwischen den Behörden und ein Netzwerk, das Wissen weitergibt. Genau darin liegt die Idee hinter dem Nachnutzungskonzept in Sachsen-Anhalt: Erfahrungen bleiben nicht in einzelnen Behörden, sondern erleichtern auch anderen Verwaltungen den produktiven Einsatz von künstlicher Intelligenz.
