Ihr KI-Textassistent für den Public Sector
LLMoin erreicht 100.000 Nutzende – Vision, Alltag und der perfekte Satz
Aus vielen Behörden ist LLMoin nicht mehr wegzudenken: Der von Dataport gemeinsam mit der Freien und Hansestadt Hamburg entwickelte KI-Textassistent entlastet die Mitarbeiter*innen in der Verwaltung tagtäglich – und zwar sicher und souverän. Die Entwicklung von LLMoin geht derweil weiter.
Dieser eine Satz am Ende des Berichts ist es, der kurz vor Feierabend fehlt. Verbindlich, freundlich, zusammenfassend – so soll er sein. Nach einem langen Arbeitstag fragt die Kollegin in der Verwaltung LLMoin um Rat. Und der KI-Assistent liefert ihr gleich drei mögliche Varianten.
100.000 Mitarbeiter*innen der Verwaltung nutzen mittlerweile LLMoin im Arbeitsalltag – in Hamburg, in Schleswig-Holstein, in Bremen, in Niedersachsen, in Sachsen-Anhalt, in Brandenburg und in Rheinland-Pfalz. Auch 17 Kommunalkunden setzen bereits auf LLMoin. Ein Erfolg für die Entwickler*innen des KI-Textassistenten – und zugleich nicht unbedingt überraschend: „Die Vision war von Anfang an groß, weil künstliche Intelligenz ein Gewinn für die öffentliche Verwaltung ist“, erklärt Benjamin Marten, Product Owner von LLMoin bei Dataport.
Viele Dokumente, wenig Zeit
Zu Beginn der Entwicklung im Herbst 2023 stand eine Frage im Mittelpunkt: Wo kann generative KI den Beschäftigten in der Verwaltung tatsächlich Arbeit abnehmen?
„Das hauptsächliche Einsatzgebiet war anfangs, große Dokumente zusammenzufassen und in vorhandenen Dokumentenarchiven zu recherchieren,“ erklärt Marten. Dazu kamen Aufgaben, bei denen Sprachmodelle ohnehin ihre Stärke ausspielen: Texte entwerfen und überarbeiten, Informationen verdichten, Formulierungen vorschlagen.
Für sich genommen sind das oft nur ein paar Minuten Arbeit. Über einen Arbeitstag hinweg summiert sich die Zeitersparnis allerdings. Eine E-Mail hier, eine Zusammenfassung dort, noch schnell die wichtigsten Punkte aus einem langen Papier für den nächsten Termin skizzieren. Insbesondere bei Fachkräftemangel, können viele kleine Entlastungen den Unterschied machen.
Im Herbst 2024 startete der von der Freien und Hansestadt Hamburg und Dataport entwickelte KI-Verwaltungsassistent schließlich: Hamburg sagte „Moin, LLMoin!“. Und dabei sollte es nicht bleiben. Die Freie und Hansestadt Hamburg ermöglichte und unterstützte die Nachnutzung für weitere Länder und Kommunen.
Ein LLMoin für viele Länder
„Das Produkt ist von Anfang an als föderale Lösung gedacht“, sagt Benjamin Marten. Nicht jedes Land soll seinen eigenen KI-Assistenten neu entwickeln müssen. Stattdessen gibt es ein Produkt, das sich an unterschiedliche Anforderungen und technische Umgebungen in den Trägerländern von Dataport und darüber hinaus anpassen lässt.
Dafür wurde etwa früh ein Mandantenkonzept umgesetzt. Vereinfacht gesagt können dadurch mehrere Organisationen LLMoin nutzen, während ihre jeweiligen Bereiche und Daten voneinander getrennt bleiben. Das Produkt kann in einer gemeinsamen oder in unterschiedlichen Umgebungen betrieben werden.
Technisch wird es komplizierter, sobald ein weiteres Land hinzukommt. Denn jede Verwaltung bringt ihre eigene IT mit – etwa unterschiedliche Verzeichnisdienste, sogenannte Active Directories, über die Anmeldung und Zugriffsrechte geregelt werden.
„Eine Herausforderung ist es, verschiedene Active Directories“ anzubinden“, erklärt Produktmanagerin Beke Brandt. „Active Directories“ sind unterschiedliche Verzeichnisdienste, über die Anmeldung und Zugriffsrechte geregelt werden. Mit einem neuen Bundesland wird LLMoin also nicht einfach für ein paar Tausend weitere Accounts freigeschaltet. Der Assistent muss sich in eine weitere bestehende Verwaltungs-IT einfügen. Mit der technischen Integration allein ist es allerdings nicht getan: Auch organisatorisch muss die Einführung auf die Strukturen und Anforderungen des jeweiligen Landes abgestimmt werden.
Für Kommunen gibt es wiederum einen anderen Weg: eine über das Internet erreichbare Shared-Umgebung. Dort können sie eigene Projekte anlegen und ihre Nutzenden selbst verwalten, ohne dafür jeweils eine eigene technische Infrastruktur aufbauen und betreiben zu müssen.
Durch den Einsatz in mehreren Ländern und Kommunen entwickelt sich LLMoin stetig weiter: Anforderungen aus einer Verwaltung können dabei auch für andere relevant sein. So wächst nicht nur die Zahl der Nutzenden: Erfahrungen aus der Praxis liefern wichtige Anregungen für die künftige Gestaltung von LLMoin.
Komplettlösung zur Nachnutzung
Dataport bietet für die Einführung generativer KI in der Verwaltung eine erprobte Komplettlösung. Neben der technischen Bereitstellung und sicheren Integration begleiten Dataport Consulting und dataport.kommunal Länder und Kommunen auch bei der organisatorischen und fachlichen Einführung. Dazu gehören Qualifizierung, Change-Begleitung und der Aufbau von Multiplikator*innen-Netzwerken ebenso wie klare Rollen und Prozesse, Governance und der Aufbau einer fachlichen KI-Leitstelle. Auch Rollout, Betrieb und die Integration in bestehende Anwendungslandschaften gehören dazu. Bewährte Strukturen, Schulungsunterlagen und Handreichungen können von weiteren Verwaltungen nachgenutzt werden – und werden mit den Erfahrungen aus neuen Einführungen kontinuierlich ergänzt. So müssen Länder und Kommunen nicht jedes Mal bei null anfangen.
Welches Modell darf es sein?
Eine wichtige Entscheidung fällt dabei schon im Vorfeld: Wer LLMoin eine Frage stellt, bekommt die Antwort von einer künstlichen Intelligenz im Hintergrund. Dem Large Language Model (LLM), also einem KI-System, das Sprache verarbeitet und Antworten erzeugt. LLMoin kann je nach Bedarf mit unterschiedlichen LLMs arbeiten. Beke Brandt:
„Wir können verschiedene Sprachmodelle anbinden und damit auch On-Premise-Modelle aus unserem Rechenzentrum nutzen.“ On-Premise bedeutet, dass das Modell in der sicheren und souveränen Infrastruktur im Rechenzentrum von Dataport läuft. Andere Modelle können aus der Cloud kommen. Gerade für Behörden ist diese Wahl wichtig, weil je nach Einsatz unterschiedliche Anforderungen an Datenschutz, Informationssicherheit und digitale Souveränität gelten – bis hin zur Nutzung in Bereichen wie beispielsweise der Justiz, wo für die Daten Schutzstufe hoch gilt. Die Nutzer*innen merken von der technischen Komplexität möglichst wenig. Für sie heißt es bestenfalls:
Browser auf, LLMoin an
„Intuitive Bedienung ist ein wesentliches Merkmal“, sagt Beke Brandt. LLMoin wird einfach über den Browser geöffnet, eine Installation auf dem Arbeitsplatz ist nicht nötig. Und wer eine E-Mail freundlicher formulieren oder zehn Seiten Text auf die wichtigsten Punkte reduzieren möchte, benötigt dafür keine umfassende KI-Expertise. Vier Funktionen stehen bei der Nutzung derzeit im Mittelpunkt: Texte zusammenfassen, neue Inhalte generieren, Informationen recherchieren und frei mit dem Sprachmodell prompten. Die Rückmeldungen aus der Verwaltung bestätigen, dass LLMoin vor allem im vermeintlich unspektakulären Alltag oft unterstützt. So helfe LLMoin beim E-Mail-Formulierungen und gebe Denkanstöße.
Wie selbstverständlich die Nutzung von LLMoin schon geworden ist, hat sich vor geraumer Zeit in Hamburg gezeigt: Nach einem Update war LLMoin in Hamburg ungeplant kurze Zeit nicht verfügbar. Eine Rückmeldung aus der Verwaltung ist Benjamin Marten bis heute im Gedächtnis geblieben – Arbeiten ohne LLMoin, so bekam er zu hören, sei möglich, aber sinnlos.
Nach 100.000 ist nicht Schluss
Im Herbst 2026 hat LLMoin die Marke von 100.000 Nutzenden überschritten. Ein Zwischenstand – denn während weitere Verwaltungen hinzukommen, entwickelt sich auch der Assistent weiter.
Ein Schwerpunkt der künftigen Entwicklung liegt dabei auf der Recherche. „Ein großer Mehrwert entsteht durch Recherche-Funktionen und die Möglichkeit, direkt aus der Recherche weiter zu prompten“, sagt Beke Brandt.
Geplant sind außerdem neue Möglichkeiten, Ergebnisse weiterzuverwenden, etwa durch zusätzliche Exportformate, Internetrecherche, Bildgenerierung sowie die Anbindung von eAkte-Systemen. LLMoin könnte damit zunehmend zu einem Werkzeug werden, das beim Schreiben hilft und zugleich vorhandenes Wissen leichter für den Verwaltungsalltag zugänglich macht.
Dahinter steht noch immer die große Vision vom Anfang: Die öffentliche Verwaltung soll die Möglichkeiten generativer KI nutzen können, ohne dafür auf sogenannte Schatten-KI jenseits des eigenen Arbeitsplatzes ausweichen zu müssen. „Ein ambitioniertes, aber erreichbares Ziel“, sagt Marten.
Auch die Kollegin kurz vor Feierabend hat ihr kleines Etappenziel derweil erreicht. Sie schaut auf drei Formulierungsvorschläge von LLMoin, entscheidet sich für die passendste Variante, korrigiert nochmals kurz – und hat ihn schließlich gefunden: den perfekten letzten Satz.
