Ihr KI-Textassistent für den Public Sector
Die Technik hinter MailFWD – Mit KI geht die Post ab
Viele Mails, eine Lösung: Das von Dataport im Auftrag der Stadt Hamburg entwickelte KI-Tool MailFWD sichtet minütlich behördliche Funktionspostfächer. Es erkennt, worum es in den Nachrichten geht – und leitet sie automatisch dorthin weiter, wo sie bearbeitet werden.
Schritt 1: Schreiben
Herr Jensen hat ein Anliegen. Er formuliert eine E-Mail an eine Hamburger Behörde, liest noch einmal darüber und klickt auf „Senden“. Für ihn ist die Sache damit vorerst erledigt. Seine Nachricht ist unterwegs.
Bis zu anderthalb Arbeitstage kostet es eine Behörde mit hohem Nachrichtenaufkommen pro Tag, um E-Mails zu öffnen, zu lesen und an die zuständige Stelle weiterzuleiten. Und das, bevor die eigentliche Bearbeitung überhaupt begonnen hat. In mehreren Hamburger Behörden wie dem Amt für Migration oder dem Personalservice Nord übernimmt diese Aufgabe inzwischen eine künstliche Intelligenz. MailFWD heißt die von Dataport entwickelte Lösung. Sie arbeitet weitgehend unbemerkt im Hintergrund. Damit sie aber zum Einsatz kommen kann, braucht es die Nachrichten der Bürger*innen.
Doch angekommen bei der Behörde bedeutet noch lange nicht: angekommen bei der richtigen Person. Denn viele Verwaltungen arbeiten mit Funktionspostfächern. An einer zentralen Adresse sammeln sich Nachrichten zu ganz unterschiedlichen Themen – und mit ganz unterschiedlichen Zuständigkeiten. Genau darin steckt viel Arbeit. Früher mussten Mitarbeiter*innen die Nachrichten einzeln öffnen, lesen und entscheiden, wohin sie gehören. Bei besonders stark frequentierten Postfächern summierte sich das auf bis zu zwölf Stunden täglich.
Eine Zahl, die auch Tom Vincent Peters beeindruckt. Der AI Solution Architect arbeitet bei Dataport an der technischen Konzeption von MailFWD. „Allein die Vorstellung, dass anderthalb Arbeitstage pro Tag nur in die Sortierung von einem Postfach fließen, fand ich erschreckend“, sagt Peters. Viel Zeit für eine wiederkehrende Aufgabe, die erledigt werden muss, bevor die eigentliche Sachbearbeitung beginnen kann. Für Peters ist deshalb klar: „Da ist KI eine wirklich gute Idee, um das den Menschen abzunehmen.“
Schritt 2: Empfangen
Sekunden später landet die Nachricht von Herrn Jensen im Funktionspostfach. Dort ist sie nicht allein. Unterschiedliche Anliegen sind gemeinsam eingegangen, noch ohne Sortierung nach Zuständigkeiten. Früher begann an dieser Stelle die Handarbeit. Heute wartet MailFWD.
MailFWD schaut einmal pro Minute in das Funktionspostfach, ordnet zu und leitet weiter. „Als Mitarbeiter kriege ich nicht viel mit von dem, was da passiert“, sagt Isabelle Wieser, die bei Dataport für das Produktmanagement der KI-Lösung zuständig ist.
Die vermeintlich kleine Veränderung im Arbeitsablauf zeigt große Wirkung. Bei aktuell sechs Hamburger Fachbereichen spart MailFWD jeden Monat rund 75 Arbeitstage.1 Als Zielwert gelten zunächst 80 Prozent korrekte Zuordnungen. In einzelnen Anwendungsfällen erreicht MailFWD bereits mehr als 95 Prozent. Aber dafür muss die KI erkennen, worum es in der Nachricht geht.
Schritt 3: Sortieren
MailFWD findet die Nachricht von Herrn Jensen. Die KI analysiert den Text und erkennt, welchem zuvor festgelegten Thema die Nachricht zuzuordnen ist. Je nach Anwendungsfall liest sie zusätzlich einzelne Informationen wie ein Aktenzeichen aus. Anschließend greifen die für das Postfach festgelegten Regeln. Die Mail wird beispielsweise verschoben, markiert oder an die zuständigen Sachbearbeiter*innen weitergeleitet.
Bevor das zuverlässig funktioniert, muss MailFWD allerdings lernen. Eine Behörde stellt Dataport dafür anonymisierte Beispielmails zur Verfügung und kennzeichnet, welchem Thema sie jeweils zugeordnet werden sollen. Ein Data Scientist trainiert das Modell mit diesen Daten. Wichtig ist, dass sich die Kategorien möglichst klar voneinander unterscheiden.
Wo die Trefferquote noch nicht ausreicht, schaut das Team genauer hin. Manchmal braucht das Modell weitere Trainingsdaten. Manchmal zeigt sich aber auch, dass zwei ähnliche Kategorien in der Praxis gar nicht getrennt werden müssen, weil am Ende ohnehin dieselbe Stelle zuständig ist. Dann können sie zusammengeführt werden – und die Erkennung wird zuverlässiger.
Die Technik hinter MailFWD
Natural Language Processing (NLP)
Oberbegriff für KI-Technologien, die natürliche Sprache verarbeiten. Auch Large Language Models gehören zum NLP.
SetFit
MailFWD nutzt SetFit zur Klassifikation von Texten, beispielsweise um eine E-Mail einem zuvor definierten Thema zuzuordnen. Die Technologie basiert auf einer Transformer-Architektur, ist aber wesentlich leichtgewichtiger als ein großes Sprachmodell.
Named Entity Recognition (NER)
Damit lassen sich gezielt bestimmte Informationen in Texten erkennen und extrahieren – je nach Anwendungsfall beispielsweise Personen oder Aktenzeichen.
Training
Die Modelle lernen anhand anonymisierter Beispielmails, denen die jeweilige Behörde zuvor die richtige Kategorie zugeordnet hat.
Die passende KI für die Aufgabe
MailFWD setzt auf vergleichsweise schlanke KI-Modelle – und nicht etwa auf ein großes Sprachmodell, wie es etwa hinter ChatGPT steckt. Tom Vincent Peters erklärt:
„Large Language Models können sehr viele beeindruckende Dinge bewerkstelligen“, sagt er. „Die Kehrseite der Medaille ist, dass sie sehr ressourcenintensiv sind.“ Bei einer klar umrissenen Aufgabe wie der Klassifikation von E-Mails könne man mit einfacheren Werkzeugen zuverlässiger und schneller zum Ziel kommen – bei deutlich geringerem Ressourceneinsatz.
Ein einzelnes SetFit-Modell benötigt etwa ein halbes Gigabyte Arbeitsspeicher und lässt sich innerhalb von Sekunden trainieren. Leistungsfähige Grafikkarten sind für den laufenden Betrieb nicht erforderlich. Das Entwicklerteam stellte fest: Normale Prozessoren reichen für MailFWD aus – und sind günstiger im Betrieb.
Für Peters ist das mit Blick auf die weitere Verbreitung entscheidend. Eine Lösung, die viele Funktionspostfächer sortieren soll, muss sich auch wirtschaftlich skalieren lassen. Bei MailFWD liegt die (technische) Kunst deshalb nicht darin, möglichst viel KI einzusetzen. Sondern genau die, die für die Aufgabe gebraucht wird.
Ebenso wichtig ist die Frage, wo diese KI arbeitet. MailFWD verarbeitet schließlich keine beliebigen Texte, sondern Nachrichten von Bürger*innen. Darin können sensible Informationen enthalten sein. Die Daten bleiben deshalb in der sicheren und souveränen Rechenzentrumsinfrastruktur von Dataport. Für Vertraulichkeit gilt Schutzstufe hoch.
Schritt 4: Bearbeiten
Die Nachricht von Herrn Jensen hat ihr Ziel erreicht. Sie liegt dort, wo sie hingehört: bei den zuständigen Sachbearbeiter*innen. Niemand musste sie zuvor öffnen, lesen und von Hand weiterleiten. Für die eigentliche Bearbeitung ändert sich nichts. Sie kann nur früher beginnen.
Perspektiven über Hamburg hinaus
Genau das sei der Unterschied für die Beschäftigten, erklärt Isabelle Wieser. Sie bekommen die für sie bestimmte Nachricht direkt in ihr E-Mail-Postfach, ohne dass zuvor jemand anderes die Nachricht lesen und ihre Zuständigkeit klären muss. Auch für die Bürger*innen können sich dadurch Prozesse beschleunigen.
MailFWD kann bereits heute standardisierte Antworten auf bestimmte Themen automatisch verschicken. In Kombination mit dRPA, also automatisierten Softwareprozessen, können Nachrichten beispielsweise anhand eines erkannten Aktenzeichens automatisiert in der passenden E-Akte abgelegt werden. Künftig sollen auch Antworten anhand einer von den Kund*innen hinterlegten Datensammlung möglich werden.
Das Anliegen von Herrn Jensen wird derweil schon bearbeitet. Und MailFWD wartet auf die nächste Post.
1 Quelle: Interne Berechnungen. Zugrunde liegen das durchschnittliche E-Mail-Aufkommen, die durchschnittliche Zuweisungszeit pro Nachricht sowie eine korrekte Sortierquote von 80 %.
