Künstliche Intelligenz
KI-Governance bei Dataport – Kompass für künstliche Intelligenz
Künstliche Intelligenz unterstützt Verwaltungen schon heute. Sie schreibt Entwürfe, protokolliert Sitzungen oder fasst Anträge zusammen. Damit KI sicher, transparent und rechtskonform eingesetzt werden kann, baut Dataport eine umfassende KI-Governance auf. Die Vorgaben des AI Acts werden in die eigene Praxis übersetzt, sie gibt Kund*innen Orientierung – und wird mit neuen Anwendungen und Anforderungen stetig weiterentwickelt.
KI-Governance in drei Fallbeispielen
Es ist Dienstagmorgen. Drei Behörden, drei Situationen, in denen künstliche Intelligenz längst zum Arbeitsalltag gehört – und drei unterschiedliche Anforderungen an ihren Einsatz.
Erstes Fallbeispiel: Transparenz
Ein Pressereferent in einer Landesbehörde tippt wenige Stichpunkte. Der von Dataport und der Freien und Hansestadt Hamburg entwickelte Sprachassistent LLMoin liefert innerhalb weniger Sekunden den Entwurf einer Pressemitteilung. Der Referent prüft Fakten, überarbeitet den Text und gibt ihn redaktionell frei. Kennzeichnen muss er den KI-Anteil nicht. Die KI hat ihn unterstützt, die Verantwortung für den Inhalt trägt der Mensch.
Um den Einsatz künstlicher Intelligenz sicher, transparent und verantwortungsvoll zu gestalten, arbeitet Dataport an einer KI-Governance. Das bedeutet: Das Unternehmen etabliert Regeln und Prozesse, um eine rechtskonforme und verantwortungsvolle Nutzung von KI zu gewährleisten und KI-Anwendungen von der Entwicklung bis zum Einsatz zu begleiten. Für Miriam Quentin, Leiterin Beratung und Koordination für den Produktbereich Daten und KI bei Dataport, ist diese Entwicklung mehr als die Umsetzung gesetzlicher Vorgaben. „Bei Dataport sind Themen wie IT-Sicherheit und Mitverantwortung für die Bürger*innen unserer Träger wesentlich. Auch deshalb wollen wir mit einer umfassenden KI-Governance gut aufgestellt sein." Das bedeute zwar zunächst erheblichen Aufwand, so Miriam Quentin, aber er lohne sich, um sich mit den KI-Lösungen von Dataport stark zu positionieren.
Schutz der Grundrechte im Mittelpunkt
Mit dem AI Act hat die Europäische Union 2024 den weltweit ersten umfassenden Rechtsrahmen für künstliche Intelligenz geschaffen. Im Mittelpunkt stehen Bürgerinnen und Bürger und der Schutz ihrer Grundrechte. „Der EU AI Act ist menschenzentriert und dient dazu, unsere Gesellschaft und unser Zusammenleben miteinander zu schützen“, sagt Quentin. Je höher das Risiko einer KI-Anwendung für Menschen und ihre Grundrechte, desto strenger sind die gesetzlichen Anforderungen.
AI Act kompakt
Weltweit erster umfassender Rechtsrahmen für künstliche Intelligenz.
Risikobasierter Ansatz: Je höher das Risiko, desto strenger die Anforderungen.
Vier Risikoklassen: minimales, begrenztes, hohes und unvertretbares Risiko.
Hochrisiko-KI unterliegt besonders strengen Vorgaben.
Die Regelungen werden schrittweise bis 2028 wirksam.
Zweites Fallbeispiel: Verantwortung
Einige hundert Kilometer weiter endet die wöchentliche Projektbesprechung eines Kulturamts. Noch bevor die Teilnehmenden ihre Laptops zuklappen, hat dSprachKI das Protokoll erstellt, Beschlüsse zusammengefasst und Aufgaben zugeordnet. Die Zeitersparnis ist beachtlich. Doch mit der Aufnahme und Verarbeitung der Gesprächsinhalte stellen sich Fragen, die weit über den EU AI Act hinausgehen.
Nicole Jackmann ist Juristin bei Dataport und klärt rechtliche Grundsatzfragen rund um KI. Sie erinnert sich an die Einführung der Datenschutz-Grundverordnung. „Damals stieg der Beratungsbedarf mit Einführung der DSGVO sprunghaft an.“ Ähnlich groß sei heute die Nachfrage rund um KI. Dabei komme es nicht allein auf die neuen Vorgaben des AI Acts an. Auch bestehende Anforderungen wie etwa Datenschutz, Informationssicherheit oder Geheimschutz müssen beim Einsatz einer KI-Lösung berücksichtigt werden. Gerade bei einem automatisch erstellten Besprechungsprotokoll werden schließlich personenbezogene Daten oder Amtsgeheimnisse verarbeitet. Für Dataport bedeutet das: Eine KI-Anwendung muss aus verschiedenen Blickwinkeln betrachtet werden. Dass sie nach dem AI Act kein besonderes Risiko darstellt, heißt noch nicht, dass ihr Einsatz automatisch unproblematisch ist.
Unser Ziel ist es, Strukturen auf- und Kompetenzen auszubauen, damit wir KI-Governance und KI-spezifische Risiken künftig ganz selbstverständlich mitdenken – so, wie seit der Einführung der DSGVO auch eine Betrachtung des Datenschutzrechtes bei der Entwicklung und Einführung von Anwendungen mitgedacht wird.
Nicole Jackmann
Juristin bei Dataport
Dataport reagiert darauf mit klaren Strukturen. Ein zentrales KI-Register dokumentiert sämtliche Systeme im Unternehmen – sowohl solche, die Dataport selbst einsetzt, als auch solche, die den Kund*innen angeboten werden. Jede KI-Lösung durchläuft von der ersten Idee bis zum Einsatz durch regelmäßige Review-Zyklen und anlassbezogene Überprüfungen einen strukturierten Prozess aus Transparenz, Dokumentation und Risikobewertung.
KI-Governance bei Dataport
- Klare Leitplanken für Entwicklung, Freigabe und Einsatz von KI
- Zentrales KI-Register schafft Transparenz über eingesetzte Systeme
- Risikobewertung und Dokumentation über den gesamten Lebenszyklus einer Anwendung
- Klare Verantwortlichkeiten und definierte Prozesse
- Schulungen und Beratung für Mitarbeitende
- Kontinuierliche Weiterentwicklung der Governance-Strukturen
Drittes Fallbeispiel: Risikomanagement
In einer Wohngeldstelle öffnet eine Sachbearbeiterin den nächsten Antrag. Künstliche Intelligenz bereitet die Daten strukturiert auf, prüft den Antrag auf Vollständigkeit und markiert fehlende Nachweise. Für diese Tätigkeiten wird KI bereits heute genutzt: Künstliche Intelligenz unterstützt bei der Vorbereitung – die Entscheidung über den Antrag trifft allein die Sachbearbeiterin. Würde die KI künftig auch daran mitwirken, wie über den Antrag entschieden wird, könnten die strengsten Anforderungen des AI Acts gelten.
Karsten Manski, Data Governance Manager bei Dataport, beschreibt die Grenze so: „Ein KI-System ist laut AI Act dann hochriskant, wenn es ein erhebliches Risiko für die Gesundheit, Sicherheit oder Grundrechte von Menschen darstellt. Das wäre beispielsweise der Fall, wenn die KI selbständig Entscheidungen in sensiblen Anwendungsbereichen trifft." Deshalb sollten Governance-Prozesse bereits in den ersten Phasen der Entwicklung von KI-Systemen ansetzen.
Wenn wir uns für Hochrisiko-KI entscheiden, dann müssen wir diese strengen Auflagen erfüllen. Die Lösung kann aber auch von Anfang an so konzipiert sein, dass sie nicht in die Hochrisiko-Kategorie fällt, sondern den menschlichen Entscheidungsprozess nur unterstützt und trotzdem großen Nutzen entfaltet.
Karsten Manski
Data Governance Manager bei Dataport
Nicole Jackmann bringt die Konsequenzen der gesetzlichen Vorgaben auf den Punkt: „KI führt zwar zu einer wahnsinnigen Arbeitserleichterung, aber der Einsatz ist im Behördenkontext durch den AI Act nur eingeschränkt möglich.“ Die meisten gesetzlichen Beschränkungen richteten sich nämlich explizit an Behörden und die Justiz. Deshalb beschränke sich der Einsatz von KI in diesen Feldern oft noch auf vorbereitende Tätigkeiten. Ganze Beschlüsse von einer KI vorformulieren zu lassen, die anschließend Mitarbeitende nur noch durchwinken, sei gerade nicht das Ziel.
In Zukunft kann das jedoch anders aussehen. Dataport arbeitet bereits an den notwendigen Prozessen, um künftig auch weitergehende KI-Anwendungen rechtskonform und verantwortungsvoll einzusetzen und für Kund*innen zu ermöglichen.
Der AI Act in der Praxis
Seit 2. August 2026 gelten die Transparenzpflichten nach Artikel 50 des EU AI Acts. Das bedeutet: Von KI stark veränderte oder erzeugte Inhalte müssen gekennzeichnet werden.
Texte
Erstellt und veröffentlicht eine KI Texte automatisch, so ist die Kennzeichnung verpflichtend. Hat die künstliche Intelligenz nur entworfen oder unterstützt und übernimmt ein Mensch die redaktionelle Verantwortung, entfällt die Kennzeichnungspflicht.
Audiovisuelle Medien
Wenn die KI Videos, Bilder oder Audios erstellt, muss dies bei Veröffentlichung transparent gemacht werden. Auch hier gilt: Hat die KI nur eine unterstützende Funktion, dann braucht es keine gesonderte Markierung des KI-Einsatzes.
Chatbots und Sprachassistenten
Treten Bürgerinnen und Bürger mit einem KI-Dialogsystem in Kontakt, so müssen sie auf die Verwendung von künstlicher Intelligenz hingewiesen werden.
Der Kompass dahinter
Zurück zum Dienstagmorgen. In der Pressestelle geht es um Transparenz. Im Besprechungsraum um Amtsgeheimnisse und Datenschutz. In der Wohngeldstelle um den verantwortungsvollen Umgang mit den Grundrechten der Bürger*innen. Drei Behörden. Drei Anwendungen. Drei unterschiedliche Anforderungen. Genau darin zeigt sich der Wert einer KI-Governance. Sie sorgt dafür, dass jede Anwendung den passenden Rahmen erhält, und zwar nachvollziehbar, rechtssicher und am konkreten Einsatz orientiert. Dieser Rahmen ist dynamisch. Neue Modelle, neue Einsatzfelder und neue gesetzliche Vorgaben werden immer wieder Fragen aufwerfen. Deshalb ist die Entwicklung einer KI-Governance für Dataport ein fortlaufender Prozess. Der AI Act gibt dabei die Landkarte vor. Und die KI-Governance liefert den Kompass.
