data[port]ai: Die Plattform für KI-Anwendungen
KI braucht leistungsfähige und vertrauenswürdige Infrastrukturen und Plattformen – so wie data[port]ai.
data[port]ai
Interview: Julia Kobert – Interaktionsdesign: Wie entsteht Vertrauen in KI?
8 min.
Shalini Sahoo erforscht Design an der Schnittstelle von Technologie und Nutzerbedürfnissen. Sie promovierte in London und arbeitete im Silicon Valley. Heute bringt sie bei Dataport ihre Expertise in die nutzerzentrierte Entwicklung von KI-Produkten ein. Ein Gespräch über KI-Skepsis und Vertrauen in Technologie.
Shalini, dein Weg hat dich vom Silicon Valley in den öffentlichen Sektor Deutschlands geführt – da prallen Welten aufeinander.
Absolut. Und genau in diesem Kontrast liegt für mich ein Erkenntnisgewinn. Das Silicon Valley denkt in Geschwindigkeit, Experimenten und Skalierung. Die öffentliche Verwaltung in Deutschland denkt in Verlässlichkeit, Nachvollziehbarkeit und Verantwortung. Viele sehen darin einen Widerspruch. Ich sehe darin eine produktive Spannung – denn wirklich gute KI-Produkte entstehen weder aus blindem Tech-Optimismus noch aus reiner Vorsicht. Sie entstehen dort, wo Innovationskraft und institutionelle Verantwortung zusammenkommen.
Nach dem KI-Hype macht sich zunehmend Skepsis breit. Wieso?
Für viele Menschen ist KI eine Blackbox. Oft suggerieren KI-Assistenten eine große Sicherheit. Aus meiner Sicht ist das eine Täuschung, denn KI ist nicht unfehlbar. Die Unsicherheiten sind schlicht nicht sichtbar. Als Nutzerin kann ich nicht nachvollziehen, wie treffsicher das Ergebnis ist, und wie die KI darauf gekommen ist. Dass Menschen hier misstrauisch werden, ist meines Erachtens keine Technologiefeindlichkeit, sondern eine gesunde Reaktion auf Intransparenz.
Wie ließe sich das aus deiner Sicht ändern?
Indem wir Produkte nicht größer machen, als sie sind. Gute KI muss keinen Eindruck schinden. Sie soll Orientierung geben. Wenn ich als Nutzerin schnell erkennen kann, worauf sich ein System stützt, wie sicher seine Aussage ist und ab welchem Punkt der Mensch in der Verantwortung, dann entsteht eine andere Qualität der Interaktion.
Daran arbeitest du bereits, mit Designing for Trust. Was hat es damit auf sich?
Anders als der Name es vermuten lässt, geht es nicht um Oberflächenverschönerung. Als Designerin habe ich natürlich eine Vorliebe für Schönheit und Harmonie. Aber: Vertrauen in ein Produkt entsteht nicht durch eine ansprechende Oberfläche. Designing for Trust bedeutet, ein System so zu gestalten, dass es zeigt, was es kann, und was es nicht kann. Woher kommen die Informationen, und wann ist die Prüfung durch einen Menschen notwendig? Ein gutes KI-Produkt sagt nicht: „Ich bin die Wahrheit.“ Es sagt: „Ich bin ein Vorschlag. Hier sind meine Quellen. Und nun entscheide du, Mensch, ob alles korrekt ist und wie du damit umgehen willst.“
Vertrauen entsteht, wenn Transparenz, Sicherheit und klare Leitplanken sauber ineinandergreifen – von der intuitiven Nutzeroberfläche und nachvollziehbaren Abläufen über menschliche Kontrollpunkte bis hin zu klar definierten Regeln für Datenschutz, Sicherheit und einen verantwortungsvollen Umgang mit der KI. Und es braucht Zeit. Es ist das Ergebnis eines sorgfältig gestalteten Prozesses.
Welche Rolle spielen die Nutzerinnen und Nutzer dabei?
Eine zentrale. Die eigentliche Bewährungsprobe eines Produkts findet nicht im Labor, sondern im Arbeitsalltag statt. Eine Sachbearbeiterin zum Beispiel, die unter Zeitdruck Entscheidungen vorbereitet, braucht kein technisches Wunder. Sie braucht ein Werkzeug, das sie entlastet, ohne Unsicherheit zu erzeugen. Nutzerinnen und Nutzer in die Entwicklung einzubeziehen, ist deshalb keine freundliche Geste, sondern eine Form der Qualitätskontrolle.
Die wann am besten stattfindet?
Nicht gleich zu Beginn. Natürlich kann man Bedürfnisse abfragen. Aber die entscheidenden Erkenntnisse entstehen erst in der Anwendung. Dann sehen wir, wo Sprache zu vage ist, Antworten zu generisch bleiben oder eine KI zu selbstbewusst auftritt. Die interessanten Fehler tauchen dort auf, wo sich ein Produkt im konkreten Kontext bewähren muss.
Ein Anwendungsfall sind KI-Agenten. Worauf kommt es bei der Gestaltung an?
Eine gute Agentin oder digitale Kollegin muss sinnvoll in bestehende Systeme eingebettet sein. Das bedeutet: Sie kennt den Kontext, die Rollen sowie die Zuständigkeiten innerhalb einer Organisation und sie spricht ihre Sprache. Dafür braucht es ein starkes Large Language Model und ein gutes Interaktionsdesign – mit klar abgesteckten Aufgaben, sauberen Feedbackschleifen und einer Oberfläche, die Denkprozesse visualisiert und mögliche Unsicherheiten dabei kenntlich macht. So entsteht nicht die Illusion eines allwissenden Systems. Stattdessen wird deutlich, dass KI ein Werkzeug ist, das in der Zusammenarbeit dazulernt. Menschen brauchen im Arbeitsalltag Klarheit, keine Magie.
In den USA hast du an einem solchen KI-Agenten gearbeitet. Was war dabei dein größtes Aha-Erlebnis?
Dass Verhalten oft wichtiger ist als bloße Funktionalität. Entscheidend ist nicht nur die Frage: Was kann der Agent? Sondern auch: Welche Rolle nimmt er ein? Wann hilft er wirklich und wann stört er? Gibt er die Verantwortung an den Menschen ab, wenn eine Situation unklar, heikel oder folgenschwer wird? Macht er Unsicherheiten kenntlich? Kommuniziert er in einer Weise, die zur jeweiligen Aufgabe und zum Kontext passt? Genau diese Details entscheiden darüber, ob ein System als nützlich, aufdringlich oder sogar als riskant erlebt wird.
Menschen vertrauen also KI-Tools, wenn sie menschlich wirken?
Mir ist die Aussage, dass KI möglichst menschlich wirken sollte, schon oft begegnet. Ich halte sie für problematisch. Ein System wird nicht vertrauenswürdiger, nur weil es menschlicher wirkt.
Warum nicht?
Weil Vermenschlichung leicht täuscht. Viele hinterfragen die Ergebnisse einer KI nicht, weil diese ihre Antworten flüssig formuliert und wie ein echter Gesprächspartner wirkt. Außerdem besteht das Risiko der Entmündigung: Wenn wir zu viele Aufgaben an KI-Tools delegieren, wie an eine Kollegin oder einen Kollegen, verlernen wir, ein eigenes Urteil zu bilden – als Individuen, aber auch als Organisation.
Siehst du noch weitere Risiken im zunehmenden Einsatz von KI?
Damit geht eine gewisse Standardisierung einher. Das kann aus meiner Sicht problematisch werden. Ja, KI kann Prozesse effizienter gestalten. Aber dabei werden auch Sprache, Entscheidungen und Kommunikation vereinfacht. Ein Beispiel: In der Verwaltung sind Inklusion und Fairness sehr wichtig. Fairness bedeutet aber nicht, alle gleich zu behandeln. Stattdessen geht es darum, Kontexte richtig zu unterscheiden. Und genau das kann KI nicht leisten. Hier spielt der Mensch eine wichtige Rolle – mit seinen Emotionen, seinen Erfahrungen und seiner Empathie.
Wie sähe dann die perfekte Beziehung zwischen Mensch und Technik aus?
In den Sechzigerjahren sagte der britische Architekt Cedric Price: „Technology is the answer, but what was the question?“ Diese provokante rhetorische Frage ist aus meiner Sicht immer noch einer der klügsten Sätze über Innovation. Technologie ist nur dann sinnvoll, wenn sie von menschlichen und gesellschaftlichen Fragen ausgeht. Im besten Fall hilft sie uns, komplexe Herausforderungen besser zu bewältigen – von der Ressourcenknappheit bis zur Gestaltung gerechterer Systeme. Technologie ist für mich kein Selbstzweck. Sie ist etwas, das wir hinnehmen, um menschlichen Bedürfnissen besser gerecht zu werden.
