Interview: Jürgen Gressel-Hichert – „Die Maschine kann nicht für uns entscheiden, was wir wollen“
8 min.
Katharina Zweig ist sich sicher, dass die Sprachmodell-Blase bald platzt. Generative KI erreiche den Höhepunkt im sogenannten Hype-Zyklus und es könne ein KI-Winter bevorstehen. Die Informatikerin reiht sich damit ein in die Riege der Fachleute, die davon ausgehen, dass die Technologie weniger Profit bringt als gedacht. Dass KI ohnehin immer nur die zweite Wahl sein dürfe, hat uns Zweig bereits in einem Gespräch im Jahr 2023 gesagt. Wie war das gemeint?
Frau Zweig, das Thema KI ist in den Medien sehr präsent. Eine Frage, die manchmal etwas untergeht, ist die nach dem wirklichen Nutzen von KI.
Generell ist KI dort nützlich, wo wir mit Algorithmen allein nicht mehr weiterkommen. Früher hat man versucht, dem Computer die Welt zu erklären, also zum Beispiel für Übersetzungssysteme. Aber wir als Menschen sind gar nicht in der Lage, alle Regeln aufzuschreiben, um die Welt gut genug zu beschreiben, dass der Computer sie vollständig verstehen kann.
KI-Methoden können heute aber aus Beispielen lernen und die Maschine baut sich dann ihre eigene Weltsicht anhand der Beispiele auf. Das heißt, wir können KI überall dort nutzen, wo vorher unstrukturierte Daten waren, mit denen der Computer nicht arbeiten konnte, etwa bei der Audio- oder Bilderkennung. KI setzen wir also dort ein, wo wir mit den Mitteln der klassischen Informatik nicht mehr weiterkommen. Und dann kann sie tatsächlich Sinn stiften.
Wie könnte man denn solche sinnstiftenden KI-Systeme trainieren?
Am Anfang steht immer eine klare Problembeschreibung: Wo ist unser Schmerzpunkt, was würden wir gerne verbessern? Dann muss man fragen, welche Technologie geeignet ist, um das Problem zu lösen. Eine Lösung aus der klassischen Informatik ist dabei immer vorzuziehen. Nur wenn das nicht geht, sollte man auf KI-Systeme zurückgreifen. Der Sinn muss dabei vorher definiert werden, dann kann man die Software entsprechend trainieren.
Also wir als Gesellschaft müssen definieren, was die Maschine tun soll?
Auf jeden Fall. Die Maschine kann nicht für uns entscheiden, was wir wollen. Das ist ein menschliches Privileg. Die Aussage, man müsse nur genügend Daten hineinschmeißen und dann würde die Maschine das schon selber sortieren, stimmt so nicht, das ist verkürzt. Damit die Maschine trainiert werden kann, benötigt man immer ein klares Qualitätsmaß. Und dabei geht es um die Frage, was uns als Menschen wichtig ist.
Was ist ein KI-Winter?
Der Begriff KI-Winter bezeichnet eine Phase, in der das Interesse an künstlicher Intelligenz plötzlich stark nachlässt. Dazu kann es kommen, wenn die mediale Aufmerksamkeit und gleichzeitig die Erwartungen an KI sehr hoch sind, die Technik diese aber noch nicht erfüllen kann. Dadurch verlieren Unternehmen, Investoren und Forschende das Vertrauen. Es wird weniger Geld investiert und die Entwicklung verlangsamt sich. Solche KI-Winter gab es bereits: In den Siebzigerjahren konnten frühe KI-Systeme nur sehr einfache Aufgaben lösen. Anfang der Neunzigerjahre galten sogenannte Expertensysteme als Revolution, sie waren aber zu teuer und ungeeignet für den Einsatz in der Breite. Mit der Entwicklung von leistungsfähigeren Computern und Deep-Learning-Methoden rollte die nächste Welle der KI-Innovationen los. Heute wird diskutiert, ob es wegen der großen Erwartungen an moderne KI erneut zu einem KI-Winter kommen kann. Schließlich werden Milliardeninvestitionen getätigt. Gleichzeitig machen viele Anbieter von KI-Lösungen bisher nur geringe Gewinne oder schreiben sogar Verluste. Die Börsenbewertungen mancher Unternehmen könnte deshalb stärker auf Hoffnung als auf tatsächlichen Einnahmen beruhen.
Welche Rolle spielt Ihrer Beobachtung nach KI in den Verwaltungen?
Es kommt immer auf das Problem an, das Sie lösen wollen. Und, wie gesagt: KI ist immer die zweite Wahl, wenn wir es mit klassischen Softwarelösungen nicht hinbekommen. Und es steht mir manchmal nicht genug im Vordergrund, dass sich alle Beteiligten fragen: Was ist das Problem? Wie könnten wir messen, wie es behoben wird? Und was ist dafür die beste Technologie?
Worauf sollte sich die Verwaltung in puncto KI konzentrieren?
Nach außen ist das der berühmte Chatbot, der den Bürgerinnen und Bürgern den Weg durch die Verwaltung weist. Das ist sicher eine Low-Level-KI, die man einsetzen kann. Ansonsten kann ich mir vorstellen, dass KI in den Verwaltungsprozessen selbst hilfreich wäre. Passiert es nicht immer wieder, dass man sich nicht mehr so genau erinnert, in welcher Akte man einen ganz ähnlichen Bauantrag hatte mit ähnlichen Schwierigkeiten? Da könnte Smart Search helfen mit Sprachmodellen, die auch unklarere Suchanfragen verarbeiten können.
Ich glaube, es würde an dieser Stelle helfen, sogenannte KI-Scouts auszubilden, also Leute, die sich mit KI auskennen und in ihrem beruflichen Alltagsleben nach Abläufen suchen, bei denen KI tatsächlich hilfreich wäre. Und dann würde man solche Prozesse identifizieren, bei denen KI viel Arbeit einsparen und viel Unterstützung bieten könnte.
Wie kann die Beziehung zwischen Mensch und KI in Zukunft gelingen?
Eine große Frage! Im Moment finde ich die Analogie zu Nutztieren für mich persönlich am hilfreichsten. Wir haben seit Jahrtausenden Hütehunde, wir kennen Polizeihunde, Blindenhunde. Das heißt, wir haben Tiere, die mit einer anderen Intelligenz die Welt wahrnehmen. Zum Teil viel besser als wir, zum Teil anders als wir. Und wir haben Wege gefunden, diese Tiere so auszubilden, dass wir ihnen in durchaus sehr wichtigen sozialen Prozessen vertrauen. Eine blinde Person, die sich darauf verlässt, dass ihr Hund anzeigt, ob sie über die Straße gehen kann oder nicht, das ist ja durchaus eine gewichtige Entscheidung.
Ich glaube, dass wir in den nächsten Jahrzehnten herausbekommen müssen, wie diese neue, maschinelle Weltwahrnehmung funktioniert. Nur dann können wir verstehen, wo wir uns auf sie verlassen können und wo lieber nicht. Ich bin da optimistisch, dass wir das hinbekommen werden.
(Das Interview mit Katharina Zweig ist erstmals im Datareport Ausgabe 1/2023 erschienen.)
