Ein Zukunftslabor stellt man sich irgendwie anders vor. In den Büros hängen statt Flachbildschirmen Magnettafeln an den Wänden. Die Monitore im Seminarraum sehen aus, als hätten sie bereits die Erfindung des Internets miterlebt. Ein kleiner, glubschäugiger Roboter auf dem Tisch ist der einzige Hinweis darauf, dass wir am Lehrstuhl für Menschzentrierte Künstliche Intelligenz (KI) an der Universität Augsburg sind und nicht beim Finanzamt. Elisabeth André (61), Informatikprofessorin, Leibniz-Preisträgerin und eine der renommiertesten Expertinnen Deutschlands für lernende Maschinen, betritt gut gelaunt den Raum. Ihren Kaffee hat sie selbst mitgebracht. Servieren kann der Roboter noch nicht.

manager magazin: Frau André, das Programm ChatGPT erstellt formvollendete Texte, selbst viele Fachleute sind erstaunt. Schreiben Sie Ihre Veröffentlichungen eigentlich noch selbst?

Ja, natürlich. In der Forschung geht es ja darum, neues Wissen zu generieren – und genau das kann eine KI nicht. Sie stützt sich auf das vorhandene Wissen, mit dem sie trainiert wurde. Aber ich gebe zu: Auch ich war sehr überrascht, wie gut ChatGPT ist. Ich sehe auch durchaus Einsatzmöglichkeiten in der Wissenschaft.

Welche zum Beispiel?

Vor einigen Wochen bekam ich ein Papier von einem meiner Mitarbeiter und sollte innerhalb weniger Stunden Feedback geben. Es war sehr umständlich formuliert, deshalb habe ich einige Abschnitte in ChatGPT eingegeben mit der Anweisung, den Text zu vereinfachen. Das hat wunderbar funktioniert: Ich konnte den Inhalt viel schneller erfassen und sinnvoll Feedback geben.

Ist das nicht sehr risikoreich? ChatGPT berechnet Texte aufgrund von Wahrscheinlichkeiten, der Inhalt muss nicht der Wahrheit entsprechen.

So ist es. Deshalb ist es auch Unsinn, dass die KI den Menschen überflüssig macht. Vor einigen Tagen habe ich das selbst erlebt: Auf einer Podiumsdiskussion stellte mich der Moderator als Informatikerin und Psychologin vor. Informatikerin stimmt, aber Psychologie habe ich nie studiert. Er sagte dann später, dass die Moderation von ChatGPT stammt. Warum mich das Programm zur Psychologin gemacht hat, weiß ich nicht. Vielleicht weil ich viel mit Psychologen zusammenarbeite und es deshalb logisch erschien. Daran sieht man: KI kann ein nützliches Werkzeug sein, aber es braucht immer noch den Menschen als letzte Instanz.

Wird das so bleiben? Kommt nicht irgendwann der Punkt, an dem es den Menschen nicht mehr braucht?

KI-Systeme sind prinzipiell in der Lage, sich selbstständig weiterzuentwickeln. Auch ChatGPT wird immer besser durch Feedback von Nutzerinnen und Nutzern. Aber brauchen wir unbedingt eine KI, die den Menschen ersetzt? Sollten wir uns nicht eher fragen, wo sie ihn unterstützen kann. Wir müssen die Technik vom Menschen aus denken, nicht umgekehrt.

Viele Leute sorgen sich, dass Algorithmen Millionen Menschen arbeitslos machen werden.

Ich denke nicht, dass das passiert. In der Autoindustrie nehmen Roboter den Arbeitern schwere körperliche Tätigkeiten ab. Das führt aber nicht dazu, dass diese ihren Job verlieren, sondern sorgt dafür, dass sie ihn bei guter Gesundheit länger ausüben können. Sicher wird es Aufgaben geben, die eine KI schneller und besser erledigen kann als ein Mensch. Entscheidend ist daher, zu einer vernünftigen Arbeitsteilung zwischen Mensch und Maschine zu kommen, die für die Menschen weiterhin sinnstiftend ist. Genau das ist die Diskussion, die wir jetzt führen müssen.

Wo werden wir den nächsten großen Durchbruch der KI erleben?

Das passiert bereits laufend. Ohne KI hätte es keine Genomsequenzierung gegeben, auch keine Entwicklung von Covid-Impfstoffen in so kurzer Zeit. Wir werden hoffentlich sehr bald große Fortschritte in der Medikamentenentwicklung sehen, weil dank KI viel mehr Substanzen auf ihre Wirksamkeit getestet werden können.

Wo wird uns künstliche Intelligenz am ehesten im Alltag begegnen?

Sie begegnet uns schon jetzt täglich. In Zukunft wird sie auch physisch stärker in Erscheinung treten, etwa in der Kranken- und Altenpflege. Maschinelle Assistenten werden Routinetätigkeiten übernehmen, damit das Pflegepersonal mehr Zeit für die Patienten hat. Langfristig werden Roboter als Alltagsbegleiter auch in die Privathaushalte kommen. Das wird aber noch etwas dauern, und am Anfang werden sie auch noch sehr teuer sein.

Jeder von uns hat bald seinen persönlichen Roboter, wie eine Art Haustier?

Eher wie ein Mix aus Smartphone und Haustier. Viele Aufgaben und Tätigkeiten erledigen wir heute ganz selbstverständlich mit dem Handy, es ist unser ständiger Begleiter. Ein persönlicher Roboter könnte noch viel mehr tun, körperliche Arbeiten im Haushalt zum Beispiel. Zudem wird er mit uns sozial interagieren und viel einfacher und intuitiver zu bedienen sein als ein Smartphone. Manche Leute werden ihn vielleicht auch wie ein Haustier auf sich abrichten. Idealerweise hat man ihn selbst trainiert und nicht ein großer Techkonzern, dann wäre er ein sehr individueller Begleiter, jemand Vertrautes. Wäre es nicht gut gewesen, wenn es das in der Corona-Zeit schon gegeben hätte?

Da kann man sicherlich unterschiedlicher Meinung sein. Den Science-Fiction-Film dazu gibt es ja schon, "Her" aus dem Jahr 2013 . Wie lange dauert es noch, bis der persönliche Roboter zum Alltag gehört?

Da wage ich keine Prognose, aber ich bin mir ziemlich sicher, dass wir in zehn Jahren anhand von Zahlen sehen werden, dass ältere Menschen dank KI länger selbstbestimmt zu Hause leben können statt in ein Heim zu müssen.

Sie forschen an Systemen zur automatischen Emotionserkennung. Kann ein Algorithmus empathisch sein?

Zur Empathie gehört ein tiefes emotionales Verständnis seines Gegenübers. Das kann eine KI nicht leisten, weil sie keine Emotionen hat, weil sie nicht weiß, wie sich Angst oder Eifersucht anfühlt. Was sie sehr wohl kann, ist Gefühlsregungen zu analysieren, die sich etwa durch Muskelbewegungen im Gesicht äußern.

Wofür ist das gut?

Wir arbeiten zum Beispiel gerade an einer Coaching-Software, um das Verhalten in Vorstellungsgesprächen zu trainieren. Wer immer wieder eingeladen wird, aber nie den Job bekommt, sendet vielleicht unbewusste körperliche Signale, die zur Ablehnung führen. Eine KI kann das erkennen und den Bewerbern helfen, daran zu arbeiten. Auch bei psychologischen Diagnosen kann eine KI hilfreich sein. Schon aufgrund der Mimik des Patienten während des Gesprächs mit dem Arzt lässt sich relativ genau analysieren, ob eine Depression vorliegt. Die abschließende Diagnose bleibt selbstverständlich Sache des Arztes.

Erleben wir gerade eine zweite digitale Revolution – oder eher die konsequente Weiterentwicklung der ersten?

Dazu müssten wir uns erstmal über die Definition von Revolution einigen. Vor 20 Jahren erlebte die Spieleentwicklung einen riesigen Hype, Second Life galt als virtuelle Welt der Zukunft. Und auch bei Kryptowährungen und dem Metaverse stelle ich mir schon die Frage, ob uns das als Gesellschaft weiterbringt. Ich denke, damit KI zu einer echten Revolution wird, muss die ethische und moralische Ebene mitgedacht werden – und das bereits bei der Entwicklung.

Ist es dafür nicht längst zu spät? In China wird Gesichtserkennung zur Überwachung eingesetzt, ChatGPT könnte zur Fake-News-Schleuder werden, weil es massenhaft Unwahrheiten in die Welt setzt.

Wir sprechen in der Debatte immer von Werten, ohne zu sagen, wessen Werte gemeint sind. Ich habe bei einem Vortrag mal ein KI-Programm zur Kreditvergabe vorgeführt, das junge Menschen systematisch benachteiligte. Ich sah es als ein Beispiel für Diskriminierung durch Algorithmen. Daraufhin meldete sich eine Bankerin aus dem Publikum: Sie konnte an der Auswahl nichts Anstößiges finden, denn genau so laufe es seit jeher in der Praxis ab. Schließlich stellten junge Menschen für den Kreditgeber meist ein höheres Risiko dar. Wessen Werte sollen also gelten? Darüber brauchen wir eine gesellschaftliche Diskussion.

Die Techweltmächte China und USA setzen KI doch längst machtstrategisch ein. Da geht es nicht mehr um Ethik und Moral. Haben wir überhaupt die Zeit dafür?

Der Fehler liegt darin, dass wir diese Debatten immer im Nachhinein führen. Kaum kommt eine neue Entwicklung aus den USA, wie jetzt mit ChatGPT, fangen wir erst mal an zu diskutieren. Wir Europäer sollten uns proaktiv überlegen, was wir wollen – und dann auch die nötige Technik dafür entwickeln. Das Know-how dafür ist da. Das setzt aber voraus, dass wir diese Entwicklung auch wollen und vorantreiben. Diesen Eindruck habe ich nicht immer. Wir neigen dazu, technologische Neuerungen überzuregulieren.

Aber Sie fordern doch selbst eine kritische Auseinandersetzung.

Ja, natürlich, aber auf Basis einer gesellschaftlichen Diskussion. Ethiker, mit denen ich spreche, sind es leid, immer als Reparaturwerkstatt zu dienen. Moralische Fragen müssen kein Bremsklotz sein – wenn man sie von Anfang an mit bedenkt. Dann würden von vornherein Produkte entwickelt, die auch von den Leuten akzeptiert werden.

Aber die Produkte sind doch längst da, Amerikaner und Chinesen schaffen Fakten.

Für gute Ideen und kreative Produkte ist es nie zu spät, solange man die Leute hat, die das können. Und die haben wir. Es ist ja auch nicht so, dass alle bahnbrechenden Entwicklungen in der KI aus den USA kommen, nehmen Sie etwa die Übersetzungssoftware DeepL: Die setzt weltweit Maßstäbe – und kommt von einem Start-up aus Köln.

In welchen Unternehmen können wir demnächst die Ergebnisse Ihrer Forschung sehen?

Mit der Firma Charamel aus Köln entwickeln wir einen Avatar, der gesprochene Sprache in Echtzeit in Gebärdensprache überträgt. Das könnte ein großer Erfolg werden, weil durch die Inklusion der Bedarf an Gebärdendolmetschern rasant wächst. Im Projekt Mindbot, an dem auch der Roboterhersteller Kuka beteiligt ist, arbeiten wir an sogenannten Cobots: Roboter, die Arbeitern in Industriebetrieben zur Hand gehen und ihnen schwere Tätigkeiten abnehmen. Mit dem Münchner Start-up Navel Robotics haben wir einen sozialen Roboter entwickelt, der menschliche Stimmungen erkennt und etwa in der Pflege oder bei Therapien zum Einsatz kommen könnte.

In der KI-Entwicklung sind deutsche Forscherinnen und Forscher auf Weltniveau, bei den Produkten kommen Blockbuster wie Siri, Alexa oder ChatGPT fast immer aus den USA. Woran liegt das?

Die deutsche Wirtschaft ist sehr industrieorientiert, das spiegelt sich auch in der Forschung wider. Zudem denken wir noch zu wenig alltagsorientiert. Es kommt immer wieder vor, dass Studierende mit Arbeiten zu mir kommen und ganz enttäuscht sind, wenn ich sage: "Okay, das ist die Lösung. Aber was ist das Problem?" Wir müssen lernen, Technik mehr vom Menschen aus zu denken.