Algorithmen als Lebensretter
Wie Corona die Welt in unausgereifte KI-Experimente stürzt
Im Kampf gegen Corona zeigt künstliche Intelligenz, wie viel sie schon kann: Algorithmen finden helfende Medikamente, erstellen Diagnosen und sogar Behandlungspläne. Doch Experten warnen vor hohen Risiken.
Keine einfache Formel: Forscherin im Artificial Research Building der Universität Tübingen
Foto: Sebastian Gollnow / dpa
Womöglich hat Künstliche Intelligenz bereits zehntausende Menschenleben in der Corona-Pandemie gerettet. Peyman Gifani, Gründer und Chef der britischen Firma AI Vivo, jedenfalls nimmt für seine Algorithmen in Anspruch, den entscheidenden Tipp für das bisher nützlichste Medikament gegeben zu haben: Mitte April 2020 meldete AI Vivo, dass das Steroid Dexamethason als eine von fünf existierenden Arzneien beste Chancen habe, gegen Covid-19 zu helfen – das Ergebnis einer automatisierten Suche der Computer von Amazon Web Services quer durch die Medizindatenbanken auf Grundlage eines Corona-Modells von AI Vivo.
Die größere KI-Firma Nference aus den USA kam kurz darauf zu demselben Ergebnis, das später von der Recovery-Studie der Universität Oxford bestätigt wurde. Tatsächlich erwies sich Dexamethason bisher – vor dem Aufkommen der neu entwickelten Antikörpercocktails und Impfstoffe – als einziges Medikament, das die Sterblichkeit senken konnte. Da es weltweit reichlich verfügbar und billig, da patentfrei, ist, konnten die Kliniken von der Erkenntnis reichlich Gebrauch machen.
Nference-Mitgründer Venky Soundararajan zufolge reicht die Kraft menschlicher Gehirne einfach nicht aus, um die für eine schnelle und effektive Reaktion nötigen Datenmengen zu bewältigen. "Das macht einen schnell demütig", sagte er der "Washington Post". "Was wir wissen, ist nur ein Atom in dem Universum da draußen." Hätte das Virus die Welt vor 20 Jahren – also ohne künstliche Intelligenz – getroffen, wäre sie wohl erledigt, meint Jason Moore vom Zentrum für biomedizinische Informatik an der Universität von Pennsylvania, der ein internationales Konsortium für Corona-Daten versammelt. "Ich denke, heute haben wir dank Künstlicher Intelligenz und maschinellem Lernen eine faire Chance."
Ein Beispiel liefert das Tool Sandman.MD der Berliner Firma App@work, das nun in einem EU-Forschungsprojekt in mehreren Unikliniken unter Leitung des Frankfurter Mediziners Kai Zacharowski für die bessere Behandlung von Corona-Patienten optimiert wird: Sämtliche Patientendaten werden auf iPads am Klinikbett erfasst und mit künstlicher Intelligenz analysiert. Aus dem Vergleich zahlreicher Verläufe soll das Modell vorhersagen, wie sich die individuelle Prognose entwickelt und welche Behandlung am besten wirkt.
Kein KI-Modell wirklich belastbar erprobt
Zu viel sollte man von der Technik aber nicht erwarten, warnt das Medizinfachblatt "The Lancet" in einem aktuellen Leitartikel. Die Krise zwinge die Welt, KI-Modelle im großen Stil einzusetzen, "noch bevor ihr Nutzen bewiesen ist" – und das könne leicht nach hinten losgehen. Für eine Studie im "BMJ" wurden 107 verschiedene KI-Modelle, die beispielsweise Corona-Risikogruppen, Diagnosen oder auch vorhersagen, bewertet. Viele davon würden mit soliden Ergebnissen angepriesen. "Doch all diese Modelle tragen ein hohes Risiko einer systematischen Verzerrung", so das Fazit. Oft seien die Kontrollgruppen nicht repräsentativ ausgewählt, die entscheidenden Patienten verließen die Studie vor dem Abschluss, und die Modelle würden übermäßig getrimmt, um passende Ergebnisse zu liefern. Die behaupteten Performancewerte seien daher "wahrscheinlich optimistisch und irreführend".
Mitunter wird das auch von den KI-Machern eingeräumt. Oxford-Forscher Andrew Soltan beispielsweise hat mit seinem Team ein Screening namens Curial AI entwickelt, das aufgrund von Patientendaten die Wahrscheinlichkeit ermittelt, ob ein im Krankenhaus ankommender Patient tatsächlich Covid-19 hat. Das Ziel: die falsch positiven Fälle gar nicht erst auf Corona-Stationen aufnehmen und die Ressourcen auf die echten Corona-Patienten konzentrieren. Laut einer Studie von mehr als 100.000 britischen Fällen war Curial AI genauso treffsicher, aber deutlich schneller als die herkömmlichen PCR-Corona-Tests. Doch das könne man nicht auf alle Länder und ethnischen Gruppen verallgemeinern, warnt Soltan. "Wir wissen auch nicht, ob das KI-Modell sich auf Patientengruppen in anderen Ländern übertragen lässt, wo Patienten mit anderen gesundheitlichen Beschwerden die Krankenhäuser besuchen."
Ohne medizinische Anwendung, aber trotzdem mit Corona-Hintergrund, gab es im Sommer 2020 den wohl ersten Anti-KI-Aufstand: Britische Schulabgänger protestierten erfolgreich gegen die Vergabe von Abschlussnoten mithilfe eines KI-Modells, das die fehlenden Prüfungen durch vorhergesagte Leistung ersetzen sollte – fair und unbestechlich, wie das Londoner Bildungsministerium annahm. Doch im Ergebnis bekamen vor allem Kinder aus Arbeiter- und Migrantenfamilien nicht die ersehnten Studienplätze. "Fuck the algorithm" wurde zum Schlachtruf der Proteste, ein Synonym für künstliche Intelligenz ohne soziale Kompetenz. Letztlich hängt die Prognose der Modelle davon ab, welche Parameter die Programmierer eingeben und wie sie diese gewichten.
Selbst Schwergewichte wie Google oder IBM enttäuschen
Auf die Gesundheit übertragen: Es gibt zwar KI-Programme, die beispielsweise Corona-Infektionen schon am Klang der Stimme erkennen sollen. Doch ob sie auch eine von Covid ausgelöste Lungenentzündung von einer Lungenentzündung wegen des Influenza-Virus unterscheiden können? Bisher lässt sich das kaum überprüfen, da die Grippewelle in diesem Jahr auszufallen scheint.
Künstliche Intelligenz (KI) wird unser Leben verändern. Die Einsatzmöglichkeiten in Industrie, Handel oder Medizin sind immens: KI eröffnet Forschern, Herstellern und Händlern neue Chancen, wirft aber auch neue Fragen auf. Der Überblick zeigt, was bereits heute möglich ist – und über welche technischen und ethischen Fragen wir diskutieren müssen.
Genau wegen solcher Probleme tun sich selbst KI-Schwergewichte wie die Google-Schwesterfirma X oder der IT-Riese IBM mit seinem Superhirn Watson seit Jahren schwer, die versprochene Lösung gesundheitlicher Probleme mittels künstlicher Intelligenz auch zu liefern. Google wollte schon 2008 Grippewellen vor ihrem Ausbruch bemerken, Watson sollte Jahre später den Behandlungsplan von Krebspatienten automatisieren – zu viel versprochen.
Inzwischen hat sich die Branche weitgehend darauf verlegt, mithilfe von KI Signale aus riesigen Datenmengen zu fischen. Ob sie etwas bedeuten und was daraus folgt, muss dann immer noch menschliche Intelligenz entscheiden.