BEAU SHEIL ist im Price Waterhouse Technology Centerin Menlo Park (Kalifornien) für das Gebiet Künstliche Intelligenz zuständig. Zu vor arbeitete er unter anderem im Palo Alto Research Center, einer Forschungseinrichtung des Kopiergeräteherstellers Xerox.

Wird Künstliche Intelligenz den Menschen als Arbeitskraft überflüssig machen? Nicht wenige Fachleute glauben, "kluge" Computerprogramme, sogenannte Expertensysteme, könnten schon in naher Zukunft Buchhalter, Wartungstechniker oder Führungskräfte ersetzen. Angesichts solcher Übertreibungen kann der technisch unbedarfte Manager schwer entscheiden, ob er auf den abfahrenden Zug aufspringen oder das Ganze als puren Unfug abtun soll. Künstliche Intelligenz (KI) befindet sich heute in der Tat auf dem Weg vom Forschungslabor zum Kontor und zur Fabrik. Doch die bislang entwickelten Anwendungen in Industrie, Banken und Versicherungen sind noch weit davon entfernt, die vollmundigen Versprechen der Kl-Propagandisten zu erfüllen. Und das Einbinden von Expertensystemen in den Tagesbetrieb eines Großunternehmens verlangt mehr Scharfsinn, als die größenwahnsinnigen Träumer sich vorstellen, die Ingenieure, Juristen oder Finanzfachleute durch Computer ablösen wollen. Verwirrung über die Einsetzbarkeit von KI schaffen nicht zuletzt die großenteils unbewußten Vorstellungen, die wir mit dem Begriff "Intelligenz" verbinden. Denn wir gehen meist davon aus, daß Intelligenz eine Allgemeinfähigkeit sei und obendrein eine meßbare Größe wie Kraft oder Geschwindigkeit. (Das ist ein Grund, warum in Zeitungsberichten KI oft in Zusammenhang mit Hochleistungscomputern gebracht wird, obwohl diese beiden Gebiete wenig miteinander gemein haben.) Die heutige KI-Forschung legt jedoch weit mehr Gewicht auf das spezifische Wissen, das für eine bestimmte Aufgabe benötigt wird, als auf die Rechenleistung, die sie erfordert. Ein relativ langsamer Schachcomputer, der mit den taktischen Spielkenntnissen eines Großmeisters gefüttert wurde, wird besser abschneiden als ein extrem schneller Rechner, der nur die Spielregeln kennt. Wie kann ein Programmierer das Wissen eines erfahrenen Experten einfangen und in Computerkommandos übersetzen? Bei sehr einfachen Spielen wie Dame ist es möglich, alle denkbaren Spielsituationen mit dem jeweils bestgeeigneten Zug zu erfassen und in den Computerspeicher einzugeben. Die Maschine kann dann in jeder Spielphase eine optimale Entscheidung treffen, indem sie einfach die gegebene Spielsituation und den dafür vorgesehenen Zug aus der gespeicherten Liste abruft. Alternativ könnte der Computer, da die Zahl der zulässigen Züge verhältnismäßig klein ist, in jeder Situation den Spielverlauf mit allen Verästelungen bis zu Sieg oder Niederlage durchanalysieren. Bei hochkomplexen Spielen wie Schach ist weder das eine noch das andere möglich - die Komplexität der erlaubten Zugkombinationen bis Spielende übersteigt um ein Millionenfaches die Rechenleistung der schnellsten Supercomputer. In solchen Fällen muß das Wissen, mit dem ein Expertensystem programmiert wird, einen Kompromiß zwischen spezifischen Antworten auf bestimmte Situationen, von denen es stets zu viele gibt, und allgemeinen Prinzipien bilden - deren Anwendbarkeit im Einzelfall höchst zweifelhaft sein kann (siehe auch den Kasten "Regelbasierte Systeme"). Der kommerzielle Reiz solcher wissens- oder regelbasierter Systeme besteht hauptsächlich darin, daß sie ein Rechnerverhalten steuern können, daß mit konventioneller Software kaum zu erzielen ist. Insbesondere scheinen regelbasierte Expertensysteme sehr gut geeignet zu sein, diagnostische Routineentscheidungen zu treffen, wie sie etwa Ärzte oder Wartungstechniker Tag für Tag fällen müssen. Solche Entscheidungen sind bei weitem zu komplex, um erschöpfend mit Algorithmen oder ähnlichen, auf apriorischen Prinzipien beruhenden Verfahren beschrieben werden zu können, doch sie lassen sich offensichtlich ganz gut mit Faustregeln bewältigen, die hinreichend durch situationsgebundene Handlungsanweisungen definiert sind. Selbst wenn es nicht möglich ist, eine Aufgabe mit wissensbasierten Expertensystemen vollständig zu spezifizieren und zu automatisieren, kann KI für einzelne Arbeitsschritte genutzt werden. Computertechnik verlangt Präzision. Eine exakte, detaillierte Beschreibung des Wissens, das für das Ausführen einer komplexen Aufgabe benötigt wird, kann an sich schon nützlich sein. Oft wissen nur die Leute, die eine bestimmte Arbeit tun, ganz genau, welche Kenntnisse hierfür erforderlich sind. Doch nur selten geben sie sich Rechenschaft darüber, geschweige denn, daß sie ihr Know-how anderen mitteilen. Die Konsequenz: Die systematische Beschreibung des Wissens, das für ein Expertensystem benötigt wird, enthüllt zuweilen alarmierende Wissenslücken und Widersprüche. Auch wenn dies nicht der Fall ist, kann eine formale Beschreibung ein wertvolles Mittel sein, um das in langen Jahren gesammelte Know-how eines Unternehmens konzentriert zusammenzufassen; oft geht es ja verloren, wenn wichtige Mitarbeiter gehen oder versetzt werden. Und sind Wissen und Erfahrung schwarz auf

weiß festgehalten, dann lassen sie sich leichter im ganzen Unternehmen verbreiten. Meist ist es jedoch unmöglich, das Wissen, das ein Mensch bei seiner Arbeit nutzt, komplett zu ermitteln und erschöpfend zu formalisieren. Folglich sind Expertensysteme häufig so ausgelegt, daß sie dem Anwender nur bei einzelnen Aspekten seiner Aufgaben helfen können; er muß die Antworten des Computers richtig zu deuten verstehen und verhindern, daß das Expertensystem zum Lösen von Problemen verwendet wird, für die es nicht geeignet ist. Vor allem bei Kl-Programmen, die von hochqualifizierten Fachleuten benutzt werden, ist darauf zu achten, daß die vorgesehenen Einsatzfelder strikt begrenzt werden. Da Experten mit Spezialkenntnissen meist knapp und teuer sind, kann es bereits eine gute Investition sein, wenn nur ein kleiner Teil ihrer Aufgaben vom Computer übernommen wird. Und da ihre Entscheidungen häufig weitreichende Konsequenzen haben, ist es von großem Nutzen, wenn die Qualität dieser Entscheidungen durch zusätzliche Informationen, Analysen oder dem Abgleich mit allgemein anerkannten Regeln verbessert wird, um Fehler nach Möglichkeit von vornherein zu vermeiden. Das Expertensystem von Schlumberger für geologische Analysen ist hierfür ein gutes Beispiel. Bereits 1980 hat der Meßgerätehersteller Kl-Programme entwickelt, um die Ergiebigkeit neu entdeckter Ölvorkommen mit Hilfe von Messungen während der Probebohrungen zu bestimmen. Diese Analysen werden von einem Team hochqualifizierter Geologen durchgeführt; anhand ihrer Erkenntnisse werden die Folgeinvestitionen getroffen. Diese Experten sind sehr knapp; sie auszubilden und anzuwerben verschlingt einen Haufen Geld. Aus diesen Gründen wollte Schlumberger geologische Analysen auf den Computer übertragen. Trotz immenser Investitionen hat das Unternehmen jedoch bislang kein Kl-Programm entwickeln können, dessen Treffsicherheit an die erfahrenen Fachleute heranreicht. Die Expertensysteme liefern zwar mittlerweile so gute oder schlechte Prognosen wie junge Geologen, die frisch von der Universität kommen. Doch die Ölgesellschaften vertrauen dem Computer nicht das letzte Wort bei der Entscheidung an, ob weitergebohrt werden soll oder nicht. Gemessen am ursprünglichen Ziel könnte man das als Fehlschlag interpretieren. Doch das Projekt hat eine Vielzahl "intelligenter" Hilfsmittel hervorgebracht, die Geologen bei bestimmten Teilaufgaben helfen können - beispielsweise bei der Auswahl von Software für numerische Analysen. Die Kl-Computer haben sich als so nützlich erwiesen, daß sie mittlerweile an Bohrstandorten in der ganzen Welt zu finden sind.

Der Computer ist ein Fachidiot

Der Intelligenzbegriff, der Expertensystemen zugrundeliegt, hat einige überraschende Implikationen. Wenn beispielsweise Sachkunde durch die Menge des benötigten Wissens und nicht durch Denkvermögen definiert wird, dann verlangt gute Leistung offensichtlich ein gewaltiges Maß an Kenntnissen. Betrachten wir etwa den Unterschied zwischen den Regeln des Schachspiels, die auf wenigen Seiten niedergelegt werden können, und den Hunderten von Lehrbüchern, Analysen und Kommentaren zum Schachspielen. Ein Großmeister hat lange Jahre damit zugebracht, die Fachliteratur zu studieren. Um mit einem erfahrenen menschlichen Spieler mithalten zu können, muß ein Schachcomputer sie ebenfalls "kennen". Die Konsequenz liegt auf der Hand: Die schiere Masse ist das Hauptproblem beim Erfassen und computergerechten putergerechten Kodieren des Wissens, das zum Schachspielen (oder für eine ähnlich komplexe menschliche Tätigkeit) benötigt wird. Es wird mithin einfacher sein, Expertensysteme für hochspezialisierte Probleme zu entwickeln als für breite Anwendungen, da das erforderliche Wissen in der Regel mit dem Spezialisierungsgrad abnimmt. Beim Menschen ist es jedoch genau umgekehrt: Er wird erst zum Spezialisten, wenn er zuvor eine fundierte Allgemeinbildung und Basiswissen in seinem Fach erworben hat. Breite Fachkenntnisse in Bits und Bytes umzusetzen, ist jedoch so schwer, daß die meisten Expertensysteme nur für ganz enge Anwendungen geeignet sind. So gibt es Kl-Programme, die seltene Infektionskrankheiten diagnostizieren können, aber keinerlei Kenntnisse in Allgemeinmedizin haben, oder Computer, die Fehler in Atomkraftwerken entdecken, aber nicht einmal Erstsemesterkenntnisse in Physik haben. Einfache Aufgaben sind in Wahrheit mit den heutigen Expertensystemen schwerer zu bewältigen. Der Grund ist die immense Rolle, die Allgemeinbildung und gesunder Menschenverstand beim Lösen von Alltagsproblemen spielen. Wir benutzen dabei ganz selbstverständlich ein enormes Spektrum von Detailkenntnissen zu den unübersehbar vielen Teilaspekten dieser Probleme. Doch wenn wir eine schwierige Aufgabe zu beurteilen haben, vergessen wir diese Tatsache und befassen uns nur mit der Menge an Kenntnissen, die wir zusätzlich zu unserem Grundwissen benötigen. So halten wir das Entgegennehmen eines Telephonanrufs für eine simple Aufgabe, weil man das mit ganz wenigen Sätzen einem anderen Menschen erklären kann. Die Diagnose von Infektionskrankheiten erscheint uns dagegen als schwieriges Problem, weil es viel Zeit und Energie erfordert, sich zum Arzt ausbilden zu lassen. Aus jeder anderen Perspektive ist Telephonieren jedoch eindeutig weitaus komplizierter als Diagnostizieren, da ein Gesprächspartner am Telephon im Prinzip eine nahezu unbegrenzte Zahl von Fragen oder Problemen ansprechen kann. Darauf eine einigermaßen vernünftige Antwort zu geben, verlangt ein enorm breites, wenn auch nicht unbedingt tiefes Wissen. Der Arzt bewegt sich hingegen bei einer Diagnose in einer viel engeren Welt: Er hat es mit einer relativ kleinen Zahl von Symptomen, Ursachen und Therapien zu tun, die mit weit weniger Informationen erschöpfend beschrieben werden können. Kann man Expertensystemen Allgemeinbildung vermitteln? In verschiedenen Projekten ist schon versucht worden, einen Computer in einem Gewaltstreich mit den gesamten Informationen zu füttern, die etwa in der Encyclopedia Britannica oder dem Großen Brockhaus enthalten sind. Doch diese Vorhaben scheiterten aus einem einfachen Grund: Die meisten Artikel in einem Lexikon sind nur Leuten verständlich, die bereits hinlängliche Vorkenntnisse haben - Wörterbücher können ja auch nur von Menschen benutzt werden, die die betreffende Sprache beherrschen. Die Katze beißt sich in den Schwanz; alle Lexika sind zirkulär aufgebaut, baut, mit zahllosen Querverweisen, die einen Computer - oder einen völligen Ignoranten - in die Irre führen. In technischer Hinsicht ist es zwar kein unüberwindliches Problem, das Wissen eines gebildeten Menschen so in einzelne Elemente zu gliedern, daß es sich ein Computer Schritt für Schritt in einer streng logischen Abfolge aneignen kann. Doch mit der systematischen Ordnung unseres Wissens plagt sich die abendländische Philosophie bereits seit mehr als zweitausend Jahren herum. Das sollte zumindest Anlaß für ein gewisses Quantum an demütiger Selbstbescheidung sein. Selbst eine Fibel für Schulkinder enthält viele Informationen, die beim heutigen Stand der Technik in kein Expertensystem zu bringen sind. Wie wir Kausalzusammenhänge erkennen, wie wir Ereignisse in eine sinnvolle zeitliche Abfolge von Ursache und Wirkung einordnen, wie wir mit unvollständigen oder zweifelhaften Informationen umgehen, das sind Fragen, die bestenfalls als partiell gelöst betrachtet werden dürfen. Selbst die glühendsten Verfechter der Künstlichen Intelligenz sehen heute ein, wie schwierig diese Probleme sind und wie stark sie sich von dem simplen Muster "Situation - Regel - Handlung" unterscheiden, mit dem Expertensysteme arbeiten. Das ist ein Grund, warum KI-Theoretikern bei den optimistischen Artikeln über Künstliche Intelligenz, von denen heute die Zeitungen voll sind, nicht ganz wohl ist. Unsere begrenzte Fähigkeit, dem Computer menschliches Wissen mundgerecht zu servieren, versperrt der Künstlichen Intelligenz die meisten Einsatzfelder. Expertensysteme werden wohl nur als Hilfsmittel von hochspezialisierten Fachleuten dienen können, da es sehr unwahrscheinlich ist, daß die Aufgaben, die diese Maschinen ausführen, für Laien von irgendeinem Nutzen sind. Die ersten praktikablen Kl-Systeme werden vermutlich für Anwendungen geschaffen werden, die sich aus Laiensicht höchst esoterisch ausnehmen. Auf absehbare Zeit werden wir jedenfalls keine automatischen Sekretärinnen, keine Allzweck-Roboter für den Haushalt und keine rechts- oder heilkundigen Computer erleben.

Der Rechner weiß nicht,
daß er nichts weiß

Hochspezialisierte KI-Anwendungen werfen auch in anderer Hinsicht Probleme auf. Laien, denen ein Computer als "intelligent" beschrieben wird, haben meist maßlos übertriebene Erwartungen. Doch es ist schwer, ihnen einen realistischen Eindruck zu vermitteln. Das liegt zum Teil daran, daß unsere Sprache hier versagt. In Ermangelung einer präzisen Definition von "intelligent" nehmen die meisten Leute an, daß sich ein "intelligenter" Computer genauso verhält wie ein Mensch. Das ist selbstverständlich Unsinn. Doch mit diesem Mißverständnis müssen sich alle Softwareingenieure herumschlagen, die natürlichsprachige Computerkommandos entwickeln. Nehmen wir den Fall, daß ein Vertriebsleiter Informationen aus einer Datenbank abruft. Auf die Frage "Wieviel Umsatz machen wir in der Oberpfalz?" wird der Computer wahrscheinlich mit einem umfassenden Bericht reagieren. Doch wenn unser Manager dann weiter fragt "Wie zuverlässig sind diese Zahlen?", ist der Rechner ratlos - dagegen wird jeder Mensch, der die erste Frage beantworten kann, wohl auch etwas Gescheites zu der zweiten sagen können. Natürlich kann ein Computer so programmiert werden, daß er den Nutzer darauf hinweist, daß er auf eine bestimmte Frage keine Antwort weiß. Doch das Kernproblem bleibt: Was dürfen die Anwender von einer Maschine erwarten, die als "intelligent" verkauft wird? Aus Mangel an klaren Antworten werden sie, das zeigt die Erfahrung, in aller Regel überzogene Vorstellungen von der Leistungsfähigkeit des Computers haben. Wenn der Nutzer dann entdeckt, daß er die Maschine überfordert hat, wird er über die scheinbar willkürlichen Leistungsgrenzen seines Rechners verärgert den Kopf schütteln. Da aber der Computer in der Regel nicht erkennt, daß er etwas nicht weiß, wird der Anwender sich in einen langen, verworrenen Mensch- Maschine-Dialog verwickeln, ehe die Mißverständnisse klar zu Tage treten. Das kann ernste Probleme zur Folge haben. Die meisten medizinischen Expertensysteme haben ein ganz eng begrenztes Fachwissen, sind aber ansonsten Vollidioten. Ein Kl-Computer zur Diagnose von Herzkrankheiten wird wahrscheinlich für einen Patienten, der mit einem gebrochenen Bein eingeliefert wird, eine auf den ersten Blick vernünftig erscheinende, m Wahrheit aber völlig verfehlte Therapie empfehlen. Die Gefahr liegt natürlich darin, daß ein Laie hinter der sachverständig klingenden Antwort wirkliche Kompetenz vermutet und nach dem Rat der Maschine handelt. Marvin Minsky, einer der Pioniere der Künstlichen Intelligenz, sagte einmal: "Intelligenz ist eine Eigenschaft, die die Menschen einem Verhalten zuschreiben, das sie bewundern, aber nicht verstehen." Mit anderen Worten: Das einzige, was "intelligente" Fertigkeiten gemein haben, ist unser Unwissen darüber. Nehmen wir zum Beispiel das Rechenverfahren zum Kürzen eines Bruchs. Kleine Kinder glauben, daß dazu eine Menge Intelligenz gehört. Erwachsene wissen es besser, weil sie den Trick kennen. Oder denken wir an das unglaublich breite Spektrum von Fähigkeiten, die wir als "intelligent" bezeichnen. Es ist klar, warum wir glauben, eine medizinische Diagnose verlange Intelligenz - angehende Ärzte müssen lange Jahre auf die Universität gehen und eine Unzahl von Prüfungen bestehen. Aber wir sprechen auch von "intelligenten" Maschinen, wenn sie die menschliche Sprache verstehen - selbst wenn Kinder bereits mit zwei Jahren zu sprechen anfangen - , weil wir nicht wissen, wie wir dem Computer deutsch beibringen sollen. Umgekehrt verliert ein Problem um so stärker an intellektuellem Reiz, je besser wir es verstehen. Dame ist längst kein Thema mehr für die KI-Forschung, weil Maschinen heute den besten Spielern der Welt überlegen sind. Schach hingegen gilt immer noch als geistige Herausforderung: Großmeister schlagen die besten Schachcomputer; und ihre Erbauer sind nicht sicher, wieweit sie die Leistung der Rechner noch steigern können. Minskys Kommentar wirft ein Schlaglicht auf ein Schlüsselproblem jeder KI-Anwendung: Etwas als intelligent zu beschreiben, bedeutet, daß wir es nicht vollständig begreifen, und die Automatisierung einer Aufgabe, die wir nicht verstehen, kann niemals zu befriedigenden Ergebnissen führen.

Fragen eines skeptischen Managers

Meine Bemerkungen mögen abstrakt, philosophisch und ziemlich realitätsfern klingen, doch sie haben ganz praktische Konsequenzen für Führungskräfte, die daran denken, in ihren Unternehmen Künstliche Intelligenz einzusetzen. Sie wollen wissen, ob Expertensysteme zuverlässig funktionieren. Halten sie die Spezifikationen ein? Sind die Antworten, die der Computer gibt, immer richtig oder zumindest vertretbar? Das Problem ist, daß kein Mensch diese Fragen befriedigend beantworten kann. Es gibt keine Theorie, die auch nur ansatzweise sagen könnte, welche Probleme mit einer gegebenen Menge von Informationen gelöst werden können. Es ist einfach nicht möglich zu prüfen, ob alle eingespeisten Fakten und Regeln korrekt sind oder ob Wissenslücken bestehen. Zudem kann der Fachjargon der Kl-Propagandisten Führungskräfte mit Angst und Schrecken erfüllen. Manager werden für ihre Entscheidungen von den Vorgesetzten zur Rechenschaft gezogen, und gravierende Fehler haben persönliche Konsequenzen zur Folge. Werden Führungskräfte die Zukunft ihres Unternehmens und ihr eigenes Schicksal in die Hände einer Maschine legen, die bloß "Vermutungen" ausspuckt? Wird ein Manager einem Expertensystem trauen, das mit so flockigen Worten beschrieben wird, daß ein skeptischer Laie denken muß, es sei unzuverlässig und unberechenbar? Nein. "Das Ding kommt nur über meine Leiche ins Haus", lautet da die unvermeidliche Reaktion. Denn für den Einsatz im Tagesgeschäft kommt es unbedingt auf Zuverlässigkeit und Berechenbarkeit an. Die heute verfügbaren Expertensysteme bieten meist weder das eine noch das andere. Und vor allem: Wird sich ein Manager, der seine Sinne noch beisammen hat, bei einer wichtigen Entscheidung ganz und gar auf den Computer verlassen ? Denken wir nur daran, welchen Aufschrei es geben würde, wenn der erste Patient aufgrund der Fehldiagnose eines medizinischen Expertensystems stürbe. Wer wird dafür verantwortlich gemacht werden? Und wie wird diese Entscheidung getroffen? Wir werden es wohl nie erleben, daß ein Verkehrsflugzeug vollautomatisch gesteuert wird, auch wenn Computer eines Tages nachweislich sicherer sein sollten als Piloten aus Fleisch und Blut. Der Grund: Ein Flugkapitän, der bei schlechtem Wetter die Landebahn verfehlt, begeht einen erklärbaren und das heißt letztlich verzeihlichen Fehler. Wenn jedoch der Computer versagt, dann wird es vermutlich einen plötzlichen Ausfall bei besten Flugbedingungen geben, und die Maschine rast bei hellem Sonnenschein in einen Berg. Diese Art von unmenschlichen Fehlern (in des Wortes doppelter Bedeutung) werden wir höchstwahrscheinlich nicht hinnehmen, was immer die Statistik über die Ausfallsicherheit von Computern sagen wird.