Bernd Neugebauer
Referat zu Alan Turing:
"Kann eine Maschine denken?"

 

Inhalt


"Ich arbeite gerne mit Menschen."
HAL 9000

Einleitung

Mitte März 1997 traf sich die Forscherelite aus dem Bereich Künstliche Intelligenz (KI) in Chicago, um die Inbetriebnahme ihres bekanntesten Produktes am 12. Januar zu begehen. Der neue Computer kann in menschlicher Sprache mit den Anwendern kommunizieren, exzellent Schach spielen und ist so intelligent, daß ihm und nicht den beteiligten Astronauten die Verantwortung für die erste Jupiter-Mission übertragen werden soll. Problem der Party: die anwesenden Forscher waren echt, das Geburtstagskind nur fiktiv. Gefeiert wurde HAL 9000 , der Bordcomputer des Raumschiffs Discovery aus Stanley Kubricks 2001-Odyssee im Weltraum . Und in der näheren Zukunft wird wohl weiterhin HAL den Anlaß zu der derartigen Festivitäten abgeben müssen, denn es sieht nicht so aus, als könne bald ein Computer gebaut werden, der auch nur annähernd seine Fähigkeiten besitzt.

HAL 9000 ist das Produkt des Optimismus, der Ende der 60er Jahre die KI-Forschung beherrschte. Diesen Optimismus über die Möglichkeit denkender Maschinen formulierte zuerst Alan Turing 1950 in Computing Machinery and Intelligence . Der Text ist grundlegend für die KI-Forschung und die dort ausgebreiteten Gedanken beeinflußten die Darstellung vieler Computer und Androiden aus Literatur und Film: Neben HAL 9000 sind Mr.Data ( Star Trek: The Next Generation ), R2-D2 und C3-PO ( Star Wars ), die Androiden aus Blade Runner und Stanislaw Lems Golem bekannte fiktionale Maschinen, deren kybernetische Intelligenz sie zu wichtigen Handlungsträgern der jeweiligen Geschichten macht.

Um die Funktion menschlicher Charaktere in Romanen zu verstehen, bedient sich die Literaturwissenschaft u.a. der Psychoanalyse, bei ,maschinellen Personen` empfiehlt sich eher der Rückgriff auf die Computerwissenschaft. Zumindest, wenn sie in einer Literatur, die für sich beansprucht, den aktuellen Stand naturwissenschaftlicher Erkenntnis zu reflektieren, ihren Auftritt haben. Von den oben angeführten Beispielen gilt dies sicher für die Geschöpfe von Stanislaw Lem und dem 2001-Autorenduo Kubrick/Clarke.

In diesem Referat sollen die Grundzüge von Turings Argumentation dargestellt wobei zugunsten des grundlegenden Verständnisses auf einige Details verzichtet wird und überprüft werden, wieweit Turings Prognosen eingetreten sind. Vor dem so entworfenen Hintergrund wird ein kritischer Blick auf seine Beweis- oder eher: Indizienführung geworfen und die Möglichkeit denkender Maschinen aus der Perspektive der Internet-Ära noch einmal andiskutiert. Die Diskussion bleibt notwendigerweise spekulativ. Nicht nur, weil der Autor dieses Textes kein KI-Experte ist, sondern weil auch fast 50 Jahre nach der Publikation von Turings Arbeit viele Fragen, die sie aufwirft, nicht sicher zu beantworten sind. Es wäre zu einfach einzuwenden, Turings Vermutungen hätten sich nicht bestätigt seine Leistung zeigt sich darin, daß viele Argumente immer noch nicht widerlegt, sondern diesen Argumenten nur verfeinerte Spekulationen entgegnet werden können.

Umformulierung der Frage "Können Maschinen denken?"

In dem 1950 in der Zeitschrift Mind publizierten ,populärphilosophischen` Artikel Computing Machinery and Intelligence versucht Alan Turing die Frage: "Kann eine Maschine denken"1 (so auch der Titel der 1968 erschienenen deutschen Ausgabe) zu beantworten. Die Frage bedingt eine Definition der Begriffe ,Maschine` und ,Denken`; ein Unterfangen das nahezu aussichtslos erscheint, da auch über zwei Jahrtausende nach Platon im philosophischen Diskurs Uneinigkeit über die richtige Bestimmung der Kategorien Vernunft, Denken oder Geist herrscht.

Turing ersetzt das ursprüngliche letztlich ontologische Problem, durch eine nach seiner Ansicht äquivalente phänomenologische Fragestellung, die in der Diskussion über Künstliche Intelligenz später als Turing-Test2 bekannt wurde.3

Die Äquivalenz des Turing-Tests zur Ausgangsfrage stellt dabei das größte Problem des Textes und eine der umstrittensten Fragen des gesamten KI-Diskurses dar.

Der Turing-Test

Der Turing-Test basiert auf dem sogenannten Imitationsspiel, bei dem ein Fragesteller C, das Geschlecht der beiden anderen ihm unsichtbaren Mitspieler A (ein Mann) und B (eine Frau) erraten muß. Während B den Frager bei seiner Aufgabe möglichst unterstützen soll, ist es das Bestreben von A, durch seine Antworten eine falsche Lösung zu provozieren. Um eine Identifizierung anhand von Aussehen und Stimme zu verhindern, sind A und B von C räumlich getrennt und kommunizieren nur schriftlich Turing schlägt einen Fernschreiber vor, heute würde man wohl eher zu vernetzten Computern greifen mit diesem.

Beim Turing-Test wird nun A durch eine Maschine ersetzt und der Fragesteller muß herausfinden, welcher der beiden ,Mitspieler' menschlich ist.4 Die entscheidende Frage lautet nun, ob wechselnde Mitspieler C mit der gleichen Häufigkeit wie beim ursprünglichen Spiel zur falschen Auflösung kommen. Statt des Problems "Kann eine Maschine denken?" will Turing nun die Frage klären, ob es möglich ist, eine Maschine zu konstruieren, die in diesem Spiel einen Menschen so gut imitieren kann, wie beim zugrundeliegenden ,heiteren Geschlechterraten` der Mann die Frau.

Der Turing-Test vermeidet nicht nur die Schwierigkeiten der Begriffsbestimmungen von Denken, etc. sondern besitzt auch "den Vorteil, eine ziemlich scharfe Trennungslinie zwischen den physischen und den intellektuellen menschlichen Fähigkeiten zu ziehen."5 Zudem geht es dem Autor nicht eigentlich um eine Beantwortung der Ausgangsfrage, vielmehr möchte er seine Behauptung stützen, daß sich Maschinen konstruieren lassen, die den beschriebenen Test erfolgreich bestehen können und dafür den Begriff ,Denken` verwenden. Die Äquivalenzproblematik, die Frage also inwieweit dem Text eine Art Etikettenschwindel zugrundeliegt, wird weiter unten diskutiert. Vorerst soll in der Darstellung Turing gefolgt werden.

Durch die veränderte Fragestellung ist Turing zwar der Definition des Denkens enthoben, der Begriff der Maschine bedarf aber weiterer Klärung. Dabei folgt er zum einen dem Common sense, der biologische Wesen nicht unbedingt als Maschinen zulassen würde, auch wenn sie was in den Zeiten des Klon-Schafes "Dolly" weniger utopisch als 1950 erscheint biotechnologisch ins Leben gebracht wären, zum anderen seiner Intention, die Konstruierbarkeit von im Imitationsspiel erfolgreichen Maschinen zu plausibilisieren.

Turing schränkt seine weitere Diskussion auf Digitalrechner ein, woraus letztendlich auch die fortwährende Aktualität des Textes resultiert. Denn alle modernen Computer sind Digitalrechner. Innerhalb seiner Argumentation wäre diese Einschränkung auch nur dann unzulässig, "wenn es sich herausstellt, (was ich nicht glaube), daß Digitalrechner nicht fähig sind, sich bei dem Spiel zu bewähren."6

Digitalrechner und Turing-Maschinen

Wenn in Turings Ausführungen über Digitalrechner und ,universelle Maschinen` von Maschinen die Rede ist, sind damit jedoch keine realen Apparaturen gemeint, sondern mathematische Modelle (eben die der Maschinentheorie), von denen existierende Rechenmaschinen immer nur mehr oder weniger vollkommene Realisierungen darstellen. Turings Maschinen sind daher unabhängig von ihrer konkreten technischen Ausführung (sie müssen also nicht auf elektronischer Basis funktionieren)7 und die beschriebenen Teile können auch nicht ohne weiteres mit Elementen von Hard- oder Software existierender Computer identifiziert werden.8

Ein Digitalrechner9 im Sinne Turings ist eine Maschine mit diskreten Zuständen, die nach festen Regeln Rechenoperationen ausführt und dabei aus den drei Teilen: Speicher, ausführende Einheit und Kontrollwerk besteht. Im Speicher befinden sich zum einen die auszuführende Befehle (das Programm) und dessen (Zwischen-)ergebnisse, zum anderen ein Teil der Regeln nach denen das Programm ausgeführt wird. Deren Ausführung ,überwacht' das Kontrollwerk unsinnige oder unzulässige Befehle führen zum Abbruch des Programms (ein PC-Nutzern meist nur allzu vertrauter Vorgang). Obwohl nicht realisierbar, wird theoretisch meist von Maschinen mit unbegrenzter Speicherkapazität ausgegangen, die, weil sie durch Ausführung eines entsprechenden Programms jeden anderen Digitalrechner imitieren können, universelle Turing-Maschinen genannt werden.

Wichtig für Turings Fragestellung sind folgende Eigenschaften von Digitalrechnern: Auch wenn Eingaben und Ausgaben (wie beim Turing-Test) nicht die Form mathematischer und logischer Anweisungen haben, werden sie zur Ausführung immer in solche übersetzt. Und: Ein Digitalrechner kann nur diskrete Zustände einnehmen (normalerweise die zwei Zustände 0 und 1, entsprechend Schalter aus/an). Aus letzterer Eigenschaft folgt zum einen, daß sich alle Zustände eines Digitalrechner theoretisch vorausberechnen lassen, was in der Praxis allerdings an der ungeheuren Vielzahl möglicher Zustände scheitert. Zum anderen, daß nur endliche Zahlen dargestellt werden können. Dies zwar mit nur durch den Speicherplatz begrenzter Genauigkeit, aber selbst eine Darstellung der Zahl mit 20 Millionen Nachkommastellen ist eben nicht gleich die Zahl .10 Aus diesen begrenzten Möglichkeiten folgt, daß auch bei Rechnern mit einem zufälligen Element theoretisch die Vorhersage aller Zustände möglich ist.11

Da ein Digitalrechner mit unbegrenzter Speicherkapazität was in der Praxis ,ausreichend groß' bedeutet alle anderen Digitalrechner ersetzen kann, kommt Turing schließlich zu der entscheidenden Formulierung seines Problems, die er im weiteren Fortgang zu beantworten versucht:

"Ist es wahr, daß ein ganz bestimmter Digitalrechner C nach geeigneter Modifizierung seines Speichervermögens und seiner Aktionsgeschwindigkeit, sowie nach angemessener Programmierung, in die Lage versetzt werden kann, die Rolle von A im Imitationsspiel zu spielen, wobei B's Rolle von einem Menschen übernommen wird?"12

Dabei ist zu bedenken, daß es nicht um existente Maschinen geht, sondern um die Frage, "ob Rechner denkbar sind, die sich in diesem Sinne bewähren."13

Turings Vermutung und die Manchester-Maschine

Wie erwähnt ist der Text von Turing unter der Prämisse verfaßt, daß die Frage nach der Möglichkeit im Turing-Test erfolgreicher Maschinen und somit gemäß seinen Annahmen auch die Frage nach der Möglichkeit denkender Maschinen positiv beantwortet werden kann. Um Turings Antwort, die er in Form einer kühnen Prognose gibt, knapp 50 Jahre nach dem Erscheinen des Textes kritisch würdigen zu können, müssen die Erfahrungen die der Autor von Computing Machinery and Intelligence mit den frühen Computern gemacht hat, berücksichtigt werden.

Turing erwähnt im Text die Manchester-Machine, an deren Programmierung er mitgearbeitet hat. Dieser Computer hatte eine Speicherkapazität von ca. 22Kbyte (174 380 Bits) und nahm dabei einen ganzen Raum ein. Zum Vergleich: Dieser Text wird auf einem Computer mit einer (Festplatten-)Speicherkapazität von ca. 3 Millionen KByte, also rund dem 140.000fachen der Manchester-Maschine, geschrieben.14
Turings Vermutung lautet nun:

"Meiner Meinung wird es in ca. 50 Jahren möglich sein, Rechenmaschinen mit einer Speicherkapizität von der Größe 109 [das entspricht ca. 120 MB, B.N.] zu programmieren, die das Imitationsspiel so vollendet spielen, daß die Chancen nach einer fünfminütigen Fragezeit die richtige Identifizierung herauszufinden für einen durchschnittlichen Fragesteller nicht höher als sieben zu zehn stehen. Die ursprüngliche Frage ,Können Maschinen denken?` halte ich für zu belanglos, als daß sie ernsthaft diskutiert werden sollte. Nichtsdestoweniger glaube ich, daß am Ende unseres Jahrhunderts der Sprachgebrauch und die allgemeine Ansicht sich so stark gewandelt haben werden, daß man widerspruchslos von denkenden Maschinen reden kann."15

An dieser Äußerung verwundert zunächst, daß die ursprüngliche Frage von der noch einen Absatz zuvor behauptet wurde, man könne sie "nicht gänzlich fallen lassen"16 nun plötzlich als belanglos gilt. Dies ist ein deutlicher Hinweis darauf, daß es Turing im Text zum einen nur um seine Vermutung geht, zum anderen er implizit von der Äquivalenz von Ausgangsfrage und Turing-Test ausgeht, was sich besonders in der Diskussion verschiedener Einwände gegen seine Hypothese zeigt. Ein Teil der Gegenpositionen stellen nur Einsprüche gegen die Ansicht "Maschinen können denken" dar, und verlieren, wenn man sie gegen die in der Vermutung geäußerte Möglichkeit der Konstruktion im Turing-Test erfolgreicher Digitalrechner ins Feld führte, jeglichen Sinn.

Einwände

Da Turing "über keine sehr überzeugenden Argumente" verfügt, um seine "Ansichten zu stützen"17, nimmt die Diskussion möglicher Bedenken gegen seine Position einen Großteil der Darstellung ein. Turing führt insgesamt 9 Einwände an, von denen 3 für eine wissenschaftliche Behandlung der Fragestellung irrelevant sind, und ein weiterer, das "Argument von der außersinnlichen Wahrnehmung" ebenfalls kaum diskutierbar ist. Abgesehen davon, daß letzterer durch ,einfache` Modifikation der Versuchsbedingungen der Fragesteller hält sich in einem ,telepathiedichten` Raum auf leicht entkräftet werden kann.18

Ein schwerwiegendes Argument gegen Turings Position stellt der "mathematische Einwand"19 dar. Aus dem Gödelschen Theorem und Turings eigenen Forschungen läßt sich zeigen, daß es für eine Maschine notwendigerweise Fragen gibt, "die sie entweder falsch oder überhaupt nicht beantwortet, wieviel Zeit man ihr auch immer läßt."20 In der Diskussion dieses Einwandes zeigt sich bereits, daß der Turing-Test und die Ausgangsfrage keineswegs äquivalent sein können. Während gelegentliche Fehler oder vollständige Ratlosigkeit vor gestellten Problemen keine Falsifikation des ,Denkens' liefern sonst müßte auch Menschen diese Fähigkeit abgesprochen werden implizieren sie die Möglichkeit einer prinzipiellen Grenze zur Erfüllung von Turings Vermutung. Der Autor weist zwar darauf hin, daß die konstruktionsbedingt nur falsch oder gar nicht zu lösenden Fragen von Maschine zu Maschine unterschiedlich sein können, dennoch kann er nicht ausschließen, daß es Fragen gibt, an der jede Maschine notwendig scheitert. Die Existenz derartiger ,Killer-Fragen` machte den Turing-Test wertlos.21

Höchst relevant für die Ausgangsfrage ist das "Bewußtseinsargument"22 , demzufolge Denken notwendig mit Bewußtsein verbunden ist. Folgt man dieser Ansicht, so ergeben sich wieder die anfänglichen Definitionsprobleme, die Turing durch Einführung des Imitationsspiels vermeiden wollte. Letztlich gibt es keinen einfachen Test für das Vorhandensein eines Bewußtseins. Sicherheit kann nur der "solipsistische Standpunkt" bieten, dem zufolge der einzige Weg das ,Denken' einer Maschine festzustellen darin besteht, "selbst die Maschine zu sein und dann zu fühlen, daß man denkt."23 Eine Argumentation, die im Kern auf René Descartes zurückgeht.24

Turing begegnet dem Bewußtseinsargument auf verschiedene Weise: Erstens mit dem Argument, daß der solipsitische Standpunkt in letzter Konsequenz intersubjektiven Diskurs als illusionär erscheinen läßt und daher als unrealistisch verworfen werden muß. Zweitens erwägt er die Möglichkeit, daß eine in seinem Sprachgebrauch ,denkende` Maschine, indem sie ihre Antworten auf Nachfragen begründet, einen Nachweises des ,Verstehens` als Indiz für Bewußtsein liefern kann. Drittens, indem er eine Klärung des Bewußtseins für die in dem Text diskutierten Fragen für unwichtig erklärt. Dieses Verfahren scheint jedoch zumindest in Bezug auf die Ausgangsfrage ein wenig leichtfertig, da wie erwähnt das Bewußtseinsargument die Probleme der Gleichwertigkeit von Turing-Test und der Frage "Kann eine Maschine denken" wieder aufwirft.

Wesentlich leichter als das Bewußtseinsargument kann Turing den "Einwand der Lady Lovelace"25 entkräften. Besagte Dame soll über die (mechanische) analytische Maschine von Charles Babbage geäußert haben: "die Analytische Maschine erhebt keinen Anspruch irgend etwas zu erzeugen . Sie kann all das tun, wofür wir die entsprechenden Durchführungsbefehle geben können ."26 Eine Aussage, die nach Turing auch als eine Maschine könne "nie etwas wirklich Neues ausführen", bzw. nie "überraschen"27 formuliert werden kann. Die ursprüngliche Formulierung kann leicht durch das Konzept der "lernenden Maschinen", das Turing später erläutert, widerlegt werden (siehe unten). Die beiden anderen Varianten des Arguments kontert er mit den Hinweisen, daß schöpferische Arbeit vielleicht ,nur` aus der Kombination von bereits Bekanntem besteht28 womit allerdings noch nichts über die Fähigkeit von Maschinen genau diese Kombination zu leisten gesagt ist und dem Verweis darauf, daß selbst die Manchester-Maschine ihn immer wieder überrasche. Letzteres ist Resultat der selbst bei kleinen Programmen hohen Komplexität der Vorgänge, was auf dem schon oben erwähnten Unterschied zwischen prinzipieller Vorausberechenbarkeit und tatsächlichen Vorhersagbarkeit der von Digitalrechnern produzierten Ergebnisse beruht.

Das "Argument von der Stetigkeit innerhalb des Nervensystems"29 meint Turing ähnlich leicht wie den Einwand von Lady Lovelace entkräften zu können. Sicher funktioniert das menschliche Nervensystems nicht wie ein Digitalrechner mit diskreten Zuständen, sondern stetig (also gewissermaßen mit fließenden Übergängen zwischen verschiedenen Zuständen). Ein Digitalrechner kann aber, wenn auch mit einem anderem Verfahren, ebenso zu den richtigen Lösungen für gewisse Probleme kommen, wie ein analoger Rechner. Das Argument Turings läßt sich mit dem Unterschied von Schallplatte und CompactDisc illustrieren: Obwohl auf der CD die Töne als diskrete Zahlenwerte gespeichert sind, werden die gleichen Töne wiedergegeben wie von der Schallplatte. (HiFi-Freaks, die meinen, sie könnten sogar das im Lautsprecherkabel verwendete Metall ,hören`, werden dem allerdings widersprechen) Turings ,Widerlegung` scheint aber zu voreilig: Ob wirklich alle Aspekte des Denkprozesses durch diskrete oder in neuerer Terminologie: digitale Verfahren nachgebildet werden können, ist keineswegs sicher. Dieser Punkt wird später noch ausführlicher diskutiert.

"Es ist unmöglich, Regeln aufzustellen, die festlegen, was ein Mensch in jeder denkbaren Situation tun sollte."30 So lautet die Grundlage des achten Einwandes. Daraus kann abgeleitet werden, daß Menschen keine Maschinen sein können, weil man letzteren unterstellt, daß sie nur nach derartigen Regeln funktionieren. Womit von Turing nicht eigens erwähnt impliziert wird, ,denkende` Maschinen sein unmöglich, weil der nicht regelgeleitete Teil menschlichen Denkens von ihnen nicht nachgeahmt werden kann. Turing zeigt aber, daß hier ein Fehlschluß vorliegt. Regeln sind nicht Verhaltensgesetzmäßkeiten, die gleichermaßen naturgesetzhaft das Handeln steuern. Insofern nicht bestimmt werden kann, ob Menschen nicht doch vollständig von derartigen Gesetzen determiniert werden, wird der Rückschluß auf das ,nicht-maschinenhafte' humanoider Lebensformen unmöglich. Zudem zeigt das bereits mehrfach vom Autor benutzte Komplexitätsargument, daß selbst einfache Programme also vollständig von festen Gesetzmäßigkeiten bestimmte Maschinen zu unvorhersagbaren Ergebnissen führen. Schon deshalb kann nicht ausgeschlossen werden, daß auch das (nicht prognostizierbare) menschliche Verhalten von solchen Gesetzen determiniert wird. Solange dieser Aspekt aber offen bleibt, kann aus ihm auch kein Argument für das notwendige Scheitern denkender Maschinen gewonnen werden. Die an diesem Einwand dargestellten Aspekte finden sich auch in Turings Diskussion ,lernender Maschinen' wieder.

Turings stärkstes Argument: Lernende Maschinen

Aus dem letztgenannten Einwand kann ein Argument abgeleitet werden, das Turings Prognose hinfällig macht: Selbst wenn das Denken vollständig durch Regeln bestimmt wäre, könnte sich die Programmierung dieser Regeln und des notwendigen Wissens als zu zeitintensiv und komplex erweisen, um praktisch durchführbar zu sein.31 Für dieses Problem bietet Turing eine Lösung an, die gleichermaßen den Einwand der Lady Lovelace erledigt und die als stärkstes Argument für die Möglichkeit im Imitationsspiel erfolgreicher Maschinen gewertet werden kann.

Damit Maschinen etwas Neues erzeugen können, müssen sie in die Lage versetzt werden, ihre Programmierung selbständig zu modifizieren sie müssen gewissermaßen ,lernfähig` sein. Dies führt scheinbar zu dem Paradoxon: "Wie können sich die Operationsregeln der Maschine ändern?"32 Das Paradox läßt sich jedoch leicht auflösen: Nicht die grundlegenden Verhaltensgesetzmäßigkeiten sollen verändert werden, sondern nur "Regeln, die ziemlich anspruchslos und von vorübergehender Gültigkeit sind."33, 34 Lernende Maschinen sind also möglich35 und bereits Turing hat mit derartigen Programmen experimentiert.36, 37

Da er mit seinem Text auch mögliche Richtungen künftiger Forschung aufzeigen will, schlägt der Autor eine bestimmte Vorgehensweise für lernende Maschinen vor. Laut Turing müssen zur Nachahmung des Verstandes eines Erwachsenen folgende drei Komponenten von dem Programm imitiert werden:

"a) der Anfangszustand Verstandes, etwa bei der Geburt,

b) die Erziehung, die ihm zuteil wurde,

c) andere Erfahrungen, die er gemacht hat und die nicht als Erziehung beschrieben werden können."38

Das Programmierungsproblem wird demzufolge in die beiden Unterprobleme "Kind-Programm" und "Erziehungsprozeß"39 unterteilt. Zur Erzeugung des Kind-Programmes schlägt Turing vor, einen ursprünglichen Entwurf zufällig zu ,mutieren` und auf diese Weise weiter zu entwickeln: Wobei der Experimentator, der ,digitalen Evolution`40 schon eine erfolgversprechende Richtung verleihen kann, indem besonders lernfähige Kind-Programme unter verschiedenen "Mutationen" ausgewählt.41 Der folgende Erziehungsprozeß sollte zum einen mittels von Bestrafungen und Belohnungen die Wahrscheinlichkeit richtiger Ergebnisse erhöhen, zum anderen Regeln des Lernens vermitteln, die diesen Prozeß abkürzen. Zum Beispiel: "Alles, was der Lehrer sagt ist wahr."42 Von besonderer Bedeutung für den späteren ,Erfolg` der Maschine sind dabei alle Regeln und Befehle, die Auswahl von Art und Reihenfolge der Aktionen betreffen. In deren effizienter Anwendung zeigt sich erst die ,wirkliche` Intelligenz.

47 Jahre später
ELIZA oder "Alle Menschen sind umsonst geboren."

Zur Jahrtausendwende sollten nach Alan Turings Vermutung Digitalrechner in der Lage sein, den Turing-Test erfolgreich zu meistern und im allgemeinen Sprachgebrauch widerspruchslos von denkenden Maschinen die Rede sein. 47 Jahre nach Erscheinen seines Artikels müßte somit eine vorläufige Überprüfung seiner Prognose erlaubt sein. Was die Leistungen der Hardware angeht, so wurde Turings Voraussagen noch weit übertroffen: Der PowerMac, an dem dieser Text entsteht, hat nahezu die 25-fache Speicherkapazität, die Turing für nötig und nach fünf Jahrzehnten weiterer Entwicklung auch für verfügbar hielt. Die Arbeitsgeschwindigkeit, die Turing für nicht so entscheidend bei der Frage künstlicher Intelligenz erachtete,43 ist mindestens um den Faktor 104 höher als die der Manchester-Maschine. Nur: sollte dieser Computer zu Etwas wie Denken fähig sein, so hat er das bisher erfolgreich verborgen.

Das ist die einfache Sichtweise auf die Vermutung Turings und deren Kern das Scheitern der Erwartungen einer KI, die diesen Namen verdient ist sicher unbestreitbar.44 Differenzierte Betrachtung erlaubt jedoch kein so simples Urteil. KI-Forschung ist immer eine recht esoterische Disziplin der Softwareentwicklung geblieben, mit Programmen zur Erleichterung alltäglicher Arbeitsabläufe läßt sich ungleich mehr Geld verdienen, als mit der Erschaffung eines mehr oder minder amüsanten digitalen Gesprächspartners.45

Trotzdem kann die Künstliche Intelligenz einige Erfolge verbuchen: Da wäre als erstes ELIZA zu nennen, ein Mitte der sechziger Jahre entwickeltes Computerprogramm, das einen Psychotherapeuten simuliert, indem es die letzte Aussage des ,Patienten' in eine Frage umformuliert und ihn so zum Weiterreden bewegt. Das Programm ist relativ einfach, die Wirkungen sind jedoch verblüffend: "Er [ELIZAs Schöpfer Joseph Weizenbaum, B.N.] war entsetzt, als viele sein Programm mit Begeisterung aufnahmen und den Tag voraussagten, da ein Komputer in der Lage sein würde, Hunderte von Patienten gleichzeitig ,psychotherapeutisch` zu behandeln."46 Offensichtlich kann bei der Wahl geeigneter Umstände leicht der Eindruck, Computer ,dächten` entstehen. Und nicht alleine ELIZA erfüllt (reduzierte) phänomenologische Kriterien für Intelligente Maschinen. Inzwischen wird jährlich der Loebner Preis -Wettbewerb47 ausgetragen, bei dem verschiedene Programme ihre Fähigkeiten im Turing-Test unter Beweis stellen. Alleine daß dieser Wettbewerb nicht völlig sinnlos ist, zeigt, daß schon einige Fortschritte bei der Realisierung von Turings Prognose erzielt wurden.

KI findet in sogenannten Expertensystemen Anwendung. Das sind Programme, die versuchen ähnlich der Schlußweisen menschlicher Experten in bestimmten, engumrissenen Themenkomplexen Analysen und Diagnosen durchzuführen. So gibt es z.B. Experimente mit medizinischer Software, die aus einigen Symptomen Krankheitsbefunde erstellen kann.

Aber die KI-Forschung hat mit Hürden zu kämpfen, die Turing gar nicht in den Sinn kamen: Mustererkennung, unabdingbar für viele Aspekte des Denkens, hat sich als ungemein schwierig erwiesen. Zwar haben Sprach- und Handschrifterkennung, d.h. die Übersetzung vom gesprochenen oder geschriebenen Text in einzelne Zeichen, erste Verbreitung gefunden,48 an der visuellen Mustererkennung einer für den Menschen einfachsten Angelegenheiten überhaupt finden die Fähigkeiten der Informatiker ihre Grenze. Nur unter idealisiertesten Bedingungen kann ein so einfaches Objekt wie ein Würfel richtig erkannt werden. Vielleicht ist dem Problem mit den bekannten mathematischen Methoden überhaupt nicht beizukommen.

Um im Turing-Test nicht allzu schnell erkannt zu werden, muß die beteiligte Maschine irgendeinen Ersatz für die Fähigkeit des Verstehens eines Textes haben. Am Verständnis mangelt es aber der modernsten Software noch gründlich. Übersetzungsprogramme, die mit ausgeklügelten statistischen Methoden wenigstens die richtigen Alternativen aus einer Reihe möglicher Phrasen auszuwählen suchen, produzieren oft groben Unfug: Aus dem Artikel eins der UN-Menschenrechtskonvention "All human beings are born free" kann dann schon mal "Alle Menschen sind umsonst geboren"49 werden.

Kritik: Denken oder Simulation desselben?

Turings Prognose von den ,denkenden Maschinen`, die am Ende dieses Jahrhunderts erfolgreich Menschen im Imitationsspiel zu täuschen vermögen, scheint sich nicht zu erfüllen. Damit wird sein für die KI-Forschung richtunggebender Text nicht wertlos, aber die Schwierigkeiten des Textes erscheinen in neuen Licht. Der Artikel hat seine Widersprüche, die als Indiz dienen können, daß der Weg zur intelligenten Maschine steiniger werden sollte, als Turing es sich vorstellte. Zumal in den vergangenen fünf Jahrzehnten sich noch Argumente fanden, warum KI ein größeres Problem als von dem englischen Mathematiker angenommen darstellt.

Das Grundproblem in der Argumentation ist sicher die unterstellte Äquivalenz der Frage "Können Maschinen denken" mit dem phänemenologischen Test. Wie oben erläutert scheint Turing sich selber in diesem Punkt nicht schlüssig zu sein, denn obwohl er die Frage eigentlich für belanglos hält, geht er sie doch immer wieder auf sie ein. Der scheinbar elegante Weg, die Definitionsprobleme von Denken und Geist durch die Einführung eines Testkriteriums zu vermeiden, ist eine Scheinlösung. Denn um die Äquivalenz behaupten zu können, müßte Turing zuvor genau die Begriffe bestimmen, deren Klärung er gerade umgehen will. Durch explizite Setzung des Imitationsspiel als Kriterium für eine denkende Maschine hätte der Text an argumentativer Stringenz sicher gewonnen, auch wenn der Reiz der ursprünglichen Frage ein wenig verloren gegangen wäre.

Erfolgreiche Teilnahme am Imitationsspiel und Denken sind sicher nicht gleichwertig: Der Turing-Test taugt lediglich als Kriterium der erfolgreichen Simulation von Denken. Während bei dem am Imitationsspiel teilnehmenden Menschen sinnvollerweise davon ausgegangen werden sollte, daß seine Gesprächsbeiträge Produkt seiner Intelligenz sind, bleibt genau dies bei dem beteiligten Computer zweifelhaft. Auch dessen Aussagen kommen nicht ohne die Beteiligung von Intelligenz zustande, ob diese aber auch als Eigenschaft des Programms zu finden oder nur in den Hirnwindungen der Programmierer lokalisiert ist, kann nicht so ohne weiteres deduziert werden. Simulation ist die Erzeugung von Zeichen für etwas, ohne daß das Bezeichnete an der Produktion seines Zeichens beteiligt ist; es muß nicht einmal existieren können.

Der bekannteste Einwand gegen die Interpretation des Turing-Tests als Zeichen maschinellen Geistes stammt von John Searle: Das chinesische Zimmer.50 Im Kern besagt es, daß wenn Searle die Algorithmen eines Turing-Tests der in Chinesisch geführt wird, ausführte, er ebenso erfolgreich (wenn auch naturgemäß langsamer) wie eine gleichermaßen programmierte Maschine in der Imitation des Menschen wäre. Da er der chinesischen Sprache nicht mächtig ist, er somit vom Gesprächsinhalt mit Sicherheit nichts verstünde, ist bewiesen, daß die Simulation der denkenden Maschine kein Denken benötigt. Dieses würde ein Verständnis für die Inhalte ja voraussetzen.

So bestechend Searles Argument ist, kann es wiederum auch kritisiert werden. Möglicherweise stellt die erfolgreiche Simulation des Denkens ja wiederum eine eigenständige Form des Denkens dar der Definitionsproblematik des Denkens ist im KI-Diskurs nicht leicht zu entkommen.

Neben dem Äquivalenzproblem als gravierendsten Mangel von Turings Text, ergeben sich aber noch weitere Einwände gegen die Möglichkeit denkender Maschinen. Ein Teil davon resultiert aus Turings impliziter Prämisse, auf Digitalrechnern könnten alle für das Denken entscheidende Vorgänge simuliert werden. Das ist aber keineswegs ausgemacht. Seine Versuch, die Trugschlüsse des mathematischen Einwands und des Einwandes von der Stetigkeit des Nervensystems aufzuzeigen, zielen zwar darauf ab, diese Prämisse zu plausibilisieren, sind aber zu pauschal, um definitive Aussagen zu erlauben.

Es ist fraglich, ob sich alle für das menschliche Denken relevanten Vorgänge in Algorithmen für Digitalrechner übersetzen lassen. Mögliche Hürden für dieses Vorhaben sind zahlreich: Vielleicht spielen Zahlen, die nicht zu der Klasse der berechenbaren Zahlen gehören, beim Phänomen Geist die entscheidende Rolle. Dann wäre ein Scheitern denkender Digitalrechner vorprogrammiert. Ebenso, wenn sich entscheidende Prozesse überhaupt nicht mathematisch beschreiben ließen oder eine Beschreibung niemals gefunden würde. Die Schwierigkeiten beim Erkennen von Mustern deuten darauf hin, daß die biologische Evolution Mechanismen erfunden hat, denen die Informatiker bislang noch ratlos gegenüberstehen. Im übrigen ist überhaupt nicht ausgemacht, daß die von Menschen wahrgenommene Welt sich vollständig in Zahlen fassen läßt ein großer Anteil des uns bekannten Universums könnte den Maschinen verborgen bleiben. Und dabei könnte es sich um genau den Teil handeln, in dem die Prozesse und das Wissen liegen, die aus Rechnen erst Denken machen. Sollte ein derartiger ewig weißer Fleck auf der Landkarte der Fähigkeiten von Digitalrechnern bestehen, würde der Turing-Test zur unüberwindbaren Hürde der Rechenmaschinen.

Turings Optimismus basiert auf der Anfang der 50er Jahre nicht seltenen Annahme, das menschliche Hirn sei eine biologische Rechenmaschine. Die Fortschritte der Hirnforschung konnten diese Hypothese nicht untermauern. Vielmehr werden die Rätsel um das Funktionieren des menschlichen Denkorgans mit jeder neuen Entdeckung größer. Und daher gilt:

"The problems that haunt AI today are the tasks we can't program computers to do - largely because we don't know how we do them ourselves. Our lack of understanding about the nature of human consciousness is the reason why there are so few AI researchers working on building it. What does it mean to think? Nobody knows."51

Z.B. ist die Funktionsweise des Gedächtnis komplizierter als angenommen. Offensichtlich spielen auch chemische Prozesse eine entscheidende Rolle, und es kann nicht einfach als ein elektrischer Speicher aufgebaut aus einem Netz von Synapsen betrachtet werden.52

Jahrelang völlig unbeachtet war sie Bedeutung der Emotionen für das Denken. Rationalität und Emotionen wurden als zwei völlig getrennte Sphären des menschlichen Daseins begriffen. Es spricht jedoch viel dafür, daß dem nicht so ist. Der amerikanische Philosoph Ronald de Souza hat in "The Rationality of Emotions" sehr überzeugend dargelegt, daß das Bewußtsein wahrscheinlich einer ,emotionalen Rahmung` unterliegt. Ist dies der Fall, kann die Frage nach der künstlichen Intelligenz nur geklärt werden, wenn zuvor das Problem simulierter Emotionen gelöst werden kann.53 Zwar gibt es auch in dieser Richtung bereits Forschungen,54 aber die Frage, ob maschinelle Gefühle mit menschlichen Gefühlen vergleichbar sind, ist noch wesentlich diffiziler als die Frage nach dem maschinellen Denken. Während der Turing-Test als phänomenologisches Kriterium noch dadurch zu rechtfertigen ist, daß wir sinnvollerweise annehmen sollten, unsere Mitmenschen dächten, kann ein derartiges Kriterium für Emotionen nicht gefunden werden. Oft genug ist es ratsam, zu unterstellen, eine Differenz zwischen den von Mitmenschen gezeigten Emotionen und ihren empfundenen zu unterstellen.

Ein wichtiger Einwand gegen Turing bleibt auch das Bewußtseinsargument. Ob ein erfolgreich bestandener Turing-Test gleichbedeutend mit der erfolgreichen Erschaffung maschinellen Bewußtseins ist, sowie die Frage ob Denken notwendig mit Bewußtsein verbunden ist, kann allgemeingültig nicht beantwortet werden. Es ist letztlich immer eine Frage des philosophischen Standpunktes. Die in dem Schlagertitel "Wenn Du denkst, daß du denkst, dann denkst du nur, du denkst" formulierte Erkenntnis markiert die unhintergehbare Grenze des Bewußtseinsdiskurses.

Jedoch die hier skizzierten Einwände gegen Turings Argumentation und die Möglichkeiten einer Künstlichen Intelligenz, die der menschlichen vergleichbar oder überlegen wäre, ändern nichts an den grundlegenden Provokationen des Textes. Die Annahme, jemand dächte, kann immer nur phänemenologisch formuliert werden und wenn eine Maschine dieselben Zeichen des Denkens wie Exemplare der Gattung Homo sapiens zeigen, wird es schwer, dem Rechner das Denken abzusprechen. Ob ein derartiger Computer gebaut werden kann, und ob es sich dabei um einen Digitalrechner handelt, kann nur die Zukunft zeigen. Obgleich Turings Prognose zu optimistisch war, zeigt sich 47 Jahre nach Erscheinen des Textes der Glaube an die Einzigartigkeit menschlicher Intelligenz von den Produkten dieser Intelligenz schon angekratzt. Während diese Zeile geschrieben wird, lautet der aktuelle Stand in der Revanche Deep Blue gegen Kasparov 2:2.

Sollte die KI letztlich Erfolg haben, bleibt der vom Thron gestoßenen, sich als Krone der Schöpfung verstehenden Gattung vielleicht folgender Trost: Die Konstruktion einer denkenden Maschine bedeutete gleichzeitig einen Quantensprung in der Erkenntnis über das Wesen des menschlichen Denkens, mithin einen Quantensprung im Selbstbewußtsein der Menschheit es wäre gleichsam der neuerliche Kontakt mit dem schwarzen Monolithen aus 2001. Ob eine Maschine sich ebenfalls auf dieser höheren Bewußtseinstufe befindet, könnte dann mit einem neuen Turing-Test überprüft werden: Einer Maschine müßte nur dann diese neue Stufe von Denken zugesprochen werden, wenn sie in der Lage ist, eine Maschine zu konstruieren, die ebenfalls diese neue Stufe des Denkens erreicht. Zur Überprüfung müßte allerdings auch diese Maschine, eine Maschine konstruieren, die diese Stufe des Denkens erreicht hat. So würde eine unendliche Kette von Maschinenkonstruktionen initiiert und die einzige Antwort, die Menschen in diesem Test von den Maschinen erhielten, kennen wir schon von der Telefonauskunft: Bitte Warten!


Anhang

Nachweise uns Anmerkungen

1
Turing, Alan M.: Kann eine Maschine denken? In: Kursbuch 8, 1968, S.106-138.

2
Vgl.: Penrose, Roger: Computerdenken. Des Kaisers neue Kleider oder Die Debatte um Künstliche Intelligenz, Bewußtsein und die Gesetze der Physik. Heidelberg 1991, S. 5ff.

3
Wobei Turing allerdings sein Vorgehen nicht mit der im philosophischen Diskurs herrschenden Uneinigkeit sondern der Unzulänglichkeit des Common sense in der Bestimmung dieser Begriffe begründet. Im übrigen wird in diesem Referat gemäß heutigen Sprachgebrauchs das von Turing vorgeschlagene Verfahren abkürzend als Turing-Test bezeichnet.

zurück

4
Turing erläutert die neue Fragestellung nicht direkt, sondern nur unter Bezugnahme auf das ursprüngliche Spiel. Dennoch ist klar, daß die Maschine nicht die Frau aus dem ursprünglichen Spiel imitieren soll, sondern einen Maschine einen Menschen: "Ein Mensch, der versuchte, so zu tun, als wäre er eine Maschine, würde zweifellos einen armseligen Eindruck machen." (Turing, a.a.O., S. 108) Im übrigen wird der Text auch so diskutiert (vgl. z.B.: Penrose, a.a.O., S. 6).

5
Turing, a.a.O., S. 107.

6
Turing, a.a.O., S. 109.

zurück

7
vgl. Turing, a.a.O., S. 113.

8
So werden die Funktionen des "Kontrollwerkes" aus Turings Modell in einem Personal Computer von so unterschiedlichen Elementen wie Betriebssystem, BIOS und CPU ausgeführt. Auch läßt sich ein gängiger PC als aus vielen "Teilmaschinen" zusammengesetzt denken.

9
vgl. Turing, a.a.O., S. 110-116.

10
Daß viele Zahlen von einer Turing-Maschine nicht darstellbar sind, hat u.U. weitreichende Konsequenzen für die Möglichkeiten Künstlicher Intelligenz. Vgl. Penrose a.a.O., S. 48. Dort findet sich auch eine genauere Darstellung des Problems berechenbarer Zahlen, denn das hier gewählte Beispiel ist genaugenommen nur ein Problem von Turing-Maschinen mit endlichem Speicherplatz und endlicher Rechengeschwindigkeit.

11
Turing lehnt es ab, bei Rechnern mit einem zufälligen Element von "freiem Willen" zu reden, was angesichts, daß wohl niemand eine durch Würfeln getroffene Entscheidung als Akt der Autonomie deuten würde, sicher einleuchtend ist. (Vgl. Turing, a.a.O., S. 112.)

12
Turing, a.a.O., S. 116.

13
Turing, a.a.O., S. 110.

zurück

14
Da Turing konkrete Zahlenangaben in zentralen Aussagen des Textes macht, kommt man bei einer Darstellung um numerische Überlegungen nicht herum. Um die ebenso großen wie abstrakten Werte, mit denen Turing hantiert, ein wenig plastischer zu machen, werden sie auf heute gängige Einheiten umgerechnet und mit heute erhältlichen Personal Computern verglichen.

15
Turing, a.aO., S. 117.

16
ebd.

zurück

17
Turing, a.a.O., S. 130.

18
Turings ausführliche Widerlegung offensichtlich irrelevanter Ansichten wie dem "theologischen Einwand" (S. 117f.) oder der unter "verschiedene Unzulänglichkeiten" rubrizierten Unfähigkeit, Erdbeereis mit Sahne genießen zu können (S. 122f.), wecken den Verdacht, daß diese Argumente aufgebaut werden, um durch ihre kunstvolle Demontage einen Mangel an aussagekräftigen Indizien und Beweisen für die eigene Position zu verschleiern. Immerhin: Als amüsanter Nachweis von Turings denkerischer Originalität taugen sie allemal.

19
Turing, a.a.O., S. 119.

20
ebd.

21
Der Voigt-Kampff-Test zur Unterscheidung von Androiden und Humanoiden in Phillip K. D icks Do Androids Dream of Electric Sheep (Vorlage für den Film Blade Runner ) basiert auf dieser Idee.

22
Turing, a.a.O., S. 120ff.

23
Turing, a.a.O., S. 121. Herv.i.O.

24
Laut Descartes die einzige Gewißheit, die es überhaupt geben kann: "Und das Denken? Hier werde ich fündig; das Denken ist es; es allein kann von mir nicht abgetrennt werden; Ich bin, Ich existiere, das ist gewiß." Descartes, René: Meditationes de Prima Philosophia. Meditationen über die Erste Philosophie. Stuttgart 1986, S. 83.

25
Turing, a.a.O., S 125.

26
ebd. Herv.i.O.

27
Turing, a.a.O., S. 126.

28
Vgl. ebd.

29
Turing, a.a.O., S. 127.

30
Turing, a.a.O., S. 128.

zurück

31
Vgl. Turing, a.a.O., S. 132.

32
Turing, a.a.O., S. 136.

33
ebd.

34
Man kann sich dies ungefähr so verdeutlichen: Obwohl der Lidreflex unzweifelhaft eine biologische Verhaltensgesetzmäßigkeit von Menschen ist und überdies die Regel, man solle sich nicht seinen Finger ins Auge piksen, gilt, können beide zum Einsetzen von Kontaktlinsen überlistet, bzw. außer Kraft gesetzt werden.

35
Inzwischen sind lernfähige Programme auch für den Heimgebrauch erhältlich. In dem Spiel Creatures (für MacOS und Windows) hat der Spieler die Aufgabe, eine Population von Computerwesen namens Norns aufzuziehen, wobei er mittels der pädagogisch nicht gerade modernen Bestrafungs- und Belohnungsmethode seine Schutzbefohlenen ,erziehen` und ihren Sprachschatz erweitern kann.

36
Vgl. Turing, a.a.O., S. 134.

37
Vgl. auch: Garfinkel, Simon: "2001 Double Take" In: Wired Magazine , Issue 5.01 January 1997. Hier zitiert nach:
http://www.wired.com/wired/5.01/features/ffhal.html, daher ohne Seitenangaben.

38
Turing, a.a.O., S. 132.

39
Turing, a.a.O., S. 133.

40
Auch in dem Punkt ,Mutationen' zeigt sich Turings große Voraussicht: Programmierung mittels den Evolutionsprozeß nachahmender Methoden wird inzwischen angewendet.

41
Vgl. ebd.

42
Turing, a.a.O., S. 135.

zurück

43
Vgl. Turing, a.a.O.;, S. 132.

44
Vgl. "Ironisches Superhirn." In: Der Spiegel, Heft 52/1996, S. 183f.

45
Was, wenn man dem Protagonisten von Microserfs folgt, kein günstiges Licht auf die geistige Entwicklung unserer Gattung wirft: "We design business spreadsheets, paint programs, and word processing equipment. What is the search for the next great compelling application but a search for the human identity?" Coupland, Douglas: Microserfs . London 1996, S. 15.

46
Taylor, Gordon Rattray: Die Geburt des Geistes. Frankfurt am Main 1985, S. 392f. Vgl. auch Penrose, a.a.O., S. 11f.

47
Vgl.: "Tiefsinn mit Tippfehlern." In: Der Spiegel 19/1997, S. 200f.

48
Wie die Erfolge der Spracherkennung aussehen, zeigt folgendes Beispiel: "Building a system that can recognize just six words has taken AT&AMPT more than 40 years of research." Garfinkel, a.a.O.

49
"Der Wodka ist verrottet. Fähigkeiten und Schwächen gängiger Überseztungsprogramme." In: Der Spiegel, Heft 5/1997, S. 165.

zurück

50
Vgl. Penrose, a.aO., S. 16ff.

51
Garfinkel, a.a.O.

52
Vgl. Taylor., a.a.O., S. 362ff.

53
Vgl. auch: "Duell der Superhirne." In: Der Spiegel, Heft 18/1997, S. 212-218.

54
Vgl. "Was mache ich hier?" In: Der Spiegel, Heft 9/1996, S. 118-119.

zurück


Quellen

 

Ressourcen im Internet:

Zurück zum Anfang | Zur Turing-Startseite | Bernds Homepage | Email


©1997 Bernd Neugebauer | http://www.stud.uni-hannover.de/~beneu