Site hosted by Angelfire.com: Build your free website today!

Turing-Test

Home Nach oben

Kann ein Computer Geist besitzen?

 Aus: Penrose, Computerdenken, Heidelberg, 1991 (engl. 1989)

 In den letzten Jahrzehnten hat die Computertechnik enorme Fortschritte gemacht. Überdies wird man Rechengeschwindigkeit, Speicherkapazität und logisches Design in den kommenden Jahrzehnten zweifellos noch viel weiter verbessern. Die Computer von heute werden dann vielleicht ebenso träge und primitiv wirken wie jetzt die mechanischen Rechenmaschinen früherer Jahre. Das Entwicklungstempo ist geradezu erschreckend. Schon können Computer zahlreiche Aufgaben, die früher ausschließlich dem menschlichen Denken vorbehalten waren, so schnell und so genau ausführen, wie kein Mensch es im entferntesten vermag. Wir haben uns seit langem an Maschinen gewöhnt, die uns in physischer Hinsicht weit übertreffen. Das macht uns nichts. Im Gegenteil, wir sind höchst einverstanden, Geräte zu haben, die uns ohne weiteres mit hoher Geschwindigkeit - gut fünfmal schneller als ein menschlicher Rekordläufer - auf dem Boden transportieren, oder Maschinen, die viel geschwinder Löcher graben oder unerwünschte Bauten niederreißen können als ein Dutzend Arbeiter. Noch mehr begeistern uns Maschinen, mit deren Hilfe wir zu physischen Leistungen imstande sind, die uns zuvor niemals möglich waren: Sie können uns in den Himmel heben und binnen Stunden auf der anderen Seite eines Ozeans absetzen. Diese Errungenschaften tun unserem Stolz keinen Abbruch. Aber die Gabe des Denkens ist ein sehr menschliches Privileg. Schließlich war es diese Denkfähigkeit, durch deren materielle Anwendung wir über unsere körperliche Beschränktheit hinausgelangten und anscheinend unseren Mitgeschöpfen an Leistung überlegen sind. Wenn uns eines Tages Maschinen in dieser einen wichtigen Fähigkeit, in der wir uns für unschlagbar halten, übertreffen können - werden wir dann nicht diese einzigartige Überlegenheit an unsere Geschöpfe verloren haben? Die Frage, ob man von einem mechanischen Apparat jemals sagen kann, er denke - vielleicht sogar, er habe Gefühle oder Geist -, ist nicht wirklich neu.' Doch das Erscheinen der modernen Computertechnik hat ihr neuen Nachdruck, ja sogar Dringlichkeit, verliehen. Die Frage berührt tiefe Probleme der Philosophie. Was bedeutet es, zu denken oder zu fühlen? Was ist Geist? Was ist Seele?(Im Englischen verwendet Penrose hier den Begriff mind, der sowohl Geist als auch Seele bedeuten kann und im Buch im Zusammenhang mit Denken als Geist übersetzt wird. (Anmerkung des Übersetzers)

Gibt es überhaupt einen Geist (oder so viele Geister wie Gehirne)? Angenommen, es gibt ihn: Bis zu welchem Grad ist er funktionell abhängig von den materiellen Strukturen, mit denen er gemeinsam auftritt? Können Geist und Seele auch ganz unabhängig von solchen Strukturen existieren? Oder sind sie nichts anderes als das Funktionieren einer (geeigneten) materiellen Struktur? Ist es überhaupt notwendig, daß die erforderlichen Strukturen biologischer Natur sind (Gehirne), oder könnte Geist ebenso auch mit elektronischen Bauteilen zusammenhängen? Ist Geist den physikalischen Gesetzen unterworfen? Was sind überhaupt die physikalischen Gesetze?

[...]

Der Turing-Test

 Stellen wir uns vor, daß ein neues Computermodell auf den Markt gekommen sei, das an Speicherkapazität und Anzahl logischer Einheiten vielleicht das menschliche Gehirn übertrifft. Wir nehmen auch an, man habe die Maschinen sorgfältig program­miert und mit vielen nützlichen Daten gefüttert. Die Hersteller behaupten, die Geräte würden tatsächlich denken, vielleicht auch, sie seien wirklich intelligent. Oder sie gehen sogar weiter und sagen. daß die Maschinen wirklich fühlen - Schmerz, Glück, Mitleid, Stolz und so weiter -, und daß sie wissen und wirklich verstehen, was sie tun. Kurz, es wird anscheinend behauptet, sie hätten Bewußtsein.

Wie können wir feststellen, ob man den Herstellern glauben soll oder nicht? Wenn wir ein normales Gerät kaufen, bewerten wir es ausschließlich nach dem Dienst, den es uns leistet. Erfüllt es die gestellte Aufgabe wunschgemäß, sind wir damit zufrie­den. Andernfalls lassen wir es reparieren oder austauschen. Als Test für die Behaup­tung der Hersteller, ihr Gerät habe tatsächlich die angegebenen menschlichen Fähigkeiten, würden wir diesem Kriterium zufolge einfach verlangen, daß das Gerät sich diesbezüglich wie ein Mensch verhält. Falls es dies zufriedenstellend leistet, hätten wir keinen Grund, uns bei den Herstellern zu beschweren, und brauchten ihnen den Computer nicht zum Reparieren oder Austauschen zurückzuschicken.

Das verschafft uns einen sehr pragmatischen, operationalen Standpunkt zu dem ganzen Problem. Der Operationalist würde sagen: Der Computer denkt, sofern er ununterscheidbar von einer denkenden Person handelt. Vorläufig wollen wir diesen operationalen Standpunkt einnehmen. Natürlich bedeutet das nicht, wir würden verlangen, daß der Computer sich etwa so bewegt wie ein Mensch, während er denkt. Noch weniger würden wir erwarten, daß er wie ein Mensch aussieht oder sich so anfühlt: Diese Eigenschaften wären für den Zweck des Computers unwichtig. Doch wir verlangen sehr wohl, daß er uns auf jede beliebige Frage eine sozusagen menschenähnliche Antwort liefert, und wir sind nur überzeugt, daß er wirklich denkt (oder fühlt, versteht und so weiter), sofern er unsere Fragen auf eine Weise beantwortet, die von der eines menschlichen Wesens nicht zu unterscheiden ist.

Diesen Standpunkt hat Alan Turing sehr nachdrücklich in seinem berühmten Artikel Computing Machinery and Intelligence vertreten, der im Jahre 1950 in der philosophischen Zeitschrift Mind erschienen ist (Turing 1950). Darin wird die heute als Turing-Test bezeichnete Idee erstmals vertreten. Sie war als Test zur Beantwortung der Frage gemeint, ob man von einer Maschine vernünftigerweise sagen kann, daß sie denkt. Angenommen, ein Computer - wie der, den die Hersteller in unserem Beispiel feilbieten soll angeblich wirklich denken können. Gemäß dem Turing-Test muß der Computer zusammen mit einem menschlichen Freiwilligen vor den Blicken einer (scharfsinnigen) Person versteckt sein, die Fragen stellt. Die fragende Person muss festzustellen suchen, welcher von beiden der Computer und welcher der Mensch ist, und zwar nur durch Testfragen an die beiden. Diese Fragen, vor allem aber alle Antworten, die sie* bekommt, werden auf unpersönliche Weise übertragen, zum Beispiel per Tastatur und Bildschirm.

Die fragende Person darf über die beiden Antwortgeber nur Informationen besitzen, die sie aus diesem Frage-Antwort-Spiel gewonnen hat. Ihr menschlicher Gegenspieler antwortet wahrheitsgemäß und versucht sie zu überzeugen, daß er wirklich der Mensch ist und der andere der Computer; aber der Computer ist gleichsam auf Lügen programmiert, mit denen er der fragenden Person einzureden sucht, er sei der Mensch. Falls die fragende Person im Laufe einer solchen Testserie den echten Menschen nicht eindeutig zu identifizieren vermag, gesteht man dem Computer (oder dem Programm, dem Programmierer oder dem Konstrukteur und so weiter) zu, den Test bestanden zu haben.

Nun könnte man einwenden, daß dieser Test eigentlich sehr unfair gegen den Computer sei. Würden nämlich die Rollen so vertauscht, daß der Mensch vorgeben müßte, ein Computer zu sein, und dafür der Computer wahrheitsgemäß antworten würde, dann wäre es für die fragende Person ganz leicht, die richtige Zuordnung zu treffen. Sie müßte bloß den Menschen bitten, eine sehr komplizierte arithmetische Berechnung auszuführen. Ein guter Computer sollte fähig sein, sofort richtig zu antworten, aber ein Mensch wäre rasch blamiert. (Vielleicht muß man damit ein bißchen vorsichtig sein. Es gibt menschliche "Rechengenies", die unfehlbar exakt und anscheinend mühelos ganz erstaunliche Kopfrechnungen zustandebringen. [...]

Darum hat der Programmierer des Computers unter anderem die Aufgabe, ihn in mancher Hinsicht dümmer erscheinen zu lassen, als er wirklich ist. Denn wenn die fragende Person dem Computer eine komplizierte Rechenaufgabe der erwähnten Art stellt, muß der Computer jetzt vorgeben, sie nicht lösen zu können; sonst wäre er sofort enttarnt! Aber ich glaube nicht, daß die Aufgabe, den Computer in diesem Sinne dümmer" zu machen, für seine Programmierer ein besonders ernstes Problem wäre. Für sie wäre es am schwierigsten, ihm das Beantworten von einfachsten Alltagsfragen beizubringen, mit denen der gesunde Menschenverstand" nicht die geringsten Schwierigkeiten hätte!

Es ist jedoch grundsätzlich problematisch, spezielle Beispiele für Solche Fragen zu zitieren. Zu jeder zunächst vorgeschlagenen Frage könnte man sich nachher leicht eine Methode ausdenken, mit deren Hilfe der Computer diese spezielle Frage beantworten kann wie ein Mensch. Aber jeder Mangel an wirklichem Verstehen auf seiten des Computers träte wahrscheinlich durch fortgesetztes Fragen zutage, insbesondere durch originelle Fragen, die ein wenig echtes Verständnis erfordern. Die Geschicklichkeit der fragenden Person würde sowohl darin bestehen, solche originellen Typen von Fragen auszuhecken, als auch darin, mit Zusatzfragen nachzusetzen, die enthüllen sollen, ob sich echtes "Verstehen" ereignet hat oder nicht. Sie könnte gelegentlich auch eine ganz und gar unsinnige Frage einwerfen und beobachten, ob der Computer den Unterschied merkt, oder sie könnte ein paar Fragen hinzufügen, die oberflächlich wie Unsinn klingen, aber in Wahrheit einen gewissen Sinn ergeben. Sie fragt zum Beispiel: "Wie ich höre, ist heute früh ein Nashorn mit einem rosa Ballonen Mississippi entlanggeflogen; was hältst du davon?" (Man kann sich förmlich vorstellen, wie dem Computer der kalte Schweiß auf die Stirn tritt - um einen äußerst unpassenden Vergleich zu verwenden!) Er antwortet vielleicht vorsichtig: "Das erscheint mir eher lächerlich." So weit, so gut. Fragesteller: "Wirklich? Mein Onkel hat es einmal getan - hin und zurück -, nur mit einem schmutzigweißen, gestreiften. Was ist daran so lächerlich?" Man kann sich leicht vorstellen, daß ein Computer ohne echtes Verständnis sich bald verraten müßte. Vielleicht entfährt ihm auf die erste Frage sogar: Nashörner können nicht fliegen", weil seine Datenspeicher ihm mit der Tatsache zu Hilfe gekommen sind, daß diese Tiere keine Flügel haben, oder er antwortet Nashörner haben keine Streifen" auf die zweite Frage. Beim nächsten Mal könnte man es mit wirklichem Unsinn versuchen, indem man die Frage abändert - "unter dem Mississippi", im Inneren eines rosa Ballons" oder "in einem rosa Nilpferd, um festzustellen, ob der Computer den wesentlichen Unterschied zu erkennen vermag.

Vorläufig wollen wir beiseite lassen, ob oder wann ein Computer gebaut werden wird, der den Turing-Test wirklich besteht. Für unsere Überlegungen nehmen wir einfach an, solche Maschinen seien bereits konstruiert worden. Die Frage ist durchaus berechtigt, ob man von einem Computer, der den Test besteht, notwendigerweise sagen sollte, er könne denken, fühlen, verstehen und so weiter; darauf werde ich gleich zurückkommen. Vorläufig wollen wir einige Konsequenzen betrachten. Zum Beispiel: Wenn die Hersteller mit ihrer stärksten Behauptung - ihr Gerät sei ein den­kendes, fühlendes, empfindendes, verstehendes, bewußtes Wesen - recht haben, dann werden wir durch seinen Kauf moralische Verantwortung übernehmen; jedenfalls sollten wir das tun, wenn wir den Herstellern Glauben schenken! Den Computer ohne Rücksicht auf seine eigenen Empfindungen nur zur Befriedigung unserer Be­dürfnisse zu nutzen, wäre tadelnswert. Das wäre moralisch ebenso verwerflich wie das Mißhandeln eines Sklaven. Wir müßten im allgemeinen vermeiden, dem Computer den Schmerz zu bereiten, den er nach Auskunft der Hersteller zu fühlen vermag. Den Computer abzustellen oder ihn vielleicht gar zu verkaufen, nachdem er eine Zuneigung zu uns entwickelt hat, würde uns in moralische Schwierigkeiten bringen; und es gäbe zahllose weitere Probleme, wie wir sie aus Beziehungen mit anderen Menschen oder Tieren kennen. Sie alle würden nun äußerst bedeutsam. Darum wäre für uns (und auch für den Gesetzgeber!) sehr wichtig zu wissen, ob der Anspruch der Hersteller - etwa in Form der Zusicherung „Jede Denkmaschine ist von unserem Expertenteam gründlich Turing-getestet"- tatsächlich wahr ist!

Obwohl vor allem einige moralische Konsequenzen dieses Anspruchs absurd wirken, spricht meiner Meinung nach sehr viel dafür, den erfolgreich bestandenen Turing-Test als Anzeichen für Denken, Intelligenz, Verstehen oder Bewußtsein anzuerkennen. Bilden wir uns denn nicht normalerweise unser Urteil, daß Mitmenschen gerade diese Eigenschaften besitzen, ebenfalls im Gespräch? Zwar gibt es noch andere Kriterien wie Gesichtsausdruck, Körperbewegungen und Handlungen im allgemeinen, die unser Urteil sehr stark zu beeinflussen vermögen. Aber wir können uns vorstellen, daß man - vielleicht in fernerer Zukunft - einen Roboter konstruiert, der all diese Mienen und Bewegungen imitiert. Dann wäre es nicht mehr nötig, den Roboter und den Menschen vor der fragenden Person zu verstecken, aber die Kriterien, nach denen sie den Unterschied feststellt, sind im Prinzip dieselben wie früher.

Von meinem eigenen Standpunkt aus wäre ich sogar bereit, die Anforderungen des Turing-Tests ganz erheblich abzuschwächen. Wie mir scheint, verlangt man wirklich vom Computer unnötig viel, wenn er einen Menschen so perfekt imitieren soll, daß er von ihm in den entscheidenden Punkten nicht zu unterscheiden ist. Ich selbst würde lediglich fordern, daß unsere einfühlsame Fragerin durch die Beschaffenheit der Antworten des Computers wirklich überzeugt wird, daß diesen Antworten irgendein Bewußtsein zugrunde liegt - wenn auch möglicherweise ein sehr fremdartiges. Etwas Derartiges fehlt offensichtlich allen bislang konstruierten Computersystemen. Ich gebe aber zu, daß meine Version folgende Gefahr birgt: Wenn die fragende Person umterscheiden könnte, welcher Prüfling der Computer ist, würde sie - vielleicht unbewußt - zögern, dem Computer ein Bewußtsein zuzuschreiben, selbst wenn sie es wahrnehmen könnte. Oder sie hätte umgekehrt vielleicht den Eindruck, die Anwesenheit eines fremden Bewußtseins zu spüren" - und wäre bereit, es im Zweifelsfall dem Computer zuzugestehen -, selbst wenn es keines gibt. Darum hat Turings Urversion des Tests den großen Vorteil, objektiver zu sein, und ich werde im lohenden meist bei ihr bleiben. Die daraus folgende "Ungerechtigkeit- gegenüber dem Computer, die ich früher erwähnt habe (daß er nämlich alles können muß, was ein Mensch kann, um den Test zu bestehen, während der Mensch nicht alles können muß, was ein Computer kann), scheint diejenigen, die den Turing-Test als echten Test für Denken und so weiter unterstützen, nicht zu stören. Jedenfalls neigen sie oft zu dem Standpunkt. in nicht allzu ferner Zukunft - sagen wir, im Jahre 2010 - werde ein Computer wirklich fähig sein, den Test zu bestehen. (Turing vermutete ursprünglich, bis zum Jahr 2000 würde der Computer mit einem durchschnittlichen" Fragesteller in nur fünf Minuten Befragungszeit eine Erfolgsquote von 30 Prozent erreichen. ) Folglich sind wir ziemlich zuversichtlich, daß der erwähnte Mangel an Fairness diesen Tag nicht wesentlich hinausschiebt,

All dies hat mit einer ganz entscheidenden Frage zu tun: Liefert der operationale Standpunkt tatsächlich vernünftige Kriterien dafür, ob ein Objekt mit geistigen Fähigkeiten ausgestattet ist oder nicht? Einige würden diese Frage dezidiert verneinen. Eine noch so geschickte Imitation muß nicht das gleiche sein wie das Original. Ich vertrete diesbezüglich eher eine Zwischenposition und neige prinzipiell zu der Ansicht, daß sich jede noch so raffinierte Imitation durch genügend geschicktes Prüfen entdecken läßt; freilich ist das eher eine Glaubensfrage (oder wissenschaftlicher Optimismus) als eine bewiesene Tatsache. Also bin ich alles in allem bereit, den Turing-Test als einen für seine Belange einigermaßen gültigen Test zu akzeptieren. Das heißt, falls der Computer wirklich fähig wäre, alle ihm gestellten Fragen auf eine Weise zu beantworten, die von der eines Menschen ununterscheidbar wäre - und somit unsere empfindsame Fragerin gründlich* und konsequent zu täuschen -, dann würde ich, wenn kein Indiz dagegen spricht, annehmen, daß der Computer tatsächlich denkt, fühlt und so weiter. Wenn ich hier Worte wie Evidenz", tatsächlich" und annehmen" gebrauche, folgt daraus, daß es sich für mich bei den Begriffen Denken, Fühlen, Verstehen oder insbesondere Bewußtsein um objektiv existierende Tatsachen handelt, deren An- oder Abwesenheit in materiellen Körpern wir nachzuweisen suchen, und nicht um bloße sprachliche Konventionen. Das halte ich für einen entscheidenden Punkt. Bei dem Versuch, das Vorhandensein dieser Fähigkeiten zu erkennen, stellen wir Vermutungen aufgrund sämtlicher verfügbarer Indizien an. (Darin unterscheiden wir uns zum Beispiel nicht prinzipiell von einem Astronomen, der die Masse eines fernen Sterns zu bestimmen versucht.)

Welche Art von Gegen-Indizien müßte man berücksichtigen? Dafür lassen sich vor der Zeit schwer Regeln festlegen. Aber wie ich betonen möchte, ist die bloße Tatsache, daß der Computer vielleicht aus Transistoren und Drähten bestehen wird statt aus Neuronen und Blutgefäßen, an sich für mich kein Gegenindiz. Eher meine ich. daß man vielleicht künftig eine erfolgreiche Theorie des Bewußtseins entwickeln wird - erfolgreich im Sinne einer kohärenten und angemessenen physikalischen Theorie, die auf elegante Weise mit dem Rest des physikalischen Wissens konsistent ist und deren Voraussagen exakt mit den Aussagen der Menschen, ob, wann und in welchem Maße sie sich selbst als bewußt erleben, übereinstimmen - und daß sich aus dieser Theorie wirklich Folgerungen hinsichtlich des möglichen Bewußtseins unseres Computers ziehen lassen. Man könnte sich sogar einen gemäß dieser Theorie gebauten "Bewußtseinsdetektor" vorstellen, der bezüglich menschlicher Prüflinge vollkommen zuverlässig arbeitet, aber im Falle eines Computers vom Turing-Test abweichende Resultate liefert. Unter diesen Umständen würde man mit der Interpretation der Turing-Testergebnisse sehr vorsichtig sein müssen. Wie mir scheint, hängt die Einschätzung der Adäquatheit des Turing-Tests teilweise davon ab, wie man sich die künftige Entwicklung von Wissenschaft und Technik vorstellt. Wir werden später auf einige dieser Überlegungen zurückkommen müssen.

nach oben