Weizenbaum: Die Macht der Computer und die Ohnmacht der Vernunft

Die Erstausgabe von „Die Macht der Computer“ stammt aus dem Jahr 1976. Es ist bemerkenswert, wie wenig sich die meisten Fragestellungen bis heute geändert haben. Auf der anderen Seite haben es die von Weizenbaum beschriebenen „Computermetaphern“ bis weit in unseren Sprachgebrauch geschafft. Fast 40 Jahre später kann man außerdem sagen, dass von dem Wunsch Wissenschaft und Gesellschaft isoliert zu betrachten, nicht viel geblieben ist.

„Ich plädiere für den rationalen Einsatz der Naturwissenschaft und Technik, nicht für deren Mystifikation und erst recht nicht für deren Preisgabe. Ich fordere die Einführung eines ethischen Denkens in die naturwissenschaftliche Planung. Ich bekämpfe den Imperialismus der instrumentellen Vernunft, nicht die Vernunft an sich.“

Eine wichtige Information vorab: Joseph Weizenbaum ist der Erfinder des Computerprogrammes „Eliza“ – einem der ersten Meilensteine der Künstlichen Intelligenz. Von diesem Standpunkt aus, kommentiert Weizenbaum die zeitgenössischen Computerwissenschaften. Man lernt, dass er es kaum begreifen kann, dass jemand tatsächlich annehmen könnte, „Eliza“ sei ein echter Mensch. Man lernt außerdem, dass er es ausschließt, dass Maschinen jemals kreativ denken können wie Menschen. Es lassen sich einfach nicht alle Aspekte des Lebens „formalisieren“.

In seinem Buch grenzt Weizenbaum die Information von den anderen Erfindungen der Menschen ab. Während der Mensch mit seinen Instrumenten, „Grenzen überschreiten kann, die ihm durch die Beschränktheit des Körpers und seiner Sinne gesetzt sind“, überlassen die Menschen den Rechnern das Treffen wichtiger Entscheidungen. Wir vertrauen ihnen: „Sollte er ein in unseren Augen falsches Ergebnis liefern, so ist unser Vertrauen in die Gesetzmäßigkeit der Maschine so stark, dass wir in der Regel annehmen, wir hätten bei der Eingabe der Daten einen Fehler begangen“ – „den Maschinen tun nur das, wozu man sie gemacht hat und das tun sie perfekt“.

Neu ist allerdings – und das wissen wir spätestens heute – welche Macht mit Algorithmen einhergehen: „In Form von Computerprogrammen können Universen von möglicherweise unbegrenzter Komplexität geschaffen werden (…) Kein Dramatiker, kein Regisseur und kein noch so mächtiger Herrscher haben jemals eine so absolute Macht ausgeübt.“

Es ist die Frage, ob das reicht? Man kann den „ganzen Menschen“ nicht im Gerüst abstrakter Gedankengebäude einfangen, so Weizenbaum. Wie immer eine Maschine auch konstruiert ist, „um aus ihrer Umwelt Informationen zu beziehen, sie muss diese in gewisser Weise verstehen, d.h. der Computer muss irgendwie in der Lage sein, den semantischen Gehalt der Botschaften zu erfassen, die ihn erreichen, zum Teil aus deren rein syntaktischer Struktur“. Projekte, die Unternehmen wie Google Now versuchen, umzusetzen.

Die Frage ist, ob es Gedanken gibt, die „keine Maschine je verstehen wird, weil sie sich auf Ziele beziehen, die für Menschen nicht angemessen sind“. Denn wenn „die Gesamtheit einer menschlichen Lebensgeschichte und das daraus erwachsene System an Denk- und Glaubensvorstellungen nicht formalisiert werden können, dann gibt es in der Tat eigene menschliche Ziele, die auf Maschinen nicht anwendbar sind“.

Im übertragenen Sinne bedeutet das: der Tag, an dem die Menschen uns verstehen, ist der Tag, an dem sie uns auch ersetzen.

Fazit: Wenn man „Die Macht der Computer“ liest, dann hat man das gleiche Gefühl, als wenn man Stanislaw Lem liest oder Star Trek guckt. Vieles erscheint lächerlich, anderes visionär, bei wieder anderem ist man sogar froh, dass es nicht so gekommen ist. „Die Macht der Computer“ ist Science Fiction, nur dass es wahr ist. Es ist aber interessant zu sehen, dass in den funkelnden Tech-Parks von Facebook und Google über den gleichen Fragen gegrübelt wird, wie vor 40 Jahren.

Ein kleiner Bonus und netter Anschlag auf die Nerd-Kultur ist übrigens das Kapitel „Die Naturwissenschaft und der zwanghafte Programmierer“.

„Die Macht der Computer“ von Joseph Weizenbaum. Erschienen 1976 bei suhrkamp. 16,90 Euro.

http://www.suhrkamp.de/buecher/die_macht_der_computer_und_die_ohnmacht_der_vernunft-joseph_weizenbaum_27874.html