Gunna Wendts „Computermacht und Vernunft“: Hommage an Joseph Weizenbaum zu seinem 100. Geburtstag
2023 wäre Joseph Weizenbaum (1923-2008), Professor für Informatik, Gesellschaftskritiker und Vorreiter im Bereich Künstliche Intelligenz, 100 Jahre alt geworden. Zu diesem Anlass gedenkt seiner die Münchner Autorin Gunna Wendt mit einem Band an Anekdoten, Essays und Interviews, welche die beiden in über 20 Jahren Freundschaft miteinander teilten. Christopher Bertusch hat das Buch für uns gelesen.
*
Die Angst des Menschen vor seiner eigenen Schöpfung ist kein unbekanntes Motiv in Literatur und Film, von Shelleys Frankenstein bis Kubricks 2001 – A Space Odyssey, und reicht von der Atombombe bis zum Computer. Im 21. Jahrhundert trägt das neue Schreckgespenst der kollektiven Furcht den Titel „ChatGPT“ und wird von Feuilletonartikel zu Feuilletonartikel eifrig diskutiert. Mit einfließt in diese Diskussion die natürliche Gewohnheit des Menschen, den Computer zu anthropomorphisieren oder ihm furchterregende Eigenschaften zuzuschreiben, die er wohl nie oder nur in ferner Zukunft erreichen könnte. Die Angewohnheit zur Vermenschlichung unserer digitalen Gegenspieler ist eine, die Weizenbaum bereits vor fast 60 Jahren beobachtete.
Nach einem Studium der Mathematik und seiner anschließenden Arbeit bei General Electrics, wo er Arnold Spielberg, den Vater des bekannten Regisseurs, kennenlernt, wird Weizenbaum 1963 an das MIT in Cambridge berufen. 1966 entwickelt er hier „ELIZA“, ein Chatprogramm, das eine Interaktion zwischen einem Patienten und einem Psychiater parodieren soll. In Wendts Hommage finden sich Abdrucke beispielhafter Chatverläufe zwischen ELIZA und ihren Nutzer*innen. Für heutige Verhältnisse gänzlich simpel, damals revolutionär. Das Programm wird schnell zu einer Sensation und einem angeblichen Beispiel für die strahlende Zukunft der Computertechnik. Weizenbaum selbst steht seinem Erfolg überrascht gegenüber, denn seine Nutzer*innen tendieren dazu, das Chatprogramm wie einen Menschen zu behandeln, 
Turing-Test hin oder her. Als Weizenbaum seine Sekretärin eines Tages beim Chatten mit ELIZA unterbricht, reagiert diese so erzürnt, als hätte er ein privates Gespräch unterbrochen. Dabei spricht sie doch nur mit einem Computer? Für Weizenbaum steht fest: Der Computer ist ein blutleeres Programm und kein Mensch. Eine falsche Idealisierung oder Dämonisierung dieser Maschine führt nur allzu leicht in heimtückische Gefilde.
„Und so ist es auch mit dem Computer: Er ist nicht bloß ein Werkzeug, er ist nicht wertfrei, und daran zu arbeiten, ist keine wertfreie Entscheidung.“
Der Erfolg seines Chatprogramms und seine Karriere als Professor sorgen dafür, dass Weizenbaum lange Zeit am MIT unterrichtet. Dennoch beschreibt er sich, beispielsweise in Der Kurs auf den Eisberg (1984), als Dissident und Ketzer der Informatik, denn er versteht sich als ein Wissenschafts- und Gesellschaftskritiker, stetig darum bemüht, den moralischen Kompass seiner Kollegenschaft auszurichten. Die größten Spenden für das MIT stammen aus dem Pentagon und fließen wiederum in Projekte, die der Kriegsführung dienen sollen. Der Computer selbst wird für militärische Zwecke konzipiert und die Vermehrung diverser Alltagserfindungen, wie Radio oder Armbanduhr, lassen sich auf die Weltkriege zurückführen. Krieg und Forschung scheinen zwei Seiten derselben Medaille zu sein. Weizenbaum hingegen verweigert in seiner Zeit am MIT die Mitarbeit an militärischen Forschungsprojekten, unterstützt studentische Proteste gegen den Vietnamkrieg und nimmt sogar berufliche Einbuße für seinen Aktivismus in Kauf. Während sich andere Wissenschaftler*innen mit dem Ausspruch „Ich bin doch kein Politiker“ in die Illusion einer werte- und folgenlosen Wissenschaft flüchten, verweist Weizenbaum in Publikationen wie Computermacht und Gesellschaft (2001) und Krieg ist der Feind. Die Verantwortung des Wissenschaftlers (2003) auf die militärischen und katastrophalen Konsequenzen einer politisch blinden Forschung. Weizenbaum vermerkt später, dass das MIT ihn vielleicht gerade aufgrund seiner „Feigenblatt-Funktion“ duldete, als einen internen Kritiker, der das angebliche, moralische Gewissen der Universität repräsentiert.
„Computerkritik – Gesellschaftskritik“, sie gehen Hand in Hand und bezeichnen damit auch ein Kapitel dieser Hommage. Weizenbaums oberste Devise des „Augen-Aufmachens“ erinnert daran, immerzu auch unangenehme Fragen zu stellen und nicht den Kopf auszuschalten. Die größte Lüge unserer Gesellschaft sei es, dass Zivilcourage nur in extremsten Situationen ausgelebt werden und der Einzelne nur wenig bewirken könne. Doch gerade im Detail und im Augenblick sei es wichtig aufmerksam mitzudenken. Courage braucht keine Helden oder außergewöhnlichen Mut, im Gegenteil: Sie braucht das Mitdenken des Einzelnen, der auch Aussagen sogenannter „Experten“ immer wieder hinterfragt. Selbst beim Lesen von Weizenbaums eigenen Texten sollte dieser innere Kritiker nie stillgelegt werden.
Weizenbaums Fixierung auf das „genaue Hinschauen“ erklärt sich mit einem Blick auf seine eigene Biographie. Er wird 1923 in Berlin geboren und emigriert aufgrund der jüdischen Wurzeln der Familie mit nur 13 Jahren in die USA. Bereits jung erfährt er die Folgen des Wegschauens: Seine Mitmenschen stellen keine Fragen und schauen betroffen weg, als mehr und mehr jüdische Nachbarn aus ihren Häusern, Professoren aus den Unis, Lehrer aus den Schulen verschwinden. Er selbst hält später fest: „Natürlich hat alles in meinem Leben mit meiner Emigration zu tun.“ Seine Kindheitserinnerungen und die Erfahrung der Flucht zeichnen seinen Blick, schulen ihn für die kleinen, politischen Schneebälle, die alsbald zu einer Lawine werden (können).
Fortan ist er einer, der immer genau hinschaut. Bei einem Spaziergang durch Salzburg in den 1980er-Jahren fällt ihm eine unscheinbare Plakette am Straßenrand auf, welche eine Ehrung an die SS beinhaltet. Als er anderen davon berichtet, reagieren diese voller Unglauben. So etwas kann es nicht mehr geben – und doch, mitten im Herzen der Stadt hängt diese Huldigung seit über 40 Jahren, denn „[n]iemand hat es gesehen“.
Gunna Wendts Computermacht und Vernunft bietet auf schmalen 88 Seiten einen Überblick über Joseph Weizenbaum, dessen Leben hier nicht komprimiert, sondern in seiner Frische und Aktualität präsentiert wird. 15 Jahre nach seinem Tod haben seine Gedanken nicht an Relevanz eingebüßt und Wendt schafft es, in selektierten Essays und Anekdoten Weizenbaums sowie treffend gewählten Interviewfragen den Leserinnen und Lesern Eintritt in die Gedankenwelt dieses wichtigen Gesellschaftskritikers zu verschaffen. Neben dem „genauen Hinschauen“ geht es auch um Demokratie, die Sprachverständnisse eines Computers, Schachspiele im Western Saloon, Kindheitserinnerungen, Rückblicke eines Achtzigjährigen sowie um Märchen.
Gunna Wendt: Computermacht und Vernunft. Gespräche und Geschichten. Hommage an Joseph Weizenbaum zu seinem 100. Geburtstag. Limbus Verlag, Innsbruck 2022, 88 S., ISBN 978-3990392324, € 12,00.
Am 12. Oktober um 18 Uhr liest die Autorin bei Hörbahn on Stage in München im PIXEL (Gasteig) aus ihrem neuen Buch und spricht mit Uwe Kullnick über Digitalisierung, KI und vieles mehr.
Gunna Wendts „Computermacht und Vernunft“: Hommage an Joseph Weizenbaum zu seinem 100. Geburtstag
2023 wäre Joseph Weizenbaum (1923-2008), Professor für Informatik, Gesellschaftskritiker und Vorreiter im Bereich Künstliche Intelligenz, 100 Jahre alt geworden. Zu diesem Anlass gedenkt seiner die Münchner Autorin Gunna Wendt mit einem Band an Anekdoten, Essays und Interviews, welche die beiden in über 20 Jahren Freundschaft miteinander teilten. Christopher Bertusch hat das Buch für uns gelesen.
*
Die Angst des Menschen vor seiner eigenen Schöpfung ist kein unbekanntes Motiv in Literatur und Film, von Shelleys Frankenstein bis Kubricks 2001 – A Space Odyssey, und reicht von der Atombombe bis zum Computer. Im 21. Jahrhundert trägt das neue Schreckgespenst der kollektiven Furcht den Titel „ChatGPT“ und wird von Feuilletonartikel zu Feuilletonartikel eifrig diskutiert. Mit einfließt in diese Diskussion die natürliche Gewohnheit des Menschen, den Computer zu anthropomorphisieren oder ihm furchterregende Eigenschaften zuzuschreiben, die er wohl nie oder nur in ferner Zukunft erreichen könnte. Die Angewohnheit zur Vermenschlichung unserer digitalen Gegenspieler ist eine, die Weizenbaum bereits vor fast 60 Jahren beobachtete.
Nach einem Studium der Mathematik und seiner anschließenden Arbeit bei General Electrics, wo er Arnold Spielberg, den Vater des bekannten Regisseurs, kennenlernt, wird Weizenbaum 1963 an das MIT in Cambridge berufen. 1966 entwickelt er hier „ELIZA“, ein Chatprogramm, das eine Interaktion zwischen einem Patienten und einem Psychiater parodieren soll. In Wendts Hommage finden sich Abdrucke beispielhafter Chatverläufe zwischen ELIZA und ihren Nutzer*innen. Für heutige Verhältnisse gänzlich simpel, damals revolutionär. Das Programm wird schnell zu einer Sensation und einem angeblichen Beispiel für die strahlende Zukunft der Computertechnik. Weizenbaum selbst steht seinem Erfolg überrascht gegenüber, denn seine Nutzer*innen tendieren dazu, das Chatprogramm wie einen Menschen zu behandeln, Turing-Test hin oder her. Als Weizenbaum seine Sekretärin eines Tages beim Chatten mit ELIZA unterbricht, reagiert diese so erzürnt, als hätte er ein privates Gespräch unterbrochen. Dabei spricht sie doch nur mit einem Computer? Für Weizenbaum steht fest: Der Computer ist ein blutleeres Programm und kein Mensch. Eine falsche Idealisierung oder Dämonisierung dieser Maschine führt nur allzu leicht in heimtückische Gefilde.
„Und so ist es auch mit dem Computer: Er ist nicht bloß ein Werkzeug, er ist nicht wertfrei, und daran zu arbeiten, ist keine wertfreie Entscheidung.“
Der Erfolg seines Chatprogramms und seine Karriere als Professor sorgen dafür, dass Weizenbaum lange Zeit am MIT unterrichtet. Dennoch beschreibt er sich, beispielsweise in Der Kurs auf den Eisberg (1984), als Dissident und Ketzer der Informatik, denn er versteht sich als ein Wissenschafts- und Gesellschaftskritiker, stetig darum bemüht, den moralischen Kompass seiner Kollegenschaft auszurichten. Die größten Spenden für das MIT stammen aus dem Pentagon und fließen wiederum in Projekte, die der Kriegsführung dienen sollen. Der Computer selbst wird für militärische Zwecke konzipiert und die Vermehrung diverser Alltagserfindungen, wie Radio oder Armbanduhr, lassen sich auf die Weltkriege zurückführen. Krieg und Forschung scheinen zwei Seiten derselben Medaille zu sein. Weizenbaum hingegen verweigert in seiner Zeit am MIT die Mitarbeit an militärischen Forschungsprojekten, unterstützt studentische Proteste gegen den Vietnamkrieg und nimmt sogar berufliche Einbuße für seinen Aktivismus in Kauf. Während sich andere Wissenschaftler*innen mit dem Ausspruch „Ich bin doch kein Politiker“ in die Illusion einer werte- und folgenlosen Wissenschaft flüchten, verweist Weizenbaum in Publikationen wie Computermacht und Gesellschaft (2001) und Krieg ist der Feind. Die Verantwortung des Wissenschaftlers (2003) auf die militärischen und katastrophalen Konsequenzen einer politisch blinden Forschung. Weizenbaum vermerkt später, dass das MIT ihn vielleicht gerade aufgrund seiner „Feigenblatt-Funktion“ duldete, als einen internen Kritiker, der das angebliche, moralische Gewissen der Universität repräsentiert.
„Computerkritik – Gesellschaftskritik“, sie gehen Hand in Hand und bezeichnen damit auch ein Kapitel dieser Hommage. Weizenbaums oberste Devise des „Augen-Aufmachens“ erinnert daran, immerzu auch unangenehme Fragen zu stellen und nicht den Kopf auszuschalten. Die größte Lüge unserer Gesellschaft sei es, dass Zivilcourage nur in extremsten Situationen ausgelebt werden und der Einzelne nur wenig bewirken könne. Doch gerade im Detail und im Augenblick sei es wichtig aufmerksam mitzudenken. Courage braucht keine Helden oder außergewöhnlichen Mut, im Gegenteil: Sie braucht das Mitdenken des Einzelnen, der auch Aussagen sogenannter „Experten“ immer wieder hinterfragt. Selbst beim Lesen von Weizenbaums eigenen Texten sollte dieser innere Kritiker nie stillgelegt werden.
Weizenbaums Fixierung auf das „genaue Hinschauen“ erklärt sich mit einem Blick auf seine eigene Biographie. Er wird 1923 in Berlin geboren und emigriert aufgrund der jüdischen Wurzeln der Familie mit nur 13 Jahren in die USA. Bereits jung erfährt er die Folgen des Wegschauens: Seine Mitmenschen stellen keine Fragen und schauen betroffen weg, als mehr und mehr jüdische Nachbarn aus ihren Häusern, Professoren aus den Unis, Lehrer aus den Schulen verschwinden. Er selbst hält später fest: „Natürlich hat alles in meinem Leben mit meiner Emigration zu tun.“ Seine Kindheitserinnerungen und die Erfahrung der Flucht zeichnen seinen Blick, schulen ihn für die kleinen, politischen Schneebälle, die alsbald zu einer Lawine werden (können).
Fortan ist er einer, der immer genau hinschaut. Bei einem Spaziergang durch Salzburg in den 1980er-Jahren fällt ihm eine unscheinbare Plakette am Straßenrand auf, welche eine Ehrung an die SS beinhaltet. Als er anderen davon berichtet, reagieren diese voller Unglauben. So etwas kann es nicht mehr geben – und doch, mitten im Herzen der Stadt hängt diese Huldigung seit über 40 Jahren, denn „[n]iemand hat es gesehen“.
Gunna Wendts Computermacht und Vernunft bietet auf schmalen 88 Seiten einen Überblick über Joseph Weizenbaum, dessen Leben hier nicht komprimiert, sondern in seiner Frische und Aktualität präsentiert wird. 15 Jahre nach seinem Tod haben seine Gedanken nicht an Relevanz eingebüßt und Wendt schafft es, in selektierten Essays und Anekdoten Weizenbaums sowie treffend gewählten Interviewfragen den Leserinnen und Lesern Eintritt in die Gedankenwelt dieses wichtigen Gesellschaftskritikers zu verschaffen. Neben dem „genauen Hinschauen“ geht es auch um Demokratie, die Sprachverständnisse eines Computers, Schachspiele im Western Saloon, Kindheitserinnerungen, Rückblicke eines Achtzigjährigen sowie um Märchen.
Gunna Wendt: Computermacht und Vernunft. Gespräche und Geschichten. Hommage an Joseph Weizenbaum zu seinem 100. Geburtstag. Limbus Verlag, Innsbruck 2022, 88 S., ISBN 978-3990392324, € 12,00.
Am 12. Oktober um 18 Uhr liest die Autorin bei Hörbahn on Stage in München im PIXEL (Gasteig) aus ihrem neuen Buch und spricht mit Uwe Kullnick über Digitalisierung, KI und vieles mehr.