🚀 go-pugleaf

Salve allerseits,

Michael Pachta schrieb:
> Am 04.07.2025 um 01:35 schrieb Martin Ebert:
>
>> Der Spiegel befasst sich mit Aussagen von Joseph Weizenbaum
>> zu KI: <https://www.spiegel.de/geschichte/kuenstliche-intelligenz-warum-eliza-erfinder-joseph-weizenbaum-vor-chatbots-warnte-a-4c7a4515-0b54-4b3d-8a6a-f6cac49e2b23>
>
> Steckt hinter einer Paywall.
>
+--- <hier abknabbern> ---
| Es war ein ungewöhnlicher Dialog, der im Januar 1966 in der Zeitschrift
| der US-amerikanischen Association for Computing Machinery erschien –
| zumindest für ein Informatikfachblatt:
|
| »Männer sind alle gleich.«
| »Inwiefern?«
| »Sie nerven uns immer mit diesem und jenem.«
| »Denken Sie an ein bestimmtes Beispiel?«
| »Nun, mein Freund hat mich dazu gedrängt, hierherzukommen.«
| »Ihr Freund hat Sie gedrängt, hierherzukommen?«
| »Er sagt, ich sei oft niedergeschlagen.«
| »Es tut mir leid zu hören, dass Sie oft niedergeschlagen sind.«
| »Das stimmt, ich bin unglücklich.«
| »Glauben Sie, dass es Ihnen helfen wird, nicht mehr unglücklich zu sein,
| wenn Sie hierherkommen?«
| »Ich brauche Hilfe, das steht fest.«
|
| Was wie ein Therapiegespräch wirkt, ist die Mitschrift eines der ersten
| Dialoge zwischen Mensch und Computer (dessen Passagen oben kursiv
| dargestellt sind). Der Deutschamerikaner Joseph Weizenbaum hatte das
| Programm Eliza entwickelt, das Kommunikation mit einem Rechner in
| natürlicher Sprache ermöglichte – der erste Chatbot der Geschichte.
|
| 1966 war das noch eine Spielerei. Inzwischen gehört das Gespräch mit
| Computern zu unserem Alltag; Chatbots begegnen uns an Hotlines, im
| Handy-Betriebsprogramm, im Auto oder als Ersatz für herkömmliche
| Suchmaschinen. Manche Technikenthusiasten freuen sich auf eine Welt, in
| der uns die künstliche Intelligenz (KI) alle möglichen
| Routinetätigkeiten abnimmt, angefangen bei der Essensplanung für die
| Familie über das Recherchieren von Urlaubsunterkünften,
| Small-Talk-Themen für die Party bis hin zum Beantworten lästiger
| E-Mails. Der Chatbot als Assistent für alle Lebenslagen, 24 Stunden
| bereit, niemals müde.
|
| Eliza-Schöpfer Weizenbaum aber blieb bis zum Ende seines Lebens
| skeptisch gegenüber solchen Visionen. Warum misstraute er dieser uralten
| Utopie, obwohl sein Programm Eliza als Meilenstein auf dem Weg zur
| künstlichen Intelligenz gilt?
|
| *Des Menschen Ebenbild*
|
| Seit der Antike träumen Menschen davon, eine Maschine zu entwickeln, die
| ihnen gleicht; die so denkt, spricht und handelt wie sie. Die Literatur
| ist voller Geschichten über solche sogenannten Androiden. So kreierte
| die altgriechische Sagengestalt Pygmalion, König von Zypern, eine
| Jungfrau aus Elfenbein und verliebte sich prompt in sie. Die Göttin
| Aphrodite erweckte die Schöne zum Leben – und die verguckte sich
| wiederum sofort in ihren Schöpfer.
|
| In der mittelalterlich-jüdischen Legende vom Golem formen Menschen aus
| Erde eine ihnen ähnliche Gestalt mit Superkräften. Und in Mary Shelleys
| berühmtem Roman aus dem 19. Jahrhundert bastelt sich Professor
| Frankenstein ein menschenähnliches Monster.
|
| Auch in der Realität haben Menschen immer wieder versucht, maschinelle
| Ebenbilder zu bauen. Berühmt wurde der 1738 konstruierte Flötenspieler
| des Franzosen Jacques de Vaucanson, der zwölf Musikstücke spielen
| konnte. Zahnräder und Getriebe bewegten Arme und Lippen. Gespeichert
| waren Musik und Bewegung auf einer Stiftwalze, wie man sie von
| Spieldosen kennt.
|
| Noch mehr beeindruckte das Publikum einige Jahre später der Schreiber
| der Schweizer Uhrmacherfamilie Jaquet-Droz. Er brachte frei wählbare
| Sätze mit Tinte und Feder zu Papier, folgte dem Text dabei mit den Augen
| und strich sogar überschüssige Farbe am Tintenfass ab. Im Automaten
| drehte sich ein Zylinder, auf den drei Nockenscheiben gesteckt wurden.
| Sie leiteten die Hand des Schreibers in drei Dimensionen: auf und ab,
| vor und zurück, rechts und links.
|
| Weizenbaum allerdings hatte niemals vorgehabt, einen künstlichen
| Menschen zu erschaffen. Eliza war eher ein Nebenprodukt seiner
| eigentlichen Arbeit, allerdings jenes, das ihn berühmt machte.
|
| *Gelehrige Blumenverkäuferin*
|
| 1923 in Berlin geboren und 1936 mit seiner jüdischen Familie in die USA
| geflohen, war der Mathematiker 1963 an die berühmte US-amerikanische
| Technikuniversität Massachusetts Institute of Technology (MIT) gekommen.
| Dort entwickelte er zunächst ein System, mit dem Entwickler ihre
| Software im Dialog mit den Maschinen programmieren konnten. So war es
| ihnen möglich, ein Programm stückweise auszuprobieren, die Reaktion des
| Rechners darauf abzuwarten und dann eventuelle Fehler zu korrigieren
| oder mit dem nächsten Code-Häppchen fortzufahren.
|
| Nach dem Erfolg wollte Weizenbaum einen Schritt weiter gehen. Er fragte
| sich: Wäre es möglich, mit dem Computer nicht nur in einer
| Programmiersprache, sondern auch in einer menschlichen Sprache wie
| Englisch oder Deutsch zu kommunizieren?
|
| So entwickelte er den Chatbot Eliza. Benannt war das Programm nach der
| Blumenverkäuferin Eliza Doolittle aus George Bernard Shaws Schauspiel
| »Pygmalion«. Sie legt im Stück ihren volkstümlichen englischen
| Cockney-Akzent ab und lernt die Sprache der High Society.
|
| *Ein missverstandener Scherz*
|
| Der MIT-Forscher simulierte mit der Software ein Psychotherapie-Gespräch
| nach dem Verfahren des US-Psychologen Carl Rogers. Dabei wiederholt der
| Therapeut als Frage, was der Klient zuvor gesagt hat, um weitere
| Denkprozesse anzustoßen. Eliza übernahm die Rolle der Psychiaterin – und
| das offenbar sehr überzeugend.
|
| Der Schöpfer hatte Eliza als Parodie verstanden. Sie sollte
| demonstrieren, wie Computer Informationen verarbeiten. Doch der Scherz
| kam bei vielen Menschen nicht an. Statt sich über die Plauderei im
| Therapiestil zu amüsieren, nahmen viele Nutzer das Gespräch ernst.
| Manche vertrauten Eliza sogar intime Geheimnisse an, obwohl sie leicht
| als Programm zu entlarven war und auch Fehler machte. Dieses Phänomen
| wurde als Eliza-Effekt bekannt: Menschen unterstellen einer Maschine
| menschliche Eigenschaften, weil sie sich menschenähnlich verhält.
|
| Dem Eliza-Effekt erlagen nicht nur Laien, sondern auch Fachleute.
| Weizenbaum schilderte später, wie er seine Sekretärin in einem Gespräch
| mit dem Rechner überraschte: »Es war, als störte ich eine Art
| Zweisamkeit.« Weizenbaum fand das absurd, denn die Sekretärin hatte die
| Entstehung dieses Programms aus allernächster Nähe miterlebt. Sie musste
| wissen, dass es sich um ein bloßes Computerprogramm handelte.
|
| *Ersatz für menschliche Fachkräfte*?
|
| Fassungslos machte Weizenbaum die Begeisterung mancher Psychotherapeuten
| für Eliza. Der Stanford-Wissenschaftler Mark Colby begrüßte die Technik
| als Ersatz für menschliche Fachkräfte in Nervenkliniken. Nach weiterer
| Entwicklung könnte ein Computer mehrere Hundert Patienten pro Stunde
| behandeln, stellte er in Aussicht.
|
| Weizenbaum kritisierte solche Ideen: Welche Vorstellung müsse ein
| Psychiater von seiner eigenen Arbeit haben, »wenn in seinen Augen die
| einfachste mechanische Parodie einer einzelnen Interviewtechnik das
| ganze Wesen einer menschlichen Begegnung erfasst hat?«
|
| Durch Eliza kam Weizenbaum mit KI-Forschern am MIT in Kontakt. Sie waren
| überzeugt, Maschinen könnten jede Art menschlichen Denkens simulieren
| und würden Menschen zukünftig in vielen Bereichen übertreffen.
| Weizenbaum bezweifelte das. Er argumentierte, ein Computer könne keinen
| Menschen vollständig verstehen, da Sprache nicht nur aus Vokabeln und
| Grammatik bestehe, sondern jedes Wort bei jedem Menschen
| unterschiedliche Assoziationen wecke.
|
| *Gefahren von Mensch und Maschine*
|
| Eliza machte den Informatiker Weizenbaum vom Vordenker zum Mahner. In
| seinem 1976 erschienenen Buch »Die Macht der Computer und die Ohnmacht
| der Vernunft« wandte er sich gegen die Gleichsetzung von Maschinen mit
| dem menschlichen Geist. Seine Kernbotschaften waren simpel: Ein Rechner
| ist kein Mensch, ein Mensch ist keine Maschine. Und Computer sollten
| nicht alles tun dürfen, selbst wenn sie es könnten.
|
| Weizenbaum warnte Laien davor, die Fähigkeiten der Hardware zu
| überschätzen. Alles, was sie könne, sei rechnen; sie sei aber nicht in
| der Lage, wie ein Mensch zu entscheiden. Es sei gefährlich, Maschinen
| Aufgaben zu übertragen, denen sie nicht gewachsen seien, wie
| Erstgespräche mit Psychiatriepatienten.
|
| Seine KI-Kollegen ermahnte Weizenbaum, die Folgen ihrer Forschung zu
| bedenken. Entwicklungen wie automatische Bilderkennung nützten vor allem
| dem Militär, so der Informatiker. Er wusste, wovon er sprach – seine
| Projekte am MIT waren vom US-amerikanischen Verteidigungsministerium
| finanziert worden.
|
| Mit seinen Thesen traf Weizenbaum schon damals einen Nerv. Viele
| Menschen fürchteten den Datenhunger des Staats, die Ausbreitung der
| Computertechnik, damals EDV (elektronische Datenverarbeitung) genannt,
| und die Aufrüstung im Kalten Krieg. Seine KI-Kollegen hingegen
| reagierten oft ablehnend auf die Mahnungen von der Seitenlinie. John
| McCarthy, Gründer des KI-Programms am MIT, nannte Weizenbaums
| Ausführungen »moralistisch und inkohärent«.
|
| Auch außerhalb der Fachwelt gab es Gegenstimmen. Der polnische
| Science-Ficition-Autor und Philosoph Stanislaw Lem argumentierte, die
| politischen Gefahren lägen nicht in der Technik, sondern in globalen
| Machtstrukturen. Moralische Appelle an KI-Wissenschaftler lenkten
| deshalb vom Wesentlichen ab: dass es am Ende immer noch darauf ankommt,
| wer eine Technik wozu nutzt.
|
| *Elizas Nachfahren*
|
| Als Weizenbaum 2008 in Berlin starb, war der heutige KI-Boom noch nicht
| absehbar. Viele seiner Befürchtungen sind wahr geworden: Fast jeder hat
| heute schon mit Computern interagiert, manchmal merkt man es nicht
| einmal mehr.
|
| Die neue Generation der Chatbots wie ChatGPT oder Claude wird mit
| riesigen Mengen von Texten aus dem Internet und aus Büchern trainiert.
| Sie lernen, Muster in der Sprache zu erkennen und Wahrscheinlichkeiten
| für Wortfolgen zu berechnen. Daraus erzeugen sie Texte, die für
| menschliche Leser sinnvoll wirken.
|
| Dabei können Chatbots auch kreativ werden, indem sie etwa eine
| Gutenachtgeschichte über einen sprechenden Hund erfinden. Auch können
| sie zwischen verschiedenen Gesprächsthemen wechseln und sich an frühere
| Teile des Gesprächs erinnern. Eliza konnte das alles nicht. Sie war wie
| ein einfaches Frage-Antwort-Spiel.
|
| *Kein Grund zur Furcht*
|
| Sind Weizenbaums Warnungen überholt? Im Gegenteil. Selbst in der
| gegenwärtigen Euphorie um ChatGPT und andere KI-Programme bleiben
| mahnende Stimmen hörbar. Manche, wie die Linguistin Emily Bender, warnen
| vor konkreten Risiken: Die Modelle hinter den Chatbots könnten
| rassistische oder sexistische Ansichten reproduzieren, da sie mit
| entsprechenden Internettexten trainiert wurden.
|
| Andere beschwören die Gefahr einer Superintelligenz herauf, die sich
| verselbstständigt, dann eines Tages außer Kontrolle geraten und die
| Menschheit vernichten könnte. Kurioserweise warnte davor vergangenes
| Jahr selbst Sam Altman, Mitgründer des ChatGPT-Anbieters. Kritiker sehen
| darin ein taktisches Manöver: Die KI-Industrie lenke von gegenwärtigen
| Problemen ab, indem sie auf ferne Zukunftsrisiken hinweise.
|
| Trotz aller Kritik an zu viel Technikoptimismus: Joseph Weizenbaum hielt
| auch nichts von ängstlichen Endzeit-Visionen. Dem deutschen
| Medienwissenschaftler Bernhard Pörksen sagte er Ende der Neunzigerjahre:
| »Müssen wir uns fürchten, dass derartige Roboter tatsächlich eines Tages
| existieren und wir in der Folge zu ihren Haustieren werden? Dazu sage
| ich: Nein, das müssen wir nicht.«
|
| Und selbst wenn es eine Mensch-Maschine gäbe, würde sie »doch niemals
| ein Mensch sein.
+--- </hier abknabbern> ---

	M.f.G.

--
Diese E-Mail-Adresse wird nur aus nostalgischen Gründen verwendet. Sie
wird praktisch nie gelesen.  Das MausNet ist nicht tot – es riecht nur
etwas komisch... ;-)