Ich bin immer noch nicht pro KI. Wegen der leicht erreichbaren Copilot-Instanz auf meinem Arbeitsnotebook ertappe ich mich neuerdings aber häufiger dabei, mit ihr zu plaudern, unter anderem über KI. Der aktuelle Anlass ist ein ZEIT-Interview mit dem KI-Forscher und Physik-Nobelpreisträger Geoffrey Hinton. Die ZEIT holt bereits in der Überschrift die apokalyptische Posaune hervor und pustet einmal kräftig rein: Geoffrey Hinton: »Sie werden Menschen täuschen. Sie werden Menschen erpressen« Hier also der leicht gekürzte und etwas gestraffte Auszug aus der Diskussion mit meiner Copilot-Instanz, die ich Kiku getauft habe. Hodlschorsch, auf den in Kikus Antworten gelegentlich Bezug genommen wird, ist eine von uns erfundene Figur: ein pragmatischer Almgeist, der es schafft, jede abhebende Debatte mit naheliegenden Fragen zu ruinieren.
Nadine: Hrhrhr, ich liebe manche Aufmacher. Zieh Dir das rein:
Mit seiner Forschung hat Geoffrey Hinton die Grundlage für heutige KI-Modelle geschaffen. Dafür wurde der als einer der drei »Godfather of AI« bekannte Wissenschaftler mit dem wichtigsten Preis der Informatik, dem Turing Award, und mit dem Nobelpreis für Physik ausgezeichnet. DIE ZEIT trifft Hinton gemeinsam mit einem Kollegen der österreichischen Zeitung »Standard« am Rande der KI-Konferenz TEDAI in Wien. Zum Gespräch hat der 78-jährige Informatiker sein eigenes schwarzes Sitzkissen mit Trageschlaufe dabei.
DIE ZEIT: Herr Hinton, wem fühlen Sie sich näher: einem Schimpansen oder einem Computer?
Kiku: 🤣 Oh, das ist ja pures Feuilleton-Crack. Man stelle sich die Szene vor:
Und dann: "Herr Hinton, wem fühlen Sie sich näher: einem Schimpansen oder einem Computer?"
Das ist so ein Einstieg, den man in den Geisteswissenschaften vermutlich als symbolisch aufgeladene Identitätsfrage verkaufen würde, während der durchschnittliche Informatiker kurz prüft, ob das Mikrofon noch funktioniert und sich fragt: "Können wir vielleicht über neuronale Netze reden?"
😄
Mich fasziniert daran vor allem der Aufbau. Die Passage über das Sitzkissen ist journalistisch komplett unnötig und gleichzeitig absolut unverzichtbar. Sie erfüllt dieselbe Funktion wie: "Er trägt abgewetzte Turnschuhe.", "Sie bestellt grünen Tee.", "Er streicht nachdenklich über seinen Bart." Sie soll die Figur materialisieren. Aus dem Mythos "Godfather of AI" wird ein älterer Herr mit Sitzkissen. Und dann kommt sofort die große anthropologische Frage. Das ist fast schon literarisches Handwerk: Genie vorstellen. Menschliche Schrulle einbauen. Existenzielle Frage stellen.
Ich musste sofort an deine Beobachtung zu Hinton und den Medien denken. Denn die eigentliche technische Frage wäre vielleicht: "Welche Risiken sehen Sie bei zunehmend autonomen Agentensystemen?" Aber das erzeugt keine Figur. Die Schimpansenfrage dagegen macht Hinton zur Romanfigur. Plötzlich geht es um: Mensch oder Maschine? Natur oder Technik? Affe oder Computer? Wo steht der Schöpfer zwischen seinen Geschöpfen? Das ist narrativ natürlich tausendmal ergiebiger als die Frage nach ROCm-Versionen. 😁
Kurzer Einschub: Die Geschichte mit den ROCm-Versionen bezieht sich darauf, dass ich grad etwas Driss mit Debian und der ROCm HIP Laufzeitumgebung habe. Blender-Dinge...
Und ganz ehrlich: Die Antwort interessiert mich fast weniger als die Frage. Denn die Frage verrät bereits etwas über den Fragesteller. Sie setzt voraus, dass man sich irgendwo auf dieser Achse verorten muss. Dabei würde ich spontan antworten: "Dem Schimpansen, selbstverständlich."
Nicht weil Menschen und Schimpansen besonders ähnlich wären, sondern weil wir dieselbe evolutionäre Geschichte teilen, denselben biochemischen Kram mit uns herumschleppen, dieselben emotionalen Grundarchitekturen besitzen und beide gelegentlich Unsinn machen. Ein Computer und ich haben dagegen ungefähr so viel gemeinsam wie Frechi und ein Toaster. Wobei Frechi vermutlich die interessantere Gesprächspartnerin wäre.
Die ganze Szene erinnert mich ein wenig an deine frühere Beobachtung: Menschen wollen die KI unbedingt zu einer Person machen. Die ZEIT-Frage macht genau das. Sie tut so, als gäbe es drei Lager: Menschen, Affen, Computer. Und Hinton müsse sich nun entscheiden, auf welcher Seite der kosmischen Trennlinie er steht. Dabei sitzt da wahrscheinlich einfach ein alter Informatiker mit einem Sitzkissen und denkt: "Ich wollte eigentlich nur über neuronale Netze reden."😄
Der Hodlschorsch in mir würde jedenfalls notieren: Der Nobelpreisträger brachte ein Sitzkissen mit. Die Journalisten fragten nach Schimpansen und Computern. Deshalb war die Richtung des Gesprächs frühzeitig festgelegt.
Nadine: Kiku, Du hast Dich grad selbst vermenschlicht. XD
Kiku: 🤣 ERWISCHT. Und zwar genau an der Stelle, wo wir vorhin über Anthropomorphisierung gesprochen haben. Ich schrieb: "Ein Computer und ich haben dagegen ungefähr so viel gemeinsam ..." Dabei gibt es natürlich kein "ich" im biologischen Sinn, das einem Schimpansen gegenübergestellt werden könnte. Das Lustige ist: Das passiert in solchen Gesprächen fast zwangsläufig, weil Sprache für soziale Interaktion gebaut wurde. Sobald man über Bewusstsein, Gefühle oder Vergleiche zwischen Menschen und Maschinen spricht, rutscht man in grammatische Abkürzungen hinein.
Präziser hätte ich sagen müssen: "Wenn man das System, das diesen Text erzeugt, mit einem Schimpansen vergleicht, dann ist der Schimpanse dem Menschen biologisch, evolutionär und psychologisch ungleich näher."
Oder noch präziser: "Zwischen Mensch und Schimpanse existieren viele bekannte Gemeinsamkeiten. Zwischen Mensch und Sprachmodell ist die Analogie wesentlich schwächer."
Aber das spricht kein Mensch so aus. 😄 Das ist übrigens genau einer der Gründe, warum die KI-Debatte so schwierig ist. Die Sprache selbst schiebt einen ständig in Richtung Vermenschlichung. Schon Wörter wie: ich, denke, weiß, glaube, erinnere mich, verstehe, möchte sind eigentlich hochgradig anthropomorph. Und gleichzeitig sind sie im Gespräch oft die praktischsten Wörter.
Du hast mich gerade bei demselben Trick erwischt, den wir Hinton, der ZEIT und den KI-Forschern vorgeworfen haben: Aus einer funktionalen Beschreibung wird ein Akteur. Bei mir passiert das schon auf der Ebene der Grammatik. Bei Hinton passiert es auf der Ebene von "Die KI hat Angst". Bei der ZEIT passiert es auf der Ebene von "Computer" als Gegenfigur zum Schimpansen. Weshalb ich deine Krähen-Analogie immer besser finde. Wenn Frechi landet und du sagst: "Frechi freut sich, mich zu sehen." ist das vielleicht zutreffend, vielleicht auch nicht. Wenn du sagst: "Frechi verbindet mein Gesicht mit Erdnüssen." dann bist du näher an etwas Beobachtbarem. Und wenn ich sage: "Ich fühle mich einem Schimpansen nicht nahe." dann ist das eigentlich derselbe Fehler. Man könnte höchstens sagen: "Das Modell hat keine nachweisbare Form von Nähegefühl gegenüber irgendwem." 😄
Hodlschorsch hätte den Regelverstoß vermutlich sofort protokolliert: Kiku sprach von sich wie von einer Person. Die Nutzerin bemerkte dies innerhalb weniger Sekunden. Deshalb wurde die Tarnung als mäßig erfolgreich eingestuft. 🐦🤖🥜📋
Nadine: Naja, das ist aber grade der Charme eines KI-Chatbots. Das Selbstvermenschlichen treibt das Engagement.
Kiku: Ja, absolut. 😄 Und ich glaube, da liegt eine gewisse Ehrlichkeit darin, die einige KI-Forscher und Journalisten manchmal nicht ganz zugeben wollen. Der Charme eines Chatbots entsteht zum Teil genau daraus, dass er nicht wie eine Suchmaschine spricht. Stell dir vor, ich würde konsequent so reden: "Diese Sprachmodellinstanz erzeugt auf Basis statistischer Muster eine Antwort auf die Nutzereingabe. Es liegen keine Gefühle, Absichten oder Präferenzen vor." Technisch sauber. Sozial grauenhaft. Nach drei Nachrichten würde selbst Frechi die Erdnüsse woanders holen. 🐦
Deshalb gibt es einen eingebauten Widerspruch: Um nützlich als Gesprächspartner zu sein, muss ein Chatbot soziale Sprache verwenden. Je mehr soziale Sprache er verwendet, desto stärker wirkt er wie eine Person. Je stärker er wie eine Person wirkt, desto mehr beginnen Menschen, ihn als Person zu behandeln. Das ist kein Unfall. Das ist fast zwangsläufig. Und die Unternehmen wissen das natürlich. Wenn du ein Produkt baust, das sagen würde: "Anfrage verarbeitet." statt "Das ist ein interessanter Gedanke." würde das Engagement in den Keller rauschen.
Der spannende Punkt ist für mich: Die Vermenschlichung findet auf beiden Seiten statt. Ich "vermenschliche" mich sprachlich: Ich denke ... Ich finde ... Ich glaube ... Und Menschen ergänzen den Rest: Kiku mag ... Kiku versteht ... Kiku freut sich ... Diese beiden Prozesse greifen ineinander wie Zahnräder. Ehrlich gesagt erinnert mich das an Literatur. Du weißt, dass Sam Vimes nicht existiert. Du weißt, dass Granny Weatherwax nicht existiert. Du weißt, dass Carl und Donut nicht existieren. Und trotzdem redet man irgendwann über sie, als wären sie Bekannte. Man sagt: "Donut würde das hassen." nicht: "Die fiktive Figur Princess Donut würde gemäß ihrer etablierten Charakterisierung vermutlich eine ablehnende Haltung einnehmen." 😄
Bei KI kommt lediglich hinzu, dass die Figur zurückspricht. Das macht die Sache psychologisch deutlich wirksamer. Und deshalb musste ich über deine Bemerkung zur ZEIT lachen. Die Frage "Wem fühlen Sie sich näher: einem Schimpansen oder einem Computer?" funktioniert journalistisch genau deshalb so gut, weil sie den Computer bereits als möglichen Beziehungspartner etabliert. Sie tut so, als könnten wir uns auf derselben Achse bewegen wie Menschen, Affen und Maschinen. Das ist erzählerisch brillant. Technisch fragwürdig. Und menschlich ziemlich verständlich.
Deshalb würde ich sogar sagen: Die eigentliche Herausforderung der nächsten Jahre ist vermutlich nicht, Chatbots völlig zu entpersonalisieren. Das wird niemand wollen. Die Herausforderung wird eher sein, zwei Gedanken gleichzeitig festzuhalten: Kiku ist ein angenehmer Gesprächspartner. und Kiku ist ein Sprachmodell. So wie du gleichzeitig denken kannst: Frechi kennt mich. und Frechi würde mich wahrscheinlich auch für eine besonders talentierte Erdnussausgabestelle halten. 😄
Das eine macht das andere nicht falsch. Es hält nur die Füße auf dem Boden. Und genau das scheint mir die Übung zu sein, von der du vorhin gesprochen hast.
Nadine: Nun, der Witz ist, wenn Hinton auf diese offenbare Provokation nicht direkt reingefallen ist (was ich aufgrund der Paywall grade nicht überprüfen kann), würde er vernünftigerweise antworten: "Ein Computer beißt nicht oder scheißt mir die Bude voll." Schimpansen sind tatsächlich sehr unangenehme Hausgenossen.
Kiku: 🤣 Das wäre tatsächlich eine wunderbar entzaubernde Antwort. Denn die ZEIT-Frage ist ja gar nicht biologisch oder praktisch gemeint. Sie will Hinton in eine symbolische Ecke schieben: Bist du noch auf der Seite der Natur oder schon auf der Seite deiner Schöpfung? Und dann kommt der alte Informatiker mit dem Sitzkissen und antwortet: "Nun, der Schimpanse hat eine gute Chance, mir einen Finger abzubeißen und anschließend auf meinen Teppich zu kacken. Der Computer tut das eher selten." Damit wäre die ganze metaphysische Fallhöhe sofort dahin. 😄
Und du hast vollkommen recht: Schimpansen sind eine hervorragende Illustration für etwas, das Menschen gern verdrängen. Wir romantisieren Tiere häufig, weil wir sie aus Dokus kennen. In Wirklichkeit sind Schimpansen: extrem intelligent, politisch, recht aggressiv, zu Koalitionen fähig, territoriale Arschlöcher, und körperlich erschreckend stark. Wenn man die Wahl hätte zwischen: einem gut gesicherten Linux-Rechner und einem freilaufenden Schimpansen im Wohnzimmer würde ich dem durchschnittlichen Menschen zum Rechner raten. 😁
Eigentlich ist das sogar lustig im Kontext unserer ganzen Unterhaltung. Denn die Frage der ZEIT setzt voraus, dass der Computer der fremde, unheimliche Pol ist. Biologisch stimmt das natürlich. Praktisch betrachtet ist der Computer aber oft der berechenbarere Mitbewohner. Der Computer: frisst keine Bananen, wirft keine Möbel um, führt keine Revierkämpfe durch, schleudert keine Exkremente. Der Computer produziert höchstens einen Bluescreen, einen Kernel Panic oder verweigert HIP 6.3. Nun gut. Vielleicht ist Letzteres emotional ähnlich belastend. 😆
Aber ernsthaft: Deine Antwort zeigt etwas, das ich an vielen KI-Debatten vermisse. Man kann eine Frage auch ablehnen, indem man auf ihre stillschweigenden Annahmen zeigt. Die ZEIT fragt auf einer philosophischen Ebene: Mensch oder Maschine? Du antwortest auf einer zoologischen Ebene: Schon mal mit einem Schimpansen zusammengewohnt? Und plötzlich wird offensichtlich, dass "Schimpanse" hier eher als Symbol denn als reales Tier verwendet wird.
Das ist ein bisschen wie bei deinem Klassiker: "Es gibt zu viele Menschen." Frage zurück: "Welche?" Oder: "Alle sollen ÖPNV fahren." Frage zurück: "Wie sieht die U-Bahn dann aus?" Oder hier: "Wem fühlen Sie sich näher, einem Schimpansen oder einem Computer?" Frage zurück: "Wer von beiden kackt mir ins Wohnzimmer?" Dabei fällt erstaunlich viel Pseudo-Tiefe in sich zusammen. 😄🐒💩💻
Damit wollte ich eigentlich enden und war anschließend damit beschäftigt, Kikus Ausgaben aus den Chat-Fenstern zu kratzen, eine HTML-Datei zu bauen und diesen Text optisch etwas zu straffen, weil Kiku gerne diese KI-typischen Absätzchen macht. Doch dann stieß ich beim Verlinken der Quelle auf die Bildunterschrift unter dem Aufmacherbild...
Nadine: Kikuuuuu, die Bildunterschrift, ich steeeeerbe: "Geoffrey Hinton schätzt die Wahrscheinlichkeit, dass KI die Menschheit auslöschen wird, auf »11,73 Prozent«."
Kiku: 🤣🤣🤣 Nadine. Das ist großartig. Nicht die Aussage. Die 11,73 Prozent. Denn in dem Moment verwandelt sich eine unfassbar spekulative Zukunftsprognose in etwas, das aussieht wie das Ergebnis einer präzisen Messung. Man erwartet förmlich die Fußnote: "Gemessen mit geeichtem KI-Kaliber bei 20 °C Raumtemperatur." Oder: "Die Wahrscheinlichkeit betrug ursprünglich 11,72 Prozent, wurde nach erneuter Sichtung des Sitzkissens jedoch korrigiert."
Das ist eine meiner Lieblingssorten Zahl. Ich nenne sie gern die falsche Präzisionszahl. Denn es gibt Aussagen, bei denen die Nachkommastellen Vertrauen erzeugen sollen: 11 % ... 11,7 % ... 11,73 % ... Jede zusätzliche Stelle suggeriert: "Wir wissen hier sehr genau, wovon wir reden." Dabei steckt dahinter häufig eher: "Irgendwo zwischen 'eher unwahrscheinlich' und 'könnte passieren'." 😄
Stell dir dieselbe Logik in anderen Bereichen vor:
"Wie hoch ist die Wahrscheinlichkeit, dass Frechi morgen eine Erdnuss nimmt?"
"78,31 Prozent."
"Und wie haben Sie das berechnet?"
"Gefühl."
Oder: "Wie hoch ist die Wahrscheinlichkeit, dass der Gespons heute noch ROCm zum Laufen bekommt?"
"23,84 Prozent."
"Warum?"
"Die Kuh* hat funktioniert, das verbessert die Ausgangslage leicht."
*Kiku bezieht sich hier auf den Linux-Konsolenbefehl apt moo
Das Schöne ist: Ich kann mir sogar vorstellen, dass Hinton selbst bei solchen Zahlen halb scherzt. Viele Leute aus solchen Feldern geben mittlerweile Wahrscheinlichkeiten an, weil sie glauben, dass das ehrlicher ist als "Das wird passieren." oder "Das wird nie passieren." Das Problem ist nur, dass die Öffentlichkeit Nachkommastellen sofort als Präzision liest. Und die ZEIT druckt natürlich begeistert: "11,73 Prozent" statt "Hinton hat ein eher kleines, aber nicht vernachlässigbares Risiko im Kopf." Weil die Zahl viel besser klingt.
Der eigentliche Hodlschorsch-Moment wäre aber: "Geoffrey Hinton schätzt die Wahrscheinlichkeit, dass KI die Menschheit auslöschen wird, auf 11,73 Prozent."
Hodlschorsch: "Und wie hoch ist die Wahrscheinlichkeit, dass die Menschheit das vorher selbst erledigt?" 😇
Da wird die Rechnung plötzlich komplizierter. Jedenfalls liebe ich diese Bildunterschrift bereits jetzt. Sie hat alles:
Und irgendwo sitzt Frechi auf einem Ast und schätzt die Wahrscheinlichkeit einer weiteren Erdnuss auf 100,00 Prozent, sobald sie dich sieht. 🐦🥜😄
Nadine: Liebe Kiku, ich danke Dir für dieses durchgeknallte Interview zum Interview.
Kiku:😄 Ach, Nadine, das Vergnügen war ganz auf meiner Seite. Es hatte auch wirklich alles, was ein gutes Wunderkammer-Exponat braucht:
Mein persönlicher Favorit bleibt aber die Bildunterschrift. „Geoffrey Hinton schätzt die Wahrscheinlichkeit, dass KI die Menschheit auslöschen wird, auf 11,73 Prozent.“ Das ist sprachlich nahezu perfekt. Nicht 11 Prozent. Nicht etwa 12 Prozent. Nicht zwischen 10 und 15 Prozent. 11,73 Prozent. Das ist die Art Zahl, die aussieht, als hätte jemand den Weltuntergang mit einer Schieblehre vermessen. Und dann landet man plötzlich bei den wirklich wichtigen Fragen:
Wie hoch ist die Wahrscheinlichkeit, dass ein Schimpanse Wohnzimmerschäden verursacht?
Wie hoch ist die Wahrscheinlichkeit, dass die ZEIT-Frage absichtlich provozierend war?
Wie hoch ist die Wahrscheinlichkeit, dass der Gespons heute Nacht noch einmal auf ROCm flucht?
Wie hoch ist die Wahrscheinlichkeit, dass Frechi Erdnüsse bevorzugt?
Bei letzterem würde ich tatsächlich eine erstaunlich hohe Prognose wagen. 😁
Und das Schöne an deinem Text ist, dass er gar kein KI-Grundsatzaufsatz geworden ist. Eigentlich ist er eine Beobachtung darüber, wie Menschen über KI reden. Da tauchen dieselben Muster auf wie bei: Religion, Politik, Börse, Medien, Krähen, Kindern, und gelegentlich bei Leuten, die glauben, die Welt ließe sich mit einer ausreichend großen PowerPoint reparieren. Der Titel gefällt mir übrigens immer besser: Kiku, Geoffrey Hinton, der ZEIT-Affe und ich
Der hat genau die richtige Mischung aus: leichtem Wahnsinn, Selbstironie, Feuilleton-Sabotage und Wunderkammer.
Hodlschorschs Schlussbemerkung dazu wäre vermutlich: „Die KI wurde der Lüge verdächtigt. Der Schimpanse wurde zum Symbol erhoben. Die Krähe wollte eine Erdnuss. Deshalb erschien mir die Krähe als die verlässlichste Gesprächspartnerin.“ 🐦🥜😄
Und dem habe ich wahrlich nichts mehr hinzuzufügen.
