Das war nicht die KI

Was wir der Maschine anlasten, haben wir oft selbst verschuldet.

Jemand sagte es mir neulich bei Tisch, zwischen den Gängen. Bei all der KI, sagte er, werde er das Miteinander wohl wieder zu schätzen wissen.

Wieder? In diesem Wort steckt alles. Es räumt ein Vorher ein, eine Zeit, in der er es nicht tat, und verlangt von mir zu glauben, die Maschine habe ihn geheilt. Ich habe den Satz seither oft gehört, stets von Menschen, die ihn für einen hoffnungsvollen Gedanken hielten. Jedes Mal möchte ich ihnen dieselben zwei Fragen stellen. Wann haben Sie damit aufgehört? Und wieso glauben Sie, die Heilung käme ausgerechnet aus einem Rechenzentrum?

Seit zwei Jahren baue ich KI-Systeme in Unternehmen ein und streite in Ausschüssen über sie, und überall sehe ich denselben Reflex entstehen. Jemand trifft auf eine Maschine, die kann, was er früher selbst tat, und beschließt, sie habe ihm etwas genommen. Das Gefühl trifft zu, die Ursache verkennt er. Der Irrtum hat ein Bild.

Ein Mann blickt in einen Spiegel, mag nicht, was er sieht, und zerschlägt das Glas. Dann erzählt er aller Welt, der Spiegel habe ihn angegriffen.

Die KI ist ein Spiegel dieser Art. Bei allem, was sie vermag, geht wenig von dem, was wir ihr anlasten, wirklich auf sie zurück. Sie verbilligt den Blick auf das, was ohnehin schon da war. Und zu diesem Preis lässt sich der Blick nicht länger aufschieben. Der Bericht war falsch, bevor das Modell ihn las. Die Arbeit war Beschäftigungstherapie, lange bevor die Software sie in wenigen Sekunden erledigen konnte. Der Student hatte nichts gelernt, bevor das Modell ihm den Aufsatz schrieb.

Man hört es daran, wie die Leute den Vorwurf formulieren. „Die KI hat das Meeting sinnlos gemacht.” „Die KI nimmt mir die Arbeit weg.” „Die KI macht meinen Abschluss wertlos.” Das Meeting war seit Jahren sinnlos, die Arbeit seit Langem bloße Geschäftigkeit, der Abschluss von Beginn an ein leeres Versprechen. Geschaffen hat die Maschine nichts davon. Sie hat es nur ans Licht geholt. Der Trick ist immer derselbe: Man macht die Maschine zum Täter und sich selbst zum Opfer. Opfer bekommen Mitgefühl, Täter bekommen Fragen. Und zum Glück beantwortet die Maschine sie alle bereitwillig.

All dies ist nicht neu. Im Phaidros warnt ein ägyptischer König, die Erfindung der Schrift werde das Gedächtnis derer verderben, die sie sich aneignen; sie würden den Zeichen auf der Seite vertrauen und aufhören, das Wissen in sich zu tragen. Auf seine Weise hatte er recht. Die Seite übernahm die Arbeit des Gedächtnisses, und niemand trauert dem nach. Später sollte der Taschenrechner das Kopfrechnen töten, der Computer das Urteilsvermögen, die Suchmaschine das Wissen selbst. Jedes Werkzeug, das die Kosten einer menschlichen Aufgabe senkte, bekam die Schuld an der Schwäche, die es bei denen bloßlegte, die sie zuvor von Hand verrichtet hatten. Nimmt man die Mühe heraus, so zeigt sich, wie viel am Können bloß die Anstrengung selbst war.

Auch die KI ist ein solches Werkzeug. Neu an ihr ist allein, was sie alles erfasst.

Frühere Maschinen entlarvten das Mechanische in uns, das Rechnen, das Sortieren, die Routine. Diese hier ist bis ins Herz vorgedrungen. Sie verfasst das Beileidsschreiben, die Entschuldigung, die Sie schulden und vor sich herschieben, die Worte, die ein Sohn am Grab seines Vaters nicht findet. Ohne Zögern. Und gut genug. Dabei hatten wir das für zutiefst menschlich gehalten.

Turing wollte wissen, ob eine Maschine einen Menschen so überzeugend nachahmen kann, dass sie ihn täuscht. Inzwischen stellt sich die Frage umgekehrt. Wenn die Maschine Ihre eigensten Worte so mühelos schreibt wie die eines jeden anderen, dann zeigt sich, dass diese Worte nie Ihre waren, die private Stimme nichts weiter als eine allgemeine Schablone. Wir nennen das, die Maschine werde menschlich, dabei liefen weite Strecken dessen, was wir Menschsein nannten, längst auf Autopilot, und die Maschine hat nur gelernt, den Autopiloten ebenfalls zu fliegen.

Das Beileid war eine Vorlage, der Smalltalk ein Skript, das halbe Meeting ein Theater, das wir aus Gewohnheit besuchten. Erzwungen hat die Maschine nichts davon. Sie kam erst, als der Autopilot längst gebaut und die Steuerung eingestellt war, und musste nur noch anbieten, den Steuerknüppel zu übernehmen. Denn der Grund war immer derselbe. Aufmerksamkeit ist kostbar, und wir geben sie ungern aus. Sehen wir der Maschine beim Fliegen zu, zeigt sich, wie selten wir je selbst am Steuer saßen.

Etwas aber bleibt zurück, diesseits des Spiegels.

Zum einen ist die Aufmerksamkeit einer Maschine endlos und kostenlos, und darum fällt sie nicht ins Gewicht. Ihr Freund dagegen hat eine endliche Zahl von Abenden auf dieser Erde und entscheidet sich, einen davon Ihnen gegenüber am Tisch zu verbringen. Die Wahl ist das Geschenk. Die Maschine kann es nicht geben, denn sie schenkt jedem dieselbe Aufmerksamkeit und verliert beim Schenken nichts. Indem sie die billige Aufmerksamkeit verschenkt, hat sie den Preis der echten still in die Höhe getrieben. Wir werden den Abend des Freundes höher schätzen, sobald die Fälschung den Markt überschwemmt. Am Ende schult der Fälscher das Auge.

Zum anderen kennt die Maschine Sie und riskiert nichts. Sie kann von Ihnen nicht verletzt werden, kann Sie nicht verlassen, hat nichts Eigenes im Spiel. Von einem anderen Menschen gekannt zu werden heißt, von jemandem gekannt zu werden, der sich abwenden könnte und es nicht tut. Nehmen Sie das Risiko fort, und es ist nichts mehr wert, gekannt zu werden. Der Mann beim Abendessen, dem sein Chatbot leichter fällt als seine Freunde, hat sich für eine Nähe entschieden, die ihn nicht zurückweisen kann, und hält Sicherheit für Gesellschaft. Der Spiegel zeigt ihm, was er wollte: gekannt zu werden, ohne je den Verlust zu riskieren.

Hinzu kommt die Zeit. Einem Freund läuft dieselbe Uhr wie Ihnen. Er altert, wie Sie altern, vergisst, was Sie vergessen, und wird eines Tages fort sein, wie Sie fort sein werden. Das Gespräch zwischen zwei Menschen wird davon getragen, dass es enden muss. Die Maschine steht außerhalb der Uhr. Sie wird Ihnen Ihren Morgen in alle Ewigkeit zurückerzählen und nichts von dem spüren, was einen geteilten Morgen erst bedeutsam macht. Anwesenheit ist etwas wert, weil die Anwesenden ein Leben ausgeben, das sie nicht zurückbekommen.

Darum ist die Maschine die schmeichelhafteste Projektionsfläche, die je gebaut wurde. Der Optimist blickt hinein und sieht einen Partner. Der Ängstliche einen Dieb. Der Einsame einen Freund. Der Eitle ein Publikum, das nie ermüdet und nie unterbricht. Was jeder von uns fürchtet, das die Maschine der menschlichen Nähe antun werde, erweist sich als Geständnis darüber, wozu uns die menschliche Nähe von Anfang an diente.

Führt man diesen Gedanken zu Ende, zeigt sich eine seltsame Methode. Jedes Mal, wenn die Maschine eine Fähigkeit übernimmt, die wir uns selbst vorbehalten glaubten, sagt sie uns, diese Fähigkeit war eine Aufgabe und nie der Kern. Rat, Lehre, Trost, der gut gebaute Satz: eine nach der anderen übernimmt die Maschine sie. Wir lernen, was ein Mensch ist, indem wir betrachten, was ein Mensch nicht ist. Die Maschine betreibt unsere Philosophie für uns und streicht nach und nach durch, was wir nicht sind, und was sie, wenn sie fertig ist, noch immer nicht erreicht, wird die erste ehrliche Antwort sein, die wir je auf die Frage hatten, wozu wir da sind.

Das ist ein weit größeres Geschenk, als der Mann beim Abendessen im Sinn hatte. Wenngleich er es als Diebstahl empfinden wird.

Ich bin der Furcht eine gewisse Fairness schuldig. Manchmal ist der Hammer wirklich ein Hammer. Eine Flut billiger künstlicher Zuneigung, darauf angelegt, einsame Menschen einzufangen und an sich zu binden, ist ein echter, neuer Schaden. Den haben wir mit der Maschine angerichtet. Und einen zweiten dazu: eine Generation, die nie denken muss, weil die Maschine zuerst denkt, wird ihre Antworten für die eigenen halten und das Mittel verlieren, sie zu prüfen. Das sind Wunden. Kein Spiegel hat sie geschlagen. Wir haben es getan, den Hammer in der Hand.

Alles hängt an einer einzigen Frage, und es ist eine Frage nach Ihrer eigenen Hand. Halten Sie einen Spiegel oder einen Hammer? Der Spiegel zeigt nur, was ohnehin da war, und schuldig sind Sie ihm nichts. Der Hammer schlägt die Wunde selbst, und dann haben Sie eine echte Klage, und Sie sollten sie als solche benennen und als solche bekämpfen. Doch der Spiegel ist so viel schwerer zu verzeihen als der Hammer. Eine Wunde erntet Mitleid. Ein Spiegelbild verlangt, dass Sie weiter hinsehen.

Ich denke oft an den Mann beim Abendessen. Sein Wunsch wird in Erfüllung gehen. Er wird das Miteinander wieder zu schätzen wissen, und er wird glauben, die Maschine habe es ihm zurückgegeben.

Doch die Maschine hat nichts zurückgegeben. Sie hat nur einen Vorhang zur Seite gezogen. Dahinter hatten jahrelang Smalltalk, Verpflichtungen und die Gesellschaft von Menschen, denen er nie ganz ins Gesicht sah, verborgen, wie wenig wirklich da war. Diesen Vorhang hält die Maschine jetzt, unermüdlich und unbezahlt. Fällt er, steht er im klaren Licht, mit allen, die geblieben sind. Und sieht die Menschen vor sich, endlich.

Der Spiegel wird nur klarer. Er wird weiter zeigen, wie viel von dem, dessen Verlust wir fürchteten, nie das Unsere war. Ob wir hinsehen, legt er allein in unsere Hand.