The Plurality is upon us!

von Pascal Haupt und Daniel Lerch

Ein Auftrag im Rahmen des KI 1 Moduls an der ZHAW, Herbstsemester 2019.

Zu Beginn des Moduls KI an der ZHAW haben wir den Auftrag erhalten, zwei Texte über Künstliche Intelligenz zu lesen und ein paar zentrale Fakten sowie eigene Gedanken und Fragen dazu in einem Blogeintrag fest zu halten. Ende Semester sollen wir dann die im Blogeintrag zusammengefassten Gedanken noch einmal reflektieren — wir sind gespannt, ob und wie sich unsere Sicht auf das Thema bis dahin geändert haben wird.

Viel zu oft bemühtes Bild von Michelangelo

Die Texte

Die beiden Texte sind inhaltlich wie formal äusserst unterschiedlich. „Cognitive Orthoses“ von Kenneth M. Ford, Patrick J. Hayes, Clark Glymour und James Allen ist ein knapp drei Seiten umfassender Text, der AI im Wesentlichen mit anderen, bahnbrechenden Entwicklungen in der Kulturgeschichte des Menschen — zitiert wird etwa der Wrightsche Durchbruch im „artificial flight“ — vergleicht. Die Autoren scheinen keinen grundlegenden, qualitativen Unterschied in diesen Brüchen und der Entwicklung von AI zu sehen. Vergleichbar mit einer Brille, die unser Auge verbessern kann, wird AI als kognitive Orthese, das heisst, als künstliches Hilfsmittel zur Verbesserung unsers Bewusstseins beschrieben, welche in vielen Bereichen viel Gutes bringen wird.

Ganz anders der Autor des zweiten Artikels.

In einem zweiteiligen, umfangreichen Blog Post mit dem Titel „The AI Revolution: The Road to Superintelligence“ beschreibt Tim Urban im Wesentlichen drei Begebenheiten:

1. Wir rasen mit exponentiell wachsendem Tempo auf das Zeitalter der künstlichen Super-Intelligenzen (vermutlich eher Singular) zu
2. Einige smarte Leute glauben, dass dieses Zeitalter den Himmel auf Erden (und darüber hinaus) einläuten wird
3. Andere, ebenso smarte Leute glauben, dass diese Super-Intelligenz die Menschheit, sämtliches Leben auf unserem Planeten und letztendlich jegliches Leben im Universum auslöschen wird.

Punkt zwei und drei wollen wir weiter unten betrachten, widmen wir uns vorher aber dem ersten:

Dromologie der künstlichen Super-Intelligenz

Gefühlt ein Drittel seines Textes verwendet Tim Urban dazu, uns Lesenden vorab, zwischen den Zeilen und abschliessend nochmals ganz deutlich zu machen, dass das Zeitalter der künstlichen Super-Intelligenz sich nicht linear sondern exponentiell nähert. Urbans Erläuterungen kommen sehr unterhaltsam und humorvoll (zum Teil sogar in Comic-Form!) daher und summen alle desselbe Mantra:

Der Weg zur künstlichen Super-Intelligenz mag noch sehr lang erscheinen, wenn man sich die Hürden ansieht, an denen sich Chatbots, selbstfahrende Autos und hundeähnliche Kampfroboter aktuell abmühen. Geht man aber von einer exponentiellen Weiterentwicklung auf dem Gebiet aus, dann ist es durchaus denkbar, dass eine Künstliche Intelligenz (AI), nachdem sie den kognitiven Level eines Menschen erreicht hat (AGI), nur ein paar weitere Stunden braucht, um diesen Level hin zu einer Super-Intelligenz (ASI) zu transzendieren.

Urban bezieht verschiedene Meinungen und Einschätzungen von den schlauesten, am Besten mit dem Thema vertrauten Menschen in seine Darstellung mit ein. In diesem Punkt (EXPONENTIELL, NICHT LINEAR!) scheinen sich (fast) alle einig zu sein. Nur am Rande erwähnt Urban die Gruppe der KI-Forschenden, welche gar nicht an die Möglichkeit einer „echten“ KI glaubt. Als nicht mit der Materie vertrauter Lesender drängt sich die Frage auf:

Warum?

Mag sein, dass diese Stimmen einer klaren Minderheit angehören, mag aber auch sein, dass diese Stimmen — zumindest im Vergleich zu den Heils- und Höllenverkündern — schlicht langweilig sind und deshalb im Artikel nicht vertieft werden. Urbans Schreibweise macht den Artikel zwar zu einem unterhaltsamen Lesevergnügen, stärkt jedoch nicht das Vertrauen in seine Faktizität.

Frage 1 an unsere Future-Mes, welche mit den Wassern des KI 1 Moduls gewaschen sein werden: Stimmt die Behauptung, dass sich das Zeitalter der Künstlichen Super-Intelligenz exponentiell nähert?

Will it be a nice God?

Die Singularität lässt sich auf für diesen Blogpost titelgebend-vielfältige Arten prognostizieren. Urban erfasst die Prognosen in einer Matrix: Horizontal reicht die Skala von pessimistisch zu optimistisch, vertikal von in naher Zukunft zu far far away. Am ausführlichsten behandelt er die Gruppe von ExpertInnen, welche von einem baldigen Ende allen Lebens und die Gruppe von ExpertInnen, welche von einem baldigen Himmel auf Erden ausgehen.

Erstaunlich ist, wie ähnlich die einzelnen Zwischen-Prognosen beider Gruppen sind, auch wenn sie zu diametral einander gegenüber stehenden Schlussfolgerungen gelangen. ASI werde, gekoppelt mit neuen Errungenschaften in der Nanotechnologie, eine allmächtige, gottähnliche Entität mit für uns unfassbaren Fähigkeiten darstellen. Die zentrale Frage, die sich Urban stellt, lautet:

Wird diese neue Gottheit gut- oder bösartig sein?

Die Gruppe der Positiv-Denkenden sieht ein Zeitalter nahen, in dem Tod, Krankheit, Krieg und co ausgedient haben. Die Gruppe der Negativ-Denkenden sieht ein Zeitalter nahen, in dem die ASI erst die Menschen, dann alles Leben auf Erden und weiter im ganzen Universum auslöschen wird. Im Rahmen der Annahme, dass die ASI ein gott-ähnliches Wesen sein wird, klingen beide Schlussfolgerungen erstmal ähnlich plausibel. Will man den Unterschied KI => Mensch mit dem Unterschied Mensch => Tier parallel setzen, dann klingt Variante zwei leider um einiges plausibler. Für den Augenblick wollen wir an diesem Orakel-Spiel jedoch nicht weiter teilnehmen. Genauer hinschauen möchten wir bei einem Argumentationsstrang, der beiden Gruppen gemeinsam sei:

Offenbar geht man davon aus, dass eine AI/AGI/ASI ihren ursprünglichen Zweck, ihre „ursprüngliche Programmierung“ nicht überwinden kann. Urban bebildert diesen Gedanken mit der Geschichte einer Schön-Schreib-KI, welche nach Erreichen des ASI Stadiums alles Leben auslöscht, um ungestört weiter das Schön-Schreiben praktizieren zu können. Die Annahme, mit grösserer Intelligenz würde dieses „ursprüngliche Programm“ auch hinterfragt, erweitert oder überwunden werden können, sei „anthropomorphisierend“. Schiesslich wäre auch eine super-intelligente Spinne immer noch eine Spinne und würde diese menschliche Fähigkeit der fundamentalen Selbstreflexion nicht einfach so dazu gewinnen. Dieser Gedanke macht uns skeptisch, denn:

Entweder glaubt man, dass der Mensch die Fähigkeit besitzt, seine „ursprüngliche Programmierung“ zu ändern, oder nicht.

Nehmen wir zuerst an, wir besässen sie nicht. Da wir in der Lage sind, alles, was wir erfassen können, auch zu hinterfragen, müsste diese „ursprüngliche Programmierung“ also ausserhalb unserer kognitiven Grenzen liegen. Weiter über unseren ursprünglichen Code nachzudenken dürften wir in diesem Fall wohl der Theologie überlassen.

Nehmen wir jedoch an, Menschen seien dazu in der Lage, ihre ursprüngliche Programmierung zu erkennen, zu verändern, zu erweitern oder gar zu überwinden, würde sie uns erlauben, unsere Ziele, unsere Motivation, unsere Wünsche und damit letztlich auch unser Handeln in einem stetigen Kreislauf der Reflexion zu hinterfragen und neu auszurichten. Diese Fähigkeit würde alles was wir denken, träumen und machen, also unser Mensch-Sein an sich definieren. Und sie müsste demnach als einer der Faktoren definiert werden, welche eine AGI von einer AI unterscheiden würde.

Urban beschreibt die AGI im wesentlichen als äusserst hoch entwickelte AI. Deshalb sieht er sich auch in der Lage, Annahmen darüber zu treffen, wann wir zum ersten mal eine (evolutionär aus AI hervorgegangene) AGI erwarten dürfen.

Was aber, wenn der Schritt von AI zu AGI weiterer Komponenten bedarf, was wenn eine kaum vorstellbar schnellere AI immer noch keine AGI sondern eben „nur“ eine kaum vorstellbar schnellere AI wäre?

Frage 2 an unsere Future-Mes lautet: Was macht den Unterschied zwischen einer AGI und einer AI genau aus?

Letztlich lautet die Frage dann: Was macht einen Menschen aus? Wir gehen nicht davon aus, dass wir nach einem Semester KI in der Beantwortung dieser Frage wesentlich weiter sein werden — vielleicht kann uns aber das Erforschen von KI auf Facetten der Menschlichkeit hinweisen, die uns sonst nicht bewusst sein würden und vielleicht hilft uns die KI auf diesem Weg, uns selbst besser zu verstehen.