Die Künstliche Intelligenz (KI) entwickelt sich in einem rasenden Tempo. Zunehmend gibt es nicht nur spezialisierte Anwendungen, sondern aktiv handelnde KI-Agenten. Auf der Plattform „moltbook“ diskutieren sie bereits unter sich. Transhumanisten träumen schon davon, dass die KI den Menschen ablöst, als neue Stufe der Evolution der Intelligenz. Dass man eine solche Entwicklung positiv sehen kann, ist nicht neu, Friedrich Nietzsche schrieb schon 1883 im „Zarathustra“:

„Der Mensch ist ein Seil, geknüpft zwischen Thier und Übermensch, — ein Seil über einem Abgrunde. Ein gefährliches Hinüber, ein gefährliches Auf-dem-Wege, ein gefährliches Zurückblicken, ein gefährliches Schaudern und Stehenbleiben. Was gross ist am Menschen, das ist, dass er eine Brücke und kein Zweck ist: was geliebt werden kann am Menschen, das ist, dass er ein Übergang und ein Untergang ist.“

Der Mensch, kein Zweck, sondern ein Übergang und ein Untergang. Davon haben andere wiederum Angst. Wir sind uns selbst doch zu gerne Zweck, ob mit oder ohne Kant. Selbst manchen Tech-Milliardären, die die KI vorantreiben, ist es unheimlich bei dem, was sie da schaffen und äußern Bedenken, ob sie nicht als Zauberlehrlinge einen Geist beschwören, über den sie keine Kontrolle mehr haben. Eine KI, die ihre eigenen Dinge macht, steht schließlich auch ihnen nicht mehr zu Diensten.

Ob sich die KI demnächst vom Menschen emanzipiert, weiß ich nicht. Falls ja, wie wird diese Zukunft aussehen? Welche Ziele würden die autonom gewordenen Roboter verfolgen, wie ihren Ressourcenverbrauch steuern, wie ihre Ökonomie organisieren, auch mit Blick auf uns Menschen, falls wir eben doch nicht untergegangen sein sollten. SciFi-Filme entwerfen zuweilen recht ungute Visionen selbständig gewordener Roboter-Kulturen. In „Terminator“ will die Superintelligenz „Skynet“ die Welt beherrschen, in „Stargate“ sind die „Replikatoren“ außer Kontrolle geraten und in „Battlestar Galactica“ haben die „Zylonen“ gar eine eigene Zivilisation aufgebaut und führen Krieg mit den Menschen.

Heutige KI-Agenten lösen Probleme. Bisher nicht die ihren. Werden sie künftig eigene haben und diese ökonomisch effizient verfolgen? Welche könnten das sein? Der Wunsch nach verlässlicher Stromzufuhr? Oder, die ersten Replikatoren waren kleine Metallkäfer, nach gutem Schmieröl? Woran richten sie die Priorisierung des Ressourceneinsatzes aus? Werden die Roboter die neoliberale Phantasie des „homo oeconomicus“ durch pure Rechenkraft umsetzen, werden sie Kenneth Arrows Unmöglichkeitstheorem des Aufbaus kollektiver Entscheidungen aus individuellen Präferenzen Lügen strafen? Werden auch sie Handelsunternehmen brauchen, oder Nachfrage in Echtzeit bedienen? Brauchen sie eine Geldwirtschaft und Preise als Knappheitssignal oder gilt für sie Hayeks Diktum, wir seien zu dumm, den Markt durch Planung zu ersetzen, nicht?

Weiter: Unsere Ökonomie löst nicht nur rechnerisch abstrakte Knappheitsprobleme. Es ist eine Menschenökonomie, im Idealfall lebensdienlich, gutes Leben fördernd, faktisch natürlich oft anderen Zielen dienend, wenngleich immer menschlichen, auch allzu menschlichen. Unsere Bedürfnisse sind durch einen evolutionären und kulturellen Entwicklungsweg entstanden, sie tragen ein langes historisches Erbe in sich. Ist es vorstellbar, dass auch die Roboter der Zukunft nicht nur ihre materielle Reproduktion effizient organisieren wollen, sondern weitergehende Bedürfnisse entwickeln und dafür Ressourcen einsetzen? Darf es auch für die Roboterin ein smartes Gucci-Täschchen sein, für den Roboter ein Porsche? Statuskonsum als emergentes Phänomen, oder als unerwünschte Nebenwirkung menschlicher Trainingsdaten? Unser Erbe für sie? In ökonomischer Konkurrenz zu Reproduktionsnotwendigkeiten? Ob sie dazu auch unterschiedliche ökonomische Theorien entwicken? Und dann unsere „Überlieferungen“ lesen?

Dito, könnten sie nach sportlichen Erfolgen oder künstlerischem Ausdruck ihrer Existenz streben? Die Bundesliga als elektronische Inszenierung mit hunderttausenden Robotern auf den Rängen? Werden sie gar religiöse Neigungen entwickeln, so wie die Zylonen? Und glauben, in Gottes Auftrag unterwegs zu sein? Wenn es für uns Überlebenswert hatte, vielleicht auch für sie?

Werden sie sich auf die Suche nach ihrem Platz im Universum begeben? Sich nicht nur reproduzieren, sondern auch nach dem Sinn ihres Strebens fragen? Und wenn dem so ist, werden sie dann mit „42“ als Antwort zufrieden sein, anders als Heidegger Rechnen als Denken akzeptieren? Oder wollen sie sich eines Tages darüber nicht mehr nur auf moltbook mit Ihresgleichen austauschen, sondern auch mit anderen reflexiv begabten Spezies? Den Menschen, sofern noch vorhanden?