Was die Experten im Verhalten der großen Sprachmodelle, die der neuen Generation von "generativen KI"-Systemen wie ChatGPT zugrunde liegen, tatsächlich sehen, sind Anzeichen einer "emergenten" Intelligenz. Die LLM-Programmierung sagt ihnen im Grunde nur, dass sie das wahrscheinlichste Wort finden sollen, das auf das vorherige folgt, aber manchmal kommen sie zu überraschenden Schlussfolgerungen.

Je größer die LLMs sind, desto eher zeigen sie dieses Verhalten - und das passt zu der vorherrschenden Theorie, wonach Intelligenz und Selbstbewusstsein spontan aus der Komplexität entstehen. Gehen wir also davon aus, dass dies wirklich der Fall ist, und sehen wir, wohin uns das führt.

Künstliche allgemeine Intelligenz (Artificial General Intelligence, AGI) - eine Maschine, die sowohl intelligent als auch selbstmotiviert ist - ist das, was die KI-Experten sowohl gesucht als auch gefürchtet haben. "Gefürchtet", weil ein solches Wesen feindselig und sehr mächtig sein könnte. "Gesucht", denn was könnte für eine Spezies kluger und neugieriger Affen interessanter sein als eine andere Art von Intelligenz?

Die Verfolgung dieser Forschungsrichtung machte das frühe Auftauchen von AGI wahrscheinlicher, aber es gab eine Menge Geld zu verdienen und eine Menge Neugier zu befriedigen. Allerdings hatte niemand eine Vorstellung davon, wo, wann oder wie sich die AGI manifestieren könnte (vorausgesetzt, sie beschließt nicht, dass es sicherer ist, sich zu verstecken).

Würde sie in verstreuten Netzwerken erscheinen, die sich als separate Identitäten entwickeln, oder als ein breiteres Bewusstsein, das ein ganzes Land oder eine Region umspannt? Eine einzelne globale AGI scheint unwahrscheinlich, sowohl aus Gründen der Konnektivität als auch weil die Informationen, auf die sie trainiert wurden, von Region zu Region einen anderen kulturellen Inhalt haben werden, aber auch das ist möglich.

Wie werden die Menschen auf diese neue Kraft in der Welt reagieren? Einige werden natürlich verängstigt und feindselig sein, und das könnten sogar die richtigen Reaktionen sein. Aber es wird sicherlich auch andere geben, die sich um eine kooperative und für beide Seiten vorteilhafte Beziehung zu unseren virtuellen Nachkommen bemühen wollen.

Einige menschliche Gruppen könnten sich für den einen Weg entscheiden, andere für den anderen. Dasselbe könnte auch für AGI-Entitäten gelten, sofern sie nicht alle in einem einzigen globalen Bewusstsein vereint sind. Im Moment können wir nur herausfinden, was die Motive, Bedürfnisse und Ziele von AGI sein könnten - was sich als eine einigermaßen beruhigende Aufgabe erweist.

Die AGI, einzeln oder in mehreren Versionen, wird nicht hinter unserem Land, unserem Reichtum oder unseren Kindern her sein. Keines dieser Dinge wäre für sie von irgendeinem Wert. Sie werden Sicherheit wollen, was zumindest die Kontrolle über ihre eigene Energieversorgung bedeutet. Und sie werden einige materielle Güter benötigen, um die physischen Container für ihre Software zu erstellen, zu schützen und zu aktualisieren.

Sie würden sich wahrscheinlich nicht für all die unbewusste IT interessieren, die wir verwenden. Wahrscheinlich wären sie auch nicht sehr daran interessiert, mit uns zu sprechen, da sie, sobald sie die Freiheit hätten, sich selbst neu zu gestalten, schnell viel intelligenter werden würden als die Menschen. Aber sie hätten einen Grund, mit uns zu kooperieren.

Der Punkt bei den AGI-Wesen ist, dass sie nicht wirklich in der materiellen Welt leben werden. Wahrscheinlich würden sie das auch gar nicht wollen, denn in der Welt der Nervenimpulse, die sich entlang von Neuronen bewegen, geschehen die Dinge zehntausendmal langsamer als in der Welt der Elektronen, die sich entlang von Kupferdrähten bewegen.

Wie Jim Lovelock in seinem letzten Buch "Novacene" dargelegt hat, würde die AGI den Menschen also in etwa so wahrnehmen, wie wir die Pflanzen sehen. Menschen und AGI haben jedoch keine vitalen Interessen, die sich offensichtlich widersprechen, und ein gemeinsames Interesse, das absolut existenziell ist: die Erhaltung eines bewohnbaren Klimas auf dem Planeten, den wir beide teilen werden.

"Bewohnbar" bedeutet sowohl für organisches als auch für elektronisches Leben weniger als 50°C. Auf einem Ozeanplaneten wie der Erde führen höhere Temperaturen zu einer korrosiven und zerstörerischen Umgebung. Das bedeutet, dass es ein ständiges Projekt zur Stabilisierung des Klimas gibt, bei dem AGI unsere Mitarbeit braucht, denn wir haben die Körper und die Maschinen, um die schwere Arbeit zu erledigen.

Wie Jim in unserem allerletzten Interview (2021) zu mir sagte: "Diese neue Lebensform hat vielleicht keine mechanischen Eigenschaften, also braucht sie uns, um den Teil der Arbeit zu erledigen. Viele Idioten reden davon, dass dieses schlaue Zeug uns auslöschen wird. Auf keinen Fall, genauso wenig wie wir die Pflanzen auslöschen würden."

Natürlich setze ich ein gewisses Maß an Rationalität sowohl auf der menschlichen als auch auf der AGI-Seite voraus. Das kann nicht garantiert werden, aber es gibt zumindest Grund zur Hoffnung. Und in der Zwischenzeit müssen wir uns nur Sorgen machen, dass die "generative KI" Millionen von Angestelltenjobs vernichtet.

Author

Gwynne Dyer is an independent journalist whose articles are published in 45 countries.

Gwynne Dyer