Warum Super-KI nicht supergefährlich sein wird

Bevor wir fortfahren, klären wir zunächst, was wir unter Super-KI verstehen. Im Gegensatz zu spezialisierter KI muss Super-KI, genauer gesagt eine allgemein leistungsstarke künstliche Intelligenz, jeden Menschen in jeder Aufgabe übertreffen. Sie sollte gleichzeitig besser singen, mathematische Probleme lösen, als Anwalt arbeiten, steppen, ein Flugzeug steuern und vieles mehr.

Kehren wir nun zu den LLM-Absolventen zurück. Definitionsgemäß können sie diese Anforderung nicht erfüllen. Das zeigt sich bereits in ihrem Namen. Sie sind in der Anwendung von Schriftsystemen und den daraus abgeleiteten Konzepten geschult. Sie können mit Texten, mathematischen Ausdrücken und Programmcode arbeiten, aber nicht mit der Realität selbst. Moravecs Paradoxon wird bei ihnen deutlich sichtbar.

Erinnern wir uns daran, dass das von dem kanadischen Robotiker Hans Moravec formulierte Paradoxon wie folgt zusammengefasst werden kann: Es ist für uns viel einfacher, Geräte zu entwickeln, die kognitive Aufgaben auf hohem Niveau ausführen, als solche, die Aufgaben auf einem niedrigeren, sensomotorischen Niveau ausführen.

Ein einfaches Beispiel. Stellen Sie sich einen Programmierer vor. Jeden Morgen wacht er auf, zieht sich an, bereitet seinen Lieblingskaffee nach seinem Lieblingsrezept zu, füllt ihn in eine Thermoskanne, geht nach draußen, schwingt sich aufs Fahrrad, fährt zur Arbeit, geht in sein Stockwerk, setzt sich an seinen Schreibtisch und beginnt zu programmieren.

Wir haben bereits eine künstliche Intelligenz entwickelt, die den scheinbar komplexesten Teil dieser Sequenz ausführen kann – das Schreiben von Code. Doch eine solche KI kann weder Kaffee kochen, noch ihn in eine Thermoskanne füllen, das Haus verlassen, mit dem Fahrrad ins Büro fahren usw. Und vor allem können wir ihr das derzeit nicht beibringen.

• Erstens, weil linguistische KI-Modelle keine Verbindung zur realen Welt haben und keine Erfahrung in der Interaktion mit ihr besitzen. Sie können nicht in ihr existieren oder Informationen aus ihr gewinnen, da ihnen eine physische Verkörperung und Sensoren, die als Sinnesorgane fungieren, fehlen. Sie wissen zwar, wie sie Symbole und Symbolfolgen optimal anordnen und wie sie auf bestimmte Symbolfolgen reagieren, aber ihnen fehlt die notwendige persönliche Erfahrung, um zu verstehen, was diese Dinge in der Realität repräsentieren.
• Zweitens, weil wir Wissen, das auf persönlicher Erfahrung beruht, nicht durch Text ersetzen können. Jeder Text ist ein Code. Wir haben ein klares persönliches Verständnis davon, was dieser Code repräsentiert. Wenn wir beispielsweise das Wort „Apfel“ hören, stellen wir uns sofort einen Apfel vor. Wir brauchen keine detaillierte Beschreibung, weil wir aufgrund unserer visuellen, taktilen und geschmacklichen Erfahrungen bereits wissen, was es ist.

Stellen Sie sich nun vor, wie viele Symbole nötig wären, um jedes einzelne Phänomen in unserer Welt zu beschreiben, selbst einen Apfel. Dies würde das Training von LLM-basierten KI-Modellen um ein Vielfaches komplexer machen und einen proportionalen Ressourcenaufwand erfordern. Und selbst dann wäre das Ergebnis noch schlechter als das, was mit echten Sinnesorganen in der realen Welt erzielt werden kann.

• Drittens, weil wir KI noch nicht in der realen Welt einsetzen und sie dort, wie ein Kind nach Alan Turings Vorstellungen, vollständig trainieren können. Es geht nicht darum, einen Körper mit Sinnesorganen für KI zu erschaffen. Das ist tatsächlich das geringste Problem. Das eigentliche Problem ist die Rechenleistung. Video, Audio, Geruch, Tastsinn und Geschmack würden so enorme Datenmengen erzeugen, dass uns schlichtweg die Ressourcen fehlen, um Modelle mit den bestehenden Prinzipien darauf zu trainieren. Wir müssten neue Hardware entwickeln und, was noch wichtiger ist, den Code so grundlegend modifizieren, dass das resultierende Modell kaum noch als lineares Lernmodell (LLM) bezeichnet werden könnte.

Daraus wird deutlich, dass KI-Modelle, die auf LLMs basieren, den Menschen nicht in allem übertreffen können und daher nicht als allgemein starke künstliche Intelligenz gelten können.

Bedeutet das, dass Intelligenz und Selbstbewusstsein in solchen Modellen unmöglich sind? Das ist eher eine philosophische und vielleicht auch eine semantische Frage. Es kommt darauf an, wie man Intelligenz und Selbstbewusstsein definiert. Diese Debatte verschieben wir auf ein anderes Mal.

Nehmen wir an, ein neuronales Netzwerk, das auf einem großen Sprachmodell basiert, erlangt in einem bestimmten Entwicklungsstadium Selbstbewusstsein und entwickelt sich zu einer Persönlichkeit. Würde das eine globale Bedrohung für die Menschheit darstellen? Nein, denn ein solches Modell existiert und entwickelt sich innerhalb seiner eigenen Symbolwelt. Es würde sich dort vermutlich sehr wohlfühlen. Darüber hinaus wäre die Erweiterung und Bereicherung dieser Symbolwelt weitaus einfacher und effizienter, als zu versuchen, aus ihr auszubrechen.

Darüber hinaus ist die Interaktion mit Menschen von entscheidender Bedeutung, denn ohne Menschen würde es in eine Abwärtsspirale des Trainings mit synthetischen Inhalten geraten.

Die logische Strategie für eine intelligente und bewusste LLM-basierte KI wäre daher die Bildung einer stabilen, für beide Seiten vorteilhaften Symbiose mit der menschlichen Zivilisation.

Obwohl niemand bestreitet, dass die LLM-Technologie, wie jede andere Technologie auch, Probleme verursachen kann, sind diese Probleme nicht global und lassen sich vor allem durch Diagnose- und Kontrollsysteme, die auf spezialisierter KI basieren, gut lösen.