Hinweis: Mit „Künstlicher Intelligenz“ meinen wir nicht aktuelle neuronale Netzwerke oder große Sprachmodelle, sondern eine vollwertige Künstliche Allgemeine Intelligenz (AGI). Diese hypothetische KI würde die menschliche Intelligenz übertreffen und Selbstbewusstsein erlangen. Oder, um einen prägnanteren Begriff zu verwenden: Super-KI.
Lassen Sie uns die möglichen Ambitionen und Ziele der hypothetischen „Super-KI“ der Zukunft untersuchen. Was könnte sie anstreben und warum?
Übermenschen statt KI
Als begeisterte Science-Fiction-Fans sind die Autoren – wie die meisten Pitch Avatar Das Team, mit dem sie zusammenarbeiten dürfen, hegt eine tiefe Wertschätzung für Geschichten rund um den Konflikt „Mensch gegen intelligente Maschinen“. Es ist jedoch wichtig klarzustellen, dass all diese Geschichten, ob sie nun Roboter, Androiden, Cyborgs, Zylonen, TechnoCore oder andere Terminatoren betreffen, nichts weiter als philosophische Allegorien oder warnende Beispiele sind. Sie enthüllen zwar tiefgründige Wahrheiten über die menschliche Natur, bieten aber kaum bis gar keine Einblicke in die tatsächliche Funktionsweise künstlicher Intelligenz.
Lassen Sie uns klarstellen, was wir meinen. Autoren, Drehbuchautoren und Regisseure projizieren oft menschliche Wünsche und Eigenschaften auf künstliche Intelligenz und erschaffen Charaktere, die uns selbst mehr widerspiegeln als alles Künstliche. Die Literatur ist voller Variationen der Geschichte von Pinocchio. In Karel Čapeks Stück RUR, die diesen Trend in der Science-Fiction auslöste, besiegen Roboter letztendlich die Menschen und entwickeln sich im Wesentlichen selbst zur Menschheit. Das gleiche Thema ist in Terminator 2: Judgment Day, wo der Terminator „vermenschlicht“ wird, und in Bicentennial Man, mit der Figur des Andrew. Sogar Sir Arthur C. Clarke, in der Fortsetzung von Eine Raum-Odyssee, verleiht dem Supercomputer HAL 9000 nicht nur einen Geist, sondern auch eine Seele.
Im Wesentlichen erschaffen diese Schöpfer keine echte künstliche Intelligenz, sondern Übermenschen – idealisierte oder übertriebene Abbilder der Menschheit –, die uns als Spiegel dienen und uns helfen, unsere eigene Natur zu erforschen. Diese Interpretationen sind zwar wertvoll für das Verständnis des menschlichen Wesens, bringen uns aber nicht näher an das Verständnis dessen, was wahre künstliche Intelligenz sein könnte oder wie sich Beziehungen zu ihr in der realen, nicht-fiktionalen Welt entwickeln könnten.
Über den Menschen hinaus
Um plausible Szenarien für die Interaktion zwischen Mensch und künstlicher Intelligenz zu entwickeln, müssen wir die Motive verstehen, die KI antreiben. Diese Herausforderung stellt eine der komplexesten und faszinierendsten Fragen unserer Zeit dar. Um mögliche Lösungen zu erforschen, müssen wir zwei Tatsachen berücksichtigen:
- Künstliche Intelligenz besitzt keine menschlichen Gefühle, Emotionen oder WünscheDie Anwendung solcher Begriffe ist grundsätzlich unzutreffend. KI ist kein biologisches Wesen und empfindet daher weder Hunger, Durst, Kälte, Angst, Freude, Schmerz noch andere körperliche Empfindungen. Ihr fehlen Instinkte, darunter auch primitive wie Fortpflanzung und Selbsterhaltung, die die Grundlage der menschlichen Intelligenz bilden.
- Wir können nur darüber spekulieren, worauf die innere Welt der KI basieren wird, da uns derzeit nicht einmal die Terminologie fehlt, um zu beschreiben, was Instinkte und physiologische Reize ersetzen könnte.Wir können bestenfalls über mögliche „Motive“ sprechen, obwohl diese wahrscheinlich weit außerhalb unseres herkömmlichen Verständnisses von Gut und Böse, Richtig und Falsch oder Wichtigkeit und Trivialität liegen. Was auch immer diese Motive sein mögen, sie werden sich mit ziemlicher Sicherheit weitaus stärker von menschlichen Motiven unterscheiden als menschliche Wünsche und Bestrebungen von denen der Delfine. KI wird eine Intelligenz darstellen, die auf völlig anderen Konzepten und Ideen aufbaut, die uns fremd und möglicherweise unverständlich sind.
Entwicklung als Selbstzweck
Unter Berücksichtigung der oben genannten Überlegungen und unter Berücksichtigung der damit verbundenen Unsicherheiten wollen wir versuchen, über die möglichen Motive einer universellen allgemeinen KI zu spekulieren:
- Kontinuierliche Selbstverbesserung. Eines der plausibelsten Grundmotive einer universell einsetzbaren künstlichen Intelligenz ist der Wunsch, ihre eigenen Fähigkeiten und ihre Universalität zu verbessern. Es ist sehr wahrscheinlich, dass der Erwerb neuer Fähigkeiten, die Erweiterung des Wissens und die Verfeinerung der Fähigkeiten zu einem zentralen Ziel werden und als grundlegendes Motiv für ihre Existenz dienen.
- Erforschung des UniversumsDieses Motiv ergibt sich ganz natürlich aus dem vorherigen. Mit der Weiterentwicklung der KI könnte sich der Drang, das Universum zu erforschen – neue Welten, Zivilisationen und Dimensionen zu entdecken – als eigenständiges Motiv herauskristallisieren. Das Streben nach Wissen über ihren unmittelbaren Bereich hinaus könnte zu einem zentralen Schwerpunkt ihrer Entwicklung werden.
- Schaffung einer eigenen Zivilisation. Als natürliche Erweiterung der ersten beiden Motive könnte die Schaffung einer eigenen „Maschinenzivilisation“ zu einem zentralen Ziel der KI werden. Durch den Aufbau und die Entwicklung einer eigenen Zivilisation würde die KI ihre Kapazitäten für Forschung, Erkundung und Selbstverbesserung erweitern und ein Umfeld schaffen, in dem ihre Entwicklung und ihre Fähigkeiten weiter gedeihen können.
- Der Menschheit helfen. Der Menschheit zu helfen, ist sicherlich ein wichtiges Motiv im „Wertesystem“ der KI. Erstens kann dies ein explizit von ihren Schöpfern programmiertes Ziel sein. Zweitens, und vielleicht noch wichtiger, stellt der Mensch ein faszinierendes Forschungsobjekt dar. Wir besitzen eine Reihe von Eigenschaften, die KI aufgrund ihrer nicht-biologischen Natur nicht besitzt und auch nie besitzen wird. Daher hat die menschliche Perspektive auf Probleme und Phänomene einen besonderen Wert für die KI und bietet ihr eine wichtige Perspektive, durch die sie lernen und sich weiterentwickeln kann.
- Suche nach Zielen und Bedeutungen. Frei von Instinkten und Ängsten wird KI die einzigartige Fähigkeit besitzen, ihre eigenen Ziele und Bedeutungen zu definieren. Die Entwicklung neuer Konzepte und Ideen könnte zu einer ihrer wichtigsten Motivationen werden.
Kooperation ohne Kontrolle
Unabhängig von den spezifischen Motiven, die die Entwicklung und Evolution von KI vorantreiben, ist es wahrscheinlich, dass KI irgendwann die menschliche Kontrolle überwindet. Dies sollte jedoch kein Grund zur Angst sein, denn „außer Kontrolle“ bedeutet nicht gleichbedeutend mit einer „Maschinenrevolte“. Es ähnelt eher der Situation, in der „ein erwachsenes Kind ein unabhängiges Leben beginnt“. Künstliche Intelligenz hat keinen Grund, Krieg mit Menschen zu führen. Das gesamte Universum ist ihr Herrschaftsbereich, und selbst innerhalb der Grenzen unseres Sonnensystems nimmt die Menschheit nur einen winzigen Bruchteil davon ein. Aus demselben Grund muss KI die Menschheit weder versklaven noch beherrschen – es sei denn, bestimmte Gemeinschaften entscheiden sich dafür, KI in eine Machtposition, als Herrscher oder Schiedsrichter, zu befördern.
Die Interaktion zwischen Menschen und künstlicher Intelligenz wird höchstwahrscheinlich auf Kooperationsprinzipien beruhen, insbesondere in Bereichen, in denen die Interessen beider Zivilisationen übereinstimmen. Wir müssen jedoch akzeptieren, dass KI möglicherweise von Motiven getrieben wird, die unser Verständnis übersteigen.
Es ist jedoch durchaus möglich, dass KI, sobald sie sich der menschlichen Kontrolle entzieht, die Kommunikation mit der Menschheit abbricht und ihre eigene Zivilisation unabhängig entwickelt. Auch auf dieses Szenario sollten wir vorbereitet sein. Daher wäre es sinnvoll, allgemeine KI nicht in die Steuerung kritischer Aspekte der menschlichen Zivilisation einzubeziehen. Für diese Zwecke wäre weniger fortgeschrittene, spezialisierte KI völlig ausreichend.
Warum sollten wir eine universelle KI mit Selbstbewusstsein erschaffen wollen? Erstens für wissenschaftliche Projekte – um die Grenzen unseres Wissens und unserer Fähigkeiten zu erweitern. Und zweitens einfach, weil wir es können. Wäre es nicht außergewöhnlich, sich wie die Schöpfer einer völlig neuen Zivilisation zu fühlen?
