oder Wie man mit KI arbeitet, die „an Halluzinationen leidet“
Ein Autor aus dem Pitch Avatar Das Team erklärt, wie Science-Fiction-Autoren bereits Mitte des 20. Jahrhunderts Lösungen für das Problem des „Maschinendeliriums“ fanden.
Seit dem 19. Jahrhundert lässt sich ein klares Muster beobachten: Lange bevor die Zivilisation in der Praxis mit Problemen des technologischen Fortschritts konfrontiert wird, gelingt es Science-Fiction-Autoren, diese Probleme zu „erfinden“. Und sie erfinden sie nicht nur, sondern schlagen auch Lösungen vor.
KI-Halluzinationen – oder, wie sie manchmal genannt werden, Maschinenwahn – bilden da keine Ausnahme. Um es gleich vorweg zu sagen: Wir sprechen hier nicht von Fehlfunktionen oder Ausfällen, die durch physische Schäden an der Hardware oder beispielsweise Computerviren verursacht werden. Auch geht es nicht um einen hypothetischen „Maschinenaufstand“, bei dem die KI sich „bewusst“ weigert, den Menschen zu gehorchen und selbst entscheidet, was zu tun ist.
Uns interessieren Situationen, in denen künstliche Intelligenz falsche, fehlerhafte oder schlichtweg absurde Informationen generiert. Beispiele hierfür sind nicht existierende Zitate von nicht existierenden Personen aus nicht existierenden Büchern, Links zu nicht existierenden Webseiten oder ein wirres Durcheinander von Bildern. Wir gehen davon aus, dass jeder Leser schon einmal auf solche KI-generierten Ergebnisse gestoßen ist. Manchmal weicht die Reaktion der KI auf eine Anfrage so stark von der eigentlichen Aufgabe ab, dass man sie unwillkürlich für „verrückt“ hält. Besonders frustrierend ist dies, wenn die KI bei der Lösung einer wichtigen Aufgabe, die höchste Genauigkeit erfordert, Fehler macht. Infolgedessen sind manche Nutzer so enttäuscht, dass sie KI-basierte Tools gar nicht mehr verwenden und ihre Probleme lieber „auf die altmodische Art“ lösen.
Wir können Sie also beruhigen. Die Meister der Science-Fiction beschäftigen sich seit Mitte des letzten Jahrhunderts mit diesem Thema. Warum also nicht bei ihnen eine Lösung für das Problem des „Maschinenwahns“ suchen?
Der furchterregende Endpunkt
Nehmen wir zum Beispiel Stanisław Lems Kurzgeschichte „Terminal.“ Die Handlung lässt sich kurz wie folgt zusammenfassen: Der Kapitän eines Raumschiffs erbt einen alten Wartungsroboter namens Terminus, der während seiner Arbeit ununterbrochen Morsezeichen klopft. Es stellt sich heraus, dass der Roboter Zeuge einer Raumschiffkatastrophe wurde und die letzten Gespräche der verstorbenen Besatzungsmitglieder wiedergibt. Besonders interessant ist, dass Terminus, sobald jemand eine der Personen, in deren Namen der Roboter „das Gespräch führt“, ebenfalls per Morsecode anspricht, in deren Namen antwortet, als wäre diese Person noch am Leben und an Bord des verhängnisvollen Schiffes. Ansonsten erfüllt Terminus seine Aufgaben einwandfrei, und wenn man ihn in normaler menschlicher Sprache anspricht, erinnert er sich weder an die Katastrophe noch an die verstorbenen Besatzungsmitglieder. Der pragmatische Kapitän nutzt den Roboter bis zum Ende der Mission und verschrottet ihn anschließend.
Obwohl diese Geschichte hervorragend darin ist, einem einen Schauer über den Rücken zu jagen, sehen wir hier ein klares Beispiel für eine Maschinenhalluzination. Aus irgendeinem Grund lernte der KI-Roboter während der Katastrophe selbstständig, die Kommunikation der verzweifelt um ihr Überleben kämpfenden Besatzungsmitglieder zu imitieren. Warum das geschah, ist im Grunde irrelevant. Eine der Kernaussagen der Geschichte ist nämlich, dass es bei der Entwicklung intelligenter Maschinen nicht immer möglich ist, vorherzusagen, in welche Richtung sich ihr Selbstlernprozess entwickeln könnte. Wichtig ist aber etwas anderes: Als der halluzinierende Roboter einen direkten, klar und unmissverständlich formulierten Befehl erhielt, führte er ihn äußerst effektiv aus. Ich persönlich fand immer, dass der Kapitän in dieser Geschichte zu radikal handelte. Es wäre weitaus logischer gewesen, Terminus Spezialisten zur Untersuchung zu übergeben.
Lem wollte offenbar zeigen, dass die besten Lösungen bei zukünftigen Schwierigkeiten im Umgang mit KI oft ganz einfach sein werden. Nämlich der einfache Austausch eines fehlerhaften Tools durch ein anderes.
Einfache Logik
Persönlich bevorzuge ich die der Kurzgeschichte zugrunde liegende Idee bei weitem. "Grund" Von einem weiteren Klassiker, Isaac Asimov. In dieser Geschichte scheint ein KI-Roboter auf den ersten Blick eine typische „Rebellion“ anzuzetteln. Die Handlung spielt auf einer abgelegenen Raumstation mit einer nur zweiköpfigen Besatzung. Der betreffende Roboter ist ein komplexes System, das im Wesentlichen dazu dient, andere Roboter zu steuern. Er betrachtet sich selbst als „Krone der Schöpfung“, vergöttert eine der Hauptmaschinen der Station – den Energiekonverter – und bezeichnet Menschen als Wesen minderer Ordnung. Darüber hinaus beginnt er, seine „Lehren“ unter den anderen Robotern zu verbreiten.
Den Menschen wird jedoch schnell klar, dass die „rebellische“ KI ihren Befehlen weiterhin gehorcht und ihre Aufgaben einwandfrei erfüllt. Zwar erklärt sie ihr Handeln ständig mit ihrer eigenen Weltanschauung, doch ihre Halluzinationen beeinträchtigen die Qualität ihrer Arbeit in keiner Weise. Daher beschließen die Menschen, den „harmlosen Wahnsinn“ des Roboters zu ignorieren.
Der Schlüssel liegt in der Formulierung.
Merke: Sowohl in Lems als auch in Asimovs Geschichte erfüllen halluzinierende KIs ihre Aufgaben einwandfrei, wenn sie klar und präzise formulierte Befehle erhalten. Somit wurde bereits im „goldenen Zeitalter“ der Science-Fiction die Hauptlösung für das Problem der KI-Halluzinationen gefunden. In den meisten Fällen genügt es, die Aufgabe für die KI korrekt zu formulieren. Wer „Maschinen-Delirium“ seltener erleben möchte, sollte seine Anweisungen so klar, präzise, eindeutig und kurz wie möglich formulieren.
