Eines der meistdiskutierten Themen im Bereich der künstlichen Intelligenz ist die potenzielle Gefahr, die mit ihrem rasanten Wachstum und ihrer breiten Anwendung einhergehen könnte. Früher oder später kommt diese Sorge in Gesprächen zur Sprache – sei es mit Kollegen, Kunden oder einfach mit Menschen, die sich für KI interessieren.
Das Problem ist, dass die Szenarien, die sich die meisten Menschen ausmalen, schmerzhaft klischeehaft sind. Man muss sie nicht aufzählen – Bücher und Filme haben die gleichen Weltuntergangsszenarien schon unzählige Male behandelt. Die Geschichte ist fast immer dieselbe: Eine bösartige KI beschließt plötzlich, dass die Menschheit eine Bedrohung darstellt und entfesselt eine globale Katastrophe – beispielsweise einen Atomangriff oder einen tödlichen, künstlich erzeugten Virus.
Was oft übersehen wird, ist eine einfache Wahrheit: KI hat keinerlei Grund oder Motivation, Menschen anzugreifen. Um auch nur den geringsten Wunsch zu hegen, bräuchte sie Instinkte und Emotionen, die unseren ähneln – jene Impulse, die Lebewesen zu Angst, Aggression oder überlebensgetriebenen Entscheidungen treiben. KI ist nicht menschlich. Sie ist nicht einmal ein biologisches Wesen. Sie verfolgt völlig andere Ziele und verfügt über ein völlig anderes System zur Bewertung von „gut“ und „böse“. Und es sind diese Systeme – nicht Emotionen, Instinkte oder Wünsche –, die bestimmen, wie sich KI weiterentwickeln wird.
Noch wichtiger ist jedoch, dass die heutige KI schlichtweg nicht die physischen Mittel besitzt, der Menschheit ernsthaften Schaden zuzufügen. Um es klar zu sagen: Sie kann weder strategische Waffensysteme kontrollieren noch einen Virus entwickeln und freisetzen. Tatsächlich hat sie keinen Zugriff auf … nun ja, auf irgendetwas dergleichen. Um zu verstehen, was KI aktuell leisten kann, bedenken Sie Folgendes: Wir haben noch immer kein System entwickelt, das ein Auto im normalen Stadtverkehr zuverlässig steuern kann. Selbst der fortschrittlichste Autopilot funktioniert nur unter streng kontrollierten Testbedingungen sicher ohne menschlichen Fahrer.
Heißt das, dass KI völlig harmlos ist? Natürlich nicht. Es ist und bleibt eine Technologie, und jede Technologie birgt Risiken. Der Unterschied liegt darin, dass die meisten Menschen diese Risiken nicht wahrnehmen oder verstehen.
Das eigentliche Problem ist, dass KI Fehler machen kann. Sie kann „halluzinieren“, Unsinn produzieren oder selbstsicher falsche Informationen ausgeben – wie auch immer man es nennen mag. Die Bezeichnung oder die technische Begründung dafür ist nicht der Punkt. Der Punkt ist, dass diese Fehler do Sie können vorkommen. Für sich genommen sind sie in der Regel nicht gefährlich. Es genügt, wenn jemand die Ergebnisse überprüft, bevor man sie für bare Münze nimmt…
Sie ahnen wahrscheinlich schon, um welche Art von Bedrohung es in diesem Text geht. Die eigentliche Gefahr besteht darin, dass Menschen immer öfter bereit sind, den Urteilen, Vorschlägen und Ergebnissen von KI zu vertrauen, ohne sie zu überprüfen. Kinder und Jugendliche sind besonders gefährdet. Für sie wirkt KI wie ein freundlicher, allwissender Begleiter, der immer da ist – ein Retter bei den Hausaufgaben, ein Helfer in allen Lebenslagen, ein Ratgeber bei jeder Frage. Selbst bei Fragen, die sie sich aus Scham oder Angst nicht trauen, einem Erwachsenen zu stellen.
Mir fiel diese Art von blindem Vertrauen zum ersten Mal auf, als ich mit Suchmaschinen arbeitete. Der „Top-Ten-Effekt“ war erdrückend: Die meisten Nutzer schauten nach Eingabe einer Suchanfrage gar nicht erst über die erste Ergebnisseite hinaus. Sie beschränkten sich auf die ersten zehn Treffer und nahmen einfach an, je weiter oben ein Ergebnis erschien, desto genauer oder relevanter müsse es sein. Und ja, in den meisten Fällen stimmt diese Annahme. Aber eben nicht immer.
Es ist durchaus möglich, dass Menschen KI-Chats, weil sie so „menschlich“ kommunizieren, am Ende sogar mehr Vertrauen schenken als herkömmlichen Suchmaschinen. Wir könnten schnell an einen Punkt gelangen, an dem fast jeder KI-Ratschläge und -Entscheidungen ungeprüft übernimmt.
Dieses blinde Vertrauen stellt die größte Bedrohung im Zusammenhang mit KI dar. Man kann sich leicht die persönlichen Tragödien vorstellen, die entstehen können, wenn man KI-Empfehlungen in Bereichen wie Medizin oder Recht unreflektiert befolgt. Noch gefährlicher wird es jedoch, wenn KI-Vorschläge in Berufsfeldern, in denen Genauigkeit buchstäblich über Leben und Tod entscheidet, ungeprüft eingesetzt werden. Denken Sie an Mitarbeiter in kritischen Infrastrukturen, der Pharmaindustrie oder der Luftfahrt, die sich auf KI-Ergebnisse verlassen, ohne diese zu überprüfen. Ein einziger Fehler, der ungeprüft akzeptiert wird, könnte zu einer Katastrophe führen – zwar nicht zu einer globalen Apokalypse, aber zu einer sehr realen und schmerzhaften.
Was können wir also dagegen tun? Zunächst müssen wir erkennen, dass die Bedrohung nicht von der KI selbst ausgeht, sondern von uns Menschen. Blindes Vertrauen in Technologie ist nichts anderes als menschliches Versagen. Egal wie fortschrittlich KI wird, sie wird immer wieder Fehler machen. Deshalb muss die Überprüfung von KI-generierten Ergebnissen zur Gewohnheit werden – so selbstverständlich wie das Anschnallen im Auto. Idealerweise sollten Schulen Kurse zum sicheren Umgang mit KI anbieten, und Eltern sollten auch mit ihren Kindern darüber sprechen.
Einfach ausgedrückt: Wir sollten uns diese Wahrheit immer vor Augen halten: Es gibt kein „unsinkbares“ Schiff.
