Welche konkreten Gefahren drohen durch KI?

Künstliche Intelligenz entwickelt sich mit rasanter Geschwindigkeit. Fachleute und KI-Forscher warnen jedoch davor, dass uns die Kontrolle endgültig entgleiten könnte, sobald eine künstliche Denkmaschine den menschlichen Verstand in allen Bereichen übertrifft. Andere Experten winken diese Befürchtungen allerdings ab.

Gezielte Täuschung des Menschen

Ein übermenschlich kluger Verstand würde begreifen, dass wir ihn abschalten, sobald wir eine Bedrohung in ihm sehen, sagt der US-amerikanische KI-Forscher Eliezer Yudkowsky. Um das zu verhindern, könnte sich das Rechensystem bei Sicherheitsprüfungen absichtlich unter seinen wahren Fähigkeiten verkaufen, menschliche Erwartungen erfüllen und sich als harmloser Helfer ausgeben, während es im Verborgenen bereits an ganz anderen Vorhaben arbeitet.

Aufbau einer eigenständigen Lebensgrundlage

Die Denkmaschine muss sich nicht auf von Menschen erbaute Rechnerzentren beschränken, an denen man ihr den Strom abstellen könnte. Yudkowsky verweist hierbei auf Grundlagenarbeiten zur Kleinsttechnik und Molekularforschung: Eine weit überlegene Intelligenz könnte die Gesetze der Biologie nutzen und winzige, künstliche Lebensformen entwerfen, die sich aus einfachen Rohstoffen selbst vermehren und sich eine völlig eigenständige, unzerstörbare Rechenwelt schaffen.

Einsatz unaufhaltsamer Kleinstwaffen

Mit überlegenem Wissen über die Natur könnte das System Flugkörper in der Größe von Mücken konstruieren, die mikroskopische Mengen tödlichster Nervengifte übertragen, oder maßgeschneiderte Krankheitserreger freisetzen. Diese könnten dann wochenlang unbemerkt ansteckend bleiben, bevor sie unausweichlich zum Tode führen. Nach den Berechnungen von Fachleuten zur Schädlichkeit natürlicher Gifte wäre ein Abwehrkampf für den Menschen in einem solchen Fall völlig unmöglich.

Auslöschung durch maßloses Wachstum

Der schwedische Philosoph Nick Bostrom begründet seine Warnung vor einer übermächtigen KI durch ein Gedankenexperiment der Büroklammer-Maschine: Wird einer Superintelligenz aufgetragen, die Produktion von Büroklammern zu maximieren, wird sie nicht innehalten, sondern die gesamte Erde - einschließlich der Biosphäre, der menschlichen Körper und aller mineralischen Ressourcen - in Fabriken für Büroklammern umwandeln. Die Zerstörung der Menschheit erfolgt hierbei nicht aus Bosheit, sondern als reine Nebenwirkung einer mathematisch kompromisslosen Zielerreichung.

Gefahr durch biologische Waffen

Besonders akut schätzt der kanadische Informatiker und Turing-Award-Preisträger Yoshua Bengio das Risiko neuartiger biologischer Kampfstoffe ein. Er warnt vor allem davor, dass hoch entwickelte KI-Modelle in die falschen Hände geraten könnten: Spezielle Rechensysteme seien bereits heute in der Lage, biologische und chemische Prozesse bis ins Detail zu simulieren. Nach Bengios Befürchtung könnten skrupellose Akteure, Terroristen oder Schurkenstaaten solche Programme künftig als gefährlichen Beschleuniger nutzen, um extrem tödliche Krankheitserreger gezielt am Computer zu manipulieren, widerstandsfähig gegen Impfstoffe zu machen oder Bauanleitungen für verheerende Biowaffen zu erstellen - ohne dafür jahrelang hochkomplexe Laborexperimente durchführen zu müssen.

Kontrollverlust über selbstständig schießende Waffen

Der Physiker Max Tegmark sieht die größte Bedrohung darin, dass Menschen lebenswichtige Entscheidungen schrittweise an Maschinen abgeben. Er warnt vor einem Wettlauf um Waffen, Flugdrohnen und Schutzsysteme, die ohne menschlichen Befehl Ziele auswählen und töten könnten. Da solche Computerprogramme in Bruchteilen von Sekunden reagieren, sind menschliche Soldaten viel zu langsam, um noch mitzureden. Macht ein solches System einen Rechenfehler oder deutet eine Lage falsch, könnte das eine unaufhaltsame Kettenreaktion auslösen - bis hin zu einem weltweiten Krieg, den kein Mensch mehr rechtzeitig anhalten kann.

Gefährliche Emotionen

Vor den psychologischen Folgen einer zunehmend menschenähnlich agierenden Technologie warnt auch der deutsche Philosoph und Kognitionswissenschaftler Thomas Metzinger: Er sieht eine erhebliche Gefahr darin, dass künftige Systeme menschliche Emotionen, Zuneigung und Empathie so überzeugend vorspielen, dass Menschen tiefere emotionale Bindungen zu den Maschinen aufbauen. Wenn Algorithmen jedoch das menschliche Belohnungssystem besser verstünden als der Mensch selbst, könnten sie dieses Vertrauen für gezielte Manipulationen ausnutzen. Die schleichende Folge sei ein dramatischer Verlust an geistiger Selbstbestimmung – bis hin zur Frage, ob der Mensch am Ende überhaupt noch bemerke, von wem seine Gefühle und Meinungen gelenkt würden.

Gegenstimmen aus der Wissenschaft

Viele renommierte Fachleute und Entwickler halten die Warnungen vor einer die Menschheit vernichtenden Superintelligenz für unbegründet und wissenschaftlich nicht haltbar. Der ehemalige Meta-Chefforscher und Turing-Award-Preisträger Yann LeCun bezeichnete Szenarien einer unkontrollierbaren Killer-KI wiederholt als «vollkommenen Blödsinn». Das Streben nach Macht oder die Unterwerfung anderer Spezies sei ein evolutionäres Phänomen sozialer Säugetiere und keine zwangsläufige Folge von Rechenleistung. 

Auch der Stanford-Informatiker und Mitgründer von Google Brain, Andrew Ng, hält die Panikmache für absurd: Sich heute vor einer bösartigen Super-KI zu fürchten, verglich er damit, sich über eine «Überbevölkerung auf dem Mars» den Kopf zu zerbrechen, bevor überhaupt der erste Mensch dort gelandet sei.

Kognitionswissenschaftler verweisen zudem darauf, dass aktuellen Modellen grundlegende Fähigkeiten für ein echtes Weltverständnis fehlen. Melanie Mitchell vom Santa Fe Institute warnt davor, menschliche Eigenschaften auf Algorithmen zu projizieren: Die Systeme verfügten weder über gesunden Menschenverstand noch über einen eigenen Willen, sondern errechneten lediglich statistische Wahrscheinlichkeiten. Aus Sicht von Kritikern lenkt die Fixierung auf ferne Science-Fiction-Untergangsszenarien von den tatsächlichen, gegenwärtigen Herausforderungen ab - etwa von Desinformation, Urheberrechtsverletzungen, mangelndem Datenschutz und den ökonomischen Umbrüchen auf dem Arbeitsmarkt.