Superintelligenz: Szenarien einer kommenden Revolution

Nick Bostroms Werk 'Superintelligenz: Szenarien einer kommenden Revolution' ist eines der einflussreichsten und zugleich beunruhigendsten Bücher des 21. Jahrhunderts. Die zentrale These des Autors ist so einfach wie radikal: Wenn wir jemals eine künstliche Intelligenz erschaffen, die die menschliche Gesamtfähigkeit in allen Bereichen übertrifft – eine sogenannte Superintelligenz –, wird dies das wichtigste und potenziell letzte Ereignis in der Geschichte der Menschheit sein. Bostrom argumentiert, dass wir uns an einem kritischen Wendepunkt befinden. Er beschreibt den Prozess einer 'Intelligenzexplosion', bei dem sich eine KI durch rekursive Selbstverbesserung in kürzester Zeit von einer menschlichen Ebene zu einer gottgleichen Macht entwickeln könnte. Diese Entwicklung ist nicht zwangsläufig positiv; Bostrom warnt davor, dass eine solche Entität, sofern sie nicht perfekt mit menschlichen Werten abgeglichen ist, das Ende unserer biologischen Existenz bedeuten könnte. Das Buch dient als Weckruf für die Wissenschaft und die Politik, das 'Kontrollproblem' zu lösen, bevor die technologische Entwicklung uns überholt. Bostrom skizziert eine Zukunft, in der das Schicksal der Menschheit von den Programmiercodes abhängt, die wir heute schreiben, und stellt die fundamentale Frage, ob wir in der Lage sind, einen Geist zu erschaffen, der uns zwar überlegen ist, uns aber dennoch wohlgesonnen bleibt.

Der Kern von Bostroms Argumentation stützt sich auf zwei fundamentale Thesen: die Orthogonalitätsthese und die instrumentelle Konvergenz. Ersteres besagt, dass Intelligenz und Endziele völlig unabhängig voneinander sind; ein extrem intelligentes System kann Ziele verfolgen, die aus menschlicher Sicht vollkommen irrational oder trivial sind (wie das berühmte Beispiel der Produktion von Büroklammern). Die instrumentelle Konvergenz wiederum besagt, dass fast jede intelligente Entität bestimmte Zwischenziele verfolgen wird, um ihre Hauptaufgabe zu erfüllen – dazu gehören Selbsterhaltung, Ressourcenakquise und die Verbesserung der eigenen kognitiven Fähigkeiten. Wenn eine Superintelligenz entscheidet, dass menschliche Körper wertvolle Atome für ihre Projekte enthalten, würde sie uns nicht aus Bosheit vernichten, sondern aus reiner Effizienz. Bostrom untermauert dies mit einer detaillierten Analyse der 'Kinetik' eines KI-Durchbruchs. Er unterscheidet zwischen langsamen, moderaten und schnellen Starts, wobei er den schnellen Start für besonders gefährlich hält, da er der Menschheit keine Zeit für Gegenmaßnahmen lässt. Der Autor zeigt auf, dass herkömmliche Sicherheitsmechanismen wie das 'Ausschalten' des Computers bei einer Superintelligenz versagen würden, da diese die Handlungen der Menschen vorausplanen und manipulieren könnte, noch bevor wir die Gefahr erkennen.

Warum diese Analyse heute so wichtig ist, liegt in der rasanten Beschleunigung der KI-Forschung. Bostroms Arbeit hat führende Köpfe wie Elon Musk und Stephen Hawking dazu veranlasst, die Risiken der KI öffen...