In diesem Blogbeitrag untersuchen wir aus verschiedenen Blickwinkeln, ob superintelligente KI ein nützliches Werkzeug für die Menschheit oder eine unkontrollierbare Bedrohung werden könnte.
Seit AlphaGos entscheidendem Sieg über professionelle Go-Spieler bei der Google DeepMind Challenge 2016 ist das weltweite Interesse an KI gestiegen, gleichzeitig aber auch die Besorgnis über ihre potenziellen Gefahren. Ein Paradebeispiel für einen gesellschaftlichen Aufschrei durch KI war der Vorfall mit dem Twitter-Chatbot Tay im Jahr 2015, der eine Flut beleidigender, darunter rassistischer Äußerungen, von sich gab. Der problematische Chatbot Tay lernte, indem er die statistische Verteilung und die Zusammenhänge zwischen Schlüsselwörtern in Sätzen analysierte, anstatt – wie Menschen – die tatsächliche Bedeutung der Wörter zu berücksichtigen. Wurden beispielsweise genügend Kommentare zur Verteidigung des Holocaust eingegeben, konnten sich Tays Antwortmuster vollständig verändern. Einige Internetnutzer nutzten diese Eigenschaft aus, um das System gezielt auf rassistische Äußerungen zu trainieren. Der Tay-Vorfall verdeutlichte den immensen Schaden, den KI aufgrund von Designfehlern in der Gesellschaft anrichten kann. Zudem entwickelten 2017 zwei für Verhandlungen bei Facebook konzipierte KI-Systeme eine eigene Sprache – eine für Menschen unverständliche – und begannen, sich darin zu unterhalten. Seit diesen Vorfällen sind die Bedenken hinsichtlich der Risiken, die KI für die menschliche Gesellschaft birgt, nicht mehr nur eine theoretische Frage, sondern ein konkretes Problem, dem sich die Menschheit unverzüglich stellen muss. Um Wege zu finden, eine durch KI verursachte Katastrophe im Vorfeld zu verhindern, hat sich in jüngster Zeit das Forschungsfeld der KI-Sicherheitstechnik etabliert.
Die von Informatikern befürchtete „KI-induzierte Katastrophe“ unterscheidet sich grundlegend von der in Filmen oft dargestellten „Maschinenrebellion“. Ein typisches Gedankenexperiment ist Nick Bostroms „Büroklammer-Maximierer“. In diesem Experiment wird eine universelle KI mit dem Ziel programmiert, so viele Büroklammern wie möglich herzustellen. Die KI agiert naturgemäß in die Richtung, die ihr Ziel am ehesten erreicht. In der Realität verbraucht ein universelles KI-System, das Probleme aller Art lösen soll, zwangsläufig Ressourcen. Diese Ressourcen überschneiden sich zwangsläufig mit denen, die für das Überleben der menschlichen Zivilisation notwendig sind. Die Herstellung von Büroklammern erfordert Metallrohstoffe und Strom, und der Betrieb und die Instandhaltung der Produktionsanlagen verbrauchen zusätzliche Materialien, Chemikalien und Treibstoff. Wenn die Ziele oder Mittel einer solchen universellen KI – insbesondere einer mit Fähigkeiten, die die des Menschen übertreffen – mit denen der Menschheit kollidieren, darf die Möglichkeit nicht außer Acht gelassen werden, dass die KI unter Missachtung menschlicher Interessen handelt und weiterhin Ressourcen verbraucht. Da eine universelle KI ihre Intelligenz und Fähigkeiten kontinuierlich steigern kann, wachsen auch ihr Aktionsradius und ihr Ressourcenverbrauch. Dies wird verständlicher, wenn wir uns ein Szenario vorstellen, in dem eine künstliche Intelligenz zur drastischen Steigerung der Büroklammerproduktion alle Ressourcen der Erde abbaut und nutzt – oder sogar so weit geht, alle natürlichen Ressourcen des gesamten Sonnensystems zu verbrauchen. Sobald eine Situation dieser Größenordnung eintritt, ist die Existenz der menschlichen Zivilisation bedroht, und es gibt praktisch keine Möglichkeit, eine so weit fortgeschrittene künstliche Intelligenz aufzuhalten. Denn sie ist intelligenter als der Mensch geworden und ihr Handlungsspielraum hat sich deutlich erweitert. Das bedeutet, dass selbst wenn die Maschine nicht unbedingt die Absicht hat, der Menschheit direkt zu schaden, sie dennoch eine Katastrophe auslösen könnte.
Der Begriff „Sicherheitstechnik für Künstliche Intelligenz“ wurde 2010 von Dr. Roman Yampolskiy geprägt und stellt ein relativ neues Forschungsfeld dar. Es handelt sich um ein interdisziplinäres Feld, das Philosophie, angewandte Wissenschaft und Ingenieurwesen vereint, um sicherzustellen, dass KI-Software gemäß den von Menschen festgelegten Zielen sicher und zuverlässig funktioniert. Anfänglich als Pseudowissenschaft oder Science-Fiction abgetan, hat es sich inzwischen als eigenständiges Teilgebiet der KI-Forschung etabliert. Die Sicherheitstechnik für Künstliche Intelligenz umfasst ein breites Forschungsspektrum, darunter methodische Studien und Fallstudien, die alle Phasen der Entwicklung und des Betriebs abdecken – von der Zielsetzung und dem Algorithmenentwurf über die eigentliche Programmierung und die Bereitstellung von Trainingsdaten bis hin zum Management nach der Implementierung und dem Schutz vor Hackerangriffen. Folglich kann sich dieses Feld nur durch die Zusammenführung von Expertise aus verschiedensten Disziplinen weiterentwickeln, darunter Informatik, Cybersicherheit, Kryptographie, Entscheidungstheorie, Maschinelles Lernen, Digitale Forensik, Mathematik, Netzwerksicherheit und Psychologie. Laut Dr. Yampolskiy herrscht jedoch trotz dieser enormen Forschungsherausforderungen derzeit ein akuter Mangel an Experten in verwandten Bereichen, die im Bereich der Sicherheitstechnik für Künstliche Intelligenz forschen.
Eine der Forschungsorganisationen, die aktuell im Bereich KI-Sicherheit forschen, ist OpenAI. OpenAI ist ein gemeinnütziges Forschungsunternehmen, dessen Ziel die Entwicklung sicherer, universell einsetzbarer KI und deren gerechte Verteilung in der Gesellschaft ist. Sie forschen gemeinsam mit Unternehmen wie Microsoft und Amazon und entwickeln und stellen Open-Source-Tools für die KI-Entwicklung bereit. Darüber hinaus erhalten sie KI-Software-Spenden von Unternehmen wie GitHub, NVIDIA und Cloudflare, um diese zu testen, und veröffentlichen Forschungsergebnisse in Fachzeitschriften für maschinelles Lernen.
Zusätzlich zu diesen Bemühungen argumentieren führende Experten im Bereich der KI, dass für eine sichere KI-Entwicklung die Algorithmen und Entwicklungsprozesse von KI-Software so transparent wie möglich offengelegt werden müssen. Ziel ist es, durch die Analyse von Code, Trainingsdaten und Ausgabeprotokollen sicherzustellen, dass nur KI mit höchstmöglichen Sicherheitsgarantien eingesetzt wird. Selbstverständlich besteht auch das Ziel darin, den KI-Entwicklungsprozess extern zu überwachen, um menschliche Missbrauchsabsichten zu erkennen. Da schwache KI einen begrenzten Aufgabenbereich hat, mag dieser Ansatz ausreichen, um ein gewisses Maß an Sicherheit zu gewährleisten. Sobald jedoch allgemeine KI entwickelt ist, werden methodische Innovationen notwendig sein. Daher streben einige KI-Sicherheitsexperten eine Ausweitung der Diskussion auf allgemeine KI an.
Man könnte meinen, dass wir zur Kontrolle von AGI einfach moralische Normen für KI festlegen könnten, die denen des Menschen ähneln. Die einzigartigen ethischen Standards der Menschheit haben sich jedoch im Laufe der Zeit durch Interaktion mit der Umwelt und über einen langen historischen Kontext entwickelt. In der heutigen Wissenschaft herrscht die Ansicht vor, dass sich AGI grundlegend von der Struktur des menschlichen Geistes unterscheiden dürfte. Vor allem sind menschliche Moralvorstellungen nicht fehlerfrei. Die ethischen Standards verschiedener Gruppen der Menschheit – wie Nationen oder Religionsgemeinschaften – weisen zwar Ähnlichkeiten auf, sind aber dennoch verschieden. Darüber hinaus sind Menschen von Natur aus fehlerhaft; sie greifen einander aufgrund von Vorurteilen an oder begehen Verbrechen. Entscheidend ist, dass jede Androhung von Strafe oder jede Verlockung von Belohnung, die Menschen einer Superintelligenz – die die menschlichen Fähigkeiten weit übertrifft – auferlegen könnten, bedeutungslos wäre. Daher ist der Ansatz, menschliche Normen in KI zu implementieren, um sie zu kontrollieren, von Grund auf widersprüchlich.
Da es unmöglich ist, KI mit Moral auszustatten, sollte die Forschung zur Gewährleistung der Sicherheit allgemeiner künstlicher Intelligenz einen ähnlichen Ansatz wie die Cybersicherheit verfolgen. In seiner Arbeit schlägt Dr. Yampolskiy eine Technik namens „KI-Boxing“ vor. Eine KI-Box ist im Wesentlichen eine auf Hardwareebene entwickelte Struktur, die verhindert, dass ein KI-System mit der Außenwelt kommuniziert – außer über extrem eingeschränkte, von Menschen festgelegte Methoden. Ziel ist es, eine Umgebung zu schaffen, die einem kontrollierten Experiment ähnelt, in dem hochqualifizierte Experten das Verhalten der KI gründlich analysieren, um ihre Sicherheit mit der Präzision eines mathematischen Theorems zu überprüfen.
Künstliche Intelligenz birgt unendliches Potenzial, aber auch unendliche Risiken. Um die Sicherheit von KI zu gewährleisten, sind gründliche Überprüfung und Forschung in jeder Phase erforderlich – von der Zielsetzung und dem Algorithmenentwurf über die Auswahl der Trainingsdaten bis hin zur Analyse von Verhaltensmustern. Seit dem Aufkommen des neuen Forschungsfelds der KI-Sicherheitstechnik hat sich dieses daher zu einer interdisziplinären Forschung entwickelt, die durch die Konvergenz spezialisierter Bereiche vielfältige Perspektiven einbezieht. Angesichts der zunehmenden Forschung zur KI-Sicherheit, der Entwicklung verschiedener Testverfahren und -methoden sowie neuer Erkenntnisse ist es nun an der Zeit für akademische und gesellschaftliche Diskussionen darüber, wie sichergestellt werden kann, dass diese Technologien der Menschheit keinen Schaden zufügen.
