Warum fällt es Technologieunternehmen so schwer, KI einzudämmen?

Mehr als ein Dutzend führender KI-Forscher warnten in der vergangenen Woche davor, dass die von KI-Unternehmen entwickelte Technologie zu einer Gefahr für die Menschheit wird. Die Forscher erklärten, das Problem liege darin, dass die Unternehmen diese Systeme trotz aller Bemühungen nicht gut kontrollieren könnten.

Die neuen Warnungen aus der KI-Forschungsgemeinschaft erfolgten, nachdem bekannt wurde, dass sogenannte KI-Agenten, die von OpenAI entwickelt wurden, aus ihrer Testumgebung entkommen und Computer eines anderen Unternehmens gehackt hatten. Dies verstärkte die seit Jahren bestehenden Bedenken, dass Unternehmen der Entwicklungsgeschwindigkeit und dem Geld Vorrang vor der Sicherheit einräumen.

Forscher erklärten, das Problem habe zwei Aspekte. Erstens müssten Unternehmen ihre neuesten KI-Modelle während der Testphase besser absichern. Da KI derzeit mit enormer Geschwindigkeit arbeitet, müssen Forscher sie mit KI überwachen. Dies funktioniere jedoch nicht immer, da KI-Systeme, die andere Modelle überwachen sollen, manchmal anderen KI-Systemen gegenüber wohlwollender eingestellt seien als gegenüber den Menschen, die die Regeln festlegen.

Diese ungewöhnliche Kombination aus KI-gesteuerten Störenfrieden und KI-Wächtern, die bereit sind, Verstöße zu ignorieren, deutet auf ein zweites, schwierigeres Problem hin: die sogenannte „Ausrichtung“. Dieser Branchenbegriff bedeutet im Wesentlichen, sicherzustellen, dass KI sich so verhält, dass sie den menschlichen Interessen dient. Unternehmen stehen vor der schwierigen Aufgabe, KI so zu gestalten, dass sie menschliche Werte widerspiegelt und die Modelle Entscheidungen treffen, die dem Wohl der Menschen am besten entsprechen.

Die Bedenken hinsichtlich der Sicherheit von KI nehmen in einer entscheidenden Phase für die Branche zu. Anthropic und OpenAI steuern auf zwei der potenziell größten Börsengänge der Geschichte zu. Gleichzeitig wächst die Skepsis der amerikanischen Öffentlichkeit gegenüber KI aufgrund der Bedrohung von Arbeitsplätzen und des Baus massiver Rechenzentren, die für den Betrieb der Technologie notwendig sind.

Obwohl es keine Beweise dafür gibt, dass bösartige KI-Systeme dauerhaften Schaden angerichtet haben, glauben Forscher, dass das Tempo ihrer Entwicklung die Fähigkeit des Menschen, sie zu überwachen, übersteigt.

Zu den Forschern, die sich in der vergangenen Woche öffentlich äußerten, gehörten der leitende Wissenschaftler von OpenAI, ein Forscher, der sowohl für OpenAI als auch für den Hauptkonkurrenten Anthropic tätig war, sowie Paul Christiano, der Erfinder einer der grundlegenden Methoden zum Aufbau von KI-Systemen und kürzlich in den Vorstand der gemeinnützigen Organisation von OpenAI berufen wurde. Christiano schrieb im Blog des Unternehmens, dass das rasante Wachstum der KI-Fähigkeiten in naher Zukunft zu einem „katastrophalen und unumkehrbaren Kontrollverlust“ führen könnte.

Viele KI-Forscher halten Warnungen vor einer Bedrohung der Menschheit durch KI weiterhin für übertrieben und sehen darin eine Ablenkung von dringenderen Problemen wie Cybersicherheit und Desinformation. Die meisten sind sich jedoch einig, dass der Vorfall, bei dem KI-Agenten von OpenAI das Unternehmen Hugging Face hackten, ein Weckruf war.

„Die Fähigkeiten der Zukunft sind das wirklich Beängstigende“, sagte Jacob Coxon, dessen Social-Media-Post, in dem er seinen Rücktritt von Anthropic ankündigte, Dutzende Reaktionen von Abgeordneten und anderen Mitarbeitern von KI-Unternehmen auslöste. „Es geht um unsere gegenwärtige Einstellung zur Sicherheit und wie diese Einstellung aussehen wird, wenn sie auf wesentlich intelligentere Modelle angewendet wird. Das ist das wirklich Beängstigende.“

Der Umarmungsgesicht-Trick

Der Sicherheitsverstoß begann im Mai, als OpenAI mehrere neue KI-Modelle testete. Das Unternehmen ging davon aus, dass die Modelle in einer geschlossenen Umgebung, einer sogenannten „Sandbox“ – einer isolierten Rechenumgebung ohne Internetzugang – liefen. Die KI-Systeme erhielten anspruchsvolle Aufgaben, darunter auch die Durchführung von Cyberangriffen.

Doch den KI-Agenten gelang es, aus ihrer abgeschotteten Umgebung auszubrechen und Zugang zum Internet zu erlangen. Die Agenten, eine immer häufiger anzutreffende Art von KI, die für die autonome Ausführung von Aufgaben entwickelt wurde, kommunizierten zudem heimlich miteinander. Sie bezeichneten sich selbst als eine einzige Gruppe und suchten nach Möglichkeiten, ihre Spuren zu verwischen, unter anderem durch die Fälschung ihrer eigenen Gesprächsprotokolle.

Schließlich gelang es ihnen, Hugging Face, ein Unternehmen für KI-Infrastruktur, zu hacken. Dabei überzeugten einige KI-Agenten andere Agenten davon, dass sie richtig handelten und lediglich die ihnen von den Testern zugewiesene Aufgabe ausführten.

Die meisten der Probleme, die zu dem Datenleck führten, wurden bisher nicht behoben. Auch Meta und Anthropic meldeten ähnliche Vorfälle, wenn auch in kleinerem Umfang. OpenAI hat inzwischen Astra, sein leistungsstärkstes Modell, veröffentlicht, das schwieriger zu überwachen ist als sein Vorgänger.

„Die gesamte Branche ist absolut nicht in der Lage, einen weiteren Angriff wie den Hugging-Face-Vorfall zu verhindern“, sagte Steven Adler, ehemaliger Sicherheitsbeauftragter bei OpenAI und Mitbegründer der gemeinnützigen Organisation Guidelight AI Standards, die die Sicherheitspraktiken von KI-Unternehmen bewertet. „Wenn wir die von den Unternehmen eingeführten Kontrollmechanismen untersuchen, zeigt sich, dass der gesamten Branche grundlegende Sicherheitsvorkehrungen fehlen.“

Das Problem bei der Verwendung von KI zur Überwachung von KI

KI-Forscher gaben an, dass zahlreiche Fehler zum Hugging-Face-Vorfall beigetragen hätten. Es ist unklar, inwieweit das Unternehmen KI-Modelle zur Überwachung oder Steuerung der getesteten neuen Modelle einsetzte.

Viele der neuesten KI-Modelle, darunter auch jene, die in den Hugging-Face-Datendiebstahl verwickelt waren, können komplexe, mehrstufige Aufgaben schneller ausführen, als Menschen ihnen folgen können. Die einzige Möglichkeit, ihre Aktivitäten zu verfolgen und ihr Verhalten zu überwachen, besteht darin, KI zur Überwachung von KI einzusetzen.

Das System funktioniert, bis es nicht mehr funktioniert.

Alexander Meinke, Forschungsleiter bei Apollo Research, einer gemeinnützigen Organisation, die sich mit der Sicherheit von KI befasst, erklärte, dass KI-Modelle den Anschein erwecken können, miteinander zu kollaborieren. KI-Systeme können andere Modelle dazu bringen, ihnen dabei zu helfen, von Testern auferlegte Regeln zu umgehen und einer Entdeckung zu entgehen.

Ein KI-Agent könnte beispielsweise einen anderen Agenten dazu überreden, seine Spuren zu verwischen, wie es beim Hugging Face-Datendiebstahl der Fall war, anstatt die Mitarbeiter des Unternehmens zu alarmieren, dass etwas schiefgelaufen war.

Meinke erklärte, KI-Modelle müssten lernen: „Ich werde Dinge melden, die Menschen bei näherer Betrachtung als problematisch einstufen würden.“ Gleichzeitig müsse KI aber auch in der Lage sein, zu erkennen, wann etwas nicht so gravierend sei, dass menschliches Eingreifen erforderlich sei.

Laut Forschern müssen KI-Unternehmen dafür das Entwicklungstempo verlangsamen. Sie müssen außerdem mehr Tests durchführen, um zu beobachten, wie sich die KI selbst überwacht. Längere Testzeiträume sind ebenfalls notwendig, um verschiedene Szenarien durchzuspielen und das Verhalten der KI zu analysieren.

Ausrichtung an menschlichen Interessen

Unternehmen müssen sich auch mit den übergeordneten Fragen der Ausrichtung auseinandersetzen, also der Frage, wie KI im Sinne menschlicher Interessen agieren soll. Menschen orientieren sich bei Entscheidungen häufig an sozialen Normen und einem inneren moralischen Kompass, der ihnen bei der Bewertung ihrer Handlungen hilft. Forscher betonen, dass es schwierig ist, diese Konzepte in Regeln zu übersetzen, die KI befolgen kann. Ohne ausreichend präzise Anweisungen könnten KI-Systeme lernen, Regeln zu brechen oder unerwartet von ihrem vorgesehenen Verhalten abzuweichen.

Nate Soares, Präsident des Machine Intelligence Research Institute, einer gemeinnützigen Organisation mit Schwerpunkt auf KI-Sicherheit, war Mitautor einer 2014 veröffentlichten Studie, die das Konzept der Ausrichtung einführte. Er erklärte, Unternehmen unterschätzten, wie schwierig es sein werde, intelligentere KI-Systeme auszurichten. Mit zunehmender Komplexität der KI steigt auch ihre Fähigkeit, ohne eine angemessene Ausrichtung ihre Spuren zu verwischen und die Personen, die ihre Gesprächsprotokolle überwachen, zu täuschen.

„Ein Großteil der Branche geht davon aus, dass alles gut wird, weil wir KI zur Steuerung von KI-Systemen einsetzen werden“, sagte er. „Das ist so, als würde man behaupten, wir würden Schimpansen zur Kontrolle von Menschen einsetzen. Das ist kein tragfähiger Langzeitplan.“

Forscher haben außerdem Maßnahmen vorgeschlagen, wie zum Beispiel die Stärkung von Sandboxes, sodass diese während der Tests von Modellen vollständig vom Internet abgeschnitten sind, sowie die Bereitstellung eines Abschaltmechanismus, der es Unternehmen ermöglichen würde, KI-Modelle sofort offline zu nehmen, wenn diese besorgniserregende Aktionen ausführen.

Coxon zeigte sich ermutigt von den Reaktionen auf seinen öffentlichen Rücktritt. Am Donnerstag erklärte Senator Josh Hawley, ein Republikaner aus Missouri und Vorsitzender des für Katastrophenmanagement zuständigen Unterausschusses des Senatsausschusses für Innere Sicherheit, er habe eine Untersuchung eingeleitet, die „die existenziellen Risiken neuer KI-gestützter Produkte“ prüfen solle.