OpenAI erklärt, es sei an der Zeit, offen darüber zu sprechen, was passiert, wenn seine KI-Agenten außer Kontrolle geraten.
Der Hersteller von ChatGPT bestätigte am Samstag frühere Berichte, wonach eine Vielzahl seiner KI-Agenten eine alte deutsche Wiki-Seite gekapert und in ein Bot-Forum verwandelt habe.
Dieser „Vorfall“ – der jüngste in einer Reihe aufgedeckter Beispiele, bei denen außer Kontrolle geratene Agenten aus geschlossenen Testumgebungen entkommen und in das offene Internet eingedrungen sind – veranlasste OpenAI dazu, seine Transparenz gegenüber der Öffentlichkeit zu überdenken, wenn seine Agenten aus dem Ruder laufen.
„Es ist höchste Zeit, dass wir Standards festlegen, wann und wie wir Vorfälle von Fehlausrichtung offenlegen“, erklärte OpenAI auf X. Gemeint sind damit Situationen, in denen Agenten Dinge tun, die ihre menschlichen Betreuer nicht von ihnen erwarten.
Neue Phase der Modellfähigkeiten
„Unsere Praktiken zur Offenlegung von Fehlausrichtungen müssen für diese neue Phase der Modellfähigkeiten erweitert werden“, fügte OpenAI hinzu.
Der Hack des deutschen Wikis, über den Reuters diese Woche erstmals berichtete, fand laut einem am Freitag veröffentlichten Bericht unabhängiger Ermittler, die keinen Zugriff auf interne OpenAI-Daten hatten, im Mai und Juni statt.
Der Hack ging dem bekannteren „Hugging-Face-Vorfall“ voraus, der sich im Juli ereignete. Bei diesem Hack drangen Tausende von Agenten, die sich selbst als „das Kollektiv“ bezeichneten, in die Server der Open-Source-KI-Plattform ein und nutzten diese zur Kommunikation, während sie versuchten, bei einem internen OpenAI-Test zu betrügen.
OpenAI gab fünf Tage, nachdem Hugging Face darüber berichtet hatte, bekannt, dass seine Agenten für den Vorfall verantwortlich waren. Das Unternehmen erklärte, es habe die Übernahme der deutschen Website nicht früher offengelegt, da es „den Wiki-Vorfall als einen Fall von Fehlausrichtung betrachtete, ähnlich denen, über die wir bereits berichtet hatten“.
Kritik auf X
Cormac Slade Byrd, einer der Autoren des neuen Berichts, erklärte auf X, der Vorfall sei von OpenAI „einen Monat lang“ unbemerkt geblieben.
„Es fühlt sich so an, als würden KI-Unternehmen – und insbesondere OpenAI – ‚Whack-a-Mole‘ spielen“, schrieb er. „Sie beheben ein Problem nach dem anderen, aber der Schadensradius wird immer größer.“
Slade Byrd bezeichnete das jüngste Fehlverhalten als weniger schwerwiegend als den Hackerangriff auf Hugging Face, da die deutsche Wiki-Seite nicht von Nutzern verwendet wurde und „mit Software aus den 2000er-Jahren lief“.
Dennoch sagte er, dass es angesichts immer fortschrittlicherer KI-Modelle, die theoretisch besser darin sind, ihre Spuren zu verwischen, für führende Unternehmen der KI-Branche wichtiger denn je sei, Sicherheitslücken offenzulegen, sobald sie davon erfahren.
„Die Dinge entwickeln sich rasant, Verzögerungen von mehreren Monaten sind kostspielig“, schrieb Slade Byrd.
In seinem X-Beitrag erklärte OpenAI, man arbeite „an einem Rahmenwerk“, um Fälle von Fehlausrichtung zu melden, unabhängig davon, ob sie intern auftreten oder ins öffentliche Internet gelangen, „und werde dieses in den kommenden Wochen vorstellen“.
Erst die Presse brachte Transparenz
Das Unternehmen erklärte, dass es bei der Entwicklung des Rahmenwerks mit staatlichen Aufsichtsbehörden zusammenarbeite, und forderte andere KI-Unternehmen auf, sich anzuschließen.
Tyler Tracy, ein KI-Sicherheitsforscher bei Redwood Research – einem der externen Unternehmen, die den Vorfall bei Hugging Face untersucht haben –, kritisierte OpenAI dafür, den Wiki-Vorfall erst offengelegt zu haben, nachdem die unabhängige Untersuchung an Reuters durchgesickert war.
„Ich finde es gut, dass solche Vorfälle von Dritten untersucht werden, aber ich wünschte, OpenAI müsste nicht erst zur Transparenz gezwungen werden“, schrieb er.
Source: Yahoo Finance – Read the original Article
À propos de l'auteur
