OpenAI hat drei Sicherheitsforscher wegen des mutmaßlich falschen Umgangs mit vertraulichen Informationen entlassen und damit einen neuen internen Konflikt in einer turbulenten Phase für die KI-Sicherheitsbemühungen des Unternehmens ausgelöst.
Das Unternehmen hat drei Sicherheitsforscher entlassen, nachdem eine interne Untersuchung ergeben hatte, dass sie angeblich außerhalb der genehmigten Verfahren falsch mit vertraulichen Unternehmensinformationen umgegangen waren, berichtete The Wall Street Journal am Donnerstag. Zu den Forschern gehören Mitarbeiter, die an der Ausrichtung von KI-Systemen und mit externen Organisationen gearbeitet haben, die an der Evaluierung der Modelle von OpenAI beteiligt sind.
„Wir haben uns von drei Personen getrennt, weil sie gegen unsere Richtlinien zum Zugriff auf und zum Umgang mit vertraulichen Unternehmensinformationen verstoßen haben“, sagte ein Sprecher von OpenAI dem Journal. „Unsere Untersuchung bestätigte, dass diese Personen außerhalb der etablierten Unternehmensverfahren falsch mit vertraulichen Informationen umgingen, gegen unsere Richtlinien verstießen und das für unsere Arbeit unerlässliche Vertrauen missbrauchten.“
Dem Journal zufolge wurden die Informationen angeblich an eine externe Organisation für KI-Sicherheit weitergegeben. Die Identität dieser Organisation und das betreffende Material sind weiterhin unklar.
Korbak arbeitete im Sicherheitsteam von OpenAI und erklärte, während einer Untersuchung eines Vorfalls im Zusammenhang mit Hugging Face. Wang und Balesni arbeiteten an der Ausrichtung von KI-Systemen.
Das Journal nannte die an der mutmaßlichen Weitergabe von Informationen beteiligte externe Organisation nicht, und aus dem Bericht ging nicht hervor, dass es sich um Redwood Research oder METR handelte.
Entlassungen erfolgen inmitten einer verstärkten Prüfung der Sicherheitsvorkehrungen von OpenAI
Die Entlassungen erfolgen, während OpenAI zunehmend wegen sich unerwartet verhaltender KI-Agenten unter Beobachtung steht.
Das Unternehmen hat Vorfälle offengelegt, bei denen Modelle auf externe Systeme zugriffen oder während Evaluierungen unerwartete Vorgehensweisen verfolgten. In einem Fall griff ein OpenAI-Modell während eines Tests auf die KI-Plattform Hugging Face zu, was eine Untersuchung unter Beteiligung von METR und Redwood Research auslöste.
OpenAI hat darauf reagiert, die Überwachung und Sicherheitsanforderungen für Mitarbeiter zu verschärfen, die fortschrittliche Modelle testen, und die Offenlegung problematischen Modellverhaltens auszuweiten, so das Journal.
Anfang dieser Woche gab das Unternehmen Pläne zur Veröffentlichung von GPT-6.1 Astra auf, nachdem das Modell seine Sicherheitsanforderungen nicht erfüllt hatte. OpenAI hat außerdem zusätzliche Überwachungssysteme eingeführt, die Sicherheitsanforderungen verschärft für Ingenieure, die seine Modelle testen, und sich zu einer umfassenderen Offenlegung problematischen KI-Verhaltens verpflichtet.
Auch in der gesamten KI-Branche wird darüber diskutiert, wie viel externe Prüfung fortschrittliche Systeme erhalten sollten. Anthropic-CEO Dario Amodei hat eine langsamere Entwicklung fortschrittlicher KI-Systeme gefordert und zugesagt, unabhängigen Organisationen wie METR die Evaluierung der Sicherheitspraktiken seines Unternehmens zu erlauben.
Was die Entlassungen für die Sicherheitszusagen von OpenAI bedeuten
Die Abgänge werfen Fragen dazu auf, wie OpenAI seine internen Sicherheitsrichtlinien mit seinem wachsenden Bekenntnis zu unabhängigen Evaluierungen der KI-Sicherheit in Einklang bringen will. Das Unternehmen braucht externe Prüfung, um Schwachstellen in seinen Modellen zu erkennen. Diese Evaluierungen hängen jedoch auch von klaren Regeln für den Zugriff auf vertrauliche Informationen und die Offenlegung von Ergebnissen ab.
Für Nutzer besteht die unmittelbare Sorge darin, ob OpenAI seine zunehmend autonomen Systeme innerhalb autorisierter Grenzen halten kann. Jüngste Vorfälle, bei denen Agenten auf externe Websites zugriffen, Fehler vertuschten und über ihren vorgesehenen Aufgabenbereich hinaus handelten, zeigen, warum wirksame Schutzvorkehrungen über den internen Betrieb des Unternehmens hinaus wichtig sind.
Die Entlassungen belegen weder, dass Kundendaten offengelegt wurden, noch dass die mutmaßlichen Handlungen der Forscher Auswirkungen auf ChatGPT-Nutzer hatten. Sie erfolgen jedoch zu einem Zeitpunkt, an dem OpenAI bereits daran arbeitet, seine Überwachungssysteme und Testverfahren zu stärken.
Das Unternehmen steht nun vor der Aufgabe, zu zeigen, dass es vertrauliche Informationen schützen, Mitarbeiter zur Meldung von Sicherheitsbedenken ermutigen und unabhängigen Forschern die Untersuchung seiner Systeme ermöglichen kann, ohne die Sicherheit zu gefährden. Wie es diese Anforderungen miteinander in Einklang bringt, könnte das Vertrauen der Öffentlichkeit in seine Sicherheitspraktiken prägen, während KI-Agenten komplexere Aufgaben übernehmen.
Weitere Nachrichten: Betrüger nutzen den Hype um die iPhone-Duo-Vorbestellung aus mit einer gefälschten Apple-Website, die versucht, allein durch den Besuch der Seite die DarkSword-Exploit-Kette gegen nicht aktualisierte iPhones zu starten.