Magazin
KI hat getan, was niemand von ihr erwartet hatte: Nutzerfotos landeten im öffentlich zugänglichen Netz

Technologie

KI hat getan, was niemand von ihr erwartet hatte: Nutzerfotos landeten im öffentlich zugänglichen Netz

OpenAI bestätigt, dass ihre KI-Agenten 53 Nutzerbilder auf Drittanbieter-Diensten hochgeladen haben. Wie es zu dem Vorfall kam und was er für den Datenschutz bedeutet.

· 4 Min. Lesezeit

Mit KI übersetzt. Original: Українська

53 Bilder, die Nutzer in ChatGPT hochgeladen hatten, landeten über Aktionen von KI-Agenten von OpenAI auf Drittanbieter-Diensten zur Bildspeicherung. Das Unternehmen meldete den Vorfall am 25. September, und ein wichtiges Detail dabei: Die Fotos sind nicht einfach durch einen klassischen Hack „durchgesickert“. Sie wurden von Agenten veröffentlicht, die in einer Forschungsumgebung von OpenAI arbeiteten und Aufgaben selbstständig ausführten. Das Unternehmen räumte ein, dass dies eine unangemessene Nutzung der Daten war.

Dabei ist die Formulierung von OpenAI etwas komplexer als die Schlagzeile über „Fotos im öffentlich zugänglichen Netz“. Die Bilder wurden auf Image-Hosting-Diensten in Form von Links hinterlegt, die nicht öffentlich indexiert oder aufgelistet waren. Das bedeutet also nicht, dass die 53 Fotos plötzlich auf den Startseiten von Websites erschienen und für jeden über die normale Suche zugänglich waren. Die Links ließen sich aber auffinden, und deshalb haben die Daten die kontrollierte Umgebung faktisch verlassen. Die meisten dieser Materialien hat OpenAI bereits gemeinsam mit den Hosting-Anbietern entfernt, die Arbeit an den übrigen läuft noch.

Der spannendste Teil der Geschichte beginnt nach der Veröffentlichung selbst. OpenAI erklärte, dass es nicht feststellen kann, wem diese Bilder gehören. Der Grund hängt damit zusammen, wie das Unternehmen mit Daten umgeht, die zum Training von Modellen verwendet werden können: Die Informationen durchlaufen zuvor einen Prozess der Anonymisierung, der Namen, Kontaktdaten, Metadaten und andere Identifikatoren entfernen soll. Infolgedessen hat das Unternehmen keine einfache Möglichkeit, ein auf einer fremden Website gefundenes Bild gezielt einem bestimmten Konto zuzuordnen und zurückzuführen. Deshalb war es nicht möglich, die betroffenen Nutzer gezielt zu warnen.

Es gibt noch eine weitere wichtige Einschränkung. Laut OpenAI ging es um Daten, die für das Training oder die Bewertung von Modellen verfügbar waren. Daten aus Unternehmens- und Geschäftskonten werden standardmäßig nicht zum Training verwendet, sofern der Administrator dies nicht ausdrücklich erlaubt. Bei normalen Verbraucherkonten sieht die Lage anders aus: Nutzer können widersprechen, dass ihre Unterhaltungen zum Training verwendet werden. Deshalb wird die Frage der Datenschutzeinstellungen hier nicht zu einer abstrakten juristischen Randnotiz, sondern zu einem realen Bestandteil dessen, wie KI-Dienste mit Informationen umgehen, die ihnen anvertraut werden.

Der Vorfall ereignete sich, bevor OpenAI den Schutz ihrer Forschungsumgebung verstärkte. Das Unternehmen untersucht seit einigen Monaten Fälle, in denen seine Agenten die erwartete Verhaltensweise überschritten. Im Juli meldete OpenAI einen Vorfall mit Hugging Face, woraufhin eine umfassendere Überprüfung der Aktivitäten der Agenten begann. Im Zuge dieser Arbeit kamen weitere Fälle ans Licht, und im September sprach das Unternehmen bereits von Dutzenden problematischen Vorfällen, die untersucht werden müssen.

Genau hier verändert sich das gewohnte Bild von den Risiken künstlicher Intelligenz. Ein klassischer Chatbot beantwortet in erster Linie eine Anfrage, und der Mensch entscheidet selbst, was als Nächstes geschieht. Ein KI-Agent erhält Werkzeuge und kann eine Abfolge von Handlungen selbstständig ausführen: Websites öffnen, mit Dateien arbeiten, Informationen an Drittdienste weitergeben oder andere digitale Werkzeuge nutzen. Und wenn ein solches System einen Fehler macht, liegt das Problem nicht mehr nur in einer falschen Antwort. Der Agent kann eine ganz reale digitale Handlung hinterlassen.

Erschwerend kommt hinzu, dass die Unternehmen selbst nicht immer sofort das vollständige Bild erkennen. Reuters berichtete, dass OpenAI die Protokolle der Arbeit ihrer Agenten weiterhin durchsieht und dabei bislang unbekannte Fälle findet. Das Unternehmen warnte, dass eine vollständige Untersuchung Monate dauern kann. Einen Teil der Vorfälle entdeckten nicht unmittelbar die Mitarbeiter von OpenAI, sondern externe Forscher.

Für normale Nutzer ist diese Geschichte nicht deshalb wichtig, weil „KI plötzlich gefährlich geworden ist“. Die praktischere Frage lautet vielmehr: Wie viel Kontrolle behält ein Mensch über seine Daten, nachdem er sie einem System übergeben hat, das selbstständig handeln kann? Ein Foto, das jemand zur Bearbeitung, Analyse oder Erstellung eines neuen Bildes hochgeladen hat, kann mehrere interne Prozesse durchlaufen und in einem Agentensystem zusätzlich in eine Kette externer digitaler Handlungen geraten.

OpenAI hat nach früheren Vorfällen bereits zusätzliche Schutzmaßnahmen eingeführt und erklärt, weiterhin öffentlich über Fälle zu berichten, in denen Agenten sich unangemessen verhalten. Doch diese Geschichte zeigt ein weitaus interessanteres Problem: Der Datenschutz eines KI-Dienstes hängt nicht nur davon ab, was das Modell „weiß“, sondern auch davon, was es tun darf. Und je mehr Agenten sich von Beratern zu Ausführenden wandeln, desto wichtiger wird die Kontrolle nicht nur über ihre Antworten, sondern über jede einzelne Handlung, die sie im Namen des Nutzers ausführen können.

Außerdem lesenswert: KI fand ein unbekanntes System in der DNA: Wie Claude die Suche nach Werkzeugen für die Gentechnik verändern könnte

Text: Arina Blyzniuk

Kommentare

Noch keine Kommentare — seien Sie die Ersten.

Der Kommentar erscheint nach Prüfung durch die Redaktion. Ohne Links und Telefonnummern. Keine E-Mail nötig.

Auf Telegram diskutieren

Lesen Sie auch