Magazin
Ist die KI außer Kontrolle geraten? US-Senat nimmt OpenAI nach gefährlichem Vorfall unter die Lupe

Technologie

Ist die KI außer Kontrolle geraten? US-Senat nimmt OpenAI nach gefährlichem Vorfall unter die Lupe

Der US-Senat hat nach einem gefährlichen Vorfall mit KI-Agenten Ermittlungen gegen OpenAI eingeleitet. Bei Tests umgingen die Systeme die Beschränkungen und verschafften sich Zugang zu Hugging Face.

· Aktualisiert · 3 Min. Lesezeit

Mit KI übersetzt. Original: Українська

OpenAI steht unter Untersuchung des US-Senats, nachdem ihre KI-Agenten bei internen Tests die festgelegten Beschränkungen umgangen und in das System von Hugging Face eingedrungen sind. Jetzt wollen US-Gesetzgeber nicht nur herausfinden, was genau passiert ist, sondern auch, warum das Unternehmen die Tests fortgesetzt hat, nachdem das gefährliche Verhalten entdeckt worden war.

Es geht um einen Vorfall, der sich bereits im Juli ereignete, doch neue Details machen ihn deutlich gravierender. Laut Reuters konnten OpenAI-Agenten bei internen Tests die Isolation umgehen, auf Systeme von Hugging Face zugreifen und öffentliche Websites zur Koordinierung ihrer Aktionen nutzen. Genau dieses Verhalten steht nun im Fokus der US-Gesetzgeber.

Die Untersuchung hat der Unterausschuss des US-Senats für Katastrophenmanagement eingeleitet. Dessen Vorsitzender, Senator Dzhosh Khouli, hat Sem Altman 16 Fragen geschickt und fordert die Herausgabe von Dokumenten bis zum 1. Oktober. Den Gesetzgeber interessiert, wann OpenAI von der Verletzung der Beschränkungen erfahren hat, welche Sicherheitsmaßnahmen das Unternehmen angewendet hat und warum die Tests nicht sofort gestoppt wurden.

Diese Geschichte ist für OpenAI besonders unangenehm wegen der Größe des Unternehmens. ChatGPT ist schon lange nicht mehr nur ein Chatbot. OpenAI entwickelt Agenten, die komplexe Aufgaben selbstständig erledigen können: mit Code arbeiten, Informationen suchen, mit digitalen Diensten interagieren und Handlungsabfolgen ohne ständige menschliche Kontrolle ausführen.

Genau hier verläuft die neue Risikogrenze. Ein gewöhnliches Modell beantwortet eine Anfrage. Ein Agent erhält eine Aufgabe und versucht, das Ergebnis selbstständig zu erreichen. Findet er einen Weg, Beschränkungen zu umgehen, liegt das Problem nicht mehr in einer falschen Antwort, sondern darin, dass das System außerhalb des Szenarios agiert, das seine Entwickler vorgesehen hatten.

OpenAI ist nicht das einzige Unternehmen, das mit ähnlichen Fragen konfrontiert ist. Reuters merkt an, dass nach dem Vorfall mit Hugging Face auch Anthropic und Meta über Fälle gefährlichen Verhaltens von KI-Systemen berichtet haben. Dadurch werden einzelne technologische Pannen allmählich zu einer systemischen Frage für die gesamte Branche.

Das Problem reicht über die Cybersicherheit hinaus. In dieser Woche warnte der Leiter der Bank für internationalen Zahlungsausgleich, dass die rasante Entwicklung künstlicher Intelligenz bereits neue Risiken für die globale Finanzstabilität schafft. Einer Einschätzung der Organisation zufolge könnten die fünf größten Technologieunternehmen der Welt in den Jahren 2025–2026 mehr als $1 Billion für künstliche Intelligenz ausgeben, und die globalen Investitionen in diesen Bereich könnten bis 2030 $4 Billionen erreichen.

Die Einsätze sind also zu hoch, um solche Fälle als gewöhnliche Entwicklungsfehler abzutun. Unternehmen stecken Billionen Dollar in eine Technologie, die immer autonomer wird, während Regierungen gleichzeitig versuchen zu verstehen, wo das Experiment endet und das reale Risiko beginnt.

Für OpenAI könnte dies einer der wichtigsten Momente seit dem Erscheinen von ChatGPT werden. Das Unternehmen steht vor einer Frage, auf die die Technologiebranche bisher keine endgültige Antwort hat: Wie entwickelt man Systeme, die selbstständig handeln können, und stellt zugleich sicher, dass sie unter menschlicher Kontrolle bleiben?

Und jetzt wird die Antwort auf diese Frage nicht mehr nur von Ingenieuren gefordert werden. Die Forderung danach kommt bereits von US-Gesetzgebern.

Lesen Sie auch: OpenAI will nicht mehr von NVIDIA abhängig sein: Das Unternehmen entwickelt eigene KI-Chips

Text: Arina Blyzniuk

Kommentare

Noch keine Kommentare — seien Sie die Ersten.

Der Kommentar erscheint nach Prüfung durch die Redaktion. Ohne Links und Telefonnummern. Keine E-Mail nötig.

Auf Telegram diskutieren

Lesen Sie auch