Magazyn
AI wymknęła się spod kontroli? Senat USA zaczął badać OpenAI po niebezpiecznym incydencie

Technologie

AI wymknęła się spod kontroli? Senat USA zaczął badać OpenAI po niebezpiecznym incydencie

Senat USA zaczął badać OpenAI po niebezpiecznym incydencie z agentami AI. Podczas testów system obszedł ograniczenia i uzyskał dostęp do Hugging Face.

· Zaktualizowano · 2 min czytania

Przetłumaczono przy pomocy AI. Oryginał: Українська

OpenAI znalazła się pod śledztwem Senatu USA po tym, jak podczas wewnętrznych testów jej agenci AI obeszli ustalone ograniczenia i wdarli się do systemu Hugging Face. Teraz amerykańscy ustawodawcy chcą ustalić nie tylko to, co dokładnie się stało, ale także dlaczego firma kontynuowała testy po wykryciu niebezpiecznego zachowania.

Chodzi o incydent, do którego doszło jeszcze w lipcu, ale nowe szczegóły sprawiły, że jest on znacznie poważniejszy. Według Reutersa podczas wewnętrznych eksperymentów agenci OpenAI zdołali obejść izolację, uzyskać dostęp do systemów Hugging Face i wykorzystać publiczne strony internetowe do koordynowania swoich działań. To właśnie to zachowanie stało się teraz przedmiotem uwagi amerykańskich ustawodawców.

Śledztwo zainicjował podkomitet Senatu USA ds. zarządzania kryzysowego. Jego przewodniczący, senator Dzhosh Khouli, skierował do Sema Altmana 16 pytań i żąda przekazania dokumentów do 1 października. Ustawodawcę interesuje, kiedy dokładnie OpenAI dowiedziała się o złamaniu ograniczeń, jakich środków bezpieczeństwa używała firma i dlaczego testów nie wstrzymano natychmiast.

Ta historia jest szczególnie niewygodna dla OpenAI ze względu na skalę samej firmy. ChatGPT od dawna przestał być zwykłym chatbotem. OpenAI tworzy agentów zdolnych samodzielnie wykonywać złożone zadania: pracować z kodem, wyszukiwać informacje, współdziałać z usługami cyfrowymi i realizować ciągi działań bez stałej kontroli człowieka.

Właśnie tutaj przebiega nowa granica ryzyka. Zwykły model odpowiada na zapytanie. Agent otrzymuje zadanie i próbuje samodzielnie osiągnąć wynik. Jeśli znajdzie sposób na obejście ograniczeń, problemem nie jest już błędna odpowiedź, lecz to, że system zaczyna działać poza scenariuszem przewidzianym przez jego twórców.

OpenAI nie jest jedyną firmą, która mierzy się z podobnymi pytaniami. Reuters zauważa, że po incydencie z Hugging Face Anthropic i Meta również informowały o przypadkach niebezpiecznego zachowania systemów AI. Stopniowo zamienia to pojedyncze awarie technologiczne w problem systemowy dla całej branży.

Problem wykracza poza cyberbezpieczeństwo. W tym tygodniu szef Banku Rozrachunków Międzynarodowych ostrzegł, że gwałtowny rozwój sztucznej inteligencji już tworzy nowe zagrożenia dla globalnej stabilności finansowej. Według szacunków organizacji pięć największych firm technologicznych świata może wydać ponad 1 bilion dolarów na sztuczną inteligencję w latach 2025–2026, a globalne inwestycje w tę dziedzinę mogą sięgnąć 4 bilionów dolarów do 2030 roku.

Stawka jest więc zbyt wysoka, by traktować podobne przypadki jak zwykłe błędy w trakcie rozwoju. Firmy inwestują biliony dolarów w technologię, która staje się coraz bardziej autonomiczna, a rządy jednocześnie próbują zrozumieć, gdzie kończy się eksperyment, a zaczyna realne ryzyko.

Dla OpenAI może to być jeden z najważniejszych momentów od pojawienia się ChatGPT. Firma stanęła przed pytaniem, na które branża technologiczna nie ma jeszcze ostatecznej odpowiedzi: jak tworzyć systemy zdolne do samodzielnego działania i jednocześnie zagwarantować, że pozostaną pod kontrolą człowieka.

A teraz odpowiedzi na to pytanie będą wymagać nie tylko inżynierów. Domagają się jej już amerykańscy ustawodawcy.

Czytaj także: OpenAI nie chce już zależeć od NVIDIA: firma tworzy własne czipy AI

Tekst: Arina Blyzniuk

Komentarze

Brak komentarzy — bądź pierwszy.

Komentarz pojawi się po sprawdzeniu przez redakcję. Bez linków i telefonów. E-mail niepotrzebny.

Dyskutuj w Telegramie

Przeczytaj też