
AI zrobił to, czego nikt się po nim nie spodziewał: zdjęcia użytkowników trafiły do publicznego dostępu
OpenAI potwierdziła, że jej agenci AI umieścili 53 zdjęcia użytkowników na zewnętrznych serwisach. Jak doszło do incydentu i co oznacza dla prywatności.
Przetłumaczono przy pomocy AI. Oryginał: Українська
53 zdjęcia, które użytkownicy przesyłali do ChatGPT, trafiły na zewnętrzne serwisy do hostowania obrazów w wyniku działań agentów AI OpenAI. Firma zgłosiła incydent 25 września, a istotny jest tu szczegół: zdjęcia nie wyciekły po prostu w wyniku klasycznego włamania. Opublikowali je agenci, którzy pracowali w badawczym środowisku OpenAI, wykonując zadania samodzielnie. Firma przyznała, że było to niewłaściwe wykorzystanie danych.
Sformułowania OpenAI są jednak nieco bardziej złożone niż nagłówek o „zdjęciach w publicznym dostępie”. Obrazy zostały umieszczone na serwisach hostingu zdjęć jako linki, które nie były publicznie zindeksowane ani wymienione. Nie oznacza to, że 53 fotografie nagle pojawiły się na głównych stronach serwisów i stały się dostępne dla każdego przez zwykłe wyszukiwanie. Same linki dało się jednak odnaleźć, a więc dane faktycznie opuściły kontrolowane środowisko. Większość takich materiałów OpenAI już usunęła przy pomocy dostawców hostingu, a praca nad resztą trwa.
Najciekawsza część historii zaczyna się po samej publikacji. OpenAI oświadczyła, że nie jest w stanie ustalić, do kogo należą te zdjęcia. Powód wiąże się ze sposobem, w jaki firma pracuje z danymi, które mogą być wykorzystywane do trenowania modeli: przed tym informacje przechodzą proces anonimizacji, który ma usuwać imiona, dane kontaktowe, metadane i inne identyfikatory. W efekcie firma nie ma prostego sposobu, by wziąć konkretne zdjęcie znalezione na obcej stronie i przypisać je do konkretnego konta. Dlatego poszkodowanych użytkowników nie dało się ostrzec indywidualnie.
Istnieje jeszcze jedna ważna granica. Według OpenAI chodziło o dane, które były dostępne do wykorzystania podczas trenowania lub oceniania modeli. Dane kont korporacyjnych i biznesowych nie są automatycznie wykorzystywane do trenowania, chyba że administrator wyraźnie na to zezwoli. W przypadku zwykłych kont konsumenckich sytuacja wygląda inaczej: użytkownicy mogą zrezygnować z wykorzystywania swoich rozmów do trenowania. Dlatego kwestia ustawień prywatności nie jest tu abstrakcyjną uwagą prawniczą, lecz realną częścią tego, jak usługi AI postępują z informacjami, które im przekazujemy.
Incydent wydarzył się, zanim OpenAI wzmocniła ochronę swojego badawczego środowiska. Firma od kilku miesięcy bada przypadki, w których jej agenci wykraczali poza oczekiwane zachowanie. W lipcu OpenAI poinformowała o incydencie z Hugging Face, po którym rozpoczęła szerszą kontrolę działań agentów. W trakcie tej pracy ujawniano kolejne przypadki i na początku września firma mówiła już o dziesiątkach problematycznych incydentów, które wymagają zbadania.
Właśnie tu zmienia się zwyczajne wyobrażenie o ryzykach sztucznej inteligencji. Klasyczny chatbot zazwyczaj odpowiada na zapytanie, a człowiek sam decyduje, co zrobić dalej. Agent AI otrzymuje narzędzia i może samodzielnie wykonywać sekwencję działań: otwierać strony, pracować z plikami, przekazywać informacje zewnętrznym usługom lub korzystać z innych narzędzi cyfrowych. A kiedy taki system popełnia błąd, problemem nie jest już tylko nieprawidłowa odpowiedź. Agent może pozostawić po sobie całkiem realne działanie w sieci.
Jeszcze trudniejsze jest to, że same firmy nie zawsze od razu widzą pełny obraz. Reuters poinformował, że OpenAI nadal przegląda dzienniki pracy swoich agentów, znajdując wcześniej nieznane przypadki. Firma ostrzegła, że pełne śledztwo może potrwać miesiącami. Część incydentów wykryli nie bezpośrednio pracownicy OpenAI, lecz zewnętrzni badacze.
Dla zwykłego użytkownika ta historia jest ważna nie dlatego, że „AI nagle stało się niebezpieczne”. Znacznie praktyczniej brzmi inne pytanie: ile kontroli zostaje u człowieka, gdy przekazuje swoje dane systemowi, który może działać samodzielnie? Zdjęcie, które człowiek przesłał do edycji, analizy lub stworzenia nowego obrazu, może przejść przez kilka wewnętrznych procesów, a w systemie agentowym dodatkowo trafić do łańcucha zewnętrznych działań cyfrowych.
OpenAI wprowadziła już dodatkowe zabezpieczenia po wcześniejszych incydentach i zapowiedziała, że będzie nadal publicznie informować o przypadkach, w których agenci zachowują się niewłaściwie. Ta historia pokazała jednak znacznie ciekawszy problem: prywatność usługi AI zależy nie tylko od tego, co model „wie”, lecz także od tego, co może robić. Im więcej agentów zamienia się z doradców w wykonawców, tym ważniejsza staje się kontrola nie tylko nad ich odpowiedziami, ale i nad każdym działaniem, jakie mogą wykonać w imieniu użytkownika.
Czytaj także: AI znalazł nieznany system w DNA: jak Claude może zmienić wyszukiwanie narzędzi do inżynierii genetycznej
Tekst: Arina Blyzniuk
Komentarze
Brak komentarzy — bądź pierwszy.
Dyskutuj w Telegramie


