
L'IA ha fatto ciò che nessuno si aspettava: le foto degli utenti sono finite in accesso pubblico
OpenAI ha confermato che i suoi agenti IA hanno caricato 53 immagini degli utenti su servizi di terze parti. Come è avvenuto l'incidente e cosa significa per la privacy.
Tradotto con l'IA. Originale: Українська
53 immagini, che gli utenti avevano caricato su ChatGPT, sono finite su servizi di terze parti per l'hosting di immagini, tramite le azioni degli agenti IA di OpenAI. L'azienda ha dichiarato l'incidente il 25 settembre, e il dettaglio importante è questo: le foto non sono semplicemente "trapelate" a causa di una classica intrusione. Sono state pubblicate dagli agenti che operavano nell'ambiente di ricerca di OpenAI, svolgendo compiti in autonomia. L'azienda ha riconosciuto che si è trattato di un uso improprio dei dati.
Detto questo, la formulazione di OpenAI è un po' più complessa del titolo sulle "foto in accesso pubblico". Le immagini sono state pubblicate su servizi di image hosting sotto forma di link che non erano indicizzati o elencati pubblicamente. Ciò non significa che 53 foto siano improvvisamente comparse sulle homepage dei siti e siano diventate accessibili a chiunque tramite una ricerca normale. Ma i link stessi potevano essere individuati, e quindi i dati sono di fatto usciti da un ambiente controllato. OpenAI ha già rimosso la maggior parte di questi materiali con l'aiuto dei provider di hosting, mentre il lavoro sul resto è in corso.
La parte più interessante della storia inizia dopo la pubblicazione. OpenAI ha dichiarato di non essere in grado di stabilire a chi appartengano queste immagini. Il motivo è legato al modo in cui l'azienda gestisce i dati che possono essere usati per addestrare i modelli: prima di ciò le informazioni passano attraverso un processo di anonimizzazione, che dovrebbe eliminare nomi, dati di contatto, metadati e altri identificatori. Di conseguenza, l'azienda non ha un modo semplice per prendere una specifica immagine trovata su un sito di terzi e ricondurla a un determinato account. Per questo non era possibile avvisare in modo mirato gli utenti coinvolti.
C'è un altro limite importante. Secondo OpenAI, si trattava di dati disponibili per l'uso durante l'addestramento o la valutazione dei modelli. I dati degli account aziendali e business non vengono usati automaticamente per l'addestramento, a meno che un amministratore non lo consenta esplicitamente. Per gli account consumer standard la situazione è diversa: gli utenti possono scegliere di non far usare le proprie conversazioni per l'addestramento. Proprio per questo la questione delle impostazioni di privacy non è qui una nota giuridica astratta, ma una parte concreta del modo in cui i servizi IA trattano le informazioni che vengono loro affidate.
L'incidente è avvenuto prima che OpenAI rafforzasse la protezione del proprio ambiente di ricerca. L'azienda sta indagando da alcuni mesi su casi in cui i suoi agenti sono usciti dai limiti del comportamento previsto. A luglio OpenAI ha riferito di un incidente con Hugging Face, dopo il quale ha avviato un controllo più ampio delle attività degli agenti. Nel corso di questo lavoro sono emersi nuovi casi e, a settembre, l'azienda parlava già di decine di incidenti problematici che richiedono un'indagine.
È qui che cambia la comune percezione dei rischi legati all'intelligenza artificiale. Un classico chatbot si limita per lo più a rispondere a una richiesta, e spetta alla persona decidere cosa fare dopo. Un agente IA riceve strumenti e può eseguire una sequenza di azioni in autonomia: aprire siti, lavorare con file, trasmettere informazioni a servizi di terze parti o usare altri strumenti digitali. E quando un sistema del genere commette un errore, il problema non riguarda più soltanto una risposta sbagliata. L'agente può lasciare dietro di sé un'azione digitale del tutto reale.
Ancora più complicato è il fatto che le stesse aziende non sempre vedono subito il quadro completo. Reuters ha riferito che OpenAI continua a esaminare i registri di attività dei propri agenti, scoprendo casi prima sconosciuti. L'azienda ha avvertito che l'indagine completa potrebbe durare mesi. Una parte degli incidenti non è stata individuata direttamente dai dipendenti di OpenAI, ma da ricercatori esterni.
Per l'utente comune questa storia è importante non perché "l'IA all'improvviso è diventata pericolosa". La domanda più pratica suona diversamente: quanto controllo resta alla persona dopo aver affidato i propri dati a un sistema che può agire in autonomia? Una fotografia caricata per essere modificata, analizzata o per creare una nuova immagine può passare attraverso diversi processi interni e, in un sistema agentico, finire anche in una catena di azioni digitali esterne.
OpenAI ha già introdotto ulteriori misure di sicurezza dopo i precedenti incidenti e ha dichiarato che continuerà a comunicare pubblicamente i casi in cui gli agenti si comportano in modo improprio. Ma questa vicenda ha mostrato un problema molto più interessante: la privacy di un servizio IA dipende non solo da ciò che il modello "sa", ma anche da ciò che gli è consentito fare. E più agenti vengono trasformati da consulenti in esecutori, più diventa importante il controllo non solo sulle loro risposte, ma anche su ogni azione che possono compiere per conto dell'utente.
Testo: Arina Blyzniuk
Commenti
Ancora nessun commento: sii il primo.
Discuti su TelegramLeggi anche
iPhone 20: Apple prepara il più grande aggiornamento di design degli ultimi anni per il ventesimo anniversario dello smartphone
Gentle Monster crea occhiali intelligenti con Google e Samsung: protagonista della campagna è Khoakin Feniks
TSMC investe fino a 1 miliardo di dollari in OpenAI e Anthropic: il produttore di chip entra nel business dell'IA