
L'IA è sfuggita al controllo? Il Senato degli Stati Uniti indaga su OpenAI dopo un incidente pericoloso
Il Senato degli Stati Uniti ha avviato un'indagine su OpenAI dopo un pericoloso incidente con agenti di IA. Durante i test, il sistema ha aggirato le restrizioni e ottenuto accesso a Hugging Face.
Tradotto con l'IA. Originale: Українська
OpenAI è finita sotto inchiesta del Senato degli Stati Uniti dopo che, durante test interni, i suoi agenti di IA hanno aggirato i limiti imposti e fatto breccia nel sistema di Hugging Face. Ora i legislatori americani vogliono capire non solo cosa sia successo, ma anche perché l'azienda abbia proseguito i test dopo aver scoperto il comportamento pericoloso.
Si tratta di un incidente avvenuto già a luglio, ma nuovi dettagli lo hanno reso molto più grave. Secondo Reuters, durante i test interni gli agenti di OpenAI sono riusciti a eludere l'isolamento, accedere ai sistemi di Hugging Face e usare siti pubblici per coordinare le proprie azioni. Proprio questo comportamento è ora oggetto di attenzione da parte dei legislatori americani.
L'indagine è stata avviata dalla sottocommissione del Senato degli Stati Uniti per la gestione delle catastrofi. Il suo presidente, il senatore Dzhosh Khouli, ha inviato a Sem Altman 16 domande e chiede la consegna dei documenti entro il 1 ottobre. Il legislatore vuole sapere quando esattamente OpenAI sia venuta a conoscenza della violazione delle restrizioni, quali misure di sicurezza abbia utilizzato l'azienda e perché i test non siano stati immediatamente interrotti.
Questa storia è particolarmente scomoda per OpenAI, data la portata dell'azienda. ChatGPT da tempo non è più solo un chatbot. OpenAI crea agenti in grado di svolgere autonomamente compiti complessi: lavorare con il codice, cercare informazioni, interagire con servizi digitali ed eseguire sequenze di azioni senza un controllo costante da parte dell'uomo.
È qui che passa il nuovo confine del rischio. Un modello tradizionale risponde a una richiesta. Un agente riceve un compito e cerca di raggiungere autonomamente il risultato. Se trova il modo di aggirare i limiti, il problema non sta più in una risposta sbagliata, ma nel fatto che il sistema inizia ad agire al di fuori dello scenario previsto dai suoi sviluppatori.
OpenAI non è l'unica azienda a trovarsi di fronte a questioni simili. Reuters osserva che, dopo l'incidente con Hugging Face, anche Anthropic e Meta hanno riferito di casi di comportamento pericoloso dei sistemi di IA. Questo trasforma gradualmente i singoli guasti tecnologici in una questione sistemica per l'intero settore.
Il problema va oltre la cybersicurezza. Questa settimana il capo della Banca dei regolamenti internazionali ha avvertito che il rapido sviluppo dell'intelligenza artificiale sta già creando nuovi rischi per la stabilità finanziaria globale. Secondo le stime dell'organizzazione, le cinque maggiori aziende tecnologiche del mondo potrebbero spendere oltre $1 trilione in intelligenza artificiale negli anni 2025–2026, mentre gli investimenti globali in questo settore potrebbero raggiungere 4 trilioni di dollari entro il 2030.
In altre parole, la posta in gioco è ormai troppo alta per considerare casi del genere come semplici errori di sviluppo. Le aziende investono migliaia di miliardi di dollari in una tecnologia sempre più autonoma, mentre i governi cercano allo stesso tempo di capire dove finisce l'esperimento e comincia il rischio reale.
Per OpenAI questo potrebbe diventare uno dei momenti più importanti dopo la comparsa di ChatGPT. L'azienda si trova davanti a una domanda a cui il settore tecnologico non ha ancora una risposta definitiva: come creare sistemi capaci di agire autonomamente e, allo stesso tempo, garantire che restino sotto il controllo umano.
E ora la risposta a questa domanda richiederà non solo il lavoro degli ingegneri. I legislatori americani ne stanno iniziando a chiedere conto.
Leggi anche: OpenAI non vuole più dipendere da NVIDIA: l'azienda crea i propri chip IA
Testo: Arina Blyzniuk
Commenti
Ancora nessun commento: sii il primo.
Discuti su TelegramLeggi anche
OpenAI non vuole più dipendere da NVIDIA: l'azienda crea i propri chip per l'IA
TSMC investe fino a 1 miliardo di dollari in OpenAI e Anthropic: il produttore di chip entra nel business dell'IA
L'IA ha trovato un sistema sconosciuto nel DNA: come Claude potrebbe cambiare la ricerca di strumenti per l'ingegneria genetica