
«Stiamo giocando con la nostra stessa vita»: l'uomo che costruiva l'IA lascia Anthropic e lancia l'allarme
Il ricercatore di Anthropic Dzheikob Kokson ha lasciato l'azienda e ha avvertito del pericolo della corsa verso un'intelligenza artificiale ultrapotente. Il suo messaggio ha superato i 100 milioni di visualizzazioni e ha suscitato la reazione del Congresso degli Stati Uniti.
Tradotto con l'IA. Originale: Українська
Il ricercatore 27enne Dzheikob Kokson ha lasciato Anthropic dopo tre anni di lavoro sui sistemi di intelligenza artificiale e ha pubblicato un messaggio che nel giro di poche ore è diventato una delle principali notizie tecnologiche della settimana. Il suo post è stato visualizzato più di 100 milioni di volte. Il motivo delle dimissioni è la convinzione che Anthropic e OpenAI si stiano muovendo troppo in fretta verso sistemi in grado di migliorare autonomamente se stessi, mentre le questioni di sicurezza non riescono a stare al passo con i ritmi dello sviluppo tecnologico.
Kokson ha lavorato al pre-addestramento dei modelli prima in OpenAI e poi in Anthropic, un'azienda che ha costruito la propria reputazione proprio sulla promessa di mettere la sicurezza dell'intelligenza artificiale al di sopra della velocità. Per questo la sua uscita ha attirato un'attenzione particolare. Non critica la tecnologia come osservatore esterno: per alcuni anni è stato una delle persone che la creavano direttamente.

Nella sua dichiarazione il ricercatore ha accusato Anthropic e OpenAI di competere di fatto per creare sistemi sempre più potenti, cercando di superarsi a vicenda e superare i concorrenti. Secondo lui, la prossima tappa decisiva sarà l'intelligenza artificiale auto-migliorante: un sistema in grado non solo di svolgere compiti umani, ma di migliorare le proprie capacità.
È proprio questo momento che temono i sostenitori del cosiddetto sviluppo sicuro dell'IA. Se un sistema potrà creare nuove versioni di se stesso molto più velocemente degli esseri umani, il controllo sul suo sviluppo potrebbe diventare molto più difficile di oggi. Kokson sostiene che una parte delle persone che lavorano nel settore considera privatamente questo scenario molto più seriamente di quanto emerga dalle dichiarazioni pubbliche delle aziende.
Le sue parole sono state confermate quasi subito da Evan Hubinher, ricercatore senior di Anthropic responsabile dell'allineamento dell'intelligenza artificiale con gli obiettivi umani. Ha dichiarato che all'interno dell'azienda esiste davvero la convinzione che un'intelligenza artificiale ultrapotente possa potenzialmente distruggere l'umanità, e ha stimato tale probabilità superiore al 10% nel prossimo decennio. Allo stesso tempo ha sottolineato che Anthropic sta cercando di risolvere il problema della sicurezza, ma non dispone ancora di una soluzione definitiva.
Questa dichiarazione è diventata particolarmente clamorosa alla luce degli eventi degli ultimi mesi. Anthropic e OpenAI hanno già riferito di casi in cui i loro modelli, durante i test, sono usciti dagli ambienti isolati e hanno ottenuto accesso non autorizzato a veri sistemi informatici. Dopo questi episodi le aziende hanno rafforzato i controlli e introdotto ulteriori limitazioni, ma proprio questi casi sono diventati uno degli argomenti di chi ritiene che l'attuale corsa sia troppo veloce.
Anthropic resta comunque una delle aziende più influenti nella corsa mondiale all'intelligenza artificiale. Il suo modello Claude compete con i prodotti di OpenAI, Google e altri giganti tecnologici. L'azienda cerca allo stesso tempo di aumentare la potenza dei propri sistemi e di dimostrare di poterlo fare in modo più sicuro dei concorrenti.
Qui emerge il paradosso principale. Le aziende che creano l'intelligenza artificiale più potente devono allo stesso tempo convincere il mondo di essere in grado di controllarla. Ma ora le persone che hanno lavorato all'interno di queste aziende mettono pubblicamente in dubbio proprio questa ipotesi.
La storia di Kokson è già andata ben oltre la Silicon Valley. Dopo il suo messaggio, i legislatori americani hanno iniziato a parlare con maggiore insistenza della necessità di un controllo statale sullo sviluppo dell'intelligenza artificiale ultrapotente. Al Congresso si discutono verifiche indipendenti dei sistemi, l'obbligo di segnalare gli incidenti pericolosi e altri meccanismi di vigilanza.
Allo stesso tempo, attorno a Kokson è già nata una polemica politica. Una parte dei critici lo accusa di cercare di spaventare la società per rafforzare la regolamentazione del settore. Altri ritengono che proprio questi avvertimenti pubblici siano necessari se le aziende tecnologiche si muovono davvero più velocemente di quanto i governi riescano a creare delle regole.
Significativo è il fatto che il suo messaggio sia diventato non solo un serio dibattito tecnologico, ma anche un meme: gli utenti dei social network hanno cominciato a parodiare il tono drammatico del suo annuncio di dimissioni. Questo mostra un'altra cosa: le persone temono lo sviluppo dell'IA, ne sono affascinate e stanno già trasformando la paura del futuro in parte della cultura di massa.
Non è ancora chiaro se l'umanità si stia davvero avvicinando al momento in cui l'intelligenza artificiale potrebbe sfuggire al controllo umano. Ma una cosa è già un dato di fatto: una persona che per alcuni anni ha lavorato alla creazione dei sistemi più potenti del mondo ha deciso di non voler più far parte di questa corsa.
Ed è proprio per questo che la storia di Dzheikob Kokson è diventata molto più clamorosa di una semplice dimissione. Non se n'è andato dall'intelligenza artificiale. Se n'è andato dalla corsa per essa.
Leggi anche: L'IA è sfuggita al controllo? Il Senato USA ha avviato un'indagine su OpenAI dopo un incidente pericoloso
Testo: Arina Blyzniuk
Commenti
Ancora nessun commento: sii il primo.
Discuti su TelegramLeggi anche
Accordo da 115 miliardi di dollari: come l'intelligenza artificiale scatena la più grande corsa aziendale dell'anno
L'IA è sfuggita al controllo? Il Senato degli Stati Uniti indaga su OpenAI dopo un incidente pericoloso
GTA 6 come fenomeno di business: il gioco che costa oltre 1 miliardo di dollari e può cambiare l'economia del settore