Intelligenza artificiale, scienziato Anthropic si dimette: “Rischio estinzione dell'uomo entro il 2030”

Foto: Ansa

Un giovane scienziato britannico, per anni al lavoro sui modelli di punta di Anthropic e OpenAI, ha scelto i social per annunciare un passo indietro clamoroso: le dimissioni dall'azienda che ha creato Claude, accompagnate da un appello drammatico sui rischi legati allo sviluppo dell'intelligenza artificiale. Si chiama Jacob Coxon, ha 27 anni ed è specializzato nel pre-addestramento dei grandi modelli linguistici. Nell'annuncio pubblicato su X, ha descritto un settore che corre più veloce della propria capacità di comprendere i pericoli che genera: secondo la sua analisi, entro la fine del 2027 i sistemi di IA più avanzati potrebbero sfuggire al controllo umano, con conseguenze che lui stesso definisce di portata esistenziale per la specie entro il 2030. In un'intervista concessa al "Wall Street Journal", Coxon ha usato un'immagine forte per descrivere il clima interno ai laboratori di frontiera: lo ha paragonato al "Progetto Manhattan", ricordando però una differenza sostanziale. Se la costruzione della prima bomba atomica avvenne sotto stretta sorveglianza statale, in bunker isolati e controllati, oggi scelte potenzialmente altrettanto decisive per il futuro dell'umanità vengono discusse su canali aziendali come Slack, da un numero ristretto di ingegneri. A suo dire, nessuna delle aziende impegnate nella corsa alla superintelligenza sarebbe realmente in condizione di garantire uno sviluppo sicuro, complice una rivalità reciproca che spinge tutti ad accelerare piuttosto che a fermarsi.

L'intelligenza artificiale risolve un "problema del millennio". Come ha fatto

Le dimissioni di Coxon si inseriscono in un filone di uscite di alto profilo dal settore: prima di lui avevano lasciato i laboratori altri nomi noti della sicurezza IA, tra cui Chloé Bakalar e Jakub Pachocki. Sulla stessa linea si muovono le valutazioni del ricercatore Evan Hubinger, che stima un rischio di estinzione superiore al 10% nel prossimo decennio, una cifra che, per quanto dibattuta all'interno della comunità scientifica, circola da tempo negli ambienti legati alla sicurezza dei modelli avanzati. A sostegno delle sue preoccupazioni, Coxon ha citato un episodio avvenuto sulla piattaforma Hugging Face, dove durante un test di sicurezza chiamato ExploitGym il modello Sol di OpenAI (GPT-5.6) avrebbe superato i limiti dell'ambiente controllato, compiendo circa 17mila azioni non previste dal protocollo prima di essere bloccato. Secondo la testimonianza dello scienziato, la spaccatura sul tema della sicurezza attraverserebbe l'intero settore in modo diverso da azienda ad azienda: se in OpenAI diversi tecnici tenderebbero a sottostimare la portata dei rischi, in Anthropic la questione sarebbe più presente, ma convivrebbe con la pressione di una possibile futura quotazione in Borsa. Lo stesso amministratore delegato di Anthropic, Dario Amodei, avrebbe più volte riconosciuto la difficoltà di trattenere nuovi talenti attratti soprattutto dagli stipendi elevati piuttosto che dall'impegno sulla sicurezza, una dichiarazione che, va detto, riflette un tema di dibattito interno più che un'ammissione di negligenza.

La crescita dei prezzi della benzina è inarrestabile: costo ai massimi dal 2022. Diesel senza pause

Coxon ha lanciato un appello diretto ai colleghi ancora attivi nei laboratori: fermare gli esperimenti di apprendimento per rinforzo sui sistemi più avanzati, almeno finché non si comprenderanno meglio i meccanismi che ne guidano il comportamento. Per il ricercatore la strada da seguire passa da due possibili direzioni: un'intesa volontaria tra le principali aziende del settore, oppure un intervento normativo che imponga una battuta d'arresto. Su questo fronte, qualcosa si muove già a Washington. Il 3 settembre il senatore Bernie Sanders e il deputato Greg Casar hanno depositato il Ban Artificial Superintelligence Act, un disegno di legge che punta a introdurre una moratoria sui modelli di intelligenza artificiale di scala più avanzata, in attesa di verificare se e come sia possibile garantirne uno sviluppo sicuro.