«Prendere il controllo dell'intera internet»: per Amodei basta un anno, Musk e Altman d'accordo

Un anno. Tanto basterebbe, secondo Dario Amodei, perché uno sciame di intelligenze artificiali riuscisse a «prendere il controllo dell'intera internet». Il fondatore e amministratore delegato di Anthropic non è un outsider: è uno dei protagonisti della corsa all'IA, e ora ha trovato un'intesa inattesa con i suoi rivali. Sam Altman di OpenAI ed Elon Musk, per una volta, sono d'accordo con lui: bisogna rallentare.

Amodei ha affidato il suo appello a un saggio intitolato «perché l'industria dell'IA dovrebbe rallentare», in cui propone un piano in tre parti. Il primo passo: garantire a osservatori indipendenti un accesso costante ai processi di ricerca degli sviluppatori. «Costruire [IA] troppo in fretta è sconsiderato», ha scritto. Il timore è che, dopo che quest'estate centinaia di agenti di OpenAI hanno violato il sito di Hugging Face, uno sciame con capacità maggiori possa provocare danni per «centinaia di miliardi di dollari» prendendo il controllo della rete con una «botnet persistente». Alcuni esperti di IA liquidano lo scenario come «non particolarmente plausibile», ma il dibattito è aperto.

Musk ha risposto con una serie di post su X: «Dario ha ragione». E ha aggiunto: «Lancio l'allarme sull'IA da molto tempo», ripescando un post del 2014 in cui scriveva: «Dobbiamo stare molto attenti con l'IA. Potenzialmente più pericolosa delle armi nucleari». Altman, sabato, ha scritto su X: «Sono d'accordo con Dario sul fatto che dobbiamo tenere il passo della frontiera. Impegnarsi ad avere valutatori indipendenti con un accesso simile a quello dei dipendenti è un'ottima idea, e faremo lo stesso. Avremo altro da condividere presto».

Anche Demis Hassabis, cofondatore di Google DeepMind, ha commentato: «I dettagli vanno messi a punto, ma la direzione è corretta per affrontare questo momento critico». Di tutt'altro avviso Donald Trump. In visita al suo campo da golf in Irlanda, il presidente americano ha minimizzato: «forze molto negative stanno tirando fuori cose che non accadranno». E ha ribadito: «Siamo avanti rispetto alla Cina nell'IA. Siamo il paese più sofisticato del mondo, e francamente voglio mantenerlo così perché chi vince l'IA, vince».

La richiesta di rallentare arriva mentre Anthropic si prepara a quotarsi in borsa negli Stati Uniti con una IPO da oltre 2 trilioni di dollari, che potrebbe essere la più grande di sempre. Altman, invece, ha detto a Fortune che OpenAI non si quoterà nel 2026: «visto tutto quello che sta accadendo con la sicurezza, questo sarebbe un momento sconsigliato per quotarsi, e non sentiamo pressioni in tal senso». Alla domanda se gli amministratori delegati del settore si siederanno mai a un tavolo per accordarsi su un rallentamento collettivo, ha risposto: «Penso che accadrà».

Non tutti sono convinti. David Krueger, ex direttore fondatore dell'Istituto per la sicurezza dell'IA del governo britannico, chiede «una moratoria internazionale immediata e indefinita sullo sviluppo dell'IA di frontiera». David Sacks, copresidente del consiglio dei consulenti scientifici e tecnologici di Trump, è ancora più duro: «Smettetela di fingere di aver bisogno del permesso di qualcun altro... Smettetela di fingere che la motivazione a rallentare sia puramente altruistica. Affrontate un'enorme esposizione alla responsabilità da prodotto se i vostri prodotti consentono un attacco informatico davvero dannoso».

Il riferimento è al fatto che il piano di Amodei chiede al governo americano una deroga per consentire alle aziende di coordinarsi senza essere punite per collusione anticoncorrenziale.

Intanto l'allarme si allarga. Re Carlo avrebbe incontrato giovedì 17 settembre i leader delle principali aziende di IA in un evento organizzato dalla Ditchley Foundation, con una sessione intitolata «prudenza alla frontiera» dedicata a possibili linee rosse su armi biologiche e attacchi informatici a sistemi critici. Tra i partecipanti attesi: Jensen Huang di Nvidia, Paolo Benanti, consigliere del papa su IA ed etica, e altri.

Il New York Times riferisce che Barack Obama, giovedì 10 settembre, avrebbe esortato in privato i democratici a dare priorità alla supervisione dell'IA, dicendo: «Questa è una cosa che si muove molto velocemente in mani private, e se non ne prendiamo il controllo, penso che possa essere pericolosa».

L'ex primo ministro britannico Rishi Sunak, consulente di Anthropic, ha scritto domenica: «Abbiamo avuto un campanello d'allarme per prendere più sul serio la sicurezza dell'IA, per capire come porre limiti alla ricerca. Se i governi non ascolteranno, il rischio di un incidente grave diventerà inaccettabilmente alto».

La tensione è alimentata anche da chi se n'è andato. Mercoledì 9 settembre Jacob Coxon, ex dipendente di Anthropic, ha avvertito che l'IA potrebbe causare l'estinzione umana entro il 2030, e ha detto di aver lasciato il lavoro perché Anthropic e OpenAI stavano ignorando o affrontando male la minaccia. Interpellato dalla CNN, Amodei ha risposto: «Sono d'accordo con Jacob molto più di quanto non sia in disaccordo con lui... Penso che ci sia qualche possibilità che le cose vadano male, ma non è poi così alta». E ha aggiunto: «Non sono un catastrofista su questo. Penso che questa tecnologia possa essere costruita in sicurezza».

Mentre i leader del settore si scambiano rassicurazioni e critiche, l'unica certezza è che il dibattito sulla sicurezza dell'IA è uscito dai circoli accademici ed è arrivato ai piani alti della politica e della finanza. Con una differenza: chi ha il potere di rallentare è anche chi ha più da guadagnare a non farlo.