- • L'amministratore delegato di Anthropic Dario Amodei stima una probabilità del 25% che l'IA porti alla catastrofe
- • Crede ancora che valga la pena investire nell'IA e che i benefici superino i rischi
- • I suoi commenti si inseriscono nelle crescenti conversazioni pubbliche e politiche sui rischi dell'IA e sulla regolamentazione
Le probabilità di uno su quattro potrebbero sembrare piuttosto buone in alcune circostanze. Sono probabilità molto migliori della maggior parte dei giochi da casinò, per esempio. Tuttavia, sono apparentemente abbastanza improbabili da permettere all'amministratore delegato di Anthropic Dario Amodei di sembrare tranquillo dopo aver valutato al 25% la possibilità che l'intelligenza artificiale porti a un disastro che ponga fine alla società.
"Penso che ci sia una probabilità del 25% che le cose vadano davvero, davvero male", ha detto allegramente Amodei all'Axios AI + DC Summit quando gli è stato chiesto della sua convinzione riguardo al (p)doom – probabilità di sventura – attorno all'IA. Ma è più concentrato sulla "probabilità del 75% che le cose vadano davvero, davvero bene".
Per "davvero, davvero male", non intende che il tuo telefono corregga automaticamente "anatra" con qualcosa di peggio. Intende scenari abbastanza grandi da minacciare i sistemi sociali, rischi esistenziali, IA gravemente abusata e risultati incontrollabili che potrebbero essere catastrofici.
.@JimVandeHei asks @Anthropic CEO @DarioAmodei what probability he would give that AI ends in disaster: "I think there's a 25% chance that things go really, really badly." #AxiosAISummit pic.twitter.com/9d7EQldYNcSeptember 17, 2025
Per un settore spesso intriso di promesse utopistiche o ridotto al terrorismo psicologico della fantascienza, l'atteggiamento di Amodei sia riguardo alle probabilità di un'apocalisse sia al motivo per cui continua a spingere avanti con la tecnologia si è davvero distinto. Amodei non è solo nell'esprimere inquietudine, ma si trova in una posizione rarefatta.
Come amministratore delegato dell'azienda dietro Claude, non è un osservatore passivo. Sta plasmando la traiettoria di questa tecnologia in tempo reale. Il suo team sta costruendo proprio i sistemi di cui sta valutando il potenziale e il pericolo. Se qualcuno ti dicesse che c'è 1 possibilità su 4 che la tua auto esploda ogni volta che giri la chiave, potresti iniziare a camminare di più. Amodei apparentemente diventerebbe un meccanico e controllerebbe prima l'auto prima di salirci.
Sventura dell'IA
Questo non è nemmeno l'unico avvertimento emesso da Amodei riguardo all'IA. Ha già avvertito in precedenza che l'IA potrebbe eliminare la metà di tutti i lavori impiegatizi di livello base e ha lanciato l'allarme contro le esportazioni statunitensi di chip di fascia alta verso la Cina. È questo che rende così utile l'inquadratura di Amodei. Riconosce il rischio, quantifica l'incertezza, ma lascia spazio all'azione.
D'altra parte, la "probabilità del 75% che le cose vadano davvero bene" di Amodei non è ottimismo fine a se stesso. Implica la convinzione che l'IA possa produrre enormi benefici per tutti. Potrebbe portare a una medicina migliorata, a una produzione più efficiente, e forse anche a strategie per affrontare crisi esistenziali come il cambiamento climatico (anche se un elemento chiave per risolvere questo potrebbe essere l'energia richiesta per far funzionare i modelli di IA).
Ma il rischio del 25% richiede che quei benefici siano costruiti con attenzione, con considerazione per le misure di sicurezza e la regolamentazione. Perché se il futuro è al 75% brillante e al 25% rovinato, la domanda è: Cosa faremo per mantenere il peso dalla parte giusta?
