L'IA sarà la condanna dell'umanità? A quanto pare c'è il 50% di possibilità

Skeleton sat at a laptop
(Immagine:: Shutterstock)

Un ricercatore che ha partecipato alla creazione di ChatGPT sostiene che ci sia un 50% di possibilità che l'intelligenza artificiale potrebbe portare alla rovina dell'umanità.

Secondo quanto riferito da Business Insider, Paul Christiano, che ha guidato il team di allineamento dei modelli linguistici di OpenAI (ma che nel frattempo ha lasciato l'azienda e dirige l'Alignment Research Center, un'organizzazione no-profit), ha lanciato l'allarme nel podcast Bankless.

Durante l'intervista, i conduttori hanno sollevato la prospettiva di uno "scenario catastrofico alla Eliezer Yudkowsky", noto scettico dell'IA da molti anni. Christiano ha risposto: "Eliezer parla di una trasformazione estremamente rapida una volta sviluppata l'IA. Io ho una visione un po' meno estrema di questo".

Descrive poi un processo più graduale di avanzamento con l'accelerazione del cambiamento dell'IA, osservando che "Complessivamente, forse ci si sta avvicinando a una probabilità di morte del 50/50 poco dopo aver ottenuto sistemi di IA di livello umano".

Christiano ha anche detto nel podcast che c'è "qualcosa come un 10-20% di possibilità che l'IA prenda il sopravvento", culminando in uno scenario piuttosto tetro in cui molti (o addirittura la maggior parte) degli umani sono morti. "La prendo molto sul serio", aggiunge Christiano.

La missione dell'Alignment Research Center è quella di "allineare i futuri sistemi di apprendimento automatico [AI] con gli interessi umani".

AI

(Image credit: Shutterstock)

Doom Eternal?

Questo solo l'ultimo di una serie di avvertimenti recenti su come il mondo potrebbe essere influenzato negativamente dall'IA. E di sicuro uno dei più estremi, visto che si parla della rovina dell'umanità e dell'estinzione della popolazione terrestre.

Certo, anche Christiano non crede che ci sia più di una possibilità relativamente bassa che quest'ultima si verifichi, ma comunque, un 20% di possibilità (nel peggiore dei casi) per una presa di potere ostile da parte dell'IA è una prospettiva che nessuno apprezzerebbe.

É interessante notare come ogni volta che si parla dell'IA che prende il sopravvento vengano delineate delle conseguenze apocalittiche. Non si può ambire allo sviluppo di un'intelligenza artificiale ponderata e benevola che governi davvero nel nostro interesse, per una volta? Beh, no. 

Il punto è che l'IA non è intelligente nel vero senso della parola. Per ora è fondamentalmente ancora un enorme raccoglitore di dati, in grado di elaborarli in modo impressionante. Tuttavia, c'è senz'altro bisogno di linee guida e regolamentazioni in modo che sia possibile evitare potenziali disastri in futuro.

Tali disastri potrebbero assumere la forma di violazioni della privacy, ad esempio, piuttosto che la fine del mondo come lo conosciamo, ma devono comunque essere evitati.

Il più recente avvertimento sull'IA da parte di un esperto proviene dal cosiddetto "padrino dell'IA" che ha appena lasciato Google. Geoffrey Hinton ha sostanzialmente delineato un'ampia argomentazione contro l'IA, o almeno contro la sua rapida e incontrollata espansione, compresi i pericoli di un'IA più intelligente di noi. Per non parlare della minaccia ai posti di lavoro, che è già molto concreta (nonchè, a nostro avviso, il pericolo più urgente nel prossimo futuro).

Giulia Di Venere

Giulia Di Venere è Editor Senior per TechRadar Italia e lavora con orgoglio al progetto da quando è nato.

Laureata in Lingue e Letterature Straniere all’Università Ca’ Foscari di Venezia, è una grande appassionata di cinema, libri, cucina e cinofilia.

Da sempre considera la scrittura lo strumento più efficace per comunicare, e scrivere per fare informazione, ogni giorno, è per lei motivo di grande soddisfazione.

Copre una grande varietà di tematiche, dagli smartphone ai gadget tecnologici per la casa, gestendo la pubblicazione dei contenuti editoriali e coordinando le attività della redazione.

Dalla personalità un po’ ambivalente, ama viaggiare tanto quanto passare il tempo libero nella tranquillità della propria casa, in compagnia del suo cane e di un buon libro.

Con il supporto di