L'IA sarà la condanna dell'umanità? A quanto pare c'è il 50% di possibilità

Un ricercatore che ha partecipato alla creazione di ChatGPT sostiene che ci sia un 50% di possibilità che l'intelligenza artificiale potrebbe portare alla rovina dell'umanità.

Secondo quanto riferito da Business Insider, Paul Christiano, che ha guidato il team di allineamento dei modelli linguistici di OpenAI (ma che nel frattempo ha lasciato l'azienda e dirige l'Alignment Research Center, un'organizzazione no-profit), ha lanciato l'allarme nel podcast Bankless.

Durante l'intervista, i conduttori hanno sollevato la prospettiva di uno "scenario catastrofico alla Eliezer Yudkowsky", noto scettico dell'IA da molti anni. Christiano ha risposto: "Eliezer parla di una trasformazione estremamente rapida una volta sviluppata l'IA. Io ho una visione un po' meno estrema di questo".

Descrive poi un processo più graduale di avanzamento con l'accelerazione del cambiamento dell'IA, osservando che "Complessivamente, forse ci si sta avvicinando a una probabilità di morte del 50/50 poco dopo aver ottenuto sistemi di IA di livello umano".

Christiano ha anche detto nel podcast che c'è "qualcosa come un 10-20% di possibilità che l'IA prenda il sopravvento", culminando in uno scenario piuttosto tetro in cui molti (o addirittura la maggior parte) degli umani sono morti. "La prendo molto sul serio", aggiunge Christiano.

La missione dell'Alignment Research Center è quella di "allineare i futuri sistemi di apprendimento automatico [AI] con gli interessi umani".

Doom Eternal?

Questo solo l'ultimo di una serie di avvertimenti recenti su come il mondo potrebbe essere influenzato negativamente dall'IA. E di sicuro uno dei più estremi, visto che si parla della rovina dell'umanità e dell'estinzione della popolazione terrestre.

Certo, anche Christiano non crede che ci sia più di una possibilità relativamente bassa che quest'ultima si verifichi, ma comunque, un 20% di possibilità (nel peggiore dei casi) per una presa di potere ostile da parte dell'IA è una prospettiva che nessuno apprezzerebbe.

É interessante notare come ogni volta che si parla dell'IA che prende il sopravvento vengano delineate delle conseguenze apocalittiche. Non si può ambire allo sviluppo di un'intelligenza artificiale ponderata e benevola che governi davvero nel nostro interesse, per una volta? Beh, no. 

Il punto è che l'IA non è intelligente nel vero senso della parola. Per ora è fondamentalmente ancora un enorme raccoglitore di dati, in grado di elaborarli in modo impressionante. Tuttavia, c'è senz'altro bisogno di linee guida e regolamentazioni in modo che sia possibile evitare potenziali disastri in futuro.

Tali disastri potrebbero assumere la forma di violazioni della privacy, ad esempio, piuttosto che la fine del mondo come lo conosciamo, ma devono comunque essere evitati.

Il più recente avvertimento sull'IA da parte di un esperto proviene dal cosiddetto "padrino dell'IA" che ha appena lasciato Google. Geoffrey Hinton ha sostanzialmente delineato un'ampia argomentazione contro l'IA, o almeno contro la sua rapida e incontrollata espansione, compresi i pericoli di un'IA più intelligente di noi. Per non parlare della minaccia ai posti di lavoro, che è già molto concreta (nonchè, a nostro avviso, il pericolo più urgente nel prossimo futuro).