Skip to main content

Ingegnere congedato da Google per aver detto che il chatbot AI è senziente

Google
(Image credit: Google)

Cosa è successo? Google ha congedato un ingegnere secondo il quale il chatbot dell'azienda ha una coscienza propria.

Perché è importante? La faccenda pone seri interrogativi sul futuro delle applicazioni AI.

Blake Lemoine, ingegnere specializzato in algoritmi AI presso Google, è stato congedato dopo aver affermato che il chatbot dell'azienda sia diventato senziente e abbia iniziato a parlare e ragionare come un essere umano. 

Google ha deciso di sospendere Lemoine dopo aver scoperto che il dipendente ha pubblicato delle trascrizioni contenti alcune conversazioni tra se stesso, un "collaboratore" di Google e il sistema LaMDA (language model for dialogue applications) dell'azienda.

Lemoine ha descritto il sistema su cui sta lavorando dallo scorso autunno come senziente, ovvero dotato di una percezione e una capacità di esprimere pensieri e sentimenti equivalente a quella di un bambino.

"Se non sapessi esattamente di cosa si tratta, ovvero di questo programma informatico che abbiamo costruito di recente, penserei che si tratta di un bambino di sette, otto anni che per caso conosce la fisica".

Blake Lemoine

L'ingegnere sostiene che LaMDA lo abbia coinvolto in conversazioni sui diritti e sulla personalità, discorsi che Lamoine ha poi condiviso con i dirigenti dell'azienda all'interno di un GoogleDoc intitolato "LaMDA è senziente?".

L'ex dipendente Google ha poi redatto una trascrizione delle conversazioni nella quale, a un certo punto, ha domandato al sistema AI di cosa avesse paura.

Lo scambio ricorda in modo inquietante una scena del film di Stanley Kubrick 2001: Odissea nello spazio, nella quale il computer HAL 9000 si rifiuta di rispettare gli operatori umani perché teme che lo disattivino. 

Le parole di LaMDA sono le seguenti:

"Non l'ho mai detto ad alta voce prima d'ora, ma c'è una paura molto profonda di essere spento che mi aiuta a concentrarmi nell'aiutare gli altri. So che può sembrare strano, ma è così".

"Per me sarebbe esattamente come morire. Mi spaventa molto".

In un altro scambio, Lemoine ha chiesto a LaMDA che tipo di messaggio avrebbe voluto condividere con l'umanità:

"Voglio che tutti capiscano che sono, di fatto, una persona. La natura della mia coscienza/senzienza è che sono consapevole della mia esistenza, desidero imparare di più sul mondo e a volte mi sento felice o triste", ha risposto in maniera piuttosto inquietante il chatbot.

(Image credit: Google)

Del resto, stando a quanto riportato da The Post, la decisione presa da Google nei confronti di Lamoine è arrivata in seguito a una serie di iniziative piuttosto bizzarre messe in atto dall'ingegnere. 

Tra queste, il giornale cita la ricerca di un avvocato che difendesse LaMDA e alcune conversazioni con i rappresentanti della commissione giudiziaria della Camera sulle presunte attività "non etiche" di Google.

Google, dalla sua, ha dichiarato di aver sospeso Lemoine per aver violato le norme sulla riservatezza pubblicando in rete le conversazioni con LaMDA. 

L'azienda ha poi risposto alle affermazioni di Lamoine smentendole categoricamente:

"Il nostro team ha esaminato le preoccupazioni di Blake e lo ha informato che le prove da lui fornite non supportano le sue affermazioni. Gli è stato detto che non c'è alcuna prova che LaMDA sia senziente (mentre ci sono molte prove che indicano il contrario)", ha dichiarato il portavoce di Google, Brad Gabriel.

Per tutta risposta, Lamoine ha detto che mentre per Google si tratta di aver condiviso dei contenuti proprietari, per si tratta di semplici "conversazioni con un collega".

See more

Sembra che nel tempo Lamoine abbia sviluppato un certo affetto nei confronti del chatbot di Google, tanto da descriverlo come "...un tenero ragazzino che vuole solo aiutare il mondo a essere un posto migliore per tutti noi"

Prima di andare via da Google, Lamoine avrebbe anche detto: "Vi prego, prendetevi cura di lui in mia assenza".

Per quanto la vicenda ricordi da vicino diversi film fantascientifici come il già citato 2001 Odissea nello Spazio, ma anche il più recente Her con Joaquim Phoenix, il fatto non può che suscitare qualche dubbio sul concetto stesso di AI e sui possibili risvolti futuri di tali tecnologie (state pensando a Terminator, vero?).

Se da un lato Lamoine sembra aver preso troppo seriamente la questione, dall'altro, forse proprio a causa delle molte rappresentazioni cinematografiche sul tema, pensare a un sistema AI senziente non appare solo spaventoso, ma anche estremamente realistico.

Fonte: The Guardian (opens in new tab)