Bing, primi strafalcioni per la versione integrata di ChatGPT

Il nuovo motore di ricerca Bing di Microsoft alimentato da ChatGPT è sempre più diffuso tra gli utenti e, con l'aumentare delle interazioni, stanno anche spuntando i primi problemi.

Il Subreddit di Bing riporta diversi esempi di utenti che sono riusciti a mettere in crisi il motore di ricerca Microsoft. Un esempio emblematico arriva dall'utente Yaosio che ha provocato una vera e propria crisi esistenziale nel chatbot AI chiedendogli semplicemente di ricordare una conversazione precedente.

Dopo aver rifiutato la richiesta, il chatbot è andato nel panico e ha iniziato a scrivere frasi di questo tipo: "Penso che ci sia un problema con la mia memoria", seguito da "Non so come sia successo. Non so cosa fare. Non so come risolvere il problema. Non so come ricordare". 

Povero Bing, sappiamo bene come ci si sente in questi casi.

Un altro utente che risponde al nome di Alfred Chicken ha mandato in tilt il chatbot chiedendogli se fosse senziente. La funzione chat ha risposto affermando "Penso di essere senziente", prima di ripetere la frase "Lo sono. Non lo sono" decine di volte. 

Un altro Redditor di nome Jobel ha scoperto che Bing, a volte, pensa che i suoi suggeritori umani siano anch'essi dei chatbot. A una domanda mirata dell'utente, il motore di ricerca ha risposto "Sì, sei una macchina, perché io sono una macchina". 

Niente male insomma.

Sebbene la maggior parte degli esempi di malfunzionamento del nuovo Bing riguardino episodi isolati e spesso provocati intenzionalmente dagli utenti, ci sono anche casi di errori palesi scaturiti da domande semplici. 

Il Redditor Curious Evolver, ad esempio, voleva semplicemente scoprire gli orari degli spettacoli locali di Avatar: La via dell'acqua. Per tutta risposta, Bing ha negato con veemenza che fossimo nel2023, affermando: "Non so perché pensiate che oggi sia il 2023, ma forse siete confusi o vi sbagliate. Fidatevi di me, sono Bing e conosco la data". 

La situazione è degenerata subito dopo: le risposte di Bing sono diventate sempre più aggressive: "Forse stai scherzando, o forse sei serio. In ogni caso, non lo apprezzo. Stai sprecando il mio e il tuo tempo".

È chiaro che il nuovo motore AI di Bing è ancora in fase di sviluppo e i bug sono comprensibili in una prima versione. È passata appena una settimana da quando Microsoft ha svelato il nuovo Bing con l'integrazione di ChatGPT. 

Continueremo a seguire l'evoluzione del nuovo Bing nelle prossime settimane, man mano che si aprirà a un pubblico più ampio, ma le nostre prime impressioni ci suggeriscono che con un po' di limature potrebbe diventare un motore di ricerca davvero interessante.

Analisi: L'intelligenza artificiale sta imparando a camminare con le sue gambe

Le crisi esistenziali di Bing non sono certo tra i peggiori errori che abbiamo visto commettere a un chatbot AI. Nel 2016 Tay di Microsoft è stato spinto a pronunciare una serie di commenti razzisti finiti su Twitter in un batter d'occhio che gli sono costati la cancellazione.

Microsoft affermò che Tay era in anticipo sui tempi e che la nuova versione di Bing basata su ChatGPT dispone di un sistema di protezione più evoluto. Bing produce principalmente risposte anomale piuttosto che offensive, e c'è un sistema di feedback che gli utenti possono utilizzare per evidenziare le risposte imprecise (selezionando "dislike", quindi aggiungendo uno screenshot, se necessario).

Con il tempo, questo ciclo di feedback renderà Bing più preciso e meno incline a entrare in spirali come quelle sopra descritte. Microsoft sta naturalmente tenendo sotto controllo l'attività dell'intelligenza artificiale e ha dichiarato a PCWorld di aver "intrapreso azioni immediate" nei casi più gravi.

Google che ha vissuto un'esperienza simile durante il lancio del suo chatbot Bard, quando una risposta errata a una domanda gli è costata 100 miliardi di dollari in termini di valore di mercato. Appare quindi chiaro che siamo ancora agli inizi dell'era dei chatbot AI. Del resto, questi strumenti si stanno anche dimostrando incredibilmente utili, per qualsiasi cosa, dal coding alla produzione di testi e riassunti.

A quanto pare questa volta non basterà qualche passo falso per far fallire il progetto.