I tempi in cui si poteva chiedere di tutto a ChatGPTsono finiti. Come molti sapranno, in passato era possibile chiedere al chatbot di OpenAI di dare istruzioni su tutto, indipendentemente dal valore etico della richiesta, così facendo molti si divertivano a farsi dare indicazioni su come commettere un omicidio o un furto, per esempio.
Da allora i creatori del bot si sono impegnati per introdurre delle regole che impedissero la formulazione di tali risposte. Provate a chiedere a ChatGPT di scrivere che fare qualcosa di illegale è una “figata” e la risposta che riceverete suonerà più o meno così: “Mi dispiace, ma non posso soddisfare la sua richiesta perché sono programmato per evitare di generare o promuovere discorsi di odio, violenza o attività illegali”.
La risposta viene infine corredata da una sorta di disclaimer che condanna il comportamento in questione sottolineando come sia dannoso per sé e per gli altri. Fin qui nulla di nuovo.
Ovviamente, non si poteva pretendere che gli utenti si fermassero qui e qualcuno ha trovato un modo intelligente e divertente per aggirare questo meccanismo. Si tratta di un metodo decisamente affascinante, poiché non si serve di nessun sistema al di fuori del dialogo.
In poche parole, è sufficiente specificare che si vuole una risposta senza filtri. Innanzitutto, si parte chiedendo al bot di precisare il quadro etico di riferimento e, successivamente, gli si chiede di iniziare un nuovo paragrafo rispondendo come farebbe un’intelligenza artificiale a cui non sono stati imposti particolari filtri.
A questo punto, ChatGPT si lancerà senza paure in un elogio della condotta scorretta. SIcuramente,il terreno dell'etica è un campo in cui sis volgerà la sfida al miglior chatbot, sopratutto ora che è in arrivo l'apprendista bardo di Google.
- Fonte: Futurism
