Programmazione, gli strumenti AI sono fantastici ma anche pericolosi

Three people working on a problem at a PC screen.
(Immagine:: Shutterstock)

Una nuova ricerca condotta da un gruppo di ricercatori di Stanford ha scoperto che gli strumenti di IA per la generazione di codice, come Github Copilot, possono presentare più rischi per la sicurezza di quanto molti utenti possano immaginare.

Lo studio ha preso in esame in particolare Codex, un prodotto di OpenAI, di cui Elon Musk è tra i co-fondatori. 

Codex alimenta la piattaforma GitHub Copilot, di proprietà di Microsoft, che è stata progettata per rendere la codifica più semplice e accessibile, traducendo il linguaggio naturale in codice e suggerendo modifiche basate su prove contestuali.

Programmare con l'AI ha i suoi problemi

Il coautore principale dello studio, Neil Perry, spiega che "i sistemi di generazione di codice non sostituiscono attualmente gli sviluppatori umani".

Lo studio ha chiesto a 47 sviluppatori di diversa abilità di utilizzare Codex per problemi legati alla sicurezza, utilizzando i linguaggi di programmazione Python, JavaScript e C. Lo studio ha concluso che i partecipanti che si sono affidati a Codex avevano maggiori probabilità di scrivere codice insicuro rispetto a un gruppo di controllo.

Perry ha spiegato che: "Gli sviluppatori che utilizzano [strumenti di codifica] per completare compiti al di fuori delle loro aree di competenza dovrebbero essere preoccupati, e quelli che li usano per accelerare compiti in cui sono già abili dovrebbero ricontrollare attentamente i risultati e il contesto in cui vengono utilizzati nel progetto complessivo".

Non è la prima volta che gli strumenti di codifica basati sull'intelligenza artificiale sono sotto esame. Infatti, una delle soluzioni di GitHub per migliorare la qualità del codice in Copilot ha visto l'azienda di proprietà di Microsoft affrontare un'azione legale per non aver attribuito il lavoro di altri sviluppatori. Il risultato è stato una causa da 9 miliardi di dollari per 3,6 milioni di violazioni individuali della Sezione 1202.

Per il momento, gli strumenti di generazione del codice basati sull'intelligenza artificiale sono da considerarsi un aiuto per accelerare la programmazione piuttosto che un sostituto a tutti gli effetti, ma se lo sviluppo degli ultimi anni è un dato di fatto, potrebbero presto sostituire la codifica tradizionale.

Via TechCrunch (Si apre in una nuova scheda)

Valerio Porcu è Redattore Capo e Project Manager di Techradar Italia. È da sempre ossessionato dai gadget e dagli oggetti tecnologici che cambiano la nostra vita quotidiana, e dai primi anni 2000 ha deciso di raccontarla. Oggi è un giornalista con anni di esperienza nel settore tecnologico, e ha ancora la voglia di trovare le chiavi di lettura giuste, per capire davvero in che modo la tecnologia può rendere migliore la nostra vita quotidiana.