Google blocca gli account di un padre che ha fotografato il figlio per cause mediche

La vicenda che vi stiamo per raccontare dovrebbe farvi riflettere sull’uso indiscriminato dell’intelligenza artificiale, soprattutto per quanto riguarda tutti quegli aspetti possono fare un’enorme differenza nella vita di una persona. Come un’accusa infondata di pedofilia, ad esempio.

Questo è il caso di un padre di nome Mark, che avrebbe inviato alcune foto dell’inguine infiammato del proprio figlio al loro medico di famiglia per permettergli l’effettuazione di una diagnosi a distanza. Il materiale fotografico è stato inviato tramite il suo account Google, una pratica tutt’altro che inusuale e certamente non la più subdola per chi avrebbe qualcosa da nascondere.

Ciò che conta, però, è che due giorni dopo Mark si è trovato con l’account Google bloccato, ma non solo, anche posta e telefono (Google Fi) erano disabilitati. La ragione sarebbe stata nell’individuazione automatica da parte di Google di immagini relative a pornografia infantile (CSAM) all’interno dell’account di Mark, una violazione che oltre ad essere illegale è contraria anche alle regole interne di Google.

Ciò ha portato l’azienda a sospendere a tempo indeterminato i propri servizi erogati nei suo confronti. Ma non solo, Google avrebbe avuto accesso a ulteriore materiale presente sullo smartphone dell’uomo, catalogandolo come materiale sessuale con abuso di minori, informando anche la polizia di San Francisco che ha debitamente aperto un caso su di lui.

• Le migliori app di produttività
• I migliori software di accesso remoto
• I migliori software per videoconferenze

Dopo le dovute indagini, Mark è stato immediatamente scagionato, ma secondo Google questo non era ancora sufficiente per ottenere la riabilitazione dei propri account. Per giustificare questa decisione l’azienda ha affermato di seguire pedissequamente le leggi americane e che i propri dipendenti, addestrati a riconoscere le immagini in maniera corretta, avrebbero confermato quanto rilevato dall’AI in fase preliminare. 

Ad ogni modo i dipendenti di Google non sarebbero figure mediche in senso stretto, e l’azienda non avrebbe pensato di consultare dei veri medici per arrivare a trarre le proprie conclusioni prima di bloccare Mark. 

Riguardo questa vicenda, Daniel Khan Gillmor un tecnico di livello presso l’ACLU, un’organizzazione non governativa degli Stati Uniti per la difesa dei diritti civili e delle libertà individuali, ha espresso un commento piuttosto perentorio.

Secondo l’esperto non è possibile che le grandi compagnie si comportino come il braccio tecnologico della polizia solo perché ne hanno le possibilità e non è corretto che abbiano accesso ad un così elevato numero di dati personali e intimi, inclusi quelli che si trovano su dispositivi personali come gli smartphone.

Questo sistema creato ad hoc per altri scopi si starebbe rivelando peraltro come un enorme macchina di controllo generalizzato, capace di generare potenzialmente altri casi limite come questo, particolarmente pericolosi soprattutto per chi si trova ai margini della società.

Secondo il suo parere, ci sarebbe una sproporzione rilevante tra i presunti reati e la forza di controllo e repressione scaturita dall’unione di una compagnia onnisciente come Google e il braccio armato dello stato, con il rischio di causare danni molto più gravi di quelli che sarebbero voluti evitare.

Fonte: The Guardian