Google gjør sin AI mindre partisk ved å forby kjønnspronomen

null

Google har etter introduksjonen av Gmails nye predikative teksthåndtering, Smart Compose, endelig kastet litt lys over hvordan de får funksjonen til å fungere, og til Reuters så kan selskapet fortelle at de forbyr bruken av kjønnspronomen for å gjøre verktøyet mer inkluderende for alle sine brukere. 

Det hører med til historien at denne funksjonen enn så lenge bare er tilgjengelig for engelsk, men om du skriver inn ordene «I love» så vil Smart Compose foreslå ordene «it» eller «you» for å fullføre setningen, den vil derimot ikke foreslå «han» eller «henne». 

Grunnen til dette er at Google er bekymret for at deres teknologi, om enn utilsiktet, skal fornærme brukere ved å benytte feil pronomen. Selv om det kan høres ut som en harmløs feil så kan ringvirkningene av partisk teknologi være store. Dette fikk en av Googles forskere oppleve i januar i år:

Når forskeren skulle skrive «I am meeting an investor next week», så foreslo Smart Compose følgende spørsmål for å følge opp: «Do you want to meet him?». Dette er gjerne småting som kan føre til pinlige misforståelser, men på samme tid så understøtter det også utdaterte stereotyper og kjønnsroller som kan føre til at noen brukere føler seg ekskludert av teknologien. 

Derfor har Google valgt å helgardere seg ved å fjerne alle spor av kjønnspronomen fra Smart Compose. De har imidlertid et godt stykke arbeid igjen når det kommer til forslagene som søkemotoren deres kommer med – den har foreslått både antisemittiske og andre rasistiske resultater tidligere.

Googles Smart Compose-verktøy i bruk

Googles Smart Compose-verktøy i bruk

Smart Compose ble annonsert ved I/O-konferansen i mai i år. Essensen er at funksjonen skal gjøre det lettere og kjappere å skrive generelle e-poster. 

En måte å se på det er at Smart Compose er en smartere versjon av den samme funksjonen vi har sett i tastatur og nettbrett ganske lenge nå. Funksjonen bruker AI for å analysere det du har skrevet så langt, og foreslår resten av setningen eller avsnittet du skriver på. 

Selv om funksjonen er langt fra perfekt så håper Google på at teknologien en dag vil gjøre det mulig å skrive hele setninger med ett enkelt tastetrykk.

Kilde: VentureBeat