Skip to main content

Google gjør sin AI mindre partisk ved å forby kjønnspronomen

Google har etter introduksjonen av Gmails nye predikative teksthåndtering, Smart Compose, endelig kastet litt lys over hvordan de får funksjonen til å fungere, og til Reuters (opens in new tab) så kan selskapet fortelle at de forbyr bruken av kjønnspronomen for å gjøre verktøyet mer inkluderende for alle sine brukere. 

Det hører med til historien at denne funksjonen enn så lenge bare er tilgjengelig for engelsk, men om du skriver inn ordene «I love» så vil Smart Compose foreslå ordene «it» eller «you» for å fullføre setningen, den vil derimot ikke foreslå «han» eller «henne». 

Grunnen til dette er at Google er bekymret for at deres teknologi, om enn utilsiktet, skal fornærme brukere ved å benytte feil pronomen. Selv om det kan høres ut som en harmløs feil så kan ringvirkningene av partisk teknologi være store. Dette fikk en av Googles forskere oppleve i januar i år:

Når forskeren skulle skrive «I am meeting an investor next week», så foreslo Smart Compose følgende spørsmål for å følge opp: «Do you want to meet him?». Dette er gjerne småting som kan føre til pinlige misforståelser, men på samme tid så understøtter det også utdaterte stereotyper og kjønnsroller som kan føre til at noen brukere føler seg ekskludert av teknologien. 

Derfor har Google valgt å helgardere seg ved å fjerne alle spor av kjønnspronomen fra Smart Compose. De har imidlertid et godt stykke arbeid igjen når det kommer til forslagene som søkemotoren deres kommer med – den har foreslått både antisemittiske og andre rasistiske resultater (opens in new tab) tidligere.

Googles Smart Compose-verktøy i bruk

Googles Smart Compose-verktøy i bruk

Smart Compose ble annonsert ved I/O-konferansen i mai i år. Essensen er at funksjonen skal gjøre det lettere og kjappere å skrive generelle e-poster. 

En måte å se på det er at Smart Compose er en smartere versjon av den samme funksjonen vi har sett i tastatur og nettbrett ganske lenge nå. Funksjonen bruker AI for å analysere det du har skrevet så langt, og foreslår resten av setningen eller avsnittet du skriver på. 

Selv om funksjonen er langt fra perfekt så håper Google på at teknologien en dag vil gjøre det mulig å skrive hele setninger med ett enkelt tastetrykk.

Kilde: VentureBeat (opens in new tab)

Olivia was previously TechRadar's Senior Editor - Home Entertainment, covering everything from headphones to TVs. Based in London, she's a popular music graduate who worked in the music industry before finding her calling in journalism. She's previously been interviewed on BBC Radio 5 Live on the subject of multi-room audio, chaired panel discussions on diversity in music festival lineups, and her bylines include T3, Stereoboard, What to Watch, Top Ten Reviews, Creative Bloq, and Croco Magazine. Olivia now has a career in PR.