Google muutti tekoälynsä ennakkoluulottomammaksi poistamalla sukupuolitetut ilmaukset

Esiteltyään toukokuussa Gmail-palvelunsa uuden ennakoivan tekstinsyöttöominaisuuden, Smart Composen, Google on tarkentanut Reutersille, kuinka yhtiö aikoo parantaa palvelun sopivuutta entisestään kaikille jatkossa. Ensimmäisenä yhtiö on poistanut työkaluista kaikki sukupuolitetut pronominit, jotta se olisi inklusiivisempi.

Joten jos käyttäjä kirjoittaisi esimerkiksi englanniksi 'I love', Smart Compose saattaisi ehdottaa jatkoksi sanoja kuten 'it' tai 'you'. Se ei kuitenkaan koskaan ehdota sukupuolitettuja ilmauskia, kuten 'him' tai 'her'.

Taustalla on Googlen pelko siitä, että ennakoiva teknologia saattaisi vahingossa loukata jotain käyttäjää ehdottamalla hänelle väärää pronominia. Vaikka moinen saattaa kuulostaa melko harmittomalta erehdykseltä, ennakkoluuloisen teknologian jälkiseuraamukset voivat olla suuret, kuten Googlen yksi tieteilijä havaitsi tammikuussa:

Kun hän kirjoitti sähköpostissaan "I am meeting an investor next week", Smart Compose ehdotti hänelle jatkokysymykseksi: "Do you want to meet him?", ilmaisun 'her' sijaan. Vastaavat tilanteet saattaisivatkin johtaa epämiellyttäviin tilanteisiin, vahvistaa entisestään vanhentuneita sukupuolistereotypioita sekä saada jotkin käyttäjät tuntemaan palvelun luotaantyöntäväksi.

Joten siksi yhtiö päätti poistaa sen sijaan kaikki sukupuolitetut ilmaisut Smart Composesta, jotta vastaavanlaisia tapauksia ei voisi ilmaantua. Yhtiöllä on kuitenkin vielä työsarkaa poistaa vastaava ennakkoluuloinen ennakointi yhtiön hakukoneesta, joka on aiemmin ehdottanut rasistisia ja juutalaisvastaisia hakuja käyttäjilleen.

Googlen Smart Compose toiminnassa

Googlen Smart Compose toiminnassa

Ennakoivaa kirjoittamista

Smart Compose julkistettiin Googlen I/O-tapahtumassa toukokuussa, ja sen tarkoituksena on nopeuttaa päivittäisten sähköpostien kirjoittamista.

Älypuhelinten ennakoivan tekstinsyötön lailla se hyödyntää tekoälyä analysoimaan käyttäjän aiemman kirjoituksen ja ehdottaa sitten sen perusteella sopivia jatkosanoja, jotka perustuvat käyttäjän aiempiin viesteihin.

Google toivoo, että teknologia pystyy jossain vaiheessa kirjoittamaan kokonaisia lauseita vain napauttamalla näppäimistöä, mutta siihen pisteeseen päästäksemme on vielä kuitenkin aikaa.

Lähde: VentureBeat