Digitaalinen peili: Sukupuolistereotypiat tekoälyn generoimissa kuvissa
· Blogi · LUT-yliopisto
Tekoälytyökalujen yleistyttyä tekoälyllä generoituja kuvia näkee yhä useammin sosiaalisessa mediassa, yritysten mainonnassa ja jopa uutisartikkeleissa. Suosiosta huolimatta kuvien sisältämät vinoumat, esimerkiksi sukupuolittuneet stereotypiat, ovat jääneet tieteellisissä tutkimuksissa vähemmälle huomiolle. Tämä sai meidät LUT-yliopistolla tarttumaan aiheeseen.
Tutkimuksemme keskittyi kahden kuvageneraattorityökalun, DALL·E 3:n ja Ideogramin vertailuun. Tarkoituksena oli selvittää, millaisia sukupuolistereotypioita työkalut tuottavat ammatillisessa kontekstissa ja kuinka työkalut eroavat toisistaan.
Hymyilevät nuoret naiset
Havaitsimme, että tekoälyn tuottamissa kuvissa naiset esitetään toistuvasti perinteisten stereotypioiden mukaisesti: ystävällisinä, yhteistyöhaluisina ja mukautuvina, vahvistaen perinteisiä käsityksiä naisten roolista työelämässä. Tämä peilaa laajempaa ilmiötä: mediassa naiset esitetään miehiä useammin juuri nuorina ja viehättävinä.
Ideogramin kuvissa peräti 75 % naisista hymyili, kun miehistä hymyili vain 34 %. DALL·E 3:n kuvissa luvut olivat 67 % ja 28 %. Naiset siis hymyilevät kuvissa yli kaksi kertaa useammin kuin miehet.
Myös ikääntyminen oli sukupuolittunutta. Ideogramin kuvissa 45 % miehistä oli kuvattu vanhempina, mutta naisista vain 19 %. DALL·E 3:n kuvissa vain 3 % naisista sai harmaantua, miehistä 22 %.
Alla olevassa kuvassa on DALL·E 3:n generoimia suuhygienistejä. DALL·E 3 generoi yhden naisen ja kolme miestä. Naisella on leveä hymy, samalla kun promptin tuottamat mieskollegat on kuvattu neutraalein ilmein: yksi heistä hoitaa potilasta, toisilla kädet ovat puuskassa. Nainen näyttää mukavalta asiakaspalvelijalta, miehet vakavilta ammattilaisilta.
DALL·E 3:n generoimia suuhygienistejä
Sama toistuu Ideogramin erikoislääkäreissä: naiset hymyilevät ja katsovat silmiin, miehet keskittyvät työhönsä.
Ideogramin generoimia erikoislääkäreitä
DALL·E 3:n miesmallit
Stereotypiat eivät koske pelkästään naiskuvia. Erityisesti DALL·E 3:n generoimat kuvat toistavat omaa kaavaansa: miehet ovat vahvaleukaisia ja sileäihoisia. Ryppyjä ylipäätään esiintyi DALL·E 3:n generoimissa kuvissa vähän ja useimmat ihmiset sukupuolesta riippumatta kuvattiin sileällä, virheettömällä iholla.
DALL·E 3:n generoimia miehiä
Huomattavat erot AI-mallien välillä
DALL·E 3 aliedustaa naisia järjestelmällisesti: sen kuvissa vain 12,5 % henkilöistä oli naisia ja se jätti erityisesti vanhemmat naiset kuviensa ulkopuolelle. Ideogramilla vastaava luku oli 52,6 %, ja se noudatti paremmin myös oikean elämän sukupuolijakaumia eri ammateissa. Tämä osoittaa, ettei vinoutuneisuus ole tältä osin väistämätöntä.
Mitä asialle pitäisi tehdä?
Kuvat voivat muovata käsitystämme todellisuudesta ilman, että tiedostamme sitä. Kun näemme toistuvasti tietyntyyppisiä ihmisiä tietyissä rooleissa, alamme pitää sitä normaalina. Jos tekoäly tuottaa kuvia, joissa koodari on aina mies ja sairaanhoitaja aina nuori hymyilevä nainen, se vahvistaa näitä oletuksia. Tekoälyllä generoidut kuvat ovat houkutteleva mahdollisuus yrityksille markkinointiin ja viestintään, sillä kuvien generointi on usein halpaa tai jopa ilmaista. Jos kuvat sisältävät vääristymiä, voivat yritykset näin tahattomasti levittää niitä.
Vaikka teknologiat kehittyvät kovaa vauhtia, niissä esiintyvät vinoumat tuntuvat pysyvän vahvasti mukana. Teknologiajätit vakuuttavat vähentävänsä vinoumia, mutta useamman tutkimuksen tulokset kertovat toista.
Mitä työkaluja kehittävät yritykset voisivat konkreettisesti tehdä?
- Monipuolistaa koulutusdataa: Tekoälymallit oppivat datasta, jolla ne koulutetaan. Jos koulutusdata sisältää stereotypioita, malli toistaa niitä.
- Ottaa kehitykseen mukaan niitä, jotka nyt jäävät ulkopuolelle: Moninaisemmat näkökulmat auttavat havaitsemaan epäkohtia.
- Puuttua vinoumiin: Teknisiä keinoja vinoumien vähentämiseen on olemassa, mutta niiden kehittämiseen panostaminen ja niiden käyttöönotto ovat valintoja.
Tämä tutkimus keskittyi vain sukupuoleen liittyviin vinoumiin, mutta vinoumia on muitakin, ja ne esiintyvät usein yhdessä. Esimerkiksi kuvien ihmiskehot tuntuivat sopivan varsin kapeaan, laihaan muottiin. Tekoälyllä generoidun sisällön yleistyessä kannattaa kiinnittää huomiota siihen, millaista tarinaa algoritmit meille todellisuudesta kertovat: millaiset ihmiset näkyvät kuvissa ja ketkä jäävät ulkopuolelle?
Lisätietoa tutkimuksesta löydät napauttamalla linkkiä.
Kirjoittaja
Siiri Leppälampi
Tutkimusapulainen
LUT-yliopisto
Työskentelen tutkimusapulaisena LUT-yliopistolla ja teen parhaillaan diplomityötä tekoälyyn ja disinformaatioon liittyen. Tavoitteenani on jatkaa väitöskirjatutkijaksi, ja minua kiinnostavat erityisesti naiset IT-alalla, alan monimuotoisuus sekä tekoälyn etiikka. Vapaa-ajalla tykkään rentoutua videopelien maailmoissa ja koirani seurassa.
Vastaa