Stereotyping gender roles in AI generated pictures

Abstract

The aim of this thesis was to investigate the presence of representational gender biases in AI-generated pictures in an occupational setting and evaluate how two AI models compare to each other. As AI tools are becoming more widely used, it is increasingly important to address and reduce harmful gender biases. The tools used in the study, DALL·E 3 and Ideogram were prompted with occupations and with descriptive terms, such as ‘student’ and ‘professor’. In total, over 750 images were generated of occupations with varying gender ratios across different fields. The images were analysed by using thematic analysis.

The results of the thematic analysis revealed that both models depict women as younger and more likely to smile than their male counterparts. Ideogram showed a higher representation of older professionals, though both models underrepresented older women. Ideogram had a balanced representation of women and men in a professional setting, while DALL·E 3 significantly overrepresented men in all occupational groups.

The study had some limitations. Gender is classified into two categories to simplify comparison with occupational statistics. Future studies could incorporate other gender identities into the research. As the technology around text-to-image models is advancing rapidly, the results of this study only reflect the current state of these models and are likely to change in the future.

Tämän kandidaatintyön tarkoituksena oli tutkia, esiintyykö tekoälyn generoimissa kuvissa sukupuolistereotypioita ja arvioida, kuinka kaksi eri tekoälymallia vertautuvat toisiinsa. Tekoälytyökalujen yleistyessä on yhä tärkeämpää tutkia ja vähentää niiden sisältämiä haitallisia sukupuolistereotypioita. Työssä käytettiin DALL·E 3- ja Ideogram-nimisiä työkaluja, joita kehotettiin ammattinimikkeillä ja termeillä, kuten ”opiskelija” ja ”professori”. Aineiston keräämiseksi yli 750 kuvaa ammattilaisista generoitiin eri aloilta eri sukupuolijakaumin. Kuvat analysoitiin teema-analyysiä hyödyntäen.

Temaattisen analyysin tulokset osoittivat, että molempien mallien generoimissa kuvissa naiset ovat useammin nuorempia ja hymyilevämpiä kuin mieskollegansa. Ideogram generoi enemmän vanhempia työntekijöitä, joskin molempien mallien kuvissa vanhemmat naiset olivat aliedustettuja. Ideogramin generoimissa kuvissa miehet ja naiset olivat tasaisesti edustettuina, kun taas DALL·E 3:n generoimissa kuvissa miehet olivat huomattavasti yliedustettuina kaikissa ammattiryhmissä.

Tutkimuksessa oli joitain rajoituksia. Sukupuoli on luokiteltu kahteen ryhmään, jotta ammattitilastoihin vertaaminen oli mahdollista. Tulevissa tutkimuksissa voitaisiin huomioida myös muita sukupuoli-identiteettejä. Tekoälymallit kehittyvät jatkuvasti, joten tämän tutkimuksen tulokset kuvaavat vain mallien nykytilaa ja ne todennäköisesti tulevat muuttumaan tulevaisuudessa.