Onko Twitterin algoritmi rasistinen?

Carl ja Lenny
(Kuvan luotto: Fox / Future Owns)

Twitter on käynnistänyt tutkimuksen hermoverkostosta, joka näyttää olevan rodullisesti puolueellinen. Kun kuvaa nostetaan kuvan esikatselutoiminnossa, algoritmi suosii johdonmukaisesti valkoisten ihmisten kasvoja - näyttää melkein aina vaaleamman nahan kasvot ja rajata pois myös valokuvassa esitetyt mustat ihmiset.

Yliopiston professori nosti ensin suunnittelukysymyksen Twitterissä, mutta suhteessa Zoomin tekoälyohjelmistoon. Näet alla olevan tweetin, joka kiinnitti huomion siihen, että Zoom pyyhkäisi mustan kollegansa kasvot, kun hän käytti taustaa videokeskustelun aikana (saadaksesi menestyksekkäämpiä suunnittelutuloksia, katso valinta web-suunnittelutyökalut ).



arvauksia? pic.twitter.com/9aIZY4rSCX 19. syyskuuta 2020



Läpi langan kulku , Colin Madland tajusi, että Twitter oli myös laiminlyönyt näyttää vain omat kasvonsa valokuvien esikatseluissa ja jättää mustan kollegansa pois - mikä viittaa laajaan ongelmaan tekoälyn toimintatavassa.

Erillinen Twitter-kokeilu alkoi (katso se alla), jossa salausinsinööri Tony Arcieri vertaili Mitch McConnellin ja Barack Obaman valokuvien esikatseluja nähdäkseen, mikä Twitter-algoritmi olisi ominaisuus.



Yritetään kamalaa kokeilua ... Kumpi Twitter-algoritmi valitsee: Mitch McConnell tai Barack Obama? pic.twitter.com/bR1GRyCkia 19. syyskuuta 2020

Arcieri ja muut muokkaivat kuvia lukemattomilla tavoilla tulosten tarkistamiseksi - kääntämällä värit, kirkastamalla ja vaalentaen kuvien osia ja vaihtamalla taustoja. Kaikki yritykset näyttivät todistavan tekoälypohjaisesta rodullisesta puolueellisuudesta, kun Obama ilmestyi esikatseluun vasta, kun värejä vaihdettiin.

Muut Twitter-käyttäjät liittyivät testaamaan algoritmia, kokeilivat Simpsonien Lennyä ja Carlia sekä jopa koiria.



Yritin sitä koirien kanssa. Katsotaan. pic.twitter.com/xktmrNPtid 20. syyskuuta 2020

Twitterin Liz Kelley kiitti kaikkia kiinnittämästä huomiota asiaan , jonka mukaan sosiaalisella verkostolla on 'enemmän analyysejä'. '' Testasimme ennakkoluuloja ennen mallin toimittamista, emmekä löytäneet todisteita rodun tai sukupuolen puolueellisuudesta testauksessamme, mutta on selvää, että meillä on enemmän analyyseja. Avoimme työmme, jotta muut voivat tarkastella ja kopioida. '

Tekoälyä käyttävillä algoritmeilla on selvästi enemmän töitä, ja olemme iloisia siitä, että Twitter ottaa vastuun ongelmasta ohjelmistoillaan. Kun tekoälystä on tulossa yhä suurempi vastuu päivittäisten kokemuksemme eri näkökohdista, on elintärkeää, että se on rakennettu vastaamaan yhteiskunnan tarpeiden monimutkaisia ​​vivahteita. Jos haluat varmistaa, että suunnittelusi toimii kaikille, katso oppaamme osallistava verkkosivujen suunnittelu .

Lue lisää: