Ihmiset sanovat, että Twitterin valokuvien esikatselualgoritmi on rasistista, Twitter suostuu ja yrittää korjata sen

Tietokoneet eivät todellakaan tee virheitä. Ne näyttävät joskus tekevän, mutta he vain seuraavat koodia ja syötteitä, jotka heille on annettu ja jotka ovat hellip, ja joskus on joitain mielenkiintoista mukana olevat panokset.

Ei liian kauan sitten, internautit olivat nauraa Googlen kuvahakualgoritmit näyttämistä varten Afrikkalaisamerikkalaiset lääkärit kun etsit valkoiset amerikkalaiset lääkärit .

Tällä kertaa se on Twitter ja sen kuvan rajausalgoritmit. Ihmiset ovat alkaneet huomaa kuinka Twitter rajaa kuvia tavalla, joka antaa etusijan ihmisille, joilla on valkoinen iho, verrattuna niihin, joilla on musta iho.

Twitterissä on tekoäly, joka, jos postitat pitkiä ja ohuita valokuvia, keskittyy siihen, mikä sen mielestä on tweetin paras osa

Mutta ihmiset huomasivat, että se haluaa keskittää mieluummin valkoiset kasvot kuin mustat, koska alkuperäinen kuvasyöttö sisälsi itse asiassa myös Barack Obaman

Kuvahyvitykset: rokkari

Joten kaikki alkoi, kun Twitter-käyttäjä Colin Madland oli ongelmien karttoittaminen kollega asiaan liittyvässä asiassa, mutta täysin eri alustalla. Osoittautuu, että videoneuvotteluohjelma Zoom näyttää poistavan mustan ihmisen pään, jos käytetään mukautettua taustaa. Se pitää vain päätä osana taustaa.

Mutta vasta sitten, kun hän lähetti esimerkillisiä kuvakaappauksia Twitteriin jatkoa vianetsintää varten, hän ymmärsi, että Twitter on myös sen hermoverkkojen ylläpitämisessä. Hän huomasi, kuinka mobiiliversiossa hänen pitkä vaakasuora kuvakaappauksensa rajataan sisällyttämään vain hänet eikä kollegaansa.

Tämän huomatessaan muut ihmiset alkoivat luoda kuvia, joissa oli valkoisia ja mustia ihmisiä parittomilla, pitkänomaisilla suhteilla pakottaakseen rajausalgoritmin valitsemaan keskitysasento. Pieni epävirallinen kokeilu osoitti, että järjestelmä pyrkii suosimaan valkoisia kasvoja mustien sijaan.

Ihmiset alkoivat testata tätä muilla valokuvilla, ja tosiaan tweetit keskittyvät valkoiseen liikemieheen

& hellip, vaikka syötteeseen sisältyi myös musta liikemies, eikä valokuvan sijainnilla ollut merkitystä

kuinka monta punkkia possum voi syödä

Kuvahyvitykset: Alexhanna

Useat tweeters testasivat tämän kuvituskuvaa , poliitikot , ja jopa sarjakuvia, nimittäin Simpsonit merkkiä Lenny ja Carl . Useimmiten valokuvat rajataan tavalla, joka osoittaa, että valkoiset kasvot ovat suosittuja.

Takaisin alkuvuodesta 2018 Twitter tunnisti ongelman tweeteistä, jotka osoittavat valokuvasarjoja, jotka eivät ole keskellä. He ovat siten toteuttaneet a mekanismi jonka on tarkoitus tunnistaa valokuvan yksittäiset elementit ja keskittyä niihin keskuksen sijasta. Ennen sitä kaikki suoritettiin pelkästään kasvojentunnistuksella, ja vaikka kaikilla valokuvilla ei ole kasvoja, niitä oli parannettava.

Tulokset vaihtelivat jossain määrin, mutta useimmat niistä näyttivät kuitenkin osoittavan rodullista puolueellisuutta Twitterin tekoälyssä

Kuvahyvitykset: gnomestale

Kuten monet uudet tekniikat, se ei ole täydellinen. Mukaan NITS-tutkimukset , todistettiin, että tämän päivän kasvojentunnistusohjelmisto toimii huonommin muiden kuin valkoisten kasvojen kanssa, joiden väärä tunnistuskerroin on 10–100 aasialaisille ja afrikkalaisamerikkalaisille kasvoille. Joten, parantamisen varaa on.

Nyt tämä on ymmärrettävä virhe, eikä algoritmi ole puhtaasti puolueellinen, koska jotkut valokuvien rajaustulokset osoittivat myös mustat kasvot. Liz Kelley Twitter-viestintäryhmästä selitti että hermoverkossa tarkastettiin mahdolliset rodulliset ja jopa sukupuoliset puolueet ja ettei niitä havaittu. Analyyseja ja testauksia on kuitenkin selvästi tarpeen, koska nämä tulokset vaikuttavat puolueellisilta.

Poliitikoiden ja kuuluisuuksien lisäksi ihmiset testasivat joukon kuvakuvia

Kaikki alla näkyvät 4 tuloa keskittyivät valkoiseen liikemieheen ihmismäärästä huolimatta

Kuvahyvitykset: sina_rawayama

Tekoäly keskittyi jopa valokuviin, joita oli huonosti muokattu sisältämään valkoisen ihmisen kasvot

kuinka piirtää kaupunki yöllä

Kuvahyvitykset: juliecreicrei

Määrä ei myöskään ollut muuttuja, kun päätettiin keskittää, koska tulokset olivat samat

Kuvahyvitykset: doidinhavids

Twitterin CDO, myös Dantley Davis sanoi että se on 100% Twitterin vika eikä kenenkään pitäisi sanoa toisin, vaikka monet ihmiset sanovat, että tätä ei tehdä tarkoituksella - se on loppujen lopuksi tekoäly - ja vikalla ei ole merkitystä, koska painopisteen tulisi aina olla ongelman korjaamisessa .

Toistaiseksi on epävarmaa, mikä saa algoritmin tekemään sen, mikä mieluummin suosittelee valkoisia kasvoja mustiin. Ainoa selitys on se taipumus etsiä valokuvan näkyvin.

Yksi henkilö kokeili eri värisiä siteitä ja jopa käänsi värit vaihtelevilla tuloksilla

Kuvahyvitykset: rokkari

Ilmeisesti eläimiä pidetään jopa parempana vain siksi, että heillä on kirkas väripaletti

Kuvahyvitykset: Ma_lopess2

Twitter on tietoinen ongelman korjaamisesta

Kuvahyvitykset: belblueberry

Vaikka Davis selitti, että tekoäly saattaa keskittyä muihin lisämuuttujiin sen määrittämiseksi, mihin kuva keskitetään, toiset viittaavat myös siihen, että kuvasuhteella, taustalla tai värimallilla voi olla myös jotain tekemistä sen kanssa. Tämä on kuitenkin ei-tieteellinen selitys, joka on vielä vahvistettava tai hylättävä.

Aihe aiheutti Internetissä jonkin verran hämmennystä yksittäisillä tweeteillä, jotka havainnollistavat puolueellisuutta ja jotkut jopa kutsuvat algoritmia rasistiseksi. Sanotut twiitit saivat tuhansia tuhansia tykkäyksiä ja uudelleentwiittauksia yhdellä erityisellä twiitti vertaamalla Mitch McConnellia tai Barack Obamaa yli 185 000 tykkäyksen saamiseen.

Tekoäly näytti puolueelliselta jopa sarjakuvista, kuten nähtiin Simpsonien Lennyn ja Carlin kanssa

Kuvahyvitykset: _jsimonovski

Sama koirien kanssa

mitä voit tehdä kierrätetyllä muovilla

Kuvahyvitykset: MarkEMarkAU

Algoritmi ei ollut täysin puolueellinen, koska oli tuloksia, joissa se piti parempana mustia ihmisiä, kuten alla olevassa esikatselussa ja syötteissä näkyy

Oletettiin, että syynä voi olla hymy tai näkyvät kasvot, jotka tekoälylle on helpompi poimia

Kuvahyvitykset: TLopesVictorM

Ainoa poikkeus säännöstä oli tämä ilmainen kaikille, missä se oli sekä kasvoja että esineitä

Kuvahyvitykset: mikaozl

Mitä mieltä olet tästä? Kerro meille alla olevasta kommenttiosasta!

Tässä on, miten jotkut tweeters reagoivat tähän