Algoritmy umělé inteligence jsou zaujaté proti pokožce se žlutými odstíny

Pokud jde o barvu pleti, Xiang říká, že snahy vyvinout další a vylepšená opatření budou nekonečné. „Musíme se i nadále snažit dělat pokroky,“ říká. Monk říká, že různá opatření by mohla být užitečná v závislosti na situaci. „Jsem velmi rád, že o tuto oblast po dlouhé době zanedbávání roste zájem,“ říká. Mluvčí Googlu Brian Gabriel říká, že společnost nový výzkum vítá a přezkoumává ho.

Barva kůže člověka pochází ze souhry světla s proteiny, krvinkami a pigmenty, jako je melanin. Standardním způsobem testování algoritmů na zkreslení způsobené barvou pleti bylo zkontrolovat, jak fungují na různých tónech pleti, na škále šesti možností od nejsvětlejší po nejtmavší známé jako Fitzpatrickova stupnice. Původně byl vyvinut dermatologem k odhadu reakce pokožky na UV záření. Minulý rok výzkumníci umělé inteligence napříč technologiemi chválili zavedení Monkovy stupnice od Googlu a nazvali ji inkluzivnější.

Výzkumníci společnosti Sony ve studii prezentované tento týden na Mezinárodní konferenci o počítačovém vidění v Paříži uvedli, že mezinárodní barevný standard známý jako CIELAB používaný při úpravách a výrobě fotografií ukazuje na ještě věrnější způsob, jak reprezentovat široké spektrum pleti. Když použili standard CIELAB k analýze fotografií různých lidí, zjistili, že jejich pleť se lišila nejen v tónu – hloubce barvy –, ale také v odstínu nebo gradaci.

Zdá se, že barevné škály pleti, které správně nezachycují červené a žluté odstíny lidské kůže, pomohly, aby některé zkreslení zůstaly neodhalené v obrazových algoritmech. Když výzkumníci společnosti Sony testovali systémy umělé inteligence s otevřeným zdrojovým kódem, včetně nástroje pro ořezávání obrázků vyvinutého Twitterem a dvojice algoritmů pro generování obrázků, našli oblibu pro červenější pleť, což znamená, že velké množství lidí, jejichž pleť má více žlutý odstín. jsou nedostatečně zastoupeny v konečných obrázcích, které algoritmy vydávají. To by mohlo potenciálně znevýhodnit různé populace – včetně obyvatel východní Asie, jižní Asie, Latinské Ameriky a Středního východu.

Výzkumníci společnosti Sony navrhli nový způsob, jak znázornit barvu pleti, aby zachytili dříve ignorovanou rozmanitost. Jejich systém popisuje barvu kůže na obrázku pomocí dvou souřadnic namísto jediného čísla. Specifikuje jak místo podél škály světlé až tmavé, tak na kontinuu žlutosti až zarudnutí, neboli to, co kosmetický průmysl někdy nazývá teplými až studenými podtóny.

Nová metoda funguje tak, že izoluje všechny pixely v obrázku, který zobrazuje vzhled, převádí hodnoty barev RGB každého pixelu na kódy CIELAB a vypočítává průměrný odstín a tón napříč shluky pixelů pokožky. Příklad ve studii ukazuje zjevné záběry hlavy bývalé americké fotbalové hvězdy Terrella Owense a zesnulé herečky Evy Gaborové, kteří sdílejí odstín pleti, ale jsou odděleni odstínem, přičemž obraz Owense je více červený a obrázek Gabora více žlutý.

Když tým Sony použil svůj přístup k datům a systémům umělé inteligence dostupným online, zjistil významné problémy. CelebAMask-HQ, oblíbená datová sada tváří celebrit používaných pro trénování rozpoznávání obličejů a dalších programů pro počítačové vidění, měla 82 procent svých snímků vychýlených směrem k červeným odstínům pleti a další datový soubor FFHQ, který vyvinula Nvidia, se přikláněl k 66 procentům. červená strana, zjistili vědci. Dva generativní modely umělé inteligence trénované na FFHQ reprodukovaly zkreslení: Asi čtyři z každých pěti obrázků, které každý z nich vygeneroval, byly zkosené směrem k červeným odstínům.

Tím to neskončilo. AI programy ArcFace, FaceNet a Dlib fungovaly lépe na červenější pleti, když byly požádány, aby identifikovaly, zda dva portréty odpovídají stejné osobě, uvádí studie Sony. Davis King, vývojář, který vytvořil Dlib, říká, že ho nepřekvapuje zkreslení, protože model je trénován převážně na obrázcích amerických celebrit.

Cloudové nástroje umělé inteligence od Microsoft Azure a Amazon Web Services pro detekci úsměvů také fungovaly lépe s červenějšími odstíny. Nvidia odmítla komentovat a Microsoft a Amazon na žádosti o komentář nereagovaly.