Desítky kanálů YouTube ukazují kreslený gore a fetišský obsah generovaný AI

Někde v animovaném New Yorku, přisluhovač sklouzne a spadne po kanalizaci. Když ho vlna radioaktivního zeleného slizu obklopuje, jeho tělo se začíná transformovat – mění mutovací řady krvavých tesáků, které se objevují – jeho globulární, červí forma, hrozivě se po obrazovce hrozí.

„Dejte si pozor na Minion v noci, stínovou duši bez konce v dohledu,“ zpívá vypravěč znějící AI, protože monstrózní stvoření, nyní číhající v bazénu, se vplíží za křičící dítě, než je nemilosrdně drtí mezi zuby.

Po kliknutí na majitele videa je to však jiný příběh. „Vítejte na Go Cat – zábavný a vzrušující kanál YouTube pro děti!“ Popis kanálu oznamuje 24 500 předplatitelů a více než 7 milionů diváků. „Každá epizoda je plná představivosti, barevné animace a překvapivého příběhu o transformaci, která čeká na rozvoj. Ať už je to legrační nehoda nebo strašidelná závada, každé video přináší pro děti nový nový příběh transformace!“

Go Cat’s údajně obsah přátelský k dítěti je viscerální, neskutečný-téměř ohraničující hrůzu těla. Její témata se cítí děsivě připomínající to, co se v roce 2017 stalo známým jako Elsagate, kde se na YouTube objevily stovky tisíc videí, které zobrazují dětské postavy, jako je Elsa z ZmrazenýSpider-Man a Peppa Pig zapojené do nebezpečných, sexuálních a urážlivých situací. Manipulací s algoritmy platformy se tato videa mohla objevit v aplikaci pro děti YouTube – připravovat se na kuriozity dětí, aby obhospodařovala tisíce kliknutí na hotovost. Ve svých pokusech o vymýcení problému odstranil YouTube reklamy na více než 2 miliony videí, odstranil více než 150 000 a ukončil 270 účtů. Ačkoli následné vyšetřování Wired odhalilo, že podobné kanály – některé obsahující sexuální a scatologické zobrazení Minecraft Avatars – Na stránce tématu YouTube se objevil, že se objevil, dosah Elsagate byl znatelně potlačen.

Pak přišel ai. Schopnost vstupovat (a obejít) generativní výzvy AI, spárovanou s přílivem tutoriálů o tom, jak zpeněžit obsah dětí, znamená, že vytvoření těchto bizarních a strašlivých videí se nejednoznačné, ale lukrativní. Go Cat je jen jedním z mnoha, které se objevily, když se kabelové hledaly pojmy tak neškodné jako „přisluhovači“, „Thomas The Tank Engine“ a „Roztomilé kočky“. Mnoho z nich zahrnuje Elsagate Staples, jako jsou těhotné, verze Elsy a Anny oděné spodní prádlo, ale přisluhovači jsou dalším velkým hitterem, stejně jako animované kočky a koťata.

V reakci na žádost Wired o komentář YouTube říká, že „ukončil dva označené kanály pro porušení našich smluvních podmínek“ a pozastavuje zpeněžení dalších tří kanálů.

„Řada videí byla také odstraněna pro porušení naší politiky bezpečnosti dětí,“ říká mluvčí YouTube. „Jako vždy, veškerý obsah nahraný na YouTube podléhá našim komunitním pokynům a zásadám kvality pro děti – bez ohledu na to, jak je generován.“

Na otázku, jaké politiky jsou zavedeny, aby zabránily zakázané uživatelům, aby jednoduše otevírali nový kanál, YouTube uvedl, že by to bylo proti jeho podmínkám služby a že tyto politiky byly přísně vynucovány „pomocí kombinace jak lidí i technologií“.