Videa „LeafFake“ AI Celeb jsou na YouTube návnada

„Vylepšují můj hlas nebo cokoli, co dělají, vylepšují svůj vlastní hlas, aby to znělo jako já, a lidé to komentují, jako jsem já, a to nejsem já,“ řekl Washington nedávno Wired, když se zeptal na AI. „Nemám účet na Instagramu. Nemám Tiktok. Nic z toho nemám. Takže nic, co z toho slyšíte – nejsem to ani já, a bohužel lidé právě sledují a to je svět, ve kterém žijete.“

Pro Clarka jsou videa talk show jasným odvoláním na to, aby podněcovaly morální pobouření – umožňují publiku, aby se snadněji zapojili a šířili dezinformace. „Je to skvělá emoce, kterou můžete vyvolat, pokud chcete angažovanost. Pokud se někdo cítí smutný nebo zraněný, pak si to pravděpodobně ponechá pro sebe. Zatímco pokud je necháte, aby se cítili pobouřeni, pravděpodobně sdílejí video s podobně smýšlejícími přáteli a v komentářích napíše dlouhý chvástání,“ říká. Nezáleží ani na tom, vysvětluje, pokud zobrazené události nejsou skutečné nebo jsou dokonce jasně uvedeny jako „generované AI“, pokud by se zúčastněné postavy mohly věrohodně jednat takto (alespoň v mysli jejich diváků), v nějakém jiném scénáři. Role hraje také vlastní ekosystém YouTube. Vzhledem k tomu, že tolik diváků konzumuje obsah pasivně při řízení, čištění, dokonce usínání, obsah generovaný AI již nemusí vypadat leštěný, když se mísí do proudu pasivně absorbovaných informací.

Reality Defender, společnost specializující se na identifikaci Deepfakes, přezkoumala některá videa. „Můžeme sdílet, že někteří z našich vlastních rodinných příslušníků a přátel (zejména na seniory) se setkali s takovými videy, a přestože nebyli úplně přesvědčeni, prošli se s námi (věděli, že jsme odborníci) o platnost, protože byli na plotě,“ říká Ben Colman a generální ředitel Reality Defender, říká Wired.

Wired také oslovil několik kanálů k vyjádření. Odpověděl pouze jeden tvůrce, majitel kanálu s 43 000 předplatiteli.

„Právě vytvářím fiktivní příběhové rozhovory a jasně zmiňuji popis každého videa,“ říkají anonymně. „Vybral jsem si fiktivní formát rozhovoru, protože mi to umožňuje kombinovat vyprávění vyprávění, kreativitu a dotek realismu jedinečným způsobem. Tato videa se cítí pohlcující – jako byste sledovali skutečný okamžik – a ten emocionální realismus opravdu přitahuje lidi. Je to jako dát publiku“ co kdyby? “ Scénář, který se cítí dramatický, intenzivní nebo dokonce překvapivý, a přesto je stále úplně smyšlený. “

Ale pokud jde o pravděpodobný motiv za kanály, z nichž většina je založena mimo USA, ani přísná politická agenda, ani náhlý otočení kariéry k pohlcujícímu vyprávění, slouží jako adekvátní vysvětlovač. Kanál s e -mailem, který používá termín „výdělek“, však naznačuje zjevnější finanční úmysly, stejně jako opakující se povaha kanálů – s připojením do důkazů o duplikovaných videích a více kanálech provozovaných stejnými tvůrci, včetně některých sesterských kanálů.

Je to nepřekvapivé, s více obsahovými farmami než kdy jindy, zejména těmi, kteří se zaměřují na zranitelné, a v současné době se na YouTube spojují vedle vzestupu generativní AI. V celé desce si tvůrci vybírají kontroverzní témata, jako jsou dětské televizní postavy v kompromitujících situacích, dokonce i pokus o obchodování s lidmi P. Diddy, aby vytvořili co nejvíce zapojení – a příjmů – tak možno.