Miliony lidí používají na telegramu roboty „Nudify“ s umělou inteligencí

Kate Ruane, ředitelka projektu svobodného projevu Centra pro demokracii a technologie, říká, že většina hlavních technologických platforem má nyní zásady zakazující nekonsensuální distribuci intimních obrázků, přičemž mnozí z největších souhlasí s principy, jak se vypořádat s deepfakes. „Řekl bych, že ve skutečnosti není jasné, zda je na platformě zakázáno nekonsensuální vytváření nebo distribuce intimních obrázků,“ říká Ruane o podmínkách služby Telegram, které jsou méně podrobné než jiné hlavní technologické platformy.

Přístup Telegramu k odstraňování škodlivého obsahu byl dlouho kritizován skupinami občanské společnosti, přičemž platforma historicky hostila podvodníky, extrémně pravicové skupiny a obsah související s terorismem. Od chvíle, kdy byl generální ředitel a zakladatel Telegramu Pavel Durov v srpnu ve Francii zatčen a obviněn z řady potenciálních trestných činů, začal Telegram provádět určité změny ve svých podmínkách služby a poskytovat údaje orgánům činným v trestním řízení. Společnost neodpověděla na otázky WIRED, zda konkrétně zakazuje explicitní deepfakes.

Proveďte Harm

Ajder, výzkumník, který před čtyřmi lety objevil deepfake telegramové roboty, říká, že tato aplikace má téměř jedinečnou pozici pro deepfake zneužití. „Telegram vám poskytuje funkce vyhledávání, takže vám umožňuje identifikovat komunity, chaty a roboty,“ říká Ajder. „Poskytuje funkci hostování botů, takže je to někde, kde jsou nástroje ve skutečnosti poskytovány. Pak je to také místo, kde to můžete sdílet a skutečně způsobit škodu z hlediska konečného výsledku.“

Koncem září začalo několik deepfake kanálů zveřejňovat, že Telegram odstranil jejich roboty. Není jasné, co vedlo k odstranění. 30. září kanál s 295 000 odběrateli zveřejnil, že Telegram „zakázal“ své roboty, ale zveřejnil nový odkaz na robota, který mohou uživatelé použít. (Kanál byl odstraněn poté, co WIRED odeslal otázky do Telegramu.)

„Jedna z věcí, která je na aplikacích, jako je Telegram, skutečně znepokojuje, je, že je tak obtížné je sledovat a monitorovat, zejména z pohledu těch, kteří přežili,“ říká Elena Michael, spoluzakladatelka a ředitelka #NotYourPorn, skupiny kampaně pracující na ochraně lidí. ze sexuálního zneužívání založeného na obrázcích.

Michael říká, že s Telegramem bylo „notoricky obtížné“ diskutovat o bezpečnostních otázkách, ale poznamenává, že společnost v posledních letech zaznamenala určitý pokrok. Společnost by však podle ní měla být aktivnější při moderování a filtrování samotného obsahu.

„Představte si, že byste byli přeživší, kteří to musí udělat sami, určitě by to břemeno nemělo ležet na jednotlivci,“ říká Michael. „Určitě by měla být zátěž na společnosti, aby zavedla něco, co je proaktivní spíše než reaktivní.“