Zprávy OpenAI o zneužívání dětí letos prudce vzrostly

OpenAI poslal 80 Podle nedávné aktualizace společnosti bylo Národnímu centru pro pohřešované a zneužívané děti během první poloviny roku 2025 nahlášeno krát tolik incidentů v oblasti zneužívání dětí, než tomu bylo během podobného období v roce 2024. CyberTipline NCMEC je Kongresem autorizovaným informačním centrem pro hlášení materiálů týkajících se sexuálního zneužívání dětí (CSAM) a dalších forem zneužívání dětí.

Společnosti jsou ze zákona povinny hlásit zjevné zneužívání dětí na CyberTipline. Když společnost odešle zprávu, NCMEC ji zkontroluje a poté ji předá příslušnému donucovacímu orgánu k prošetření.

Statistiky související se zprávami NCMEC mohou být jemné. Zvýšené množství zpráv může někdy naznačovat změny v automatickém moderování platformy nebo kritérií, která používá k rozhodnutí, zda je zpráva nezbytná, spíše než nutně naznačovat nárůst nekalé aktivity.

Kromě toho může být stejná část obsahu předmětem více zpráv a jedna zpráva může být o více částech obsahu. Některé platformy, včetně OpenAI, pro ucelenější obrázek zveřejňují jak počet zpráv, tak celkový obsah, o kterém byly.

Mluvčí OpenAI Gaby Raila v prohlášení uvedl, že společnost investovala ke konci roku 2024, „aby zvýšila naši schopnost kontrolovat a provádět zprávy, abychom udrželi krok se současným a budoucím růstem uživatelů. Raila také řekl, že časový rámec odpovídá „zavedení více povrchů produktů, které umožňovaly nahrávání obrázků, a rostoucí popularitě našich produktů, což přispělo ke zvýšení počtu zpráv“. V srpnu Nick Turley, viceprezident a šéf ChatGPT, oznámil, že aplikace má čtyřikrát více aktivních uživatelů týdně než před rokem.

Během první poloviny roku 2025 byl počet zpráv CyberTipline odeslaných OpenAI zhruba stejný jako množství obsahu, o kterém OpenAI zprávy odeslalo – 75 027 oproti 74 559. V první polovině roku 2024 odeslal 947 zpráv CyberTipline o 3 252 kusech obsahu. Mezi oběma časovými obdobími došlo k výraznému nárůstu počtu zpráv i obsahu zpráv.

Obsah v tomto kontextu může znamenat více věcí. OpenAI uvedla, že hlásí všechny případy CSAM, včetně nahrávání a požadavků, do NCMEC. Kromě své aplikace ChatGPT, která uživatelům umožňuje nahrávat soubory – včetně obrázků – a může v reakci generovat text a obrázky, nabízí OpenAI také přístup ke svým modelům prostřednictvím přístupu API. Nejnovější počet NCMEC nezahrnuje žádné zprávy týkající se aplikace Sora pro generování videa, protože její vydání v září bylo po časovém rámci pokrytém aktualizací.

Nárůst ve zprávách sleduje podobný vzorec, jaký NCMEC pozorovala na CyberTipline v širším měřítku s nárůstem generativní umělé inteligence. Analýza centra všech dat CyberTipline zjistila, že zprávy zahrnující generativní umělou inteligenci zaznamenaly mezi lety 2023 a 2024 nárůst o 1 325 procent. NCMEC dosud nezveřejnila data za rok 2025, a zatímco jiné velké laboratoře AI jako Google publikují statistiky o zprávách NCMEC, které vytvořily, neuvádějí, jaké procento těchto zpráv souvisí s AI.