Funkce nové ověření věku Robloxu používá AI ke skenování videa dospívajících

V briefingu Kaufman nazval Roblox „jedním z nejbezpečnějších míst online, aby se lidé spojili a trávili čas se svými přáteli a rodinou.“

Kirra Pendergast, zakladatelka a generální ředitelka společnosti Safe On Social-online bezpečnostní organizace působící po celém světě-jsou nejnovější bezpečnostní opatření Roblox do značné míry přihlášena, a proto „odpovědnost nezletilých identifikuje a řídí rizika, což je v rozporu s dynamikou péče.“ Například funkce, jako jsou nástroje pro odhad věku strojového učení, mohou uživatele nesprávně kategorizovat jako starší nebo mladší; Skenování osobního kódu, říká, „předpokládá, že skenování QR kódu osobního je ze své podstaty bezpečné.“

„Predátoři často používají taktiku péče o reálného světa,“ říká Pendergast. „QR skenování neověřuje důvěryhodný vztah. Predátor by mohl budovat důvěru online a poté manipulovat s dítětem na skenování QR kódu offline, a tak ověřit„ důvěryhodné spojení “v systému Roblox. Skutečná ochrana by vyžadovala společné ověření opatření, nikoli o povolení iniciovaných dětí.“

Dále, říká Pendergast, důvěryhodná spojení se vztahuje pouze na chatování, což ponechává „velké povrchové plochy, což z něj činí křehkou bariéru v nejlepším případě“.

Na otázku, jak osobní QR kód udržuje nezletilé v bezpečí před taktikou v reálném světě, Kaufman odráží tiskový briefing komentář, že neexistuje žádná „stříbrná kulka“. Místo toho říká, že mnoho systémů pracuje společně. „Tyto systémy začínají našimi politikami, našimi komunitními standardy,“ říká Kaufman. „Je to náš produkt, který provádí automatizované sledování věcí, je to naše partnerství, jsou to lidé v zákulisí. Máme tedy celou sadu věcí, které jsou zavedeny, aby lidé udržovali v bezpečí. Nejedná se jen o QR kód, nebo to není jen odhad věku, je to všechny tyto věci, které jednají ve shodě.“

Kaufman říká, že Roblox „jde dále“ než jiné platformy tím, že neumožňují dětem ve věku 13 až 17 let mít nefiltrovanou komunikaci, aniž by procházely důvěryhodnými spojeními. „Máme pocit, že opravdu stanovíme standard pro svět v tom, co to znamená mít bezpečnou a otevřenou komunikaci pro dospívající publikum.“

Podle Bobloxova briefingu jsou aktualizace součástí typického vývojového procesu Robloxu a nebyly „ovlivněny žádnou konkrétní událostí“ nebo zpětnou vazbou. „Není to reakce na něco,“ řekl Kaufman. „Toto je součást našeho dlouhodobého plánu, aby se Roblox stal tak bezpečným, jak to může být.“

Kaufman také říká Wired, že zvýšená kontrola a diskuse o hře neměla dramatický dopad na plány společnosti. „To, co s tímto oznámením děláme, se také snaží nastavit bar pro to, co považujeme za vhodné pro děti,“ říká.

Při pohledu na technologii, jako je generativní AI, říká: „Technologie se mohla změnit, ale principy jsou stále stejné. Také se díváme na AI jako na skutečnou příležitost, abychom mohli dělat některé věci, které v bezpečí v bezpečí v měřítku, když přemýšlíme o moderování. AI je pro to ústřední.“

V briefingu řekl, že Roblox věří, že je důležité, aby rodiče a zákonní zástupci „se svými dětmi„ vybudovali dialog “o online bezpečnosti. „Jde o diskuse o tom, kde tráví čas online, kdo jsou jejich přátelé a co dělají,“ řekl Kaufman. „Tato diskuse je pravděpodobně nejdůležitější věcí, která by lidé udělali v bezpečí, a my investujeme do nástrojů, aby se to stalo.“ Dodal, že Roblox si je vědom toho, že rodiny mají různá očekávání ohledně toho, co je vhodné online chování. „Pokud se rodiče rozhodnou o tom, co je vhodné pro jejich dítě, nemusí to odpovídat rozhodnutí, která bychom mohli učinit, nebo bych mohl udělat pro svou vlastní rodinu,“ řekl. „Ale to je v pořádku a my respektujeme ten rozdíl.“