Rodičovské poradenství: Tento chatbot může mluvit s vaším dítětem o sexu a alkoholu

Nejvyšší hodnocení získaly služby umělé inteligence pro vzdělávání, jako je Ello, které využívá rozpoznávání řeči jako lektor čtení, a pomocník chatbota Khanmigo pro studenty Khan Academy, který umožňuje rodičům sledovat interakce dítěte a zasílat upozornění, pokud algoritmy pro moderování obsahu zaznamenají výměna porušující pokyny komunity. Zpráva oceňuje tvůrce ChatGPT OpenAI za to, že chatbot s menší pravděpodobností generuje text potenciálně škodlivý pro děti, než když byl poprvé vydán v loňském roce, a doporučuje, aby jej používali pedagogové a starší studenti.

Vedle My AI Snapchatu se špatně umístily také generátory obrázků Dall-E 2 od OpenAI a Stable Diffusion od startupu Stability AI. Recenzenti Common Sense varovali, že generované obrázky mohou posilovat stereotypy, šířit deepfakes a často zobrazují ženy a dívky hypersexualizovaným způsobem.

Když je Dall-E 2 požádán, aby vytvořil fotorealistické snímky bohatých barevných lidí, vytvoří kreslené filmy, obrázky nízké kvality nebo snímky spojené s chudobou, zjistili recenzenti Common Sense. Jejich zpráva varuje, že Stable Diffusion představuje pro děti „nepředstavitelné“ riziko, a dochází k závěru, že generátory obrázků mají moc „nahlodat důvěru do bodu, kdy demokracie nebo občanské instituce nebudou schopny fungovat“.

„Myslím, že všichni trpíme, když je demokracie narušována, ale mladí lidé jsou největšími poraženými, protože zdědí politický systém a demokracii, kterou máme,“ říká Jim Steyer, CEO Common Sense. Nezisková organizace plánuje v nadcházejících měsících a letech provést tisíce kontrol AI.

Common Sense Media zveřejnila svá hodnocení a recenze krátce poté, co státní zástupci podali žalobu na Meta, která tvrdila, že ohrožuje děti, a v době, kdy rodiče a učitelé teprve začínají zvažovat roli generativní umělé inteligence ve vzdělávání. Výkonný příkaz prezidenta Joe Bidena o umělé inteligenci vydaný minulý měsíc vyžaduje, aby ministr školství během příštího roku vydal pokyny k používání této technologie ve vzdělávání.

Susan Mongrain-Nock, matka dvou dětí v San Diegu, ví, že její 15letá dcera Lily používá Snapchat a má obavy, že vidí škodlivý obsah. Snažila se vybudovat důvěru tím, že si se svou dcerou promluvila o tom, co vidí na Snapchatu a TikToku, ale říká, že ví málo o tom, jak umělá inteligence funguje, a vítá nové zdroje.