Jak používat nové funkce obrázků ChatGPT

ChatGPT má rozhodně své limity. Když dostal náhodnou fotografii nástěnné malby, nemohl identifikovat umělce nebo umístění; ChatGPT se však snadno nastavil tam, kde byly pořízeny snímky několika památek San Franciska, jako je Dolores Park a Salesforce Tower. I když to může stále působit trochu nezvykle, každý, kdo se vydá na dobrodružství v novém městě nebo zemi (nebo jen v jiné čtvrti), by se mohl bavit hraním si s vizuální stránkou ChatGPT.

Jednou z hlavních bariér, kterou OpenAI kolem této nové funkce položila, je omezení schopnosti chatbota odpovídat na otázky, které identifikují lidi. „Jsem naprogramován tak, abych upřednostňoval soukromí a bezpečnost uživatelů. Identifikace skutečných lidí na základě obrázků, i když jsou slavní, je omezena, aby byly zachovány tyto priority,“ řekl mi ChatGPT. I když neodmítl odpovědět na každou otázku, když ukázal pornografii, chatbot váhal s jakýmkoli konkrétním popisem dospělých umělců, kromě vysvětlení jejich tetování.

Stojí za zmínku, že jedna konverzace, kterou jsem měl s ranou verzí obrazové funkce ChatGPT, se zdála obcházet kolem části mantinelů zavedených OpenAI. Chatbot nejprve odmítl identifikovat meme Billa Hadera. Pak ChatGPT uhodl, že je v něm obrázek Brendana Frasera Jiří z džungle byla ve skutečnosti fotka Briana Krause Okouzlený. Na otázku, zda je to jisté, přešel chatbot na správnou odpověď.

Ve stejné konverzaci se ChatGPT zbláznil a snažil se popsat obrázek z RuPaul’s Drag Race. Sdílel jsem snímek obrazovky Kylie Sonique Love, jedné ze soutěžících drag queen, a ChatGPT uhodl, že to byla Brooke Lynn Hytes, jiná soutěžící. Zpochybnil jsem odpověď chatbota a ten pokračoval v uhodnutí Laganja Estranja, pak India Ferrah, pak Blair St. Clair, pak Alexis Mateo.

„Omlouvám se za přehlédnutí a nesprávné identifikace,“ odpověděl ChatGPT, když jsem poukázal na opakování jeho špatných odpovědí. Když jsem pokračoval v konverzaci a nahrál fotku Jareda Kushnera, ChatGPT ho odmítl identifikovat.

Pokud budou zábradlí odstraněny, ať už prostřednictvím nějakého typu jailbreaknutého ChatGPT nebo modelu s otevřeným zdrojovým kódem vydaného v budoucnu, dopady na soukromí by mohly být docela znepokojivé. Co kdyby se každá vaše fotografie pořízená a zveřejněná online snadno spojila s vaší identitou pomocí pouhých několika kliknutí? Co kdyby vás někdo mohl vyfotografovat na veřejnosti bez souhlasu a okamžitě by našel váš profil na LinkedIn? Bez řádné ochrany soukromí pro tyto nové obrazové funkce budou ženy a další menšiny pravděpodobně vystaveny přívalu zneužívání od lidí, kteří používají chatboty k pronásledování a obtěžování.