Vyhledávání obrázků Google nyní zobrazí historii fotografie. Dokáže odhalit padělky?

Google zdůraznil, že pole metadat v „O tomto obrázku“ nebude spolehlivým způsobem, jak zjistit původ nebo původ obrázku. Většinou je navržen tak, aby poskytl více kontextu nebo upozornil příležitostného uživatele internetu, pokud je obrázek mnohem starší, než se zdá – což naznačuje, že by nyní mohl být přepracován – nebo pokud byl dříve na internetu označen jako problematický.

Provenience, odvození, vodoznaky a mediální gramotnost: To jsou jen některá ze slov a frází používaných výzkumnými týmy, které mají nyní za úkol identifikovat počítačem generované snímky, jak se exponenciálně množí. Všechny tyto nástroje jsou ale v některých ohledech chybné a většina subjektů – včetně Googlu – uznává, že odhalení falešného obsahu bude pravděpodobně muset být mnohostranný přístup.

Kate Knibbs z WIRED nedávno informovala o vodoznaku, digitálním razítkování online textů a fotografií, aby bylo možné vysledovat jejich původ, jako o jedné ze slibnějších strategií; tak slibné, že OpenAI, Alphabet, Meta, Amazon a DeepMind společnosti Google vyvíjejí technologii vodoznaků. Knibbs také informoval o tom, jak snadno skupiny výzkumníků dokázaly „vymýt“ určité typy vodoznaků z online obrázků.

Reality Defender, newyorský startup, který prodává svou technologii deepfake detektorů vládním agenturám, bankám a technologickým a mediálním společnostem, se domnívá, že je téměř nemožné poznat „základní pravdu“ o obrazech umělé inteligence. Ben Colman, spoluzakladatel a výkonný ředitel firmy, říká, že stanovení provenience je komplikované, protože vyžaduje od každého výrobce prodávajícího stroj na vytváření obrázků nákup v souladu s určitým souborem standardů. Věří také, že vodoznak může být součástí sady nástrojů pro rozpoznávání AI, ale „není to nejsilnější nástroj v této sadě nástrojů“.

Reality Defender se místo toho soustředí na vyvozování – v podstatě používá více AI k rozpoznání AI. Jeho systém skenuje text, obrázky nebo videa a poskytuje 1 až 99 procent pravděpodobnosti, že je s aktivem nějakým způsobem manipulováno.

„Na nejvyšší úrovni nesouhlasíme s jakýmkoli požadavkem, který klade na spotřebitele břemeno, aby rozeznal skutečné od falešného,“ říká Colman. „S pokrokem v AI a podvodem obecně ani doktorandi v naší místnosti nedokážou rozeznat rozdíl mezi skutečným a falešným na úrovni pixelů.“

Do té doby bude Google „O tomto obrázku“ existovat za předpokladu, že většina uživatelů internetu stranou od výzkumníků a novinářů se budou chtít o tomto obrázku dozvědět více – a že poskytnutý kontext pomůže dotyčnému upozornit, pokud něco není v pořádku. Google je také, za zmínku, subjekt, který v posledních letech propagoval architekturu transformátoru, která obsahuje T v ChatGPT; tvůrce generativního nástroje AI zvaného Bard; výrobce nástrojů jako Magic Eraser a Magic Memory, které mění obrazy a deformují realitu. Je to generativní svět umělé inteligence Google a většina z nás se v něm jen snaží najít cestu.