Nejsem přesvědčen, že v současné době existuje etická generativní AI

Jsou tam generativní Nástroje AI, které mohu použít a které jsou možná o něco etičtější než ostatní?
—Better Choices

Ne, nemyslím si, že by jeden generativní nástroj AI od hlavních hráčů je etičtější než kterýkoli jiný. Tady je důvod.

Pro mě lze etiku generativního využití AI rozdělit na problémy s tím, jak jsou modely rozvíjeny – konkrétně na to, jak byla data použitá k jejich školení přístupná – stejně jako trvalé obavy ohledně jejich dopadu na životní prostředí. Za účelem napájení chatbota nebo generátoru obrázků je vyžadováno obscénní množství dat a rozhodnutí, které vývojáři v minulosti učinili – a nadále činí – k získání tohoto úložiště dat jsou sporné a zahaleny v utajení. Dokonce i to, co lidé v Silicon Valley nazývají modely „Open Source“, skrývají datové soubory tréninku uvnitř.

Navzdory stížnostem autorů, umělců, filmařů, tvůrců YouTube, a dokonce i uživatelé sociálních médií, kteří nechtějí jejich příspěvky seškrábat a proměnit se v chatbot kaly, se společnosti AI obvykle chovaly, jako by souhlas od těchto tvůrců nebyl pro jejich výstup nezbytný pro jejich výstup být použit jako tréninková data. Jedním z známých tvrzení od zastánců AI je, že k získání tohoto obrovského množství dat se souhlasem lidí, kteří to vytvořili, by bylo příliš nepříjemné a bránilo by inovacím. Dokonce i pro společnosti, které zasáhly licence, se zabývají hlavními vydavateli, že „čistá“ data jsou nekonečnou součástí kolosálního stroje.

Přestože někteří Devs pracují na přístupech k spravedlivé kompenzaci lidí, když se jejich práce používá k výcviku modelů AI, tyto projekty zůstávají poměrně specializované alternativy k hlavním monstrum.

A pak existují ekologické důsledky. Současný dopad environmentálního dopadu generativního využití umělé inteligence je podobně nadměrný v hlavních možnostech. Zatímco generativní AI stále představuje malý kousek agregovaného stresu lidstva na životní prostředí, softwarové nástroje Gen-Ai vyžadují mnohem více energie k vytváření a provozu než jejich negenerační protějšky. Používání chatbot pro výzkumnou pomoc přispívá mnohem více k klimatické krizi než jen hledání webu na Googlu.

Je možné, že množství energie potřebné ke spuštění nástrojů by mohlo být sníženo – nové přístupy, jako je nejnovější model Deepseek, popíjejí drahocenné energetické zdroje, než je chug – ale velké společnosti AI se zdají být větší zájem o zrychlení vývoje než na zastavení, aby se zvážily přístupy méně škodlivé pro planeta.

Jak učiníme AI moudřejší a etičtější než chytřejší a silnější?
–Galaxy Brain

Děkujeme za vaši moudrou otázku, spoluobčan. Tato potíže může být spíše běžným tématem diskuse mezi těmi, kteří staví generativní nástroje AI, než byste mohli očekávat. Například „ústavní“ přístup Anthropic k Claude Chatbot se pokouší vštípit do stroje pocitu základních hodnot.

Zmatek v srdci vaší otázky sleduje, jak mluvíme o softwaru. Nedávno vydalo více společností modely zaměřené na přístupy „uvažování“ a „řetězové“ přístupy k provádění výzkumu. Popis toho, co nástroje AI dělají s lidskými pojmy a frázemi, činí hranici mezi lidským a strojem zbytečně mlhavě. Myslím, že pokud model může skutečně uvažovat a mít řetězy myšlenek, proč bychom nemohli poslat software dolů nějakou cestou sebevědomí?

Protože to nemyslí. Slova jako uvažování, hluboké myšlení, porozumění – tato jsou jen způsoby, jak popsat, jak algoritmus zpracovává informace. Když se pauzu na etiku toho, jak jsou tyto modely vyškoleny, a dopadu na životní prostředí, můj postoj není založen na sloučení prediktivních vzorců nebo textu, ale spíše součtu mých individuálních zkušeností a úzce zadržených přesvědčení.

Etické aspekty výstupů AI budou vždy kroužit zpět k našim lidským vstupům. Jaké jsou záměry výzev uživatele při interakci s chatbotem? Jaké byly zkreslení v datech tréninku? Jak Devs naučil bota reagovat na kontroverzní dotazy? Skutečným úkolem je spíše než soustředit se na to, aby byla samotná AI moudřejší, kultivovat etičtější vývojové postupy a interakce uživatelů.