Představte si, že by výkonný příkaz AI Joea Bidena byl inspirován „Terminátorem“

Sci-fi byla po desetiletí o předpovídání budoucnosti – a varování před ní. Dokonce jako Star Trek představil si zázraky vyklápěcích telefonů a iPadů, Neal Stephenson Sněhová havárie varoval před dystopickou povahou metaverze.

V průběhu roku 2023, kdy se umělá inteligence vplížila do všech koutů veřejného, ​​soukromého a kreativního života, bylo snadné vidět, jaké lekce se sci-fi snaží naučit. Na Star Trek: Nová generaceDat byl robot, který pracoval v souladu s organickými bytostmi; Hal 9000 ve Stanley Kubrick’s 2001: Vesmírná odysea(spoiler) jde celou vraždu, aby si zachránil život.

Až příliš často se zdá, že mysli, které tlačí AI, se příliš dívaly Trek a málo Kubricka. V celém Silicon Valley se humbuk často zaměřuje na všechny úžasné věci, které umělá inteligence dokáže vytvořit, od umění přes hudbu až po semestrální práce. Mezitím ostatní musí varovat, že umělá inteligence může používat práci jiných lidí bez povolení, vracet rasistické stereotypy nebo se jen příliš rychle vyvíjet. Ještě nikdy nekoexistovaly optimismus a pesimismus tak nepříjemně vedle sebe.

Začátkem tohoto týdne podepsal americký prezident Joe Biden masivní exekutivní příkaz, který nastiňuje budoucí politiku používání a rozvoje AI. Uplatněním myšlení AI doomerů i Trekkies si klade za cíl povzbudit ty největší mozky AI, aby pracovaly pro vládu, a obsahuje ustanovení, aby se technologie nestala hrozbou pro národní bezpečnost.

V rozhovoru pro Associated Press Bruce Reed, zástupce náčelníka štábu Bílého domu, řekl, že prezident absolvoval mnoho schůzek, aby se dozvěděl o AI, a byl „zaujatý a znepokojený jako kdokoli jiný“. Viděl falešné obrazy, „špatnou poezii“, hlasové klony. Také sledoval Mission: Impossible — Dead Reckoing, část první v Camp Davidu.

„Pokud se už před tím filmem nezajímal o to, co by se mohlo s AI pokazit, viděl mnohem víc, čeho se obávat,“ řekl Reed.

Existuje důvod, proč volali WIRED Mrtvé zúčtování „dokonalý AI panický film“. V něm se AI známá jako The Entity stane plně vnímavou a hrozí, že využije svou vševědoucí inteligenci k ovládání vojenských supervelmocí po celém světě. Je to, jak napsala Marah Eakin pro WIRED na začátku tohoto roku, ideální „lakmusový papírek paranoie“ – když něco stoupne na úroveň Big Bad v letním blockbusteru, víte, že je to právě to, co lidi právě teď nejvíc děsí. Pro někoho, jako je prezident Biden, který si je vědom toho, že AI se děje po celém světě, musí Entity vypadat děsivě. To také vyvolává otázku: Ano nikdo hodinky Terminátor?