Další hranice AI? Algoritmus pro vědomí

Jako novinář kdo se zabývá AI, slyším od bezpočtu lidí, kteří se zdají být naprosto přesvědčeni, že ChatGPT, Claude nebo nějaký jiný chatbot dosáhli „rozumu“. Nebo „vědomí“. Nebo – můj osobní favorit – „vlastní mysl“. Turingův test byl před chvílí úspěšný, ano, ale na rozdíl od rutinní inteligence se tyto věci nedají tak snadno odhalit. Velké jazykové modely budou tvrdit, že myslí samy za sebe, dokonce popisují vnitřní muka nebo vyznávají nehynoucí lásky, ale taková prohlášení neimplikují niternost.

Mohli by někdy? Mnoho skutečných tvůrců AI v těchto pojmech nemluví. Jsou příliš zaneprázdněni honbou za výkonnostním měřítkem známým jako „umělá obecná inteligence“, což je čistě funkční kategorie, která nemá nic společného s potenciálními zkušenostmi stroje ze světa. Takže – i když jsem skeptický – jsem si myslel, že by to mohlo otevřít oči, možná dokonce poučit, trávit čas se společností, která si myslí, že dokáže rozluštit kód na samotném vědomí.

Společnost Conscium byla založena v roce 2024 britským výzkumníkem a podnikatelem v oblasti umělé inteligence Danielem Hulmem a mezi její poradce patří působivý sortiment neurovědců, filozofů a odborníků na vědomí zvířat. Když jsme poprvé mluvili, Hulme byl realistický: Existují dobré důvody pochybovat o tom, že jazykové modely jsou schopné vědomí. Vrány, chobotnice, dokonce i améby mohou interagovat se svým prostředím způsobem, jakým chatboti nemohou. Experimenty také naznačují, že promluvy AI neodrážejí koherentní nebo konzistentní stavy. Jak to řekl Hulme, opakující široký konsenzus: „Velké jazykové modely jsou velmi hrubými reprezentacemi mozku.“

Ale – velké ale – vše závisí především na významu vědomí. Někteří filozofové tvrdí, že vědomí je příliš subjektivní věc na to, aby mohla být studována nebo znovu vytvořena, ale Conscium sází na to, že pokud existuje v lidech a jiných zvířatech, lze jej detekovat, měřit a zabudovat do strojů.

Existují konkurenční a překrývající se představy o tom, jaké jsou klíčové charakteristiky vědomí, včetně schopnosti cítit a „cítit“, uvědomění si sebe sama a svého prostředí a toho, co je známé jako metakognice, neboli schopnost přemýšlet o vlastních myšlenkových procesech. Hulme věří, že subjektivní zkušenost vědomí se objeví, když se tyto jevy spojí, stejně jako iluze pohybu vzniká, když listujete sekvenčními obrazy v knize. Jak ale identifikujete složky vědomí – jednotlivé animace jakoby plus sílu, která je spojuje? Obrátíte AI zpět na sebe, říká Hulme.

Conscium si klade za cíl rozbít vědomé myšlení do jeho nejzákladnější formy a katalyzovat to v laboratoři. „Musí existovat něco, z čeho je vědomí zkonstruováno – z čeho vzniklo v evoluci,“ řekl Mark Solms, jihoafrický psychoanalytik a neuropsycholog zapojený do projektu Conscium. Ve své knize z roku 2021 Skrytý pramenSolms navrhl citlivě nový způsob, jak přemýšlet o vědomí. Tvrdil, že mozek využívá vnímání a akci ve smyčce zpětné vazby navržené tak, aby minimalizovala překvapení, generuje hypotézy o budoucnosti, které se aktualizují s příchodem nových informací. Myšlenka staví na „principu volné energie“ vyvinutém Karlem Fristonem, dalším pozoruhodným, i když kontroverzním neurovědcem (a dalším poradcem Conscia). Solms dále naznačuje, že u lidí se tato smyčka zpětné vazby vyvinula v systém zprostředkovaný emocemi a že jsou to právě tyto pocity které vyvolávají pocit a vědomí. Tato teorie je podpořena skutečností, že poškození mozkového kmene, který má kritickou roli při regulaci emocí, zřejmě způsobuje u pacientů mizení vědomí.

Na konci své knihy Solms navrhuje způsob, jak otestovat své teorie v laboratoři. Teď říká, že právě to udělal. Ten papír nepustil, ale ukázal mi ho. Zlomilo mi to mozek? Ano, trochu. Solmsovi umělí agenti žijí v jednoduchém počítačově simulovaném prostředí a jsou řízeni algoritmy s takovou fristonskou smyčkou zprostředkovanou pocity, kterou navrhuje jako základ vědomí. „Mám několik motivů pro provedení tohoto výzkumu,“ řekl Solms. „Jedním z nich je, že je to zatraceně zajímavé.“

Podmínky v Solmsově laboratoři se neustále mění a vyžadují neustálé modelování a úpravy. Zážitek agentů z tohoto světa je zprostředkován prostřednictvím simulovaných reakcí podobných strachu, vzrušení a dokonce i potěšení. Takže jsou to jedním slovem zábavní roboti. Na rozdíl od agentů umělé inteligence, o kterých dnes všichni mluví, mají Solmsovy výtvory doslova touha prozkoumat jejich prostředí; a abychom jim správně porozuměli, musíme si zkusit představit, jak se „cítí“ ve svém malém světě. Solms věří, že by nakonec mělo být možné sloučit přístup, který vyvíjí, s jazykovým modelem, a vytvořit tak systém schopný mluvit o vlastní sentientní zkušenosti.