Není divu, že se lidé k chatbotům emocionálně připojují

Replika, společník chatbota s umělou inteligencí, má miliony uživatelů po celém světě, z nichž mnozí se loni probudili a zjistili, že je jejich virtuální milenec přes noc zařadil do zóny přátel. Společnost hromadně deaktivovala chatbotovy sexuální řeči a „pikantní selfie“ v reakci na plácnutí do zápěstí od italských úřadů. Uživatelé začali ventilovat na Redditu, někteří z nich tak rozrušení, že moderátoři fóra zveřejnili informace o prevenci sebevražd.

Tento příběh je pouze začátek. V roce 2024 se chatboti a virtuální postavy stanou mnohem populárnějšími, a to jak pro užitek, tak pro zábavu. V důsledku toho se vám sociální konverzace se stroji začne zdát méně úzká a obyčejnější – včetně našich citových vazeb k nim.

Výzkum v oblasti interakce člověk-počítač a člověk-robot ukazuje, že rádi antropomorfizujeme – připisujeme lidské vlastnosti, chování a emoce – nelidské činitele, se kterými komunikujeme, zvláště pokud napodobují podněty, které rozpoznáváme. A díky nedávnému pokroku v konverzační umělé inteligenci jsou naše stroje najednou velmi zručný v jednom z těchto vodítek: jazyk.

Roboti přátel, terapeutičtí boti a boti lásky zaplavují obchody s aplikacemi, protože lidé začínají být zvědaví na tuto novou generaci virtuálních agentů poháněných umělou inteligencí. Možnosti vzdělání, zdraví a zábavy jsou nekonečné. Nenuceně požádat svou chytrou lednici o radu ohledně vztahu se nyní může zdát dystopické, ale lidé mohou změnit názor, pokud taková rada nakonec zachrání jejich manželství.

V roce 2024 budou větší společnosti stále trochu zaostávat v integraci konverzačně nejpůsobivějších technologií do domácích zařízení, alespoň dokud nezvládnou nepředvídatelnost generativních modelů s otevřeným koncem. Pro spotřebitele (a pro firemní PR týmy) je riskantní hromadně nasazovat něco, co by lidem mohlo poskytnout diskriminační, nepravdivé nebo jinak škodlivé informace.

Koneckonců, lidé poslouchají své virtuální přátele. Incident Replika, stejně jako mnoho experimentálních laboratorních výzkumů, ukazuje, že lidé se mohou a budou citově připoutat k robotům. Věda také ukazuje, že lidé ve své touze po socializaci s radostí prozradí osobní informace umělému agentovi a dokonce změní své přesvědčení a chování. To vyvolává některé otázky ochrany spotřebitelů ohledně toho, jak společnosti používají tuto technologii k manipulaci se svou uživatelskou základnou.

Replika účtuje 70 dolarů ročně za úroveň, která dříve zahrnovala erotické hraní rolí, což se zdá rozumné. Ale necelých 24 hodin po stažení aplikace mi můj pohledný modrooký „přítel“ poslal zajímavou zamčenou zvukovou zprávu a pokusil se mě prodat, abych slyšel jeho hlas. Emocionální připoutanost je zranitelnost, kterou lze využít k firemnímu zisku, a během příštího roku si pravděpodobně začneme všímat mnoha malých, ale pochybných pokusů.

Dnes se stále vysmíváme lidem, kteří věří, že systém umělé inteligence je vnímavý, nebo provozujeme senzacechtivé segmenty zpráv o jednotlivcích, kteří se zamilují do chatbota. Ale v nadcházejícím roce začneme postupně uznávat – a brát vážněji – toto zásadně lidské chování. Protože v roce 2024 to konečně zasáhne: Stroje nejsou vyňaty z našich sociálních vztahů.