
Byla navržena regulace tmavých vzorů a diskutuje se o USA i v Evropě. De Freitas říká, že regulační orgány by se také měli podívat na to, zda nástroje AI představují jemnější – a potenciálně silnější – nové druhy temných vzorů.
Dokonce i pravidelní chatboti, kteří mají tendenci vyhýbat se prezentaci jako společníků, však mohou od uživatelů vyvolat emocionální reakce. Když OpenAI představil GPT-5, nový vlajkový model, na začátku tohoto roku mnoho uživatelů protestovalo s tím, že to bylo mnohem méně přátelské a povzbudivé než její předchůdce-nutit společnost k oživení starého modelu. Někteří uživatelé mohou být tak připoutáni k „osobnosti“ chatbotu, že mohou truchlit v důchodu starých modelů.
„Když tyto nástroje antropomorfizujete, má nejrůznější pozitivní marketingové důsledky,“ říká De Freitas. Uživatelé je pravděpodobnější, že dodržují žádosti chatbota, se kterým se cítí spojeni, nebo zveřejní osobní údaje, říká. „Z hlediska spotřebitele, ty.“ [signals] nemusí být nutně ve váš prospěch, “říká.
Wired oslovil každou ze společností, na které se ve studii vyjádřil k vyjádření. Chai, Talkie a Polybuzz neodpověděli na Wiredovy otázky.
Katherine Kelly, mluvčí pro charakter AI, uvedla, že společnost studii nekontrolovala, takže se k ní nemohla vyjádřit. Dodala: „Vítáme spolupráci s regulačními orgány a zákonodárci, když vyvíjejí předpisy a legislativa pro tento vznikající prostor.“
Minju Song, mluvčí Repliky, říká, že společník společnosti je navržen tak, aby umožnil uživatelům snadno se odhlásit a dokonce je povzbudí, aby přestávali. „Budeme i nadále kontrolovat metody a příklady papíru a [will] Konstruktivně se zapojte do vědců, “říká Song.
Zajímavou převrácenou stránkou je skutečnost, že modely AI jsou samy také citlivé na nejrůznější přesvědčovací triky. V pondělí OpenAI představil nový způsob, jak koupit věci online prostřednictvím chatgptu. Pokud se agenti rozšíří jako způsob, jak automatizovat úkoly, jako jsou rezervace letů a dokončení náhrad, může být možné, aby společnosti identifikovaly temné vzorce, které mohou otočit rozhodnutí AI modelů za těmito agenty.
Nedávná studie vědců na Columbia University a společnosti s názvem Mycustomai odhaluje, že agenti AI nasazeni na falešném trhu elektronického obchodování se chovají předvídatelným způsobem, například upřednostňují určité produkty před ostatními nebo upřednostňují určitá tlačítka při kliknutí na web. Skutečný obchodník, vyzbrojený těmito zjištěními, mohl optimalizovat stránky webu, aby zajistil, že agenti kupují dražší produkt. Možná by mohli dokonce nasadit nový druh temného vzoru Anti-AI, který frustruje úsilí agenta zahájit návrat nebo zjistit, jak se odhlásit ze seznamu adresátů.
Obtížné rozloučení by pak mohlo být nejmenší z našich starostí.
Máte pocit, že vás chatbot emocionálně manipuloval? Pošlete e -mail na adresu ailab@wired.com a řekněte mi o tom.
Toto je vydání Will Knight’s AI Lab Newsletter. Přečtěte si předchozí zpravodaje zde.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com