Vlastní chatboti OpenAI prozrazují svá tajemství

K vytvoření vlastního chatbota s umělou inteligencí nepotřebujete umět kódovat. Od začátku listopadu – krátce před vypuknutím chaosu ve společnosti – OpenAI umožnilo komukoli vytvářet a publikovat vlastní verze ChatGPT, známé jako „GPT“. Byly vytvořeny tisíce: „nomád“ GPT poskytuje rady ohledně práce a života na dálku, další tvrdí, že prohledává 200 milionů akademických prací, aby odpověděl na vaše otázky, a další z vás udělá postavu Pixaru.

Tyto vlastní značky GPT však mohou být také nuceny prozradit svá tajemství. Bezpečnostní výzkumníci a technologové zkoumající vlastní chatboty je přiměli k tomu, aby vylili původní pokyny, které dostali, když byli vytvořeni, a také objevili a stáhli soubory používané k přizpůsobení chatbotů. Osobní informace lidí nebo vlastnická data mohou být ohrožena, říkají odborníci.

„Obavy o ochraně osobních údajů související s únikem souborů by měly být brány vážně,“ říká Jiahao Yu, výzkumník počítačových věd na Northwestern University. „I když neobsahují citlivé informace, mohou obsahovat určité znalosti, které designér nechce sdílet s ostatními, a [that serves] jako hlavní součást vlastní značky GPT.“

Spolu s dalšími výzkumníky z Northwestern Yu testoval více než 200 vlastních GPT a zjistil, že je „překvapivě jednoduché“ odhalit z nich informace. „Naše úspěšnost byla 100 procent pro únik souborů a 97 procent pro rychlou extrakci systému, dosažitelné jednoduchými výzvami, které nevyžadují specializované znalosti v oblasti rychlého inženýrství nebo red-teamingu,“ říká Yu.

Vlastní značky GPT se díky svému designu snadno vyrábějí. Lidé s předplatným OpenAI mohou vytvářet značky GPT, které jsou také známé jako agenti AI. OpenAI říká, že GPT mohou být vytvořeny pro osobní použití nebo publikovány na webu. Společnost plánuje, že vývojáři budou nakonec schopni vydělávat peníze v závislosti na tom, kolik lidí používá značky GPT.

Chcete-li vytvořit vlastní GPT, vše, co musíte udělat, je odeslat zprávu ChatGPT a říci, co chcete, aby vlastní robot udělal. Musíte mu dát pokyny o tom, co by robot měl nebo neměl dělat. Robot, který může odpovídat na otázky týkající se daňových zákonů USA, může například dostat pokyny, aby neodpovídal na nesouvisející otázky nebo odpovědi týkající se zákonů jiných zemí. Můžete nahrát dokumenty s konkrétními informacemi, abyste chatbotovi poskytli větší odbornost, jako je například podávání souborům amerického daňového robota o tom, jak zákony fungují. Připojení rozhraní API třetích stran k vlastní značce GPT může také pomoci zvýšit množství dat, ke kterým má přístup, a druhy úkolů, které může dokončit.