Věk All-Access AI Agent je tady

Po celá léta, náklady na používání „bezplatných“ služeb od Googlu, Facebooku, Microsoftu a dalších velkých technologických firem předává vaše data. Nahrání svého života do cloudu a používání bezplatných technologií přináší vymoženosti, ale dává osobní informace do rukou obřích korporací, které se často budou snažit je zpeněžit. Nyní příští vlna generativních systémů umělé inteligence bude pravděpodobně chtít větší přístup k vašim datům než kdykoli předtím.

Za poslední dva roky se generativní nástroje umělé inteligence – jako je ChatGPT od OpenAI a Gemini od Googlu – posunuly za relativně jednoduché chatboty pouze s textem, které společnosti původně vydaly. Místo toho velká umělá inteligence stále více buduje a tlačí k přijetí agentů a „asistentů“, kteří slibují, že mohou jednat a plnit úkoly vaším jménem. Problém? Chcete-li z nich vytěžit maximum, budete jim muset udělit přístup k vašim systémům a datům. Zatímco velká část počáteční kontroverze ohledně velkých jazykových modelů (LLM) byla do očí bijícím kopírováním dat chráněných autorským právem online, přístup agentů AI k vašim osobním údajům pravděpodobně způsobí novou řadu problémů.

„Agenti umělé inteligence, aby měli plnou funkčnost a mohli přistupovat k aplikacím, často potřebují přístup k operačnímu systému nebo úrovni operačního systému zařízení, na kterém je spouštíte,“ říká Harry Farmer, vedoucí výzkumník z Ada Lovelace Institute, jehož práce zahrnovala studium vlivu asistentů umělé inteligence a zjistilo, že mohou způsobit „hluboké ohrožení“ kybernetické bezpečnosti a soukromí. Farmer říká, že pro personalizaci chatbotů nebo asistentů mohou existovat kompromisy v oblasti dat. „Všechny tyto věci, aby fungovaly, potřebují o vás spoustu informací,“ říká.

I když neexistuje žádná přísná definice toho, co agent umělé inteligence vlastně je, často je nejlépe považovat za generativní systém umělé inteligence nebo LLM, který dostal určitou úroveň autonomie. V tuto chvíli mohou agenti nebo asistenti, včetně webových prohlížečů AI, převzít kontrolu nad vaším zařízením a procházet web za vás, rezervovat lety, provádět průzkumy nebo přidávat položky do nákupních košíků. Někteří dokážou plnit úkoly, které zahrnují desítky jednotlivých kroků.

Zatímco současní agenti umělé inteligence jsou nešikovní a často nedokážou dokončit úkoly, které jim byly stanoveny, technologické společnosti sází na to, že systémy zásadně změní pracovní místa milionů lidí, jakmile budou schopnější. Klíčová část jejich užitečnosti pravděpodobně pochází z přístupu k datům. Pokud tedy chcete systém, který vám poskytne váš plán a úkoly, bude potřebovat přístup k vašemu kalendáři, zprávám, e-mailům a dalším.

Některé pokročilejší produkty a funkce AI poskytují pohled na to, kolik přístupových agentů a systémů lze poskytnout. Někteří agenti vyvíjení pro firmy mohou číst kód, e-maily, databáze, zprávy Slack, soubory uložené na Disku Google a další. Kontroverzní produkt Recall společnosti Microsoft pořizuje snímky obrazovky vaší plochy každých pár sekund, takže můžete prohledávat vše, co jste na svém zařízení dělali. Tinder vytvořil funkci AI, která dokáže prohledávat fotografie ve vašem telefonu, „aby lépe porozuměla“ „zájmům a osobnosti“ uživatelů.

Carissa Véliz, autorka a docentka na Oxfordské univerzitě, říká, že spotřebitelé většinou nemají reálný způsob, jak zkontrolovat, zda AI nebo technologické společnosti nakládají s jejich daty tak, jak tvrdí. „Tyto společnosti jsou s daty velmi promiskuitní,“ říká Véliz. „Ukázali, že příliš nerespektují soukromí.“