Alex Procházka 
Umělá inteligence zahájila novou éru v podnikání a většina organizací se snaží držet krok s dobou a přitom zůstat v souladu. Tlak a tah mezi inovacemi a správou byly vždy křehkou rovnováhou, ale toto napětí je ještě výraznější v éře AI a viditelnosti dat, jejichž přijetí představuje riziko pro data i provozní výhodu.
Regulátoři po celém světě nyní očekávají ujištění o tom, jak data procházejí modely AI. Vzhledem k tomu, že zaměstnanci stále více přijímají nástroje umělé inteligence bez povolení od IT oddělení, je správa dat stále složitější. Tato výzva posouvá IT týmy k nové hranici v oblasti datové odolnosti, kde transparentnost AI pohání inovace bez omezení experimentování. V tomto prostředí již viditelnost dat není volitelnou ochranou, ale zásadním ukazatelem důvěryhodnosti a dlouhodobého úspěchu organizace.
Regulační tlaky se zvyšují
Aby regulační orgány a obchodní lídři udrželi krok s přijímáním technologií, uvědomili si, že úspěch iniciativ AI závisí na strukturách, které je řídí a řídí. To vedlo ke vzniku rostoucího množství regulačních rámců na celém světě, včetně zákona EU o digitální provozní odolnosti a regionálních zákonů na ochranu soukromí ve Spojených státech. Upřednostňování souladu s předpisy bylo vždy zásadní, ale dnes organizace věnují velkou pozornost svým postupům v oblasti ochrany osobních údajů. Nedodržení digitálních předpisů může tyto systémy vystavit ransomwaru a výpadkům. Může také poškodit důvěryhodnost organizace a ztížit obnovení její pověsti.
Vyvíjejí se i očekávání v oblasti dodržování předpisů. Digitální regulace sloužící primárně ke zkoumání datových systémů spravovaných lidmi. Jak však společnosti zavádějí do svých každodenních operací stále více modelů umělé inteligence a automatizovaných procesů, jsou pod tlakem, aby se podívaly za lidskou chybu a podrobně vysvětlily, jak modely umělé inteligence využívají jejich data. Schopnost prokázat jasnou sledovatelnost od vstupu k výstupu je zásadní pro prokázání vyspělosti AI, stejně jako transparentnost v tocích dat a trénování modelů. Regulátoři nyní po organizacích vyžadují, aby vysvětlily a zdokumentovaly rozhodovací procesy, které řídí používání modelů umělé inteligence. Tato úroveň transparentnosti prokazuje vaši schopnost udržovat kontrolu nad správou dat a že data jsou používána zodpovědně a bezpečně.
Absolvování testu vysvětlitelnosti a sledovatelnosti modelů umělé inteligence je odpovědností IT týmů, které musí zcela přehodnotit svůj předchozí přístup k ochraně osobních údajů, oprávněním a zásadám životního cyklu v rámci organizace. Dosažení úplného pochopení modelů umělé inteligence je však téměř skličujícím úkolem, když většina organizací, které dnes spěchají s implementací umělé inteligence, nahodile stahuje data z rozsáhlé krajiny moderních hybridních a multicloudových prostředí, aniž by sledovala jejich bezpečnost. V důsledku toho mají organizace a jejich IT týmy problém získat přesný přehled o tom, kde se jejich data nacházejí a kdo k nim má přístup. Díky tomu je digitální odpovědnost kritickou zkouškou porozumění a správy dat v organizaci, která připravuje týmy IT na to, aby čelily náročnému úkolu při dohledu nad praktikami používání dat v organizaci.
Riziko používání umělé inteligence bez dozoru
Nemělo by být překvapením, že IT týmy, které čelí téměř nepředstavitelným objemům chybně interpretovaných dat, se zdráhají umožnit zaměstnancům organizace volně experimentovat s nástroji AI. AI ze své podstaty zvyšuje riziko zranitelnosti dat a špatné správy tím, že zavádí nové datové toky ve větším měřítku. V době, kdy umělá inteligence nabízí stále větší příležitosti pro efektivitu podnikání a inovace, se ji organizace po celém světě a ve všech odvětvích snaží implementovat navzdory těmto rizikům.
Shadow IT, termín, který popisuje nekontrolované přijetí technologie zaměstnanci bez dohledu IT týmu, položil základy novějšího fenoménu stínové umělé inteligence. Bez povolení od IT zaměstnanci experimentují s novými nástroji AI, aby uspokojili rostoucí chuť trhu po produktivitě.
Realita je taková, že stínová AI je nekontrolovatelná. Jak se zaměstnanci blíže seznamují s digitálními nástroji založenými na AI, budou i nadále nacházet nové způsoby, jak integrovat AI bez souhlasu nebo znalosti IT týmu, který je již nyní zavalen nekontrolovaným používáním dat v jejich organizaci.
Překonání stínového IT
Cesta vpřed začíná jasnou kontrolou reality. Za prvé, IT týmy a organizace musí zcela přehodnotit svůj přístup a uznat, že zabloudily, pokud budou i nadále považovat AI za dočasný problém, který musí být odstraněn. Místo toho by organizace měly uznat nevyhnutelnost AI a zaměřit se na omezení rizik prostřednictvím viditelnosti, správy dat a proaktivního vzdělávání.
Na základě tohoto způsobu myšlení je druhým krokem, aby týmy IT podnikly postupné, ale disciplinované kroky směrem k transparentnosti. Namísto čekání na dokonalou metodu správy mohou IT týmy začít v malém rozsahu (s pilotními projekty, omezeným rozsahem nebo jasnými rámci pro klasifikaci citlivých informací) vybudovat institucionální znalosti a snížit nejistotu ohledně používání AI v organizaci. Tyto malé kroky pomáhají vytvořit praktické bariéry, které lze osvětlit v celé společnosti. Naopak, nicnedělání umožní pouze nahromadění rizik, čímž se zvýší pravděpodobnost, že organizace utrpí následky chyb, kterým se lze vyhnout.
Viditelnost je v tomto přístupu zásadní. Aby mohly organizace AI spravovat zodpovědně, musí nejprve porozumět svému datovému prostředí, aby mohly sledovat, jaké informace existují, kde jsou uloženy, kdo s nimi interaguje a jak se pohybují mezi systémy. Toto mapování pomáhá vedoucím pracovníkům identifikovat datová aktiva nejcennější pro podnik a chránit je před potenciálním poškozením. Jinými slovy, viditelnost není omezena na dodržování předpisů, ale slouží jako podpora pro chytřejší rozhodování a větší odolnost dat.
IT týmy mohou rozvíjet institucionální znalosti a snížit nejistotu ohledně používání AI v organizaci
Lepší viditelnost přirozeně zlepšuje schopnost organizace zotavit se z výpadků dat. Když týmy vědí, kde se nacházejí důležitá data a jak se připojují ke klíčovým systémům, mohou sladit strategie zálohování a obnovy s tím, co je pro podnik nejdůležitější. Silné zpracování dat vytváří základ sdílené důvěry. Jedná se o stejné disciplíny, které posilují a zajišťují kontinuitu podnikání, nyní přizpůsobené věku AI.
A konečně, organizace, které uspějí, budou ty, které spojí inovace a odpovědnost. Stínová umělá inteligence může být nevyhnutelná, ale její rizika jsou zvládnutelná, když jsou položeny správné základy. Změny myšlení zaměřené na pokrok a organizační důraz na viditelnost a zpracování dat mohou otevřít dveře bezpečnému experimentování s AI bez zbytečných rizik. V době, kdy se zdánlivě každá společnost obrací k AI, není udržování kontroly nad daty zátěží, ale spíše klíčem k bezpečnému a udržitelnému posunu inovací vpřed.
Dave Russell, Senior Vice President a Chief Strategy Officer, Veeam Software
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
