Druhá strana mince - Web-Tech.cz

Druhá strana mince, zodpovědná umělá inteligence: praktičnost vs. etika. V listopadu 2022 vydala OpenAI ChatGPT-3 pro veřejné použití, následovaná ChatGPT-4 14. března 2023, po explozivní popularitě GPT3.

29. března více než 1100 technologických lídrů, včetně Elona Muska a Steva Wozniaka, podepsalo otevřený dopis vyzývající všechny laboratoře AI, aby na šest měsíců zastavily výzkum a vývoj. Brzy poté se Itálie stala první zemí, která zakázala používání ChatGPT, následovaná Evropskou unií a Čínou, které oznámily své vlastní plány na regulaci AI. Debata o etické umělé inteligenci a strach, že lidstvo bude zničeno nepoznatelnou inteligencí našeho vlastního stvoření, znovu vzplanuly.

Když přemýšlíme o zodpovědné AI, první věc, která nás napadne, je, jak ovlivňuje technologické společnosti: jak bude vývoj AI regulován a jaký vývoj s sebou přinese. Nyní, když se chytré stroje stávají všudypřítomnými v celé ekonomice, se debata obrací k tomu, jak to ovlivňuje ty, kdo nejsou mimo technologie.

Pro mnoho lidí v odvětví, jako je například výroba, nejsou hlavní obavy, zda bude mít AI přímý účinek. Spíše jde o schopnost porozumět radám a rozhodnutím, které modely umělé inteligence dělají, a také schopnost detekovat malware, jak se organizace stále více integrují a spoléhají na něj.

AI se používá v reálném světě

Ideální scénář pro AI je dosáhnout lepšího světa. Například ve výrobním nebo utilitním průmyslu může umělá inteligence pomoci ušetřit cenný čas a zdroje tím, že automatizuje pracovní zátěž, činí optimální obchodní rozhodnutí a zefektivňuje operace.

Prediktivní údržba je jen jedním z příkladů, kde se AI může ujmout jako nástroj pro zjednodušení servisních operací v terénu tím, že před nasazením servisního týmu identifikuje potřeby údržby strojů. To umožňuje společnostem získat zpět čas, který by dříve strávil diagnostikou problému a cestováním tam a zpět na místo, který lze nyní věnovat důležitějším úkolům nebo jednoduše rychleji.

Co je vysvětlitelná AI a proč je klíčem k úspěšné implementaci AI?

Pokud jde o zodpovědnou umělou inteligenci, je třeba zvážit dva důležité aspekty. První je praktický aspekt. Děláte správná rozhodnutí ze správných důvodů?

Vysvětlitelná umělá inteligence je velmi důležitá pro pochopení toho, proč dělá rozhodnutí, která dělá, a proč, když se rozhodne špatně, pokračovala touto cestou. Často se to stane smyčkou, kde strojové učení napájí AI a AI produkuje více dat pro model strojového učení. Chybné uvažování znečišťuje výstup, což má za následek nepoužitelná data a nespolehlivé rozhodování.

Když přemýšlíme o odpovědné umělé inteligenci, první věc, která nás napadne, je, jak ovlivňuje technologické společnosti: jak bude vývoj umělé inteligence regulován a jaký vývoj s sebou přinese.

Na druhé straně mince se etický aspekt zaměřuje na obavy týkající se kybernetické bezpečnosti kolem AI. Ransomware představuje velký problém pro jakýkoli systém umělé inteligence: kromě pouhého doručení malwaru k uzavření obchodu, co když je použit pro zákeřnější a diskrétnější účely?

Pokud malware poškodí data v systému AI, například deformací algoritmu, může to vést k katastrofálnějším následkům, jako je poškození produktů a pověsti společnosti.

Proč je největší hrozbou umělé inteligence malware

Čím autonomnější a inteligentnější systémy umělé inteligence se stanou, tím větší je riziko, že do nich pronikne a poškodí zákeřná entita, aniž by je zcela vypnula, což snižuje pravděpodobnost, že bude včas odhalena a opravena. Nedostatek lidského zásahu dává malwaru, jehož cílem je rozšířit útok a rychle se rozšířit po celém IT systému, více příležitostí, aby zůstal neodhalen.

Kybernetická bezpečnost, a zejména zásady nulové důvěry a izolace, se stávají kritickými pro bezpečné a odpovědné používání AI. Od zajištění, že software produkuje správnou úroveň testování a auditu, až po oddělení povinností a sad oprávnění pro každý úkol nebo uživatele. Praktická a etická umělá inteligence tak jdou ruku v ruce s vytvářením zodpovědné umělé inteligence, kterou lze následně použít k zamýšlenému účelu k řízení obchodních rozhodnutí.

Otázkou samozřejmě zůstává, jak zajistíme, aby AI, kterou vyvíjíme, byla etická a praktická?

ChatGPT se ukázal být efektivnější a schopnější s každou interakcí a zároveň si získal popularitu. I když strach z neznámého bude vždy nablízku a z oprávněných důvodů, je vysoce nepravděpodobné, že lidé přestanou vyrábět nové nástroje umělé inteligence, stejně jako my pokračujeme ve zkoumání vesmíru nebo mořských hlubin.

Místo toho jde o to, abychom se ujistili, že rozumíme tomu, jak to funguje, aby to fungovalo pro nás a také vás chránili před škodlivými útoky špatných herců.