USA neprošly nařízením o umělé inteligenci. Město New York posiluje

Jako USA federální vláda se snaží smysluplně regulovat AI – nebo dokonce fungovat – New York City vstupuje do mezery ve správě.

Město tento týden představilo akční plán AI, který starosta Eric Adams nazývá prvním svého druhu v zemi. Sada zhruba 40 politických iniciativ je navržena tak, aby chránila obyvatele před poškozením, jako je zaujatost nebo diskriminace ze strany AI. Zahrnuje vývoj standardů pro AI zakoupené městskými úřady a nové mechanismy pro měření rizika AI používané městskými odděleními.

Newyorská regulace umělé inteligence by se mohla brzy ještě rozšířit. Členka městské rady Jennifer Gutiérrez, předsedkyně technologického výboru tohoto orgánu, dnes představila legislativu, která by vytvořila Úřad pro integritu algoritmických dat, který by dohlížel na AI v New Yorku.

Pokud by byl úřad zřízen, poskytl by občanům místo, kde by mohli podávat stížnosti na automatizované rozhodovací systémy používané veřejnými orgány, které fungují jako ombudsman pro algoritmy v pěti městských částech. Před zavedením města by také posoudila systémy umělé inteligence z hlediska předpojatosti a diskriminace.

Několik amerických senátorů navrhlo vytvoření nové federální agentury pro regulaci umělé inteligence na začátku tohoto roku, ale Gutiérrezová říká, že se dozvěděla, že nemá smysl čekat na akci ve Washingtonu, DC. „Máme jedinečnou odpovědnost, protože zde žije spousta inovací,“ říká. „Je pro nás opravdu důležité dostat se do vedení.“

Gutiérrez podporuje požadavek na testování algoritmů používaných městskou správou, protože AI se začíná široce používat, říká. Městská oddělení mají zájem používat software AI pro administrativní úkoly, jako je hodnocení rizika, že se dítě stane obětí zneužívání, nebo míry učení studentů. Je také ostražitá před zálibou starosty Erica Adamse v technologiích, jako jsou robotičtí psi a umělá inteligence pro vytváření robotických hovorů v jazycích, které neovládá. New York City má reputaci testovacího pole pro sledovací technologie, od nedávného nárůstu používání dronů až po sporné používání rozpoznávání obličejů v obytných budovách a na stadionech a policií.

New York předstihl federální vládu v regulaci AI ještě před tímto týdnem. V roce 2018 byla vytvořena městská pracovní skupina, která měla posoudit využití technologie. Začátkem tohoto roku vstoupil v platnost zákon, který vyžaduje, aby náborové algoritmy používané podniky kontrolovaly z hlediska zkreslení. Některé ochrany však byly odvolány. V lednu 2022 Adams zrušil exekutivní příkaz podepsaný jeho předchůdcem Billem de Blasiem, který zřídil Algorithms Management and Policy Officer, aby spolupracoval s městskými agenturami na zavádění AI spravedlivým způsobem. Zpráva vydaná důstojníkem v roce 2020 uvedla, že městské agentury používaly 16 druhů algoritmů, které měly potenciálně podstatný dopad na práva lidí, ale nezkoumaly každý model umělé inteligence používaný policejním oddělením města New York.

Gutiérrez říká, že stále nemá komplexní znalosti o algoritmech používaných městskými agenturami. Audit vydaný v únoru státním kontrolorem v New Yorku zjistil, že město má ad hoc a neúplný přístup k řízení AI. Varovala, že to znamená, že město nemůže „zajistit, že město používá AI transparentní, přesné a nezaujaté a že se vyhýbá různorodým dopadům“.