Google zvedá zákaz používání AI pro zbraně a dohled

Google v úterý oznámil, že přepracovává principy upravující, jak používá umělou inteligenci a další pokročilé technologie. Společnost odstranila jazyk, který sliboval, že nebude sledovat „technologie, které způsobují nebo pravděpodobně způsobí celkovou škodu“, „zbraně nebo jiné technologie, jejichž hlavním účelem nebo prováděním je způsobit nebo přímo usnadnit zranění lidí“, „Technologie, které shromažďují nebo používají informace pro ně Dohled porušující mezinárodně přijímající normy, “a„ Technologie, jejichž účel je v rozporu s široce přijímanými zásadami mezinárodního práva a lidských práv “.

Změny byly zveřejněny v poznámce připojené k vrcholu blogu z roku 2018, který odhalil pokyny. „Provedli jsme aktualizace našich principů AI.“ Navštivte AI.google pro nejnovější, “čte poznámka.

V blogovém příspěvku v úterý pár vedoucích pracovníků Google citoval stále více rozšířené využívání AI, vyvíjejících se standardů a geopolitických bitev nad AI jako „pozadí“, proč je třeba přepracovat principy společnosti Google.

Google poprvé zveřejnil zásady v roce 2018, když se přesunul k potlačení interních protestů proti rozhodnutí společnosti pracovat na americkém vojenském dronovém programu. V reakci na to odmítla obnovit vládní smlouvu a také oznámila soubor zásad, které by řídily budoucí využití svých pokročilých technologií, jako je umělá inteligence. Mezi jinými opatřeními by principy uvedly, že Google nevyvíjí zbraně, určité systémy dohledu nebo technologie, které podkopávají lidská práva.

Ale v úterý v oznámení Google s těmito závazky odešel. Nová webová stránka již neuvádí sadu zakázaných použití pro iniciativy AI Google. Místo toho revidovaný dokument nabízí Google více prostoru pro potenciálně citlivé případy použití. Uvádí, že Google bude implementovat „vhodný lidský dohled, due diligence a mechanismy zpětné vazby, aby se spojili s cíli uživatelů, sociální odpovědnosti a široce přijímanými zásadami mezinárodního práva a lidských práv“. Google také nyní říká, že bude fungovat „zmírnit nezamýšlené nebo škodlivé výsledky“.

„Věříme, že demokracie by měly vést ve vývoji umělé inteligence AI, řízené základními hodnotami, jako je svoboda, rovnost a úcta k lidským právům,“ napsal James Manyika, senior viceprezident Google pro výzkum, technologii a společnost a Demis Hassabis, generální ředitel společnosti Google DeepMind, The Vážená výzkumná laboratoř AI společnosti. „Věříme, že společnosti, vlády a organizace, které tyto hodnoty sdílejí, by měly spolupracovat na vytvoření AI, která chrání lidi, podporuje globální růst a podporuje národní bezpečnost.“

Dodali, že Google se bude i nadále zaměřovat na projekty AI „, které jsou v souladu s naším posláním, naší vědeckým zaměřením a našimi oblastmi odborných znalostí a zůstanou v souladu s široce přijímanými zásadami mezinárodního práva a lidských práv“.

Máte tip?

Jste současný nebo bývalý zaměstnanec na Googlu? Rádi bychom od vás slyšeli. Pomocí nepracovního telefonu nebo počítače kontaktujte Paresh Dave na signál/whatsapp/telegram na +1-415-565-1302 nebo paresh_dave@wired.com nebo Caroline Haskins na signál na +1 785-813-1084 nebo na e-mailcarolineHaskins@gmail .com

Návrat amerického prezidenta Donalda Trumpa do úřadu minulý měsíc přiměl mnoho společností, aby revidovaly politiky propagující spravedlnost a další liberální ideály. Mluvčí Google Alex Krasov říká, že změny byly v dílech mnohem déle.

Google uvádí své nové cíle jako odvážné, odpovědné a spolupracující iniciativy AI. Pryč jsou fráze, jako je „být společensky prospěšný“ a udržovat „vědeckou dokonalost“. Přidána je zmínka o „respektování práv duševního vlastnictví“.