Daniela Amodei ze společnosti Anthropic věří, že trh odmění bezpečnou umělou inteligenci

Trumpova administrativa může si myslet, že regulace ochromuje průmysl AI, ale jeden z největších hráčů v tomto odvětví s tím nesouhlasí.

Na čtvrteční akci WIRED’s Big Interview prezidentka a spoluzakladatelka Anthropic Daniela Amodeiová řekla šéfredaktorovi Stevenu Levymu, že ačkoli Trumpův AI a kryptocar David Sacks možná tweetovali, že její společnost „provozuje sofistikovanou regulační strategii založenou na vyvolávání strachu“, je přesvědčena, že odhodlání její společnosti upozorňovat na potenciální nebezpečí AI zesiluje.

„Od prvního dne jsme byli velmi hlasití, že jsme cítili tento neuvěřitelný potenciál [for AI]“Opravdu chceme, aby si celý svět uvědomil potenciál, pozitivní přínosy a výhody, které může AI pocházet, a abychom toho dosáhli, musíme uvést ty těžké věci na pravou míru.“ Musíme zajistit zvládnutelná rizika. A proto o tom tolik mluvíme.“

Více než 300 000 startupů, vývojářů a společností používá nějakou verzi modelu Claude společnosti Anthropolic a Amodei uvedla, že díky jednání společnosti s těmito značkami zjistila, že zákazníci sice chtějí, aby jejich umělá inteligence dokázala dělat skvělé věci, ale zároveň chtějí, aby byla spolehlivá a bezpečná.

„Nikdo neříká ‚chceme méně bezpečný produkt‘,“ řekl Amodei a přirovnal hlášení Anthropolic o limitech a útěcích z vězení k tomu, že automobilka vydává studie nárazových testů, aby ukázala, jak řeší bezpečnostní problémy. Mohlo by se zdát šokující vidět na videu figurínu z nárazového testu prolétat oknem auta, ale zjištění, že automobilka v důsledku tohoto testu aktualizovala bezpečnostní prvky svého vozu, by mohlo prodat kupujícímu auto. Amodei řekl, že totéž platí pro společnosti používající produkty AI společnosti Anthropic, což vytváří trh, který je poněkud samoregulační.

„Nastavujeme to, co si můžete téměř představit jako minimální bezpečnostní standardy jen tím, co vkládáme do ekonomiky,“ řekla. “[Companies] nyní vytvářejí mnoho pracovních postupů a každodenních úloh týkajících se AI a říkají si: ‚No, víme, že tento produkt tolik nehalucinuje, neprodukuje škodlivý obsah a nedělá všechny tyto špatné věci.‘ Proč byste šli s konkurentem, který bude mít nižší skóre?