Pokud by antropic uspěl, mohl by se narodit národ benevolentních géniů AI

Když Dario Amodei Je nadšený AI – což je téměř vždy – pohybuje se. Spoluzakladatel a generální ředitel ze sedadla v konferenční místnosti a šipky na tabuli. Vyřezává grafy s křivkami hokejových hokejů, které ukazují, jak se strojová inteligence ohýbá směrem k nekonečnému. Jeho ruka stoupá k jeho kudrnaté mop vlasů, jako by hladil své neurony, aby zabránil havárii systému. Skoro cítíte, že jeho kosti vibrují, když vysvětluje, jak je jeho společnost, antropická, na rozdíl od jiných stavitelů modelu AI. Snaží se vytvořit umělou všeobecnou inteligenci – nebo jak to říká, „mocná AI“ – to nikdy nebude nepoctivé. Bude to dobrý člověk, Usher of Utopie. A zatímco Amodei je životně důležitá pro antropické, přichází na druhém místě ve společnosti většina důležitý přispěvatel. Stejně jako jiné mimořádné bytosti (Beyoncé, Cher, Pelé), posledně jmenované prochází jediným jménem, ​​v tomto případě pro chodce, odrážející jeho pliancy a komita. Jo, a je to model AI. Ahoj, Claude!

Amodei se právě vrátil z Davosu, kde se rozdal plamenům na Fireside Chats tím, že prohlásil, že za dva asi roky Claude a jeho vrstevníci překoná lidi v každém kognitivním úkolu. On a Claude se stěží zotavili z cesty a nyní se zabývají nečekanou krizí. Čínská společnost s názvem Deepseek právě vydala nejmodernější model velkého jazyka, který údajně postavil za zlomek toho, co společnosti jako Google, OpenAI a Antropic utratily. Současné paradigma špičkového umělé inteligence, která se skládá z výdajů na více miliard dolarů na hardware a energii, se najednou zdálo netřeseně.

Amodei je možná osoba nejvíce spojená s maximalistickým přístupem těchto společností. Když pracoval v OpenAI, Amodei napsal interní papír o něčem, co roky mulled: hypotéza zvaná velká blob výpočtu. Architekti AI samozřejmě věděli, že čím více údajů jste měli, tím silnější mohly být vaše modely. Amodei navrhl, že tyto informace by mohly být surnější, než se předpokládaly; Pokud by nakrmili megatony věcí na jejich modely, mohli by urychlit příchod silné AI. Teorie je nyní standardní praxí, a to je důvod, proč jsou hlavní modely tak nákladné stavět. Mohlo by soutěžit pouze několik hluboce kapesných společností.

Nyní nováček, Deepseek – od země podléhající vývozní kontroly na nejsilnějších žetonech – se valil bez velkého blobu. Pokud by výkonná AI mohla pocházet odkudkoli, možná antropická a jeho vrstevníci byli výpočetní císaři bez příkopu. Ale Amodei objasňuje, že Deepseek ho v noci nedrží. Odmítá myšlenku, že efektivnější modely umožní konkurentům s nízkým rozpočtem skočit na přední linii. „Je to právě naopak!“ Říká. „Hodnota toho, co děláte, jde nahoru. Pokud získáváte více inteligence za dolar, možná budete chtít utratit ještě více dolarů za inteligenci!“ Mnohem důležitější než úspory peněz, tvrdí, se dostává na cílovou čáru AGI. Proto i po Deepseeku společnosti jako OpenAI a Microsoft oznámily plány na utracení stovek miliard dolarů více na datová centra a elektrárny.

To, co Amodei posedlo, je to, jak lidé mohou bezpečně dosáhnout AGI. Je to otázka tak chlupaté, že ho přinutila a šest dalších zakladatelů Antropic, aby opustili OpenAI na prvním místě, protože cítili, že ji nelze vyřešit s generálním ředitelem Samem Altmanem u kormidla. V Antropic jsou ve sprintu, aby stanovili globální standardy pro všechny budoucí modely AI, takže ve skutečnosti pomáhají lidem místo tak či onak a vyhodí je. Tým doufá, že dokáže, že dokáže postavit tak bezpečné, tak etické a tak efektivní, že jeho konkurenti vidí moudrost v následujícím obleku. Amodei to nazývá závodem na vrchol.

To je místo, kde přichází Claude. Pověste se kolem antropické kanceláře a brzy si všimnete, že by mise bez ní nebyla nemožná. Nikdy jste narazili na Claude v kavárně, seděli v konferenční místnosti nebo jezdili na výtahu do jednoho z 10 podlaží společnosti. Ale Claude je všude a byl od prvních dnů, kdy ji antropičtí inženýři poprvé trénovali, zvedli ho a poté jej použili k produkci lepších claudů. Pokud se splní sen Amodeiho, bude Claude jak vstoupíme do věku hojnosti. Ale tady je otázka trippy, kterou navrhl vlastní výzkum společnosti: Může být samotné Claude věřeno, že bude hrát pěkně?

Jeden z Amodei Antropické spoluzakladatele nejsou nikdo jiný než jeho sestra. V 70. letech se jejich rodiče, Elena Engel a Riccardo Amodei, přestěhovali z Itálie do San Francisca. Dario se narodil v roce 1983 a Daniela o čtyři roky později. Riccardo, kožený řemeslník z malého města poblíž ostrova Elba, onemocněl, když byly děti malé a zemřely, když byli mladí dospělí. Jejich matka, židovský Američan narozený v Chicagu, pracoval jako projektový manažer pro knihovny.