Drama zasedací místnosti OpenAI by vám mohlo zkazit budoucnost

V červnu jsem měl rozhovor s hlavním vědcem Ilyou Sutskeverem v ústředí OpenAI, když jsem informoval o říjnovém krycím příběhu WIRED. Mezi tématy, která jsme diskutovali, byla neobvyklá struktura společnosti.

OpenAI začala jako nezisková výzkumná laboratoř, jejímž posláním bylo bezpečným způsobem vyvinout umělou inteligenci na stejné nebo vyšší úrovni – nazývanou umělá obecná inteligence nebo AGI. Společnost objevila slibnou cestu ve velkých jazykových modelech, které generují překvapivě plynulý text, ale vývoj a implementace těchto modelů vyžadovala obrovské množství výpočetní infrastruktury a hory peněz. To vedlo OpenAI k vytvoření komerční entity, která by přitahovala externí investory, a získala hlavního partnera: Microsoft. Prakticky každý ve společnosti pracoval pro tuto novou ziskovou větev. Obchodnímu životu společnosti však byly dány limity. Zisk poskytovaný investorům měl být omezen – pro první podporovatele na 100násobek toho, co vložili – a poté by se OpenAI vrátila na čistou neziskovou organizaci. Celý shebang byl řízen původní správní radou neziskovky, která odpovídala pouze cílům původní mise a možná i Bohu.

Sutskever neocenil, když jsem žertoval, že bizarní organizační schéma, které zmapovalo tento vztah, vypadalo jako něco, s čím by budoucí GPT mohl přijít, když byl vyzván, aby navrhl daňový únik. „Jsme jediná společnost na světě, která má omezenou strukturu zisku,“ napomenul mě. „Zde je důvod, proč to dává smysl: Pokud věříte, stejně jako my, že pokud uspějeme opravdu dobře, pak tyto GPU vezmou mou práci a vaši práci a práci všech, zdá se být hezké, kdyby tato společnost skutečně neomezené množství výnosů.“ Mezitím, abychom se ujistili, že část společnosti, která usiluje o zisk, se nebude vyhýbat svému závazku zajistit, že se AI nevymkne kontrole, je tu rada, která na věci dohlíží.

Tento rádoby strážce lidskosti je stejný správní orgán, který minulý pátek propustil Sama Altmana s tím, že již nedůvěřuje generálnímu řediteli, protože „nebyl důsledně upřímný ve své komunikaci s představenstvem, což brání jeho schopnosti vykonávat své povinnosti. “ Nebyly poskytnuty žádné příklady tohoto údajného chování a téměř nikdo ve společnosti o propouštění nevěděl až do doby, než byla veřejně oznámena. Generální ředitel Microsoftu Satya Nadella a další investoři nedostali žádné předběžné oznámení. Čtyři ředitelé, kteří zastupují většinu šestičlenného představenstva, také vyhodili prezidenta a předsedu OpenAI Grega Brockmana z představenstva. Brockman rychle rezignoval.

Poté, co jsem mluvil s někým, kdo je obeznámen s myšlením představenstva, se mi zdá, že při propouštění Altmana ředitelé věřili, že plní své poslání zajistit, aby společnost vyvíjela výkonnou AI bezpečně – což byl jediný důvod existence. Zvyšování zisků nebo používání ChatGPT, udržování zdvořilosti na pracovišti a udržení spokojenosti Microsoftu a dalších investorů nebylo jejich úkolem. Podle názoru režisérů Adama D’Angelo, Helen Toner a Tasha McCauley – a Sutskever – s nimi Altman nejednal přímo. Sečteno a podtrženo: Představenstvo již Altmanovi nevěřilo, že bude pokračovat v misi OpenAI. Pokud správní rada nemůže věřit generálnímu řediteli, jak může chránit nebo dokonce monitorovat pokrok v misi?

Nemohu říci, zda Altmanovo chování skutečně ohrozilo misi OpenAI, ale vím toto: Zdá se, že správní rada propásla možnost, že by špatně vysvětlená poprava milovaného a charismatického vůdce mohla misi poškodit. Zdá se, že režiséři si mysleli, že dají Altmanovi jeho vycházkové papíry a bezstarostně je nahrazují. Místo toho byly následky okamžité a vulkanické. Altman, již tak trochu kultovní hrdina, se v tomto novém příběhu stal dokonce uctívaným. Udělal málo nebo vůbec nic, aby odradil výkřik, který následoval. Pro představenstvo je Altmanova snaha získat zpět svůj post a vzpoura zaměstnanců v posledních dnech tak trochu potvrzením, že bylo správné ho propustit. Chytrý Sam stále něco chystá! Mezitím vybuchlo celé Silicon Valley, což poškodilo status OpenAI, možná natrvalo.

Altmanovy otisky prstů se neobjevují ve včera zveřejněném otevřeném dopise podepsaném více než 95 procenty ze zhruba 770 zaměstnanců OpenAI, který říká, že ředitelé jsou „neschopni dohlížet na OpenAI“. Říká, že pokud členové představenstva neobnoví Altmana a neodstoupí, podepsaní pracovníci mohou odejít a připojit se k nové divizi pokročilého výzkumu AI v Microsoftu, kterou tvoří Altman a Brockman. Nezdálo se, že by tato hrozba narušila odhodlání ředitelů, kteří se zřejmě cítili, jako by byli požádáni, aby vyjednávali s teroristy. Jeden režisér to pravděpodobně cítí jinak – Sutskever, který nyní říká, že svých činů lituje. Jeho podpis se objeví na dopise, abyste přestali, nebo skončíme. Poté, co zjevně odstranili jeho nedůvěru k Altmanovi, ti dva byli zasílání milostných poznámek k sobě na X, platformě vlastněné dalším spoluzakladatelem OpenAI, který je nyní projektu odcizen.