Meta už trénuje výkonnějšího nástupce Llamy 3

Zuckerberg dnes na Instagramu vysvětlil, že Meta začlení nového asistenta Meta AI, poháněného Llama 3, do produktů, které zahrnují Whatsapp, Instagram, Facebook a Messenger.

Meta ve svém blogovém příspěvku oznamujícím Llama 3 uvedla, že se silně zaměřila na zlepšení tréninkových dat používaných k vývoji modelu. Bylo napájeno sedmkrát více dat než jeho předchůdce, Llama 2, uvedla společnost. Někteří odborníci na AI poznamenali, že údaje zveřejněné Meta také ukázaly, že vytvoření Llama 3 vyžadovalo obrovské množství energie pro napájení požadovaných serverů.

Rostoucí schopnosti modelů umělé inteligence s otevřeným zdrojovým kódem podnítily některé odborníky k obavám, že by mohly usnadnit vývoj kybernetických, chemických nebo biologických zbraní – nebo se dokonce stát nepřátelskými vůči lidem. Meta vydala nástroje, které podle ní mohou pomoci zajistit, aby Llama nevydávala potenciálně škodlivé výroky.

Jiní v oblasti AI říkají, že modely Llama od Meta nejsou tak otevřené, jak by mohly být. Licence společnosti s otevřeným zdrojovým kódem na modely klade určitá omezení na to, co mohou výzkumníci a vývojáři vytvářet.

„Je skvělé vidět, jak stále více modelů otevřeně uvolňuje své váhy,“ řekl Luca Soldaini, vedoucí aplikovaný výzkumný pracovník v Allen Institute for AI, neziskové laboratoři, po vydání Llama 3. „Otevřená komunita však potřebuje přístup ke všem ostatním částem kanálu AI – k jejím datům, školení, protokolům, kódu a vyhodnocení. To je to, co nakonec urychlí naše kolektivní chápání těchto modelů.“

Stella Biderman, výzkumnice AI zapojená do EleutherAI, neziskového projektu AI s otevřeným zdrojovým kódem, říká, že licence Meta pro Llama 2 omezila experimenty, které s ní mohou výzkumníci AI provádět, a dodává, že licence Llama 3 vypadá ještě přísněji. „Meta uvolňuje závaží, ale je skvěle omezující, co s nimi můžete dělat,“ říká Biderman.

Jedna část licence modelu říká, že společnosti s „více než 700 miliony aktivních uživatelů měsíčně“ musí požádat o speciální licenci od společnosti Meta – klauzule zjevně navržená tak, aby zabránila projektu pomoci nejbližším konkurentům společnosti.

I tak se zdá, že Llama 3 pravděpodobně vyvolá nový výbuch experimentů s umělou inteligencí. Clement Delange, generální ředitel společnosti HuggingFace, úložiště otevřených modelů umělé inteligence, včetně Llama 3, říká, že vývojáři vytvořili více než 30 000 variant Llamy 2. „Jsem si jistý, že také uvidíme příval nových modelů založených na Llamě 3, “ on říká. “Úžasný komunitní tah od Meta.”