Elon Musk oznamuje Grok, „vzpurnou“ AI bez zábradlí

Minulý týden Elon Musk odletěl do Velké Británie, aby upozornil na existenční riziko, které představuje umělá inteligence. O pár dní později, on oznámil že jeho nejnovější společnost xAI vyvinula výkonnou AI – takovou, která má méně zábradlí než konkurence.

Model umělé inteligence zvaný Grok (jméno, které v technických kruzích znamená „rozumět“) „je navržen tak, aby odpovídal na otázky s trochou vtipu a má rebelský nádech, takže jej prosím nepoužívejte, pokud nesnášíte humor!“ čte oznámení na webu společnosti. „Odpoví také na pikantní otázky, které většina ostatních systémů umělé inteligence odmítá.“

Oznámení nevysvětluje, co znamená „pikantní“ nebo „vzpurný“, ale většina komerčních modelů umělé inteligence odmítne vytvářet sexuálně explicitní, násilný nebo nezákonný obsah a jsou navrženy tak, aby se vyhnuly vyjadřování předsudků získaných z jejich tréninkových dat. Bez těchto zábradlí existuje obava, že model umělé inteligence by mohl pomoci teroristům vyvinout bombu nebo by mohl vést k produktům, které diskriminují uživatele na základě charakteristik, jako je rasa, pohlaví nebo věk.

xAI na svých webových stránkách neuvádí žádné kontaktní informace a e-maily odeslané na běžné adresy se vracejí zpět. E-mail odeslaný na tiskovou adresu pro X obdržel automatickou odpověď: „Nyní mám čas, vraťte se prosím později.“

Oznámení xAI říká, že Grok je postaven na jazykovém modelu Grok-1, který má 33 miliard parametrů. Společnost tvrdí, že vyvinula Grok za dva měsíce, což je na průmyslové standardy relativně krátkou dobu, a také tvrdí, že zásadní výhodou je její „znalost světa v reálném čase prostřednictvím platformy X“, neboli platformy dříve známé jako Twitter. , kterou Musk získal za 44 miliard dolarů v roce 2022.

Stella Biderman, výzkumnice AI s EleutherAI, open source AI, říká, že tvrzení uvedená v oznámení xAI se zdají věrohodná. Biderman navrhuje, že Grok použije to, co je známé jako „generování rozšířeného vyhledávání“ k přidání aktuálních informací z X do svého výstupu. Jiné špičkové jazykové modely to dělají pomocí výsledků vyhledávačů a dalších informací.

Velké jazykové modely se za poslední rok ukázaly jako úžasně schopné, jak nejslavněji zdůraznil průkopnický chatbot OpenAI, ChatGPT.

Tyto modely se živí obrovským množstvím textu převzatého z knih a webu a poté generují text jako odpověď na výzvu. Lidé jim také obvykle poskytují další školení, aby se snížila pravděpodobnost, že budou produkovat urážlivé, hrubé nebo nebezpečné výstupy, a zvýší pravděpodobnost, že budou odpovídat na otázky způsoby, které se zdají být koherentní a věrohodně správné, ačkoli jsou stále náchylní k chybám. a předsudky.