Last Updated on július 11, 2024 1:02 du. by Laszlo Szabo / NowadAIs | Published on július 11, 2024 by Laszlo Szabo / NowadAIs
Elon Musk tervezi a JARVIS építését: az xAI Grok 2 és Grok 3 előttünk – Fő pontok
- A Grok 2 augusztusban jelenik meg, a Grok 3 várhatóan év végére.
- Fejlesztője az Elon Musk által vezetett xAI.
- 24 000 Nvidia H100 GPU használatával képezték ki, a jövőben 100 000 H100 GPU-val.
- Célja, hogy a MATH és a HumanEval teljesítménymutatókban kiemelkedő legyen.
- Együttműködés az Nvidia, a Dell Technologies és az Oracle cégekkel az infrastruktúra támogatása érdekében.
- Jelentős számítási teljesítményre van szükség, mivel minden 100 000 H100 GPU rendszer 70 megawatt villamos energiát fogyaszt.
- Előrelépés a mesterséges általános intelligencia (AGI) 1-2 éven belüli megvalósítása felé.
xAI Grok 2: Az AGI felé vezető úton
Az X-en (korábbi nevén Twitteren) nemrég megjelent Elon Musk bejegyzése szerint cége, az xAI jelentős kiadásokra készül. Musk megemlítette, hogy a Grok 2 augusztusban jelenik meg, a Grok 3 pedig várhatóan az év végére követi. Ezek az új verziók állítólag fejlett mesterséges intelligencia képességeket kínálnak majd, a Grok AI 1.5 sikerére építve, amely lenyűgöző fejlődést mutatott a hosszabb összefüggések megértésében és a fejlett érvelésben.
az xAI 24 000 H100-as gépre kötött szerződést az Oracle-től, és a Grok 2 ezeken képezte ki magát
.
A Grok 2 jelenleg finomhangoláson és hibajavításon megy keresztül. Valószínűleg a jövő hónapra készül el.
az xAI saját maga építi a 100k H100-as rendszert, hogy a lehető leggyorsabban elkészüljön. Célja, hogy még ebben a hónapban megkezdje a képzést….
– Elon Musk (@elonmusk) július 9, 2024
Musk kiemelte a hatalmas adathalmazok nyelvi modellekhez való szanálására irányuló alapos erőfeszítések fontosságát, ami kulcsfontosságú szempont a sikeres AI-képzéshez. Felismerte az OpenAI által biztosított jelenlegi adatkészletek hibáit, és garantálta, hogy a Grok 2 jelentősen javítani fogja ezt a szempontot.
A Grok 2 képességeinek és a Grok 3 céljainak megértése
A Grok 2-t állítólag olyan népszerű fiktív karakterek befolyásolták, mint például JARVIS a “Vasemberből” és a“Galaxis útikalauz stopposoknak“. Célja, hogy azonnali megoldásokat kínáljon a különböző megkeresésekre, miközben olyan fejlett képességekkel bővíti válaszait, mint a képek előállítása és a webes keresés eredményeinek lekérdezése. A Grok 2-t továbbá úgy alakították ki, hogy kiemelkedjen az olyan teljesítményértékeléseken, mint a MATH és a HumanEval, amely a kódgeneráló modellek többnyelvűségét értékeli, jelezve, hogy képes felülmúlni a jelenlegi mesterséges intelligencia szabványokat.
A Grok 3 év végi, 100 000 H100-on végzett tréning után igazán különlegesnek ígérkezik
– Elon Musk (@elonmusk) július 1, 2024
Az év végére a Grok 3 100 000 Nvidia H100 GPU segítségével kap kiképzést, a cél pedig az, hogy olyan fejlődést érjen el, amely meghaladhatja a jelenlegi AI-szabványokat. Musk kijelentette, hogy a Grok 2 képzéséhez körülbelül 20 000 Nvidia H100 GPU-t használtak fel, de a Grok 3 közelgő képzése még nagyobb erőforrásokat igényel majd.
Együttműködési erőfeszítések és akadályok
Michael Dell, a Dell Technologies vezérigazgatója elárulta, hogy a vállalat együttműködik az Nvidiával egy olyan AI-gyár létrehozásában, amely az xAI generatív AI képességeit fogja fejleszteni. Ez a partnerség kulcsfontosságú annak biztosításában, hogy az xAI hozzáférjen a komplex modelljei képzéséhez szükséges számítási teljesítményhez.
Larry Ellison, az Oracle alapítója szerint az xAI területén jelentős igény mutatkozik az Nvidia GPU-kra. Az Oracle főszerepet játszott a Grok korai változataihoz szükséges infrastruktúra megkönnyítésében. A GPU-k iránti jelentős kereslet azonban rávilágít az AI-technológiák elterjedésének nehézségeire.
A mesterséges általános intelligencia (AGI) eléréséhez vezető út
Musk szerint a mesterséges intelligencia fejlődését komoly kihívások hátráltatják, különösen a fejlett processzorok, például az Nvidia H100-asához hasonló processzorok hiánya és a növekvő áramigény. A Grok modellek nagy számítási teljesítményt igényelnek, körülbelül 100 000 Nvidia H100 GPU 70 megawattnyi áramot fogyaszt, ami egy kisváros energiafogyasztásának felel meg.
A nehézségek ellenére a számítási és memóriaarchitektúrák fejlődése az előrejelzések szerint lehetővé teszi a nagyobb nyelvi modellek képzését. A GTC 2024 során az Nvidia bemutatta a Blackwell B200-at, egy olyan GPU-architektúrát, amelyet kifejezetten a trilliónyi paramétert tartalmazó modellek kezelésére terveztek, és amely főszerepet fog játszani az AGI fejlődésében.
Az X Spacesnek adott interjújában Musk reményteljes kilátásait közvetítette az AGI megvalósításával kapcsolatban, és azt jósolta, hogy a következő egy-két évben akár az emberi intelligenciát is felülmúlhatja. Kijelentette,
“Ha az AGI-t (mesterséges általános intelligencia) úgy definiáljuk, hogy okosabb, mint a legokosabb ember, akkor szerintem ez valószínűleg jövőre, két éven belül bekövetkezik”
A jövő kilátásai
A mesterséges intelligencia területén az xAI és a Grok modellek létrehozása által vezetett gyors fejlődés jelentős előrelépést mutat. Ugyanakkor azt is megmutatják, hogy e fejlett modellek kiképzése és bevezetése jelentős logisztikai és erőforrásbeli akadályokba ütközik. Az olyan vállalatok, mint a Dell, az Nvidia és az Oracle együttműködése létfontosságú szerepet fog játszani e kihívások leküzdésében.
Az xAI fejlődése folyamatosan bővíti az AI-technológia korlátait, ami jelentős következményekkel jár a különböző iparágakra nézve. Az adatelemzés javítására és a valós idejű döntéshozatalra való képességével a Grok 2 és Grok 3 potenciális felhasználási lehetőségei képesek átalakítani az ágazatokat és újraértelmezni az AI jövőjét.
Fogalommeghatározások
- xAI Grok 2: AzxAI által kifejlesztett fejlett mesterséges intelligencia modell, amelyet azonnali megoldások nyújtására, képek generálására és webes keresésre terveztek a válaszok javítása érdekében.
- X (korábbi nevén Twitter): Az X-re átkeresztelt közösségi médiaplatform, amely a valós idejű információmegosztásról és frissítésekről ismert.
- Elon Musk: A Tesla és a SpaceX vezérigazgatója, az xAI alapítója és befolyásos technológiai vállalkozó.
- Grok AI 1.5: A Grok 2 elődje, amely a hosszabb összefüggések megértése és a fejlett következtetés terén elért fejlődéséről ismert.
- MATH és HumanEval teljesítménymérők: A mesterséges intelligenciamodellek matematikai problémamegoldásban és kódgenerálásban való jártasságának értékelésére használt referenciaértékek.
- Nvidia H100 GPU: Nagy teljesítményű grafikus feldolgozóegység, amelyet intenzív AI-tréningekhez és számítási feladatokhoz használnak.
- Larry Ellison: Az Oracle alapítója, aki jelentős szerepet játszott a mesterséges intelligencia fejlesztésének infrastrukturális támogatásában.
- Michael Dell: A Dell Technologies vezérigazgatója, aki együttműködik az Nvidia-val az xAI mesterséges intelligencia képességeinek fejlesztése érdekében.
- Blackwell B200: Az Nvidia következő generációs GPU-architektúrája, amelyet az AGI-fejlesztéshez elengedhetetlenül fontos, több trillió paramétert tartalmazó modellek kezelésére terveztek.
- AGI (Artificial General Intelligence): A mesterséges intelligencia azon szintje, amely képes megérteni, tanulni és alkalmazni a tudást a feladatok széles skáláján, meghaladva az emberi intelligenciát.
Gyakran ismételt kérdések
1. Mi az xAI Grok 2? Az xAI Grok 2 egy fejlett mesterséges intelligencia modell, amelyet Elon Musk cége, az xAI fejlesztett ki. A Grok AI 1.5 sikerére építve azonnali megoldásokat kínál, képeket generál és webes keresést végez.
2. Miben különbözik a Grok 2 az elődjétől, a Grok AI 1.5-től? A Grok 2 továbbfejlesztett képességeket kínál a hosszabb összefüggések megértéséhez és a fejlett következtetésekhez. Emellett olyan teljesítménymérőkben is kiválóan teljesít, mint a MATH és a HumanEval, ami jelzi a matematikai problémamegoldásban és a kódgenerálásban való kiemelkedő jártasságát.
3. Milyen hardvert használnak a Grok 2 képzéséhez? A Grok 2 képzése 24 000 Nvidia H100 GPU segítségével történt. A hamarosan megjelenő Grok 3 esetében az xAI 100 000 Nvidia H100 GPU-t tervez használni, amelyek 70 megawatt áramot fogyasztanak, ami egy kisváros áramfogyasztásának felel meg.
4. Kik a Grok 2 fejlesztésének legfontosabb munkatársai? A legfontosabb együttműködők közé tartozik az Nvidia, a Dell Technologies és az Oracle. Michael Dell és Larry Ellison jelentős szerepet játszott a Grok 2 fejlesztéséhez szükséges számítási teljesítmény és infrastruktúra biztosításában.
5. Mik az xAI és a Grok 3 jövőbeli céljai? Elon Musk szerint a mesterséges általános intelligencia (AGI) a következő egy-két éven belül megvalósul. A Grok 3, amelyet az év végére terveznek kiadni, nagyobb léptékű képzést fog végezni, és célja, hogy maga mögött hagyja a jelenlegi AI-szabványokat.