Last Updated on július 17, 2024 11:42 de. by Laszlo Szabo / NowadAIs | Published on július 17, 2024 by Laszlo Szabo / NowadAIs
Az OpenAI eper projektje: A titkos törekvés az emberi szintű érvelésre az AI-ban – Főbb megjegyzések
- Az OpenAI a “Project Strawberry” elnevezésű projektet fejleszti az AI érvelés és autonómia fejlesztése érdekében.
- A Project Strawberry célja, hogy csökkentse a hallucinációkat a mesterséges intelligencia kimeneteiben azáltal, hogy a modellek képesek önállóan információt gyűjteni és szintetizálni.
- A Stanford Self-Taught Reasoner (STaR) által inspirált Strawberry lehetővé teszi az AI számára, hogy iteratív módon létrehozza saját képzési adatait.
- Elon Musk aggodalmakat fogalmazott meg az emberi szintű érvelési képességekkel rendelkező AI-modellek lehetséges kockázataival kapcsolatban.
- A Strawberry projekt része az OpenAI szélesebb körű törekvésének, amely a mesterséges általános intelligencia (AGI) elérésére irányul.
- Az OpenAI AGI-útiterve öt szakaszt tartalmaz, a Strawberry a “reasoners” szakaszt képviseli.
- Az etikai megfontolások és a felelős fejlesztési gyakorlatok kulcsfontosságúak az AI-képességek fejlődésével párhuzamosan.
Emberi szintű érvelés a fókuszban
A mesterséges intelligencia (AI) gyors fejlődése lenyűgözte a világot, az olyan áttörések, mint a ChatGPT és a DALL-E a nagy nyelvi modellek (LLM) elképesztő képességeit mutatják be. Azonban bármennyire is lenyűgözőek ezek a modellek, még mindig elmaradnak az emberi intelligenciához hasonló autonóm gondolkodás és problémamegoldás terén.
Ez az a terület, ahol az OpenAI, a neves AI-kutató vállalat jelentős előrelépéseket tesz a titkos “Project Strawberry” nevű projektjével.
A Project Strawberry megjelenése
A korábban “Q*” vagy “Q Star” néven ismert Project Strawberry csendben főtt az OpenAI falai között, és az iparági bennfentesek és a nyilvánosság figyelmét egyaránt felkeltette. A Bloomberg és a Reuters kiszivárgott jelentései fényt derítettek erre az ambiciózus vállalkozásra, amelynek célja, hogy a mesterséges intelligencia érvelés és autonómia határait feszegesse.
Az érvelési képességek fejlesztése
A Strawberry projekt középpontjában az a cél áll, hogy a mesterséges intelligenciamodelleket fokozott érvelési képességekkel ruházzák fel. A jelenlegi LLM-ekkel ellentétben, amelyek nagymértékben a mintafelismerésre és a nyelvi előrejelzésre támaszkodnak, a Strawberry által működtetett modelleket úgy tervezik majd, hogy előre tervezzenek, önállóan navigáljanak az interneten, és “mélyreható kutatást” végezzenek, hogy információt gyűjtsenek és idővel javítsák döntéseiket.
Hasonlóságok a Self-Taught Reasoner (STaR) modellel
A projektet ismerő források szerint a Strawberry hasonlóságokat mutat a Stanfordon 2022-ben kifejlesztett Self-Taught Reasoner (STaR) technikával. Az STaR lehetővé teszi, hogy a modell iteratív módon létrehozza saját gyakorló adatait, így hatékonyan tanulva és javítva érvelési képességeit az önirányított felfedezés és felfedezés révén.
A hallucinációk kezelése
Az egyik legfontosabb kihívás, amellyel a Strawberry foglalkozni kíván, a hallucinációk problémája – az LLM-ek azon hajlama, hogy tényszerűen téves vagy értelmetlen információkat generálnak, amikor olyan témákkal találkoznak, amelyekre nem kaptak megfelelő képzést. Azáltal, hogy a modelleket képessé teszi arra, hogy önállóan gyűjtsenek és szintetizáljanak információkat az internetről, a Strawberry-alapú mesterséges intelligencia potenciálisan csökkentheti az ilyen hallucinációk valószínűségét, megbízhatóbb és megbízhatóbb kimeneteket biztosítva.
Az autonóm feladatvégzés felé
A Strawberry törekvései túlmutatnak a puszta következtetési képességeken. A Reuters által áttekintett belső dokumentumok szerint az OpenAI azt is vizsgálja, hogyan lehetne a Strawberry által működtetett modelleket képessé tenni komplex, többlépcsős feladatok hosszabb időn keresztül történő végrehajtására, hasonlóan ahhoz, ahogyan az emberek megközelítik a problémamegoldást.
Szoftverfejlesztés és kutatás automatizálása
Ennek messzemenő következményei lehetnek, mivel a mesterséges intelligenciamodellek segítségével automatizálhatók a jellemzően emberi szakértők számára fenntartott feladatok, például a szoftverfejlesztés, a tudományos kutatás vagy akár a mérnökök munkája. A fejlett érvelés és a világhálón való önálló navigáció és a releváns információk összegyűjtésének képességeinek kombinálásával az eper-alapú mesterséges intelligencia megváltoztathatja azt, ahogyan az összetett, tudásigényes feladatokat megközelítjük.
Aggályok és óvatosságra intő történetek
Mint minden jelentős technológiai fejlesztés, a Strawberry projekt sem mentes az aggodalmaktól és az óvatosságra intő történetektől. Elon Musk, az OpenAI társalapítója korábban riadalmat keltett a vállalat emberi szintű érvelési képességekkel rendelkező mesterséges intelligenciamodellekkel kapcsolatos munkájának lehetséges kockázataival kapcsolatban.
Elon Musk figyelmeztetései
Elon Musk, aki 2018-ban megszakította kapcsolatait az OpenAI-val, egy perben azzal érvelt, hogy a vállalat GPT-4 modellje már a mesterséges általános intelligencia (AGI) egy formájának minősül, és
“súlyos fenyegetést jelent az emberiségre”
A perben azt is állították, hogy az OpenAI korábbi “Q*” projektje, a Strawberry elődje még erősebb igényt tart az AGI-re, ami tovább táplálja Musk aggodalmait.
Altman leváltása és az AI biztonságának szerepe
A Reuters szerint Musk figyelmeztetéseit az OpenAI néhány alkalmazottja is visszhangozta, akik egyre inkább aggódtak a Q* projekt által bemutatott áttörések miatt. Ez a belső nyugtalanság állítólag szerepet játszott abban, hogy Sam Altmant novemberben rövid időre leváltották az OpenAI vezérigazgatói posztjáról, majd nem sokkal később visszahelyezték.
A mesterséges általános intelligencia (AGI) felé vezető út
Bár a Strawberry projekt részleteit továbbra is nagyrészt titok övezi, az OpenAI fejlett gondolkodási képességek kifejlesztésére irányuló erőfeszítései kétségtelenül részei az AI-kutatás szent grálja, a mesterséges általános intelligencia (AGI) felé vezető szélesebb körű törekvéseknek.
Az OpenAI ötszintű AGI-útiterve
Az OpenAI közelmúltbeli belső megbeszélései rávilágítottak a vállalat ambiciózus útitervére az AGI megvalósítása érdekében. A Bloomberg jelentése szerint az OpenAI egy ötfokozatú rendszert mutatott be a fejlődés nyomon követésére, amelyben a Strawberry-alapú modellek potenciálisan a “reasoners” szintet képviselik – a második szintet, amely olyan technológiát foglal magában, amely képes emberi szintű problémamegoldó képességek megjelenítésére.
A Strawberry sikerének következményei
Siker esetén a Strawberry projekt jelentős lépést jelenthet az OpenAI AGI-útitervének következő szakaszai felé, amelyek magukban foglalják a cselekvésre képes “ágenseket”, a feltalálást segítő “innovátorokat”, sőt az emberi csapatok munkáját elvégző “szervezeteket” is. Az ilyen előrelépések következményei egyszerre izgalmasak és ijesztőek, forradalmi áttöréseket ígérnek, ugyanakkor mélyreható kérdéseket vetnek fel az ember és az AI együttélésének jövőjével kapcsolatban.
Az etikai tájképben való eligazodás
Ahogy az OpenAI kitolja az AI-képességek határait, úgy válik egyre fontosabbá a szilárd etikai keretek és a felelős fejlesztési gyakorlatok szükségessége. Az a lehetőség, hogy a Strawberry-alapú modellek nagyobb autonómiával és érvelési képességgel működnek, növeli a nem szándékolt következmények kockázatát és az átfogó biztosítékok szükségességét.
A mesterséges intelligencia biztonságának és a felelősségteljes fejlesztésnek a prioritása
Alon Yamin, a Copyleaks társalapítója és vezérigazgatója a Techopedia számára a végrehajtás fontosságát hangsúlyozza:
“átfogó védőkorlátok”
annak biztosítása érdekében, hogy a mesterséges intelligencia fejlődését, mint amilyen a Project Strawberry is, felelősségteljesen és a társadalomra gyakorolt pozitív hatását maximalizáló módon használjuk fel.
Az innováció és az óvatosság egyensúlya
Miközben az OpenAI közössége izgatottan várja a Strawberry képességeinek bemutatását, kulcsfontosságú, hogy megőrizzük az egyensúlyt a technológia átalakító potenciáljának felkarolása és a lehetséges kockázatok mérsékléséhez szükséges óvatosság között. Az emberi szintű mesterséges intelligencia érvelés felé vezető út ígéretekkel és veszélyekkel egyaránt tele van, és a navigáláshoz szilárd elkötelezettségre lesz szükség az etikus mesterséges intelligenciafejlesztés mellett.
Következtetés: A mesterséges intelligencia következtetés jövője
A Strawberry projekt sarkalatos pontot jelent a mesterséges intelligencia fejlődésében, és kitolja az LLM-ek által elérhető határokat. Azáltal, hogy a mesterséges intelligenciamodelleket kibővített érvelési képességekkel, autonóm webes navigációval és komplex, többlépcsős problémamegoldó képességgel ruházza fel, az OpenAI egy olyan jövő felé nyitja meg az utat, ahol a mesterséges intelligencia és az emberek együtt dolgoznak a világunk előtt álló legsürgetőbb kihívások megoldásán.
Miközben azonban a vállalat az AGI szent grálja felé száguld, ébernek kell maradnia a felelősségteljes fejlesztésre való törekvésben, biztosítva, hogy az eper erejű mesterséges intelligencia rendkívüli képességeit az emberiség javára használják fel. Az előttünk álló út kétségtelenül izgalommal és félelemmel egyaránt tele van, de az etikus AI-elvek iránti szilárd elkötelezettséggel a Strawberry projekt ígérete könnyen valósággá válhat, ami átalakítja az ember és gép közötti együttműködést.
Gyakran ismételt kérdések
1. Mi az OpenAI Strawberry projektje? Az OpenAI Strawberry projektje egy ambiciózus kezdeményezés, amelynek célja a mesterséges intelligencia érvelési képességeinek javítása és a hallucinációk csökkentése azáltal, hogy a modelleket képessé teszi az internetről származó információk autonóm gyűjtésére és szintézisére.
2. Miben különbözik a Project Strawberry a jelenlegi AI-modellektől? A jelenlegi AI-modellektől eltérően, amelyek nagymértékben a mintafelismerésre támaszkodnak, a Project Strawberry célja, hogy az AI-t felruházza az előre tervezés, az interneten való önálló navigálás és a döntéshozatal javítása érdekében mélyreható kutatás képességével.
3. Mi inspirálta a Project Strawberry fejlesztését? A Project Strawberryre hatással van a Stanfordon 2022-ben kifejlesztett Self-Taught Reasoner (STaR) technika, amely lehetővé teszi az AI-modellek számára, hogy iteratív módon létrehozzák saját képzési adataikat, és önirányított felfedezéssel javuljanak.
4. Milyen lehetséges kockázatokkal jár a Project Strawberry? Elon Musk és az OpenAI néhány alkalmazottja aggodalmakat fogalmazott meg az emberi szintű érvelési képességekkel rendelkező AI-modellek által jelentett kockázatokkal kapcsolatban, hangsúlyozva a szilárd etikai keretek és a felelős fejlesztési gyakorlatok szükségességét.
5. Hogyan illeszkedik a Strawberry projekt az OpenAI AGI ütemtervébe? A Strawberry projekt az OpenAI ötlépcsős AGI-útitervének “reasoners” szakaszát képviseli, amely az emberi szintű problémamegoldó képességek megjelenítésére képes technológia fejlesztését foglalja magában. Ez döntő lépés az AGI megvalósítása felé.
