AI Hírfolyam

Mark, nagyon köszönöm, hogy itt vagy. Nyilvánvalóan egy hatalmas AI bejelentés érkezett ma a Meta-tól. Elmondanád nekünk mi az, amit kiadtatok, és miért fontos ez?

Persze. Tehát a mai nagy kiadás—először is, örülök, hogy ezt megtehetem; nagy rajongója vagyok annak, amit csinálsz—a Llama 3.1, és három modellt adunk ki. Ez az első alkalom, hogy kiadunk egy 405 milliárd paraméteres modellt; messze ez a legkifinomultabb nyílt forráskódú modell, amit bárki kiadott. Valójában versenyképes néhány vezető zárt modellel, és néhány területen még előrébb is van. Nagyon izgatott vagyok, hogy lássam, mit kezdenek ezzel az emberek, különösen most, hogy a közösségi irányelvek lehetővé teszik, hogy tanármodellként használják, finomhangolják, és bármilyen más modellt készítsenek vele. Emellett a 405 milliárd paraméteres modellt lesűrítettük, hogy újabb és frissített vezető 70 milliárd és 8 milliárd paraméteres modelleket készítsünk. Ezek is nagyon jó teljesítményt és költség-teljesítmény arányt mutatnak. Nagyon izgatott vagyok, hogy lássam, mit kezdenek ezzel az emberek.

Hátralépve, azt hiszem, ez egy elég nagy pillanat a nyílt forráskódú AI számára. Ezen gondolkodva, egy ideje úgy gondolom, hogy a nyílt forráskódú AI lesz az ipari szabvány. Úgy gondoltam, hogy követni fogja azt az utat, amit a Linux tett. Mielőtt a Linux népszerű lett volna, mindenféle cégnek megvolt a saját zárt Unix verziója. Akkoriban az emberek azt hitték, hogy a zárt fejlesztési modell az egyetlen módja valami ilyen fejlett dolog létrehozásának. A Linux azért kapott lábat, mert olcsóbb volt, és a fejlesztők különböző módokon testre tudták szabni. Idővel, ahogy az ökoszisztéma kiépült, biztonságosabb és fejlettebb lett, több képességgel rendelkezett, mint bármely zárt Unix. Úgy gondolom, hogy a Llama 3.1 az a pont, ahol a Llama lehetőséget kap, hogy az ipari szabványt jelentő nyílt forráskódú AI legyen. Még olyan helyeken is, ahol még nem vezet teljesítményben, vezet a költségek, a testreszabhatóság és a finomhangolás képessége terén. Ezek hatalmas előnyök, amelyeket a fejlesztők kihasználnak, és mi az ökoszisztéma kiépítésére összpontosítunk. Különböző képességek épülnek majd köré. Nagyon izgatott vagyok, hogy erről beszélhetek.

Láttam az összes benchmarkot; hihetetlennek tűnik. Az első nyílt forráskódú határmodell 405 milliárd paraméterrel. Vannak konkrét valós felhasználási esetek, amelyeket igazán izgatottan vársz, hogy az emberek a modellel építsenek?

A legizgalmasabb dolog számomra az, hogy látom, hogyan használják majd az emberek a modellt saját modellek finomhangolására és lesűrítésére. Ez az első nyílt forráskódú határmodell, de nem az első határmodell. Volt már más modell is ezzel a kapacitással. Az emberek közvetlenül is akarnak majd inferenciát végezni a 405-ön, mert becsléseink szerint körülbelül 50%-kal olcsóbb, mint a GPT-4. Ez nyilvánvalóan sok ember számára jelentős különbséget jelent. De ami igazán új ebben a világban, az a képesség, hogy a modellt lesűrítse bármilyen méretre, amit szintetikus adatgenerálásra és tanármodellként használhat. A jövőképünk sosem volt az, hogy egyetlen AI legyen. Az OpenAI-nak az a víziója, hogy egy nagy AI-t épít, az Anthropic és a Google is így gondolkodik. Nekünk sosem volt ez a víziónk. A mi víziónk az, hogy sok különböző modell legyen. Minden startup, vállalkozás és kormány saját egyedi modelleket akar majd. Amikor a zárt ökoszisztéma sokkal jobb volt, mint a nyílt forráskódú, jobb volt a zárt dolgot választani, mert bár testre szabhatod a nyílt forráskódút, még mindig volt némi különbség a teljesítményben. De most már nem látjuk ezt a különbséget. Ahogy a nyílt forráskód bezárja a szakadékot, széleskörű modellek proliferációja következik majd. Az emberek most már motiváltak arra, hogy testre szabják és építsék pontosan a megfelelő méretű modellt a feladataikhoz, és betanítsák az adataikat. Meglesznek az eszközeik erre, köszönhetően sok partnerintegrációnak, mint az Amazon az AWS-sel vagy a Databricks, amelyek szolgáltatási csomagokat építenek a nyílt modellek lesűrítésére és finomhangolására. Ez az új és izgalmas dolog: mennyire lehet ezt kihasználni. Ez egy teljesen új képesség a világban, mert eddig nem volt ilyen kifinomult nyílt forráskódú modell kiadva.

Ez igazán nagy dolog. Hogyan oktatjátok a fejlesztőket ezeknek az eszközöknek a használatára, és van-e a Metának terve vagy stratégiája arra, hogy oktassa a világot a nyílt forráskódú AI-ról és annak fontosságáról?

A Llama 3.1 előtt az volt a megközelítésünk, hogy biztosítsuk a hozzáférést egy vezető modellhez. A mobiltelefonos tapasztalataink miatt nem akartunk egy versenytársra támaszkodni ezen alapvető technológia terén. Magunknak építettük, és volt egy ösztönünk, hogy ha nyílt forráskódúvá tesszük, egy közösség épül majd köré, amely kiterjeszti a képességeit és értékesebbé teszi mindenki, így magunk számára is. Ez nem csak technológia, ez egy ökoszisztéma. Ahhoz, hogy ez hasznos legyen számunkra, széles körű ökoszisztémának is kell lennie. A Llama 3.1 egyik nagy változása az, hogy ahelyett, hogy csak magunknak építenénk és hagynánk, hogy a fejlesztők használják, sokkal proaktívabb szerepet vállalunk a partnerségek kiépítésében. Biztosítani akarjuk, hogy legyen egy ökoszisztéma, amely érdekes dolgokat csinál a modellel és szolgálja a fejlesztőket olyan módokon, ahogyan mi nem fogjuk. Nem vagyunk nyilvános felhőszolgáltató, mint az AWS, a Google vagy az Azure. A fejlesztők nem hozzánk jönnek, hogy építsék dolgaikat, de biztosítani akarjuk, hogy minden nyilvános felhő jól fel legyen készülve erre. Ez vonatkozik az alapvető funkcionalitásokra, mint a modellek hosztolása és az inferencia szolgáltatása, de új dolgokra is, mint a lesűrítés és a finomhangolás, ami korábban nem volt annyira kiépítve, mert nem volt annyira megvalósítható a zárt modellekkel. Partnercégekkel kellett együttműködnünk ennek érdekében. Vannak olyan cégek is, mint a Groq, akik érdekes munkát végeznek az ultra-alacsony késleltetésű inferenciával kapcsolatban. Izgatott vagyok, hogy ez a kezükbe kerül. Aztán vannak olyan vállalati cégek, mint a Dell, a Scale.ai, a DoE és az Accenture, akik vállalkozásokkal dolgoznak világszerte a technológiai telepítések terén. Ezek azok az emberek, akik egyedi modelleket építenek vállalatok vagy kormányok számára, akik saját modelleket akarnak betanítani saját adataikkal. Sok cég nem akarja az adatait egy API-n keresztül a Google-nek vagy az OpenAI-nek küldeni, nem a magánélet védelme miatt, hanem mert előnyben részesítik a biztonságos tervezésű architektúrákat, ahol az adataik náluk maradnak. Szerintem egy egész piac épül majd ilyen dolgok köré. Sokkal proaktívabb szerepet vállalunk ezúttal az ökoszisztéma kiépítésében, mert így növekszik és válik értékesebbé mindenki számára.

Nagyon tetszik, hogy milyen közel állsz a fejlesztői közösséghez. A közösségben való részvétel révén tudom, hogy az emberek valóban szeretnék ezeket a privát és helyi modelleket. Továbbhaladva a leveledhez, a Meta bejelentései mellett egy levelet is közzétettél. Az első rész valóban arra összpontosított, hogy miért jó a nyílt forráskód a fejlesztők számára, és ez teljesen helytálló volt. Beszélhetnél többet a nyílt forráskódú AI széles társadalmi hatásairól?

Az én nézőpontom az, hogy a nyílt forráskód egy kulcsfontosságú összetevő egy pozitív AI jövőhöz. Az AI produktivitásnövekedést, kreativitási fejlesztéseket hoz, és remélhetőleg segít a kutatásban. De a nyílt forráskód elengedhetetlen annak biztosításához, hogy ezek az előnyök mindenki számára hozzáférhetők legyenek, és ne záródjanak be néhány nagy cégbe. Valójában úgy gondolom, hogy a nyílt forráskód biztonságosabb és biztosabb lesz. Vita van arról, hogy a nyílt forráskód biztonságos-e, de szerintem biztonságosabb, mint a zárt fejlesztés. Különböző típusú károk vannak: nem szándékos kár, amikor a rendszer véletlenül kisiklik, és szándékos kár, amikor rosszindulatú szereplők használják a rendszert. A nem szándékos kár esetén a nyílt forráskód biztonságosabb kell, hogy legyen, mert nagyobb az átláthatóság és a felülvizsgálat. A fejlesztők tesztelik és felülvizsgálják, gyorsan kijavítva a problémákat. A legtöbb Sci-Fi forgatókönyv, amitől az emberek tartanak, nem szándékos, és a nyílt forráskód jobban kezelné ezeket. A szándékos kár esetén kisebb szereplők, mint egyének vagy kis csoportok, próbálnak zavart okozni, hasonlóan a rosszindulatú szereplőkhöz a közösségi hálózatokon. Azonosítjuk és megállítjuk őket fejlettebb AI rendszerek segítségével, több számítással. A kormányok és a rendfenntartó szervek fenntartják a rendet a társadalomban jobban finanszírozott és erőforrásokkal rendelkező rendszerekkel. Azt hiszem, ez itt is igaz lesz. A széles körben elterjedt nyílt forráskód lehetővé teszi a nagy intézmények számára, hogy telepítsék ezeket a rendszereket a rosszindulatú szereplők ellenőrzésére.

Nagyobb szereplők, mint nemzetállamok esetében, a kérdés az, hogyan lehet megakadályozni őket abban, hogy a nyílt forráskódú modelleket ellenünk használják. A fejlesztés lezárása nem kezeli ezt reálisan. Az Egyesült Államok előnye az nyílt és decentralizált innováció, amelybe beletartoznak a startupok, egyetemek és egyéni hackerek. Ha ezt lezárjuk, elveszítjük a vezetést. A modellek beleférnek merevlemezekbe, amelyek könnyen ellophatók, így a hosszú távú biztonságuk biztosítása a kifinomult kísérletekkel szemben valószínűtlen. Ha lezárjuk a fejlesztést, egy kis számú cég és kémkedési képességekkel rendelkező ellenfelek lesznek az egyetlenek, akik hozzáférhetnek, kihagyva a startupokat, egyetemeket és egyéni hackereket. Reális cél az, hogy nyílt forráskóddal fejlesszük a vezető és legrobosztusabb ökoszisztémát, szorosan együttműködve a kormányokkal a nemzetbiztonság érdekében. Így a kormányok integrálhatják a legújabb technológiát, fenntartva a folyamatos vezetést az ellenfelekkel szemben. Úgy gondolom, hogy a nyílt forráskód elvezet a jólét terjesztéséhez, több előrelépéshez és a biztonság biztosításához. Lesznek problémák, amelyeket kezelni kell, de szerintem a nyílt forráskód győzedelmeskedik.

Beszéljünk

többet a nyílt forráskódú AI előnyeiről. Egy másik dolog, amit említettél a leveledben, az az, hogy a nyílt forráskódú AI felgyorsíthatja az innovációt és a gazdasági növekedést. Hogyan történik ez már most, és hogyan látod ezt a jövőben?

Az AI-nak több potenciálja van, mint bármely más egyetlen technológiának a termelékenység növelésére, a gazdaság felgyorsítására és az emberek kreatívabbá és produktívabbá tételére. Remélem, hogy segít a tudományban és az orvosi kutatásokban is. Sok embernek ma nincs hozzáférése ahhoz, hogy saját csúcstechnológiás modelleket finomhangoljon vagy építsen, korlátozva arra, amit a nagy laborok csinálnak. Az innováció kultúránk magában foglalja a startupokat, hackereket, akadémikusokat és egyetemi embereket. Azáltal, hogy hozzáférést biztosítunk a csúcstechnológiás modellekhez, amelyekre építhetnek, nem csak futtathatják őket, előrehaladást érhetnek el. Lesűríthetik a modelleket kisebb verziókra, amelyek laptopokon vagy telefonokon is futtathatók, felszabadítva több kreativitást és produktivitást.

Nemzeti perspektíva is van. Sok országnak nem lesznek meg az erőforrásai a nagy léptékű alapmodellek betanítására, amelyek hamarosan milliárdokba kerülnek majd a betanításhoz. A nyílt forráskód lehetővé teszi a különböző országok és vállalkozók számára, hogy ezeket a modelleket használják, hogy jobban szolgálják az embereket és jobb munkát végezzenek, globálisan emelve minden hajót. A fejlődő országok és más nemzetek, akik hozzáférést akarnak a technológiához, képesek lesznek dolgokat csinálni vele, még akkor is, ha nincs meg a technikai hátterük a csúcstechnológiás modellek előállításához. Ha egyszer hozzáférnek, könnyű lesz saját modelleket betanítani. Ez hatalmas kiegyenlítő hatással bír.

Egy másik dolog, amit meg akarok érinteni a levélből, hogy kissé megdöbbentett, hogy ilyen egyenesen kritizáltad az Apple-t és annak zárt megközelítését. Tudnál erről bővebben beszélni és elmagyarázni, hogy az Apple hogyan volt akadálya a Meta számára és esetleg mások számára?

A pontom inkább filozófiai, hogyan befolyásolta a saját megközelítésemet és gondolkodásomat a dolgok építéséről. Nem tudom, hogyan közelíti meg az Apple az AI-t; van némi nyílt fejlesztésük és némi zárt. Nem tartom magam nyílt forráskódú fanatikusnak, de úgy gondolom, hogy a nyílt modellek lesznek a szabványok, és jók lesznek a világnak. Mind nyílt, mind zárt fejlesztést csinálunk. Az Apple nagy hatással volt ránk, amikor szolgáltatásainkat olyan platformokra építettük, amelyeket versenytársak irányítottak, akik különböző szabályokat alkalmaztak, hogy korlátozzák, mit tehetünk. Van adójuk és önkényes szabályaik, amelyek korlátozzák a kreativitást és az innovációt. Nem csak a pénzről van szó; lélekölő, amikor olyan funkciókat építesz, amelyekről úgy gondolod, hogy jók a közösséged számára, csak azért, hogy azt mondják, nem szállíthatod őket, mert egy cég dobozba akar helyezni, hogy jobban versenyezhessen veled. Az AI-val kapcsolatos aggodalmam nem az Apple, hanem más cégek és az, hogyan fejlődik ez. Egy nyílt ökoszisztéma építése, mint az internet, de sokkal képesebb, egészségesebb. A zárt modell nyert a mobil fejlesztésben, az Apple szerezte a legtöbb előnyt. De a nyílt ökoszisztémák nyerhetnek, mint a Windows az Apple zárt megközelítésével szemben. A következő generációs platformok, beleértve az AI-t és az AR/VR-t, a Meta nyílt ökoszisztémákat akar építeni, visszaállítva az ipart egy olyan állapotba, ahol a nyílt ökoszisztémák vezetnek. Ez összhangban van a filozófiámmal és a kreativitásra gyakorolt korlátokkal, amelyeket a zárt mobilfejlesztési modell jelent.

Szeretnék mélyebben belemenni abba a pontba, amit éppen említettél arról, hogy visszaállítjuk az ipart egy olyan állapotba, ahol a nyílt ökoszisztéma vezet. Jelenleg itt van a Llama 3.1, egy 405 milliárd paraméteres modell, amely versenyképes, sőt, néhány zárt modell legyőzésére is képes a kulcsfontosságú benchmarkokon. A leveledben azt is említetted, hogy a Llama 4 várhatóan a legfejlettebb modell lesz az iparban. Vannak konkrét dolgok, amik a Llama 4-ben igazán izgatottak?

Jelenleg a Llama 3.1-en dolgozunk, így talán még korai a Llama 4-ről beszélni. De megvan a számítógépklaszter, az adatkészletek, az architektúra és a kutatási kísérletek, hogy maximálisan kihasználjuk. A Llama 4 újabb nagy ugrás lesz a Llama 3 tetején. Ez az első pontkiadás a Llama-nak, és még sok mindent szeretnék csinálni, beleértve a multimodális modellek bevezetését. Volt egy visszaesésünk ezzel kapcsolatban, de a következő hónapokban az EU-n kívül be fogjuk vezetni őket. Kicsit korai a Llama 4-ről beszélni, de nagyszerű lesz. A következő négy-öt Llama verzió számítógépklasztereinek és adatútjainak tervezése hosszú távú beruházásokat igényel. Ezek közé tartozik az adatközpontok, energiaellátás, chiparchitektúrák és hálózati architektúrák kiépítése. Általában izgatott vagyok, de a Llama 3.1 legalább egy hét figyelmet érdemel, mielőtt a jövőről beszélnénk.

Ez igazságos, és teljesen egyetértek, hogy a következő néhány hét a 3.1-gyel vad lesz. De izgalmas hallani, hogy a Meta már felkészül a Llama 4-re. Beszélhetnél többet a hosszú távú víziódról, hogy mit gondolsz, mi fog történni az AI-val és esetleg az AGI-val a jövőben?

Örömmel beszélek róla technikai és termék szempontból is. Mivel főként modellekről beszéltünk, a termékekkel kezdem. A víziónk az, hogy sok különböző AI és AI szolgáltatás legyen, ne csak egyetlen AI. Ez befolyásolja a nyílt forráskódú megközelítésünket és a termékútvonalunkat. Van a Meta AI, amely elég jól teljesít. A célom az volt, hogy ez legyen a leggyakrabban használt AI asszisztens a világon az év végéig, és jó úton haladunk, hogy néhány hónappal korábban elérjük ezt a mérföldkövet. Képesek vagyunk a legfejlettebb modelleket kínálni ingyen mindenkinek, ami hatalmas előny. Könnyen használható minden alkalmazásunkból, és izgatott vagyok, hogyan halad ez.

Az alapvető asszisztensen túl az a célunk, hogy minden alkotónak és kisvállalkozásnak lehetőséget adjunk saját AI ügynökök létrehozására. Minden személy a platformjainkon létrehozhat saját AI ügynököket, hogy interakcióba lépjenek. Több száz millió kisvállalkozás van, és lehetővé akarjuk tenni számukra, hogy AI ügynököket állítsanak fel ügyfélszolgálat, értékesítés és kommunikáció céljából néhány kattintással. A jövőben minden vállalkozásnak lesz AI ügynöke, akárcsak ma e-mail címe, weboldala és közösségi média jelenléte van. Lehetővé akarjuk tenni ezt minden vállalkozás számára, ami több száz millió vagy milliárd kisvállalkozási ügynököt jelent majd.

Az alkotók számára több mint 200 millió ember van a platformjainkon, akik magukat alkotónak tekintik. Az alapvető problémájuk az, hogy nincs elég órájuk a napban, hogy annyit foglalkozzanak közösségeikkel, amennyit szeretnének. Az AI ügynökök segíthetnek nekik több interakciót folytatni közösségeikkel, és tükrözni az értékeiket és üzleti céljaikat. Ez szinte olyan lesz, mint egy művészeti tárgy, amellyel az emberek különböző módokon interakcióba léphetnek. Az emberek maguk is létrehozhatnak AI ügynököket különböző feladatokra. Lesznek több száz millió vagy milliárd AI ügynökök, több, mint ahány ember van, különböző módon interakcióba lépve.

Ez a termékvízió és jelentős üzleti lehetőség. Pénzt fogunk keresni azzal, hogy a legjobb termékeket építjük, nem azzal, hogy hozzáférést árulunk a modellhez. A legjobb modellek birtoklása egy nyílt forráskódú ökoszisztéma révén segít nekünk a legmagasabb minőségű termékeket létrehozni és a legjobb üzleti eredményeket elérni. Alapvetően hiszünk a modellek széles diverzitásában, mivel minden vállalkozás és személy saját egyedi dolgokat akar. Ez a diverzitás érdekesebbé és értékesebbé teszi az AI-t.

Érdekes látni, hogyan integrálja a Meta a technológiát közvetlenül a termékeibe, és nyújt egy határmodell AI-t ingyen milliárdnyi felhasználónak. Van egy utolsó kérdésem a szkepticizmusról. Az 1990-es években mindenhol jelen volt a szkepticizmus az internet iránt, de végül irracionális lett ellenállni neki. Úgy tűnik, hogy hasonló pályán vagyunk az AI szkepticizmussal most. Szerinted elérjük azt a pontot, ahol az anti-AI érzések hasonlóan néznek majd ki, mint ma az anti-internet érzések? Milyen tényezők lesznek kulcsfontosságúak ennek a nézőpontnak a megváltoztatásában?

Az emberek különböző módokon aggódhatnak valami miatt. Pénzügyileg, amit tudok, az az, hogy az internetnek nagy buborékja volt, mielőtt sikeres lett volna. Azok, akik nagyon hosszan fogadtak az internetre, végül igazuk volt, de néha a dolgok hosszabb időt vesznek igénybe a fejlődéshez, mint várható, és elkötelezettségre van szükség, hogy végigvigyük. Izgatott vagyok a Llama 3, Llama 4 és Llama 5 kibocsátásának következményei miatt, amelyek jobb termékekre fordulnak. De reálisan, nehéz megmondani, mikor lesz valami elég jó milliárdnyi felhasználó és nagy üzlet számára. Mindannyian sok tőkét költünk ezeknek a modelleknek a betanítására, és az emberek egy ideig veszteségesek lehetnek, de az is lehet, hogy gyorsabban megtörténik – nehéz megmondani.

A másik része ennek az emberek aggodalma az ő megélhetésükről. A nyílt forráskódú megközelítés, sok különböző modellel, amelyek minden vállalkozás, alkotó és személy számára testreszabottak és személyesek, fontos. Ha az AI úgy fejlődik, hogy egy kis számú cég épít termékeket és részesül az előnyökből, nem segíthet mindenkit, ami visszaesést eredményezhet. Miután láttam, hogyan fejlődött a Web 2.0, gondolkodtam azon, hogyan lehetne a következő generációs technológiák, mint az AI, az AR és a VR, jobban és fenntarthatóbban teremteni a politikai gazdaságot. Biztosítani akarjuk, hogy több ember érezze, hogy részt vesz, részesül az előnyökből, és támogatja a rendszert. Úgy gondolom, hogy ezt a közösségi médiával ésszerűen jól csináltuk, de fontos, hogy még jobban csináljuk az AI-val. Ez segít enyhíteni az aggodalmakat a megélhetésről, munkákról és életekről.

Azt hiszem, senki sem mondhatta volna jobban. Mark, csodálatos volt beszélgetni veled. Köszönöm, hogy megcsináltad ezt, és mindazért, amit te és a Meta tesz az AI közösségért.

Örömmel tettem, és nagyon várom, hogy lássam, mit építenek az emberek.