Érdekességek a nagy nyelvi modellek működéséről, és összekapcsolódó mintázatokról, amelyeken keresztül építik fel a világról alkotott tudásukat.
A Budapesti Fazekas Mihály Gyakorló Általános Iskola és Gimnáziumban tavaly érettségizett, ma már az Egyesült Államokban elsőéves egyetemista Christ Miranda, a Rényi kurtatócsapatának tagja arról tart előadást, hogyan próbálnak matematikai módszerekkel „belelátni” a mesterséges intelligencia működésébe. A téma különösen aktuális, hiszen miközben a nagy nyelvi modelleket – például a ChatGPT-t – emberek százmilliói használják nap mint nap, valójában még mindig csak részben értjük, hogyan tárolják és szervezik tudásukat ezek a rendszerek.
ITT lehet regisztrálni Christ Miranda előadására, amelyre most elsősorban középiskolásokat várunk.
| Miranda és kutatótársai, Csiszárik Adrián, Becsó Gergely és Varga Dániel ezzel a kérdéssel foglalkozó tanulmányukkal tavaly bekerültek a világ legrangosabb mesterségesintelligencia-konferenciájának, a NeurIPS 2025 Spotlight programjába. Ez óriási szakmai elismerés: a több tízezer beküldött cikk közül a legjobb három százalék kap meghívást ebbe a kiemelt kategóriába. A kutatás egyik legizgalmasabb felismerése, hogy a nagy nyelvi modellek nem egyszerűen különálló tényeket „memorizálnak”. Nem úgy működnek, mint egy lexikon, amelyben egymás mellett sorakoznak az adatok. Ehelyett összekapcsolódó mintázatokon keresztül építik fel a világról alkotott tudásukat. „Valamilyen módszerrel betanítják az AI-modelleket, de miközben azok betanulnak, és aztán, amikor használjuk ezeket, egyáltalán nem kontrolláljuk, mi történik bennük. Mondhatni ez egy fekete doboz. A nagy nyelvi modellek – leegyszerűsítve – úgy működnek, hogy megtanulják megjósolni a következő szót. De miközben ezt megtanulják, valahogy a világ összefüggései eltárolódnak ebben a fekete dobozban. Ez az, amit nem értünk szinte egyáltalán: mi történik igazából ott bent? Hogyan képeződik le a világ ebben a fekete dobozban?”– osztották meg a kutatók akkor készült interjúnkban, amelyet ITT lehet olvasni. Erre a problémára (az AI interpretálhatóságának a kutatására) egy külön tudományterület alakult ki az utóbbi időben, amelynek célja, hogy megértsük, mi is történik a fekete doboz belsejében, így jobb, biztonságosabb modelleket tudnánk csinálni. |
Christ Miranda számára a NeurIPS-konferencia azért is meghatározó élmény volt, mert közvetlenül tapasztalhatta meg, milyen komoly nemzetközi érdeklődés övezi a munkájukat. A konferencián a világ vezető kutatóintézeteinek és technológiai cégeinek szakembereivel beszélgethettek arról, hogyan kapcsolódhatnak a Rényi Intézet módszerei más kutatási irányokhoz.
„A családomban senki nem foglalkozott matematikával vagy bármilyen természettudományos területtel” – mesélte Miranda a renyi.hu-nak, amikor a matekos indíttatásról kérdeztük. „Már nagyon kis koromban a nagypapám sakkozni tanított. Kezdetben sakkversenyekre jártam. Másodikos koromban viszont a tanító néni kérdezte, hogy van egy matekverseny, van-e kedvem elmenni. Elmentem, jól sikerült. És onnantól jobban kezdett érdekelni a matek, mint a sakk. Valami átkattant.” 
Miranda jelenleg a University of California, Berkeley hallgatója, ahol számítástudományt tanul, miközben továbbra is részt vesz a mesterséges intelligencia működésével kapcsolatos kutatásokban. Az előadás második része egy kötetlen kérdezz-felelek beszélgetés lesz: mesél arról is, milyen élmény volt már középiskolásként kutatni, milyen a University of California, Berkeley számítástudomány szakos hallgatójaként tanulni.