A nagy nyelvi rendszerek előnyei és korlátai

Az általában csak mesterséges intelligencia kifejezéssel illetett tudományágak közül mostanában a legtöbb szó a gépi tanulásról, illetve annak egy még szűkebb fajtájáról, a nagy nyelvi rendszerekről esik. Ezek az eszközök hatékonyan tudják segíteni egy vállalat munkáját, valóban képesek sokféle probléma megoldására, de csak akkor, ha megfelelően definiáljuk számukra a tényleges feladatot, vagyis eszközként, és nem célként tekintünk a nagy nyelvi rendszerek használatára. Ezen belül a nagy nyelvi rendszerek képesek szöveges válaszokat adni, és dokumentumok tömegét értékelni, szintetizálni.

A gépi tanulás és a nagy nyelvi rendszerek alkalmazásával képesek lehetünk dokumentumok tömegéből kinyerni a számunkra lényeges információt, válaszokat tudunk generálni a feltett kérdésekre, lényegre törő összefoglalót tudunk készíteni egy problémáról, és mindezt meg is tudjuk fogalmazni anélkül, hogy emberi kéznek kellene beavatkoznia a folyamatba. Ezek rendkívül vonzó lehetőségek, de ismernünk kell a módszer korlátait ahhoz, hogy a rendszerek az elvárásainknak megfelelően dolgozzanak. 

A legfontosabb tudnivaló, hogy ezek a rendszerek nem fogják maguktól megoldani a problémáinkat, főleg nem azok száz százalékát, de ha jól definiáljuk számukra a problémát, akkor közelíthetik ezt az arány, és rendkívül gyorsan, az emberi munkaidő-ráfordítás töredékével érnek el olyan eredményeket, amelyek kiindulási alapnak tökéletesek a számunkra. Sokan játszanak ma már ezekkel a lehetőségekkel, amiből az látszik, hogy egy lentről felfelé (vagy még inkább kintről befelé) építkező folyamat vezet majd el a legjobb vállalati alkalmazásokig, addig is érdemes azonban számba venni a lehetőségeket. 

A vállalati környezet leginkább abban különbözik a ChatGPT-vel megoldott házi feladatoktól, hogy nem a modellek saját nyilvános interneten alapuló tudásbázisát kívánják használni, hanem saját adataikból szeretnének a nagy nyelvi modellek felhasználásával olyan eszközt fejleszteni, amely segíti megoldani az üzleti problémájukat. Ez egyúttal azt is eredményezi, hogy a feldolgozandó dokumentáció általában rendelkezik valamilyen közös tulajdonsággal, azonos típusú információk egy körével vagy valamilyen rendezőelvvel (szerződések, ajánlatok, mérési eredmények, beszámolók), ami miatt számunkra fontos a tartalmuk összevetése, szintetizálása, elemzése. 

A KPMG saját fejlesztésű dokumentumfeldolgozó rendszere ezen közös tulajdonságok alapján már képes saját maga is nagyszámú releváns kérdést megfogalmazni a dokumentumok kívánatos feldolgozásához.

A KPMG saját rendszerét pénzügyi beszámolókon futtatva azt tapasztaltuk, hogy a gép által feltett kérdések zöme releváns, és az ezekre adott válaszok is azok. Elemezve a hasonló emberi munkafolyamatokat, azt láttuk, hogy 80-85 százalékos használati értékű elemzést adott a bevitt információkból ahhoz képest, mint amire két kolléga ennél nagyobb hatékonysággal, de körülbelül két nap alatt képes lett volna. Az első futtatás tehát nem ad tökéletes eredményt, de olyan alapot ad, amely ugyancsak töredék idő alatti emberi beavatkozással száz százalékra emelhető, vagyis a munkatársaknak rengeteg idejük szabadul fel arra, hogy más feladatokkal foglalkozzanak. 

A rendszer hatékonysága a maga által feltett kérdések szűrésével és javításával tovább fokozható. A rendszerünkön lefuttatva egy ilyen – akár több ezer dokumentumból álló – információtömeget az alkalmazott nyelvi rendszer akár ezernél több kérdést is megfogalmaz, amiből érdemes a számunkra lényegteleneket törölni, a lényegeseket pedig az általunk ismert szabályok szerint pontosítani. Maradva a pénzügyi beszámolók példájánál, e szabályok egy része írott és jól dokumentálható, mások inkább tapasztalati úton állnak az ezekkel a dokumentumokkal foglalkozók rendelkezésére: írott szabály, hogy egy bank tőkemegfelelési mutatójának mennyinek kell lennie, de tapasztalati elem, hogy a mutató számításának alapjait jellemzően hol találjuk meg a dokumentumban a szükséges ellenőrzéshez.

A pénzügyi beszámolókon történt futtatás alapján azt mondhatjuk, hogy a rendszer által feltett kérdések szűrése, pontosítása, kiegészítése felkészült és tapasztalt munkatársak többnapos munkájának eredményeként válik pontossá. 

Ez az álom azonban csak akkor teljesül, ha pontosan definiáljuk a bevitt dokumentumok körét, az elvégzendő feladatokat, meghatározzuk a megkívánt válaszok elvárt tartalmi elemeit és pontosságát, és az adott problémával foglalkozó szakértők tapasztalatait is felhasználva segítjük a rendszert abban, amiben ő a legjobb, a nagy mennyiségű szöveges információ feldolgozásában.