Informatikai felügyelési témavizsgálatot folytatott le több pénzügyi intézménynél az általuk alkalmazott gépi tanulást és mesterséges intelligenciát használó informatikai megoldások IT-biztonsági ellenőrzésére a Magyar Nemzeti Bank (MNB). A vizsgálat három-három – az e megoldásokat már alkalmazó – bankra és biztosítóra terjedt ki.
A felügyelet átvilágította a gépi tanulás és mesterséges intelligencia (GT-MI) alkalmazásának szabályozottsági, ellenőrzési, valamint a kontrollrendszerek hatékonyságát, az ezzel kapcsolatos szervezeti működést, a fejlesztési és üzembeállítási feladatokat, az IT architektúrát, az üzemeltetést, a logikai- és adatbiztonságot, illetve a jogosultságok kezelését.
A hazai pénzügyi intézmények ma elsősorban az ügyfélazonosításkor, számlanyitáskor, marketingben, valamint az ügyfélkapcsolat-kezelésben (CRM) és kampánymenedzsment-folyamataikban alkalmaznak GT-MI-megoldást.
Mivel a GT-MI rendkívül friss kezdeményezés, még rá vonatkozó szabályozási keretrendszer is formálódóban van. Speciális külön szabályozás hiányában a témavizsgálat a pénzügyi intézmények, (viszont)biztosítók, befektetési vállalkozások és árutőzsdei szolgáltatók IT-rendszerének védelméről szóló kormányrendelet, illetve az MNB-nek az IT-rendszer védelméről szóló ajánlása alapján zajlott. Az MNB a téma újdonsága miatt szervezetén belül külön munkacsoportot hozott létre az új, egyedi vizsgálati módszertan kidolgozására és alkalmazására.
Forradalmi átalakulást hoz a vállalati világban a mesterséges intelligenciaA jövőben a vállalatok és a pénzintézetek napi működésében és életében egyre jelentősebb szerepet tölt majd be a mesterséges intelligencia – derült ki azon a tanácskozáson, amelyet az MBH Bank, hazánk egyik vezető hitelintézete szervezett vállalati ügyfelei számára a múlt héten. A tanácskozáson neves hazai szakértők osztották meg véleményüket a hallgatósággal a mesterséges intelligenciáról. |
A GT-MI IT-biztonsági kérdései mellett
az MNB olyan specifikus kockázatokat is áttekintett, hogy az érintett bankok, biztosítók által alkalmazott megoldás hogyan illeszkedik az intézmény stratégiájába, illetve hogy a folyamatokkal kapcsolatos döntéseket kellő szakértelem bevonásával, specifikus kockázatelemzéssel hozták-e meg.
A vizsgálat kiterjedt arra is, hogy a pénzügyi intézmények megfelelően kezelték-e az ügyfelek személyiségi jogait, a személyes, a különleges (akár biometrikus) adatokat.
Az MNB vizsgálta, hogy az intézmények gondoskodtak-e a tömeges összekapcsolt adatok védelméről, számoltak-e a modellből történő visszafejtés lehetőségére. Vizsgálati téma volt, hogy automatizált döntéshozatal esetén az intézmény alkalmazott-e minőségi kontrollt, és hiba esetén felülvizsgálta-e a döntéseket. Felmérte-e a gyártói támogatás megszűnése esetén alkalmazandó eljárásokat, különös tekintettel a rendszeresen újratanítandó modellekre.
Fontos szempont volt, hogy a vizsgált bankok, biztosítók kitértek-e a GT-MI tanítása során az „adatmérgezés” (adatbázisokban szereplő hibás modellek, információk) felismerésére vagy a széles körben választott mintákkal történő tanításra a diszkrimináció kivédése érdekében.
Az alkalmazott technológia jellemzőire vonatkozó tesztelések megtörténte mellett az MNB azt is vizsgálta, hogy az algoritmusok – különösen a folyamatos újratanítást igénylők – alkalmasak lehetnek-e egyes döntések felidézésére szükség esetén.
Az MNB témavizsgálata nem tárt fel a jelenlegi jogszabályokat sértő kockázatokat, hiányosságokat.
A felügyelet ugyanakkor több olyan (az intézményeknek vizsgálati levélben elküldött) javaslatot is megfogalmazott, amelyek – bár nem jogszabálysértő, ám mégis kezelendő – problémákra vonatkoznak. Ezek főként a kockázatelemzés, szabályozottság, tesztelések hiányából vagy nem teljes körű voltából fakadtak.
A témavizsgálat célja az volt, hogy az MNB megismerje a GT-MI mai felhasználási területeit, és értékelje egy ezzel kapcsolatos esetleges felügyeleti iránymutatás szükségességét, illetve elkészült módszertanát beépítse általános IT-felügyeleti vizsgálati módszertanába. Így a GT-MI-megoldások vizsgálata az MNB további átfogó vizsgálataiban is kiemelt fókuszt kap.
Portfóliónk minőségi tartalmat jelent minden olvasó számára. Egyedülálló elérést, országos lefedettséget és változatos megjelenési lehetőséget biztosít. Folyamatosan keressük az új irányokat és fejlődési lehetőségeket. Ez jövőnk záloga.