Ilyen még nem volt: először szabtak ki büntetést mesterséges intelligencia jogszerűtlen alkalmazásáért

Egy meg nem nevezett pénzintézeti szereplő (bank) mesterséges intelligenciával vezérelt szoftveres megoldást alkalmazott az ügyfelek érzelmi állapotának automatizált feldolgozására, derült ki a Nemzeti Adatvédelmi és Információszabadság Hatóság (NAIH) tavalyi beszámolójából. 

A beszédjel-felismerő és -értékelő rendszer az ügyfelek hangulati állapota alapján határozta meg, kiket szükséges visszahívni. A bank az alkalmazást panasz és ügyfélelvándorlás megelőzése érdekében üzemeltette. A NAIH utasította a pénzintézetet az érzelmi állapotok elemzésének abbahagyására, mivel az számos ponton sérti az Általános adatvédelmi rendeletet (GDPR).

A mesterségesintelligencia-rendszerek képesek többek között nyelvi elemek feldolgozására is, ami alkalmassá teszi az emberi beszéd és hangelemek kiértékelésére, így az érzelmi és hangulati ingadozások viszonylag pontos meghatározására. Az intelligens rendszerek efféle felhasználása számos kivetnivalót eredményezhet, mivel etikailag is megkérdőjelezhető a felhasználásuk, rejtett előítéleteket tartalmazhat, ez pedig egyéb adatok felhasználásával diszkriminatív lehet az ügyfelekre nézve.

Az eset számos problémát felvet; először is az ügyben érintett bank nem szerepeltette az adatvédelmi tájékoztatójában, hogy az adatkezelésnek többek közt ügyfélmegtartó szerepe is van, az ügyfelek tájékoztatás hiányában így tiltakozni sem tudtak ellene. Ezenfelül az érdekmérlegelési tesztben nem vizsgálják az érintettek oldalát, nem részletezik a hangulati állapot elemzését, és az adatvédelmi hatásvizsgálatban sem javasolnak érdemi megoldást ennek a nem elhanyagolható kockázatnak a csökkenésére

– elemzi az ügyet dr. Barta Gergő, a Deloitte kockázatkezelési tanácsadás üzletágának szakértője

A NAIH kötelezése felhívja a figyelmet az adatkezeléssel kapcsolatban az érintetti jogok megfelelő biztosítására, különösen, de nem kizárólagosan a megfelelő tájékoztatásra és a tiltakozáshoz való jognak a biztosítására. Az adatkezelésnek a szükségesre kell korlátozódnia, és ennek megfelelő tájékoztatást kell nyújtani az érintettek részére a kapcsolódó pontos következmények megjelölésével.

Mesterségesintelligencia-munkacsoport alakult a NAV-nál

A NAV újonnan megalakult mesterségesintelligencia-munkacsoportja (MIMCS) az adóhivatal egyedülálló adatvagyonára épülő kutatásokat végez a jövőben – közölte a Nemzeti Adó- és Vámhivatal. A közleményben kiemelték: a februári kormányhatározat alapján a cél a NAV adatvagyonában meglévő értékek kiaknázása, és ennek révén a tudományos módszertanok és az adózási, adóztatási tapasztalatok szinergiájának kihasználása.

A munkacsoport feladatai között szerepel egyebek mellett egy javaslat kidolgozása a szemantikus adatvagyon-kataszterre, valamint a gépi tanuláshoz szükséges címkézés módszertanára. 

Ugyancsak részei a küldetésnek a tanító algoritmusokkal kapcsolatos vizsgálatok, a validálási módszertan kidolgozása és a nem kontrollált gépi tanulás fejlesztése.

A munkacsoport elnöke Magyar Gábor, a Budapesti Műszaki és Gazdaságtudományi Egyetem docense lett. A munkába bekapcsolódnak minisztériumok (a Pénzügyminisztérium, az Innovációs és Technológiai Minisztérium, a Belügyminisztérium és a Miniszterelnöki Kabinetiroda), a Nemzeti Adatvagyon Ügynökség, a Központi Statisztikai Hivatal, a Mesterséges Intelligencia Nemzeti Laboratórium, valamint a Nemzeti Adatgazdasági Tudásközpont, a Digitális Jólét Program munkatársai és külső szakértők is – olvasható a közleményben.