A mesterséges intelligencia kormányzásának kihívása

A davosi Világgazdasági Fórum partvonalán a szingapúri kommunikációs és információs miniszter csöndesen bejelentette, hogy elindítják a világ első nemzeti keretrendszerét a mesterséges intelligencia (MI) kormányzására (governance). Miközben a médiumok világszerte mellőzték a bejelentést, annak jelentősége jóval túlmutat Szingapúr határain. Ez egy olyan példa, amelyet a világ többi részének sürgősen követnie kellene.

Az utóbbi néhány évben a szingapúri kormányzat – az állami vezetésű AI Singapore kezdeményezésén keresztül – azon dolgozik, hogy az országot a világ vezető államává tegye az MI-szektor terén. Az ország komoly eredményeket ért már el: Sanghaj és Dubaj mellett tavaly a legtöbb MI-vel kapcsolatos befektetést vonzotta. Egy friss számítás szerint az MI-befektetések révén Szingapúr képes lehet arra, hogy 13 éven belül megduplázza gazdaságának méretét.

A mesterséges intelligencia hatása természetesen világszerte érzékelhető. A McKinsey nemrégiben megjelent jelentése szerint

a mesterséges intelligencia 2030-ra 16 százalékkal növelheti a globális GDP-növekedést.

Ennek a potenciálnak az ismeretében az MI-befektetések és -innovációk terén jelentkező verseny fokozódik, és várhatóan az Egyesült Államok, valamint Kína fogja uralni. Mégis, mostanáig egyetlenegy kormányzat vagy szupranacionális szervezet sem törekedett arra, hogy a mesterséges intelligenciában rejlő potenciál maximalizálásához és a kockázatainak kezeléséhez szükséges kormányzási mechanizmust kialakítsa.

Ennek nem az az oka, hogy a kormányzatok úgy gondolják, hogy a mesterséges intelligencia kormányzása egészen triviális dolog, hanem az, hogy arra van szükség, hogy a politikusok és a vállalati szektor kinyissa a felmerülő kérdések Pandora szelencéjét. Gondoljunk a mesterséges intelligencia társadalmi kihatásaira, amelyeket jóval nehezebb számszerűsíteni – illetve csökkenteni, ha szükséges –, mint a gazdasági hatásait. Természetesen az MI-alkalmazások olyan szektorban, mint az egészségügy, jelentős társadalmi hasznot tudnak eredményezni. Mindemellett az ezeket az alkalmazásokat lehetővé tevő kormányzatok és vállalatok által összegyűjtött adatok félrekezelésének, manipulálásának lehetősége jóval nagyobb kockázatokat rejt, mint a korábbi időszakok adatvédelmi botrányai. Továbbá ez reputációs kérdés is, amelyet a kormányzatok és a vállalatok még nem tettek magukévá.

Ahogy egy másik McKinsey-jelentésben olvasható: „A mesterséges intelligenciában rejlő, a társadalmi jólét fejlődését szolgáló potenciál realizálása nem organikusan fog megtörténni.” A sikerhez az szükséges, hogy a „politikai döntéshozók strukturális intervenciói összekapcsolódjanak az iparági szereplők téma iránti nagyobb fokú elköteleződésével”. Amennyire a kormányzatok és a politikusok halogatják az ilyen intézkedéseket, annyira nem szabad alábecsülni a tétlenség kockázatát, ideértve a saját reputációjuk sérülésének veszélyeit is.

Valójában egy olyan időszakban, amikor sok országban a kormányok bizalmi válsággal küzdenek, a mesterséges intelligencia kormányzásának sokféleképpen történő erősítése legalább annyira fontos, mint a vállalati és politikai kormányzás hiányosságainak kezelése. Elvégre ahogy Sundar Pichai, a Google vezérigazgatója tavaly megjegyezte:

A mesterséges intelligencia az egyik legfontosabb dolog, amelyen most az emberiség dolgozik. Ez jóval alapvetőbb kérdés, mint mondjuk, a villamos energia vagy a tűz.

Úgy tűnik, az Európai Bizottság egyike azoknak, akik ezt felismerték. Tavaly év végén a testület elkészítette a megbízható mesterséges intelligencia etikai irányvonalainak tervezetét. Amíg Szingapúr a fogyasztói bizalom kiépítésére és arra összpontosít, hogy megfeleljen az adatkezelési sztenderdeknek, addig az európai megközelítés az, hogy etikai célból teremtsék meg az emberközpontú mesterséges intelligenciát.

Mégis, sem a szingapúri MI-kormányzási keretrendszer, sem az EU előzetes irányvonalai nem kezelik az egyik legfontosabb kérdést a mesterséges intelligenciával összefüggésben: valójában ki a tulajdonosa az MI-szektornak, és kié a mesterséges intelligenciával, illetve az ahhoz kapcsolódó technológiákkal kapcsolatos felelősség? Ez viszont a mesterséges intelligencia felelősségi körével összefüggő alapvető kérdést veti fel, illetve azt, hogy a mesterséges intelligencia hatalmas társadalmi fejlődést eredményez-e, vagy az adatok manipulálásának kafkai rendszerét vezeti be.

Az uniós irányvonalakban az szerepel, hogy „egy olyan mechanizmus jön majd létre, amely minden érintett szereplőnek lehetővé teszi, hogy formálisan jóváhagyja, önkéntes alapon aláírja az iránymutatásokat”. Szingapúr keretrendszere, amely szintén önkéntes alapú, egyáltalán nem kezeli ezt a kérdést, bár az ajánlásai egyértelműen a vállalati szektort célozzák meg.

Ha azt akarjuk elérni, hogy a mesterséges intelligencia társadalmi fejlődést eredményezzen, akkor a kormányzása feletti felelősséget meg kell osztani az állami és a magánszektor között.

Emiatt az MI-alkalmazásokat fejlesztő vagy azokba fektető vállalatoknak szoros kapcsolatot kell kiépíteniük a végső fogyasztóikkal. Továbbá a kormányzatoknak egyértelműen meg kell határozniuk, hogy milyen mértékig kötelezik el magukat abban, hogy állampolgáraikat megvédik a potenciálisan káros hatásokkal járó technológiákkal szemben. Valójában a mesterséges intelligenciával kapcsolatos megosztott felelősség rendszere lakmuszpapírja lesz a szélesebb területeket felölelő „stakeholder kapitalizmus” modelljéről szóló, napjainkban zajló diskurzusnak (A stakeholder kapitalizmus elvei szerint a gazdasági szereplők törekednek arra, hogy figyelembe vegyék a tevékenységük által érintett emberek és a környezet érdekeit is – a szerk.) Az állam versus magánszektor kapcsolat nem az egyedüli kérdés, amellyel foglalkoznunk kell. Ahogy Francis Fukuyama egykor megfogalmazta: „Ahogy a modern technológiák kibontakoznak, az egyes nemzetgazdaságokat koherens módon formálják, összekapcsolva őket egy hatalmas nagy világgazdaságba.” Egy olyan időszakban, amikor a technológia és az adatok szabadon áramlanak az országok között, az egyes államok jogosultsága a mesterséges intelligencia kezelésére korlátozottnak tekinthető.

Az internet kormányzásával kapcsolatos törekvések azt mutatják, hogy komoly kihívást fog jelenteni egy, a mesterséges intelligenciát kormányzó szupranacionális szerv létrehozása az egymással szemben álló szakpolitikai szükségszerűségek miatt. Az internetcímek felügyeletét végző, amerikai székhelyű ICANN 1998-ban azért jött létre, hogy az internetet mint a közjót védje – az adatbázisok fenntartásán keresztül – a világháló működési stabilitásának, biztonságának garantálásával. Mégis, a világ internethasználóinak mintegy fele még mindig ki van téve az online cenzúrának.

A mesterséges intelligencia kérdésének kiemelt fontossága tovább nehezíti egy szupranacionális entitás létrehozatalát, miután a politikai vezetőknek hasonló – potenciálisan még összetettebb – politikai kérdéseket kell kezelniük.

Szon Maszajosi, a SoftBank japán multinacionális vállalat vezérigazgatója, lelkes MI-befektető, nemrégiben közölte: vállalata arra törekszik, hogy „olyan robotokat fejlesszen ki, amelyek boldoggá tudják tenni az embereket”. Ennek eléréséhez a kormányzatoknak és a magánszektornak jelentős együttműködési modellt kell kialakítaniuk a mesterséges intelligencia kormányzására. Ennek a törekvésnek az eredménye fogja meghatározni, hogy vajon az emberiség győzedelmeskedik-e az olyan MI-technológiák megteremtésében, amelyek hasznunkra lesznek anélkül, hogy elpusztítanának minket.

Copyright: Project Syndicate, 2019

www.project-syndicate.org