Félnünk kell a mesterséges intelligenciától?

Augusztus 29-én az Alibaba-alapító Jack Ma és Elon Musk, akit be sem kell mutatnunk, ült le a mesterséges intelligencia (MI) jövőjéről szóló nyilvános vitára Sanghajban, a World Artificial Intelligence Conference nyitónapján. Miért pont őket hívták meg? Nos, mindkettejük cége erősen MI-orientált. Az Alibaba-féle MI legalább olyan kifinomult cucc, mint amilyen a Google-nak van, Elon Musk Teslái pedig ténylegesen önvezetnek az utakon. Ráadásul mindkét úriember saját MI-csippel rendelkezik. Nesze neked NVidia (és Intel)!

https://youtu.be/uJ5w11Cm3gM

Ha azt mondjuk, a két úr nem értett egyet az MI jövőjét illetően, az finomkodás. Elon Musk legalább háromszor hülyézte le Jack Mát, de persze kulturált, úriemberhez illő módon, konkrétan e szavakkal: „Az a baj, hogy az emberek okosnak hiszik magukat, pedig nem azok.” És a „Híres utolsó szavak!” mondás is elhangzott tőle, amit kifejezetten hülyéknek tartogatunk, amikor épp hülyeséget beszélnek.

Min vesztek össze? Az MI jövőjén és azon belül az MI veszélyességén.

Elon Musk jó sok cége között az egyik a NeuraLink nevű startup, amelynek célja, hogy megvalósítsa az emberi agy közvetlen kapcsolatát a számítógépekkel – jelentős sikerekkel egyébként. Elon Musk azért foglalkozik ezzel, mert attól fél, ha az ember nem tud teljes körű kapcsolatot létesíteni a gépekkel, azok hátrahagynak minket, mint út szélén a PET-palackot. Az öntudatra ébredő MI el fogja taposni az emberi civilizációt. Mi sem vesszük figyelembe a hangyák érdekeit, amikor utakat építünk.

Musk érvelésének központi eleme:

a mesterséges intelligencia olyan tempóban fejlődik, hogy pillanatokon belül minden területen okosabb lesz nálunk.

Van go-nagymestert megverő MI, autót vezető MI, és van olyan MI, amelynek nem tanítottak semmit, csak megnézhette egy számítógépes játék képernyőjét (a pixeleket), rájött, mi a játék menete, megtanulta, és megverte az embereket.

https://www.youtube.com/watch?reload=9&v=V1eYniJ0Rnk

Ez nem sci-fi, ez a mai valóság.

És mit mond Jack? Az én nézőpontomból szinte mindegy, mit mond, mert a vitában két perc alatt kiderült, hogy nem ért a mesterséges intelligenciához. Technikailag egy fikarcnyit sem. Amit lát, az az embernél mindenben jobb MI, de ő ebből azt a következtetést vonja le, hogy „na bumm, könnyebb lesz megint az emberiség élete”.

Noha ez egy halálosan naiv hozzáállás (híres utolsó szavak, ugye), szakemberként azt kell mondanom, hogy egyelőre nem kell félnünk a mesterséges intelligenciától. Mert bármilyen eredményt értek is el ezek a gépek, a megoldás közös jellemzője, hogy nem intelligens.

A go-nagymestert legyőző AlphaGo és AlphaZero nemhogy nem örül a győzelmének, hanem azt sem tudja, hogy ez egy játék, és azt sem, hogy ő egy gép. AlphaZerónak pontosan annyi öntudata van, mint egy kávéscsészének.

A másik érdekesség, hogy ahogy ezek a gépek tanulnak, az nagyon nem hatékony. Minden autógyártó tudja, hogy az önvezetés megvalósításához milliárd kilométernyi vezetési videofelvétel szükséges. Egy átlagos Homo sapiensnek meg akár egy-két kilométer is elég. A képernyő pixelei alapján a Mario-játékot megtanuló MI pedig sok milliószor esik le a sziklán, mire rájön, hogy az első lépés egy ugrás kellene hogy legyen, és sok százmillió iteráció után ér el arra a szintre, amelyre egy gyerek tíz-húsz meccs után.

Mert nincs ott a megértés. Nincs ott az intelligencia. Nagyon nincs.

Az MI-boom elindítója, Geoffrey Hin­ton, aki 2006-ban bombaként robbantotta a jelenlegi csodálatos eredmények mögötti deep learning megoldást, egyenesen odáig megy, hogy azt mondja, valamit végzetesen elrontottunk az MI felé vezető úton. Ki kellene dobni mindent, és újrakezdeni.

Nos, ha azt nem is, de annyit mindenképpen leszögezhetünk, hogy a jelenlegi MI-megoldások sima szerszámok csupán. És persze, jobbak az embernél ebben-abban, de minden gép jobb az embernél ebben-abban. A fúrógép például jobban fúr lyukat a falba, mint én puszta kézzel. A repülőgép nem kicsit repül jobban, mint én a kezeimmel csapkodva. Egyszerűen annyival jobbak az embernél, hogy nincs értelme rajthoz állni velük egy falfúrási vagy repülési versenyben.

Ja, hogy mára a sakk és a go is olyan terület, ahol a buta, intelligenciamentes gépek jobbak nálunk? Hát igen. De ilyet már láttunk. Mármint olyat, hogy gépekkel könnyebb a munka. Egy pont Jack Mának.

Én azt javaslom, akkor féljük össze magunkat, ha majd megjelenik egy olyan új technológia, amelyik az emberi intelligenciát tudja gépesíteni. Szerencsére itt még nem tartunk, és még nagyobb szerencse, hogy a legjobbaknak sincs halvány elképzelésük sem arról, hogyan kellene ehhez hozzáfogni.

Mert ha ez az áttörés is megtörténik, akkor Elon Musknak lesz igaza.