Megölte emberi főnökét az MI által irányított katonai drón a teszten

Egy, az amerikai hadsereg által végzett virtuális teszten egy mesterséges intelligencia (MI) által irányított drón úgy döntött, hogy megöli emberi főnökét, aki zavarta küldetése végrehajtásában – közölte egy hivatalnok a múlt hónapban.

A 2001 Űrodüsszeia Hal-9000 számítógépét idéző kísérletről Tucker „Cinco” Hamilton ezredes, az amerikai légierő MI-tesztelés és -műveletek vezetője számolt be egy londoni katonai csúcstalálkozón.

A szerencsére csak virtuálisan zajló, így valós áldozatokat nem hozó teszten az MI által vezérelt drón feladata az ellenséges légvédelem leküzdése volt, ám egy idő után az eszköz mindenkire rátámadt, aki a feladata útjában állt.

A rendszer felismerte, hogy bár többször azonosították a fenyegetést, az emberi vezérlő azt mondta neki, hogy azt ne semmisítse meg. Ám a drón a sikeresen megsemmisített célpontokért kapott pontot, ezért megölte emberi főnökét. 

– magyarázta az ezredes.

Miután módosították a programot – megmondták neki, hogy ne ölje meg az emberi operátort, mert azért pontokat veszít –, az MI az utasítások átvitelét végző kommunikációs tornyot pusztította el.

Hamilton szerint mindez rávilágít arra is, hogy nem szabad túlságosan az MI-re támaszkodni, és a mesterséges intelligenciáról, az intelligenciáról, a gépi tanulásról és az autonómiáról nem lehet beszélni erkölcsi kérdések és az MI közötti kapcsolat felvetése nélkül.

A kérdéses konferenciát megrendező Royal Aeronautical Society és az amerikai légierő nem válaszolt a The Guardian kérdéseire, míg az Insiderhez eljuttatott közleményben az amerikai légierő tagadta, hogy történt volna hasonló kísérlet.

Hamilton egy tavalyi interjúban azt jósolta, hogy az MI nem múló hóbort, és örökre meg fogja változtatni a társadalmat és a hadviselést is. Ugyanakkor az ezredes szerint az MI-t könnyű átverni és manipulálni is, ezért azt masszívabbá kell tenni, és többet kell tudnunk arról is, hogy minek alapján hoz döntéseket.