Nő a deepfake-válság: a cégóriások sem tudják megvédeni magukat

Az Amazon és a Microsoft határozott véleményt fogalmazott meg a mesterséges intelligenciával (MI) kapcsolatban: ők nem képesek ellenőrizni az MI generálta deepfake képeket, ezek megfékezése csak kormányzati szabályozással lehetséges. A tech óriások pénteken egy ausztrál parlamenti bizottsági meghallgatáson azt állították, hogy a mesterséges intelligencia által generált képek és videók eredetének azonosítására szolgáló módszerek – mint a vízjelezés és címkézés – túlságosan korlátozottak abban, hogy megakadályozzák a potenciálisan káros anyagok terjesztését.

Nicole Foster, az Amazon globális MI-politikai vezetője szerint a kormányoknak kell erősebb törvényeket hozniuk, melyek büntetik a megtévesztő képeket és videókat készítő személyeket. A Microsoft és az Amazon jelezte, hogy támogatnák azokat az új törvényeket, amelyek szabályozzák a demokratikus folyamatokat torzító és vállalkozásoknak ártó deepfake-eket. Ezzel szemben a Google óvatosságra intett, mondván, eddig megakadályozták, hogy a deepfake technológia kárt okozzon a választásokban.

A képek között látható volt Donald Trump fegyverekkel és egy terhes Kamala Harris, valamint további hírességek – köztük Taylor Swift is – hiányos öltözékben – írja a Financial Review.

Nehéz a mesterséges intelligencia szabályozása

Lee Hickin, a Microsoft MI és technológiai politikájának vezetője elmondta: „alapvető lépés, hogy minden, amit az MI-vel hoznak létre, valamilyen módon címkézve, vízjelezve legyen, vagy bizonyítéklánc kapcsolódjon hozzá”. 

Májusban Tom Rogers, az ausztrál választási biztos elmondta, hogy az Ausztrál Választási Bizottság (AEC) nem rendelkezik törvényi eszközökkel vagy technikai képességekkel az MI által generált hamis tartalom visszatartására, észlelésére vagy megfelelő kezelésére a következő választások kapcsán. Dél-Koreában a nemzeti választások során az ország módosította a Közszolgálati Választási Törvényt, hogy megtiltsa az MI által generált deepfake videók, fotók és hanganyagok használatát a választási kampány időszakában.

Nicole Foster elismerte, hogy 

és kormányzati intézkedésekre van szükség. Az Amazon vízjelezési technológiát épített be Titan képgeneráló eszközeibe, amely rendkívül nehezen feltörhető, és amelyet iparági szabvánnyá kellene tenni.

A hirdetések is veszélyben vannak

Idén tavasszal nagy port kavart, amikor a Meta platformjai megdöbbentő problémával néztek szembe: Jenna Ortega színésznőt meztelenül ábrázoló deepfake hirdetések árasztották el a Facebook és Instagram felületeit. 

és arra biztatják a felhasználókat, hogy megváltoztathatják a színésznő ruháját, beleértve a fehérnemű levételének lehetőségét is. A képeket a hírek szerint a RichAds cég által kifejlesztett Perky AI nevű alkalmazás manipulálta, amelyet az Apple App Store-ban olyan platformként írnak le, mely MI segítségével „szuperrealisztikus vagy fantáziaszerű személyeket hoz létre”.