Nő a deepfake-válság: a cégóriások sem tudják megvédeni magukat
Az Amazon és a Microsoft határozott véleményt fogalmazott meg a mesterséges intelligenciával (MI) kapcsolatban: ők nem képesek ellenőrizni az MI generálta deepfake képeket, ezek megfékezése csak kormányzati szabályozással lehetséges. A tech óriások pénteken egy ausztrál parlamenti bizottsági meghallgatáson azt állították, hogy a mesterséges intelligencia által generált képek és videók eredetének azonosítására szolgáló módszerek – mint a vízjelezés és címkézés – túlságosan korlátozottak abban, hogy megakadályozzák a potenciálisan káros anyagok terjesztését.
Nicole Foster, az Amazon globális MI-politikai vezetője szerint a kormányoknak kell erősebb törvényeket hozniuk, melyek büntetik a megtévesztő képeket és videókat készítő személyeket. A Microsoft és az Amazon jelezte, hogy támogatnák azokat az új törvényeket, amelyek szabályozzák a demokratikus folyamatokat torzító és vállalkozásoknak ártó deepfake-eket. Ezzel szemben a Google óvatosságra intett, mondván, eddig megakadályozták, hogy a deepfake technológia kárt okozzon a választásokban.
A napokban több személyiségi jogokat sértő MI-kép is napvilágot látott, melyek Elon Musk xAI cégének Grok-2 nevű MI-modelljével készültek.
A képek között látható volt Donald Trump fegyverekkel és egy terhes Kamala Harris, valamint további hírességek – köztük Taylor Swift is – hiányos öltözékben – írja a Financial Review.
Nehéz a mesterséges intelligencia szabályozása
Lee Hickin, a Microsoft MI és technológiai politikájának vezetője elmondta: „alapvető lépés, hogy minden, amit az MI-vel hoznak létre, valamilyen módon címkézve, vízjelezve legyen, vagy bizonyítéklánc kapcsolódjon hozzá”.
Májusban Tom Rogers, az ausztrál választási biztos elmondta, hogy az Ausztrál Választási Bizottság (AEC) nem rendelkezik törvényi eszközökkel vagy technikai képességekkel az MI által generált hamis tartalom visszatartására, észlelésére vagy megfelelő kezelésére a következő választások kapcsán. Dél-Koreában a nemzeti választások során az ország módosította a Közszolgálati Választási Törvényt, hogy megtiltsa az MI által generált deepfake videók, fotók és hanganyagok használatát a választási kampány időszakában.
Nicole Foster elismerte, hogy
a jelenlegi védelem a deepfake tartalmakkal szemben korlátozott hatású,
és kormányzati intézkedésekre van szükség. Az Amazon vízjelezési technológiát épített be Titan képgeneráló eszközeibe, amely rendkívül nehezen feltörhető, és amelyet iparági szabvánnyá kellene tenni.
A hirdetések is veszélyben vannak
Idén tavasszal nagy port kavart, amikor a Meta platformjai megdöbbentő problémával néztek szembe: Jenna Ortega színésznőt meztelenül ábrázoló deepfake hirdetések árasztották el a Facebook és Instagram felületeit.
A hirdetések egy elmosódott képet használtak Jenna Ortegáról, amelyen még csak 16 éves,
és arra biztatják a felhasználókat, hogy megváltoztathatják a színésznő ruháját, beleértve a fehérnemű levételének lehetőségét is. A képeket a hírek szerint a RichAds cég által kifejlesztett Perky AI nevű alkalmazás manipulálta, amelyet az Apple App Store-ban olyan platformként írnak le, mely MI segítségével „szuperrealisztikus vagy fantáziaszerű személyeket hoz létre”.
Portfóliónk minőségi tartalmat jelent minden olvasó számára. Egyedülálló elérést, országos lefedettséget és változatos megjelenési lehetőséget biztosít. Folyamatosan keressük az új irányokat és fejlődési lehetőségeket. Ez jövőnk záloga.