Letiltotta, feljelentette a Google a kisfia gyógyítását intéző édesapát

Igazi kiberhorror áldozatává vált egy amerikai édesapa, aki csak aggódott a kisfiáért. Mark, aki a The New York Times cikkében teljes neve elhallgatását kérte, a Google mesterséges intelligenciájával folytatott elkeseredett küzdelmet 2021-ben.

2021 februárjában az Egyesült Államokban még szigorú korlátozások voltak érvényben a koronavírus-járvány megfékezése miatt. A korlátozások közé tartozott, hogy a háziorvosokat nem lehetett egyszerűen személyesen felkeresni, a nem azonnali ellátást igénylő eseteket távorvoslás útján kellett lebonyolítani. Mark kisfia megbetegedett, egészen pontosan a nemi szerve megduzzadt és fájt neki. A férfi lefényképezte a meztelen kisfiút, és androidos okostelefonjával elküldte a képeket a feleségének, hogy kikérje a véleményét, majd felkeresték telefonon a gyermekorvosukat. A távorvoslás miatt nem tudtak azonnal elmenni az orvoshoz, aki azt kérte a szülőktől, hogy fotózzák le a beteg testrészt, és küldjék el neki, hogy megállapíthassa, hogy szükség van-e személyes vizitre. Ezzel kezdődött a rémálom Mark számára.

A képek alapján az orvos azonosítani tudta a problémát, és antibiotikumot írt fel a kisfiúnak, aki gyorsan meggyógyult. A szülők ekkor még nem is gondoltak rá, hogy a technológiai óriások az okoseszközeiken keresztül minden adatukhoz hozzáférhetnek, ebből pedig komoly bonyodalom kerekedhet.

A Nagy Testvér mindent lát

Ma már megszámlálhatatlan mennyiségű adat halad keresztül minden percben a technológiai óriások készülékein és szerverein. Ez evidensen magával hozza azt kötelezettséget, hogy az olyan cégek mint a Google felügyelje rajta keresztül áramló adattengert, hogy kiszűrje a törvénysértő tartalmakat. Tekintettel az adatmennyiség nagyságára természetesen lehetetlenség, hogy emberek dolgozzanak fel minden információt, így ez a feladat a mesterséges intelligenciákra hárul. A probléma az, hogy 

Mark gyermeke nemi szervéről készült képe, amelyet az orvosnak küldött el, felkerült a telefonjáról az automatikus biztonsági mentés miatt a Google felhőjébe, és fennakadt az MI hálóján. A mesterséges intelligencia a képeket gyermeket kizsákmányoló, pornográf tartalomként azonosította, és letiltotta Mark minden Google,fiókját, illetve a telefonszámát. Tízévnyi e-mailje, kontaktja, fényképe lett ezáltal zárolva, ráadásul minden más fiókját is elvesztette, mivel a mobilos biztonsági belépéseket nem tudta megcsinálni a letiltott telefonszáma miatt. Mindezek fejébe 

Nem volt kihez fordulni

Mark az történtekről kapott értesítés után azonnal levélben fordult a Google-hez, hogy tisztázza magát. Kérte a fiókjainak és a telefonszámának a feloldását, illetve a rendőrségi eljárás felfüggesztését. A levélben részletesen kifejtette gyermeke egészségügyi panaszát, illetve hogy orvosi utasításra fotózta le a meztelen kisfiát. A Google elutasította Mark kérelmét. A cég szabályzatában kitérnek arra, hogy zéró toleranciát tanúsítanak a gyermekek zaklatása és kizsákmányolásával szemben. Ennek ellenére az MI működését muszáj egy embernek is felügyelnie, hogy a hibás vagy kérdéses döntéseit felülbírálja például egy olyan esetben, amilyen Marké. Ez azonban esetében elmaradt, a Google elzárkózott attól, hogy feloldja a férfi ellen hozott intézkedéseket.

A The New York Times az üggyel kapcsolatban felkereste az Electronic Frontier Foundation, digitális polgári szabadságjogokkal foglalkozó szervezetet. A szervezet szakembere, Jon Callas elmondta, hogy rendkívül fontos a a technológiai óriások munkája és felügyelete az interneten terjedő adatok felett. Ezzel számtalan bűncselekményt és visszaélést lehet feltárni és megakadályozni, viszont ez a védelem azzal jár, hogy a cégek belátást kapnak a személyes adatokba, magánjellegű információkba és minden másba. 

Egy ilyen esetben az MI találhat egy szülő okoskészülékén a fényképalbumban egy olyan videót, amelyen a kisgyereke fürdik, vagy meztelenül játszik a kerti medencében, és ezt akár zaklató, kizsákmányoló vagy egyenesen pornográf tartalomként értékelheti, ahogyan Mark esetében is történt.

Jon Callas hozzáteszi, hogy Mark esete csak a jéghegy csúcsa lehet. Szerinte 

Mark végül kapcsolatba került a rendőrséggel, amely az ellene folyó nyomozást végezte.

Nicholas Hillard nyomozó tájékoztatta, hogy az eljárást megszüntették, és az ügyről készült jelentésben kijelentették, hogy Mark nem követett el bűncselekményt. Azt a kérést, hogy a rendőrség vegye fel a kapcsolatot a Google-lel és értessék meg a céggel, hogy Mark nem követett el bűncselekményt a San Francisco-i rendőrség elhárította, és közölték, hogy ezt a férfinek magának kell intéznie. Mark egy újabb fellebbezést küldött a Google-nek, amihez csatolta a rendőrségi jelentés másolatát is és kérte, hogy oldják fel a zárlat alá vett fiókjait. 

Mark ekkor egy ügyvédhez fordult, akivel a Google ellen indítható perről konzultált, de végül kiderült, hogy egy ilyen eljárás 7 ezer dollárjába kerülne, amit nem tudott kifizetni.

A férfi végül sosem kapta vissza elvesztett fiókjait, azóta pedig egy hotmail-es email címet használ.

Lehetett volna rosszabb is

A The New York Times megkereste a St. John’s Egyetem jogászprofesszorát, Kate Klonickot, akinek az online tartalmak moderálása a szakterülete. Klonick szerint a technológiai óriások felügyelete az online tartalmak felett kétélű penge. Egyik oldalról fontos feladatot látnak el, hiszen a legtöbben beláthatják, hogy a gyermekek szexuális zaklatása és kizsákmányolása olyan bűncselekmények, amelyek ellen minden eszközzel harcolni kell. A másik oldalról viszont ebben a küzdelemben a cégek túlságosan mélyen beleláthatnak az emberek magánéletébe, legtöbbször olyanokéba, akik nem követtek el semmi törvénytelent. A mesterséges intelligenciáknak sokkal pontosabban kellene működniük, amikor kiszűrik a káros tartalmakat, mert egy olyan hiba, amely Mark kálváriáját is okozta, szörnyű következményekkel járhat.

Mark még olcsón megúszta. 

– mondta Klonick.

A Google mindent megtesz, de a hiba a rendszer velejárója

Claire Lilley, a Google gyermekbiztonsági műveletekért felelős vezetője a The New York Times megkeresésére elmondta, hogy a cég tisztában van azzal, hogy a távorvoslás miatt készülniük kell olyan képeknek, amelyeken a gyermekek meztelenek. Szerinte a vállalat sok gyermekorvossal konzultált annak érdekében, hogy az MI-t és annak az emberi felülvizsgálóit felkészítsék az ártalmatlan, orvosi célú képek és videók értelmezésére.

Ennek ellenére a hibák kockázatát nem lehet kizárni a rendszerből. Az üggyel kapcsolatban Suzanne Haney, az Amerikai Gyermekgyógyászati ​​Akadémia Gyermekbántalmazás és Elhanyagolás Tanácsának elnöke azt tanácsolta a szülőknek, hogy még akkor se készítsenek fényképeket gyermekeik nemi szervéről, ha orvos utasítja. Hozzátette, hogy a legtöbb orvos, amikor egy ilyen képet kér a diagnózis felállításához, nincs tisztában ennek a kockázatával.

Claire Lilley elmondta, hogy az MI felülvizsgálói azért indítottak eljárást Markkal szemben, mivel az orvosnak küldött képeken nem észleltek kiütést vagy bőrpír. Ezt követően a fiókjai felülvizsgálata során találtak egy hat hónappal korábban készült felvételt, amin Mark kisgyereke együtt feküdt az ágyban a férfi félmeztelen feleségével. 

Mark elmondta, hogy a videó egy intim és privát családi pillanatról készült, amiről sosem gondolta, hogy valaha bárki megnézi, és emiatt ítélkeznek felette.