A deepfake köztünk van – és a legnagyobb áldozatai nem a világsztárok, hanem a gyerekeink lehetnek
Hatalmas port kavart az év elején, amikor mesterséges intelligencia segítségével manipulált, ál-Taylor Swift-pornóképek árasztották el a közösségi médiát. Az egyre terjedő trend legnagyobb áldozatai mégis inkább azok a „hétköznapi” kamaszok, akiket hasonló módszerekkel zaklatnak – egyeseket akár öngyilkosságba hajszolva – jellemzően a kortársaik. Ma már nem lehet kérdés, hogy a jelenséget egyéni és társadalmi szinten is korlátok közé kell szorítani, legfőbb ideje, hogy a megoldásokkal foglalkozzunk. Szülőként kezdhetnénk például egy alapos önvizsgálattal: mi vajon mekkora digitális lábnyomot hagyunk gyerekeinkről az online térben – akaratuk és beleegyezésük nélkül? Kitéve őket annak, hogy valakinek egyszer majd kapóra jönnek ezek a felvételek, hogy pár kattintással – az arcot egy meztelen testhez montírozva – pornófilmes jelenetbe „csöppentse” a lányunkat a mesterséges intelligencia segítségével. Ottlik Judit cikke.
Az internet nem felejt: ami egyszer kikerül a világhálóra, ott is marad
„Anyu, mutatnom kell neked valamit!” – ezzel fogadta külföldi szakmai útjáról hazatérő édesanyját egy 14 éves, spanyol kamaszlány. Majd előkapta a telefonját, és olyasmivel szembesítette az anyukáját, ami a nő legsötétebb sejtéseit is felülmúlta. A négygyermekes, nőgyógyászként dolgozó Miriamot – elmondása szerint – sokkolták a látottak. „Ha nem ismerném a lányom testét, habozás nélkül el is hittem volna, hogy a felvétel valódi” – fűzte hozzá.
A fotó egyike volt az almendralejoi iskolás lányokról készült – mesterséges intelligencia (AI) által generált és manipulált – meztelen képeknek, amik akkor már hetek óta keringtek a közösségi chatfelületen. Az érintett lányok közül többen nem voltak hajlandók iskolába menni, de volt olyan is, akiből pánikrohamot váltottak ki a történtek.
Egyeseket megzsaroltak, másokat nyilvánosan zaklattak a felvételekkel.
A világsajtóba tavaly bekerült, nagy port kavart eset kapcsán megszólaló édesanya afeletti aggodalmának is hangot adott, mi történhet akkor, ha ezek a képek olyan pornográf oldalakra is felkerültek, amikről fogalmuk sincs. Az ügyben nyomozás indult, amely kapcsán a hatóságok arra jutottak, a fotókat néhány fiatal gyerek manipulálhatta egy internetről letöltött alkalmazás segítségével.
Ehhez pedig nem kell különösebb tehetség, a mesterséges intelligencia eszközeivel manapság már bárki képes néhány kattintással ilyen jellegű képeket készíteni, a rajta szereplő alany beleegyezése nélkül. Ennek az úgynevezett deepfake technológiának az a veszélye, hogy az általa létrehozott végeredmény ijesztően valósághű: pontosan emiatt alkalmas kiválóan arra, hogy zaklassanak, zsaroljanak vele valakit.
Alighogy a fent említett spanyol ügyre fény derült, egy feltűnően hasonló eset játszódott le több ezer kilométer távolságban, a New Jersey-i Westfield középiskolában. Szülők és diákok itt arról számoltak be, hogy bizonyos tanulók egy alkalmazást vagy weboldalt használtak arra, hogy mesterséges intelligenciával generált pornográf képeket készítsenek néhány lányosztálytársukról.
Mind a spanyolországi, mind a New Jersey-i incidens középpontjában történetesen ugyanaz, egy bizonyos ClothOff nevű alkalmazás állt.
De hasonló botránytól volt hangos a közelmúltban Ausztrália is. A nyár elején egy tinédzsert tartóztattak le a szigetországban, miután egy Melbourne-től északnyugatra fekvő iskola vagy ötven 14 és 18 év körüli diáklányáról a deepfake technológia segítségével készült képsorozatot terjesztett az interneten. A tanulók arcképeihez az Instagram oldalaikon fért hozzá a fiatal, amiket aztán a mesterséges intelligencia által generált meztelen testekre helyezett.
Az eset hatalmas felháborodást keltett, az érintett lányokat érthető módon nagyon megviselték a történtek. Az egyik diáklány anyukája, aki maga is látta a szóban forgó képeket, „hihetetlenül élethűnek" nevezte őket. Azt is elmesélte, a lánya nagyon feldúlt volt, és rosszul is lett a képeket látva. Vannak, akik nem bírnak megbirkózni a traumával, egy 14 éves brit lány, Mia Janin teljesen összeroppant az őt ért megaláztatás súlya alatt, és végső kétségbeesésében az öngyilkosságba menekült.
Mi az a deepfake, és miért ennyire veszélyes?
A deepfake kifejezés a deep learning és a fake szavak összevonásából ered. A technológia lényege, hogy egy algoritmus, amely képes a gépi tanulásra (deep learning), annál valósághűbb, de hamis (fake) képet vagy videót tud létrehozni, minél több információt kap.
Az egyre terjedő trend ellen senki sincs biztonságban: ahogy a hírességekről, úgy a teljesen hétköznapi emberekről is sorra készülhetnek – és készülnek is – hamis videók olyan helyzetekben, amelyek sosem történtek meg.
Az év elején hatalmas botrány kerekedett abból, hogy a népszerű amerikai énekesnő, Taylor Swift nevével és arcával visszaélve deepfake pornóvideók árasztották el a közösségi médiát. Közel sem ő az egyetlen híresség, aki így járt: Tom Cruise-tól kezdve Emma Watsonig (aki egy manipulált hangfelvételen úgy tűnt, mintha a náci ideológiát támogatná) láthattunk már különböző hírességeket, akiket célba vett a mesterséges intelligencia által generált, egyre könnyebben hozzáférhető technológia. 2022-ben egy olyan videó is körbejárta a világot, amelyen Volodimir Zelenszkij ukrán elnök úgy tűnik fel, mintha megadná magát Oroszországnak.
Mit tehetünk ellene? Szülőként többet is, mint gondolnánk
A mesterséges intelligencia szabályozásával már több ország is elkezdett foglalkozni. A tengerentúlon a hatalmas visszhangot kiváltó Swift-botrány irányította rá a fokozott figyelmet, ez év februárjában a brit kormány pedig közleményt adott ki, amelyben kifejti: szükség van egy ilyen törvényre. Az Európai Parlament idén tavasszal elfogadta a világ egyik első olyan rendeletét (AI Act), amely a mesterséges intelligencia szabályozásával foglalkozik. Bár az uniós jogalkotók az öt évvel ezelőtti GDPR-rendelethez hasonlóan abban bíznak, hogy sokak számára példát tudnak mutatni, szakértők szerint a helyzet közel sem ilyen biztató.
Addig is, míg remélhetőleg megszületnek a jogszabályi keretek, mi magunk is sokat tehetünk azért, hogy a fiataljaink minél kisebb veszélynek legyenek kitéve az online térben.
Tudatosítsuk magunkban, hogy az egyén szintjén, szülőként hatalmas felelősségünk van abban, hogyan viselkedünk a digitális térben, mit osztunk meg a közösségi médiában és egyéb online felületeken a gyerekeinkről – főleg a tudtuk és beleegyezésük nélkül.
Kirra Pendergast, a Safe on Social és az Online Safety Academy vezetője így fogalmaz: „a GenAi 2022 novemberében való robbanásszerű terjedése óta azt tanácsolom a diákoknak, szülőknek és tanároknak, hogy változtassanak azon, mit és hol osztanak meg magukról. Hiszen egyetlen képernyőfotó elég ahhoz, hogy egy kép mindenhová eljusson.”
Előszeretettel posztolunk a gyerekeink születésétől kezdve minden nagyobb mérföldkőről, a közös családi nyaralásokról, táncórákról, miközben érdemes lenne tudatosítani, hogy ami egyszer felkerül a világhálóra, az ott is marad, nincs ráhatásunk a további sorsára. A mesterséges intelligencia fejlődésével, ahogy azt a fentiek is mutatják, a visszaélések lehetősége egyenes arányban növekszik. Ahogy a digitális biztonsággal kapcsolatos oktatás és tudatosság szükségessége, úgy a szülők felelőssége is megkerülhetetlen.
A Harvard Egyetem internetbiztonsággal foglalkozó szakértője is a példamutatás fontosságát hangsúlyozza. Sandra Cortesi azt mondja: „ha a szülők úgy döntenek, hogy nem osztanak meg fotókat a gyermekeikről, és azt is elmagyarázzák nekik, miért nem, az segíthet a gyerekeknek abban, hogy később ők is jobb döntéseket hozzanak e tekintetben”.
A szakember azt javasolja, lehetőség esetén a szülők vonják be a gyerekeket ezekbe a beszélgetésekbe.
Ha azt látják a gyerekeink, hogy megbeszéljük velük ezeket a dolgokat, akkor sokkal nagyobb eséllyel fogják ők is feltenni maguknak ugyanezeket a kérdéseket.
KAPCSOLÓDÓ TARTALOM
A meztelenül úszó kisbabától a meztelen kamaszfotókon át… – A szülőkön áll vagy bukik az online gyermekvédelem is
Kérjük, támogasson, hogy otthonába vihessük az értéket!
Fontosnak tartjuk, hogy a kepmas.hu által közvetített értékek továbbra is ingyenesen juthassanak el minden olvasóhoz. Kérjük, ha örömmel olvassa cikkeinket, hallgatja és nézi felvételeinket, támogassa Ön is a kepmas.hu-t!
Támogatom a kepmas.hu-t>>
