Valóságtorzítás felsőfokon
Már az ókorból is ismerünk eseteket, amikor a kőfaragványokról utólag leverték egy bukott uralkodó ábrázolását, vagy átfestettek képeket, mint ahogy az sem meglepő, ha a középkorban egy festő a valóságnál kissé szebben festette meg megrendelőjét, vagy akár egy történelmi tablón olyan alakot is odafestett, aki ott sem volt. A fényképezés, filmezés megjelenésével, elterjedésével, hatalmas üzletté válásával azonnal megjelentek és fejlődtek a néha költségkímélő, néha a látványosságot növelő, néha pedig eltorzított valóságot tartalmazó anyagok. Az elmúlt fél évtizedben a technológia fejlődésének eredményeképpen ennek kiterjedtsége, hitelessége és sebessége változott meg: azonnal, nagyon nagy mennyiségben és teljes mértékben félrevezető képeket, filmeket lehet létrehozni.
A deepfake használata néha egyszerű és izgalmas játék, megnézhetjük, hogy néznénk ki 30 év múlva vagy más frizurával, megleshetjük kedvenc színészünket más filmben, akár teljesen új jelenetben is láthatjuk. A képmanipuláció kreatív tevékenység, digitális képeinket könnyen retusálhatjuk, eltüntethetünk felesleges tereptárgyakat, akár személyeket. A deepfake segítségével ezt akár azonnal, sőt mozgóképek esetében is megtehetjük, egyelőre jellemzően előre előkészített sablonokkal. Vékony a határvonal a kreatív művészet, az újdonság létrehozása és a manipuláció között, a vékony határvonal talán az alkotó szándéka, és hogy milyen cselekedetet szeretne kiváltani belőlünk.
A kifejezést először 2017-ben használta egy online fórumozó, amikor pornografikus tartalmakkal kapcsolatos online színteret hozott létre, itt neves emberek arcát montírozta rá más jelenetekre. A szó a deep learning (mélytanulás, a mesterségesintelligencia-alapú rendszerek sajátossága) és a fake (hamis) szavak összevonásából származik, gyakorlatilag egy, az MI segítségével létrehozott mesterséges, hamis médiatartalmat jelent.
Azonnal megjelentek és terjedni kezdtek a különböző deepfake megoldások. Ezek között volt figyelemfelhívó jellegű (például az amerikaiak által közismert Nixon-beszéd eltorzítása), vagy ismert szereplők szájába hamis mondanivaló adásával operáló (a korai példák között van Mark Zuckerberg Facebook-tulajdonos hamis beszéde arról, hogy mennyire élvezi, hogy adatok millióit vizsgálhatja, vagy az akkori belga miniszterelnök hamis beszéde a koronavírus-járvány eredetéről). Korán megjelentek a csaló célzatú megoldások is, 2019 márciusában egy brit energiacég alkalmazottja telefonon egyeztetett főnökével egy utalásról, és a kérésnek megfelelően el is utalt egy nagy összeget. Gyorsan kiderült a csalás, a főnök hangját gépi módon utánozták, és így vezették félre az alkalmazottat. Az elmúlt években számtalan kreatív megoldását láthattuk a valós idejű vagy nagyon hitelesnek tűnő félrevezetéseknek, online állásinterjúknál, hamis személyazonosságoknál vagy manipulációs célú propaganda-hadjáratoknál.
Napjainkban legalább félmillió hamis videó kering a közösségi médiában, az online bűnözés terén se szeri, se száma az ilyen megoldásoknak, pontos számokat azonban már definíciós kérdések miatt sem tudunk. Az azonban világosan látszik, hogy évről évre megsokszorozódik az ilyen megoldások száma.
Bár vannak pozitív felhasználásai is ennek a technológiának (kreatív művészetekben, vagy például online sales tevékenységeknél célcsoport- vagy országfüggően változtatható a beszélő kinézete), ezek elenyészőek a kockázatokhoz képest. Kevés olyan technológia van a digitális világban, mely ennyire a hátrányt okozó helyzetek előidézésére alkalmas. A deepfake-technológia legnagyobb bűne, hogy csökkenti, tönkreteszi a bizalmat az online térben. Egyre több online szolgáltatást használunk, és a jövőben még többet, még fontosabbakat fogunk.
De hogyan bízhatok meg az orvosomban egy online konzultáció során, vagy a hírekben, amelyeket fogyasztok? A szabályozás és a technológiai ellenőrző szoftverek mellett a felhasználók tudatosságának növelésére is szükség van az esetleges károk csökkentése érdekében.
Hogyan ismerhetjük fel a deepfake termékeket?
Érdemes a részletekre figyelni, például a szemre, tipikus jel, ha túl keveset vagy túl sokat pislog az illető. Ugyanígy a szemöldököt is vizsgáljuk meg, vajon természetesen illeszkedik az arcra? A hang esetében gondolkodjunk el azon, hogy illik-e az adott hang a beszélő karakteréhez. Festményeken nagyon sokszor árulkodó jel a kar helyzete a törzshöz képest, vagy az ujjak száma, természetessége. A technológia fejlődésével, a tanított adatok mennyiségének növekedésével azonban ezek a finom árulkodó jelek lassan elvésznek a professzionális hamisítások esetében, az olcsó, gyors megoldásoknál hosszabb ideig megmaradnak. A legjobb trükk itt is a kritikus gondolkodás, a forráskeresés. Attól, hogy valaki létrehozott egy hamisítványt, nem tünteti el az eredeti különböző változatait az internetről. Nézzünk utána, és ha ugyanannak a képnek, videónak más változatait is megtaláljuk az interneten (ebben nagy segítségünkre lehet a keresőknek az a szolgáltatása, hogy hasonló vagy ugyanilyen tartalomra rákeresnek), akkor gyanakodjunk. Akkor is gyanakodjunk, ha valaki nagyon eltérően viselkedik a múltbéli tevékenységeihez képest. Egy neves politikus, aki hirtelen teljesen más álláspontot képvisel, vagy megalázó helyzetbe hozza magát, és rákeresve nem látunk ilyet a megnyilvánulásai között: valószínű, hogy deepfake áldozatai vagyunk – az elmúlt években ilyen példákat láthattunk a médiában. Ugyanígy, ha van egy videó, amely fennhangon hirdeti magáról, hogy egyedi, eddig eltitkolt vagy titkos felvétel, amely máshol nem található meg, de rendkívül nagy titkokat, meglepő állításokat tartalmaz, gyanakvásra ad okot, az információs társadalom világában a fontos eseményekről azonnal számtalan különböző forrás ad hírt. Elsődleges fegyverünk legyen a józan ész, és csak másodlagos a megfigyelés. Nem lehetetlen, hogy egyedi, sosem látott forrásból izgalmas tények derüljenek ki, ennek az esélye azonban jóval kisebb, mint az elterjedt deepfake jelenséggel való találkozás.
A cikk eredetileg az Új Médiakultúra Magazin 2023. őszi számában jelent meg. A magazin az alábbi link segítségével ingyenesen letölthető: