Deepfake: A digitális manipuláció új korszaka

• Fóris Alexandragyermekvédelmi elemző, pszichológus

• Olvasási idő:

  6 perc

  Közzétéve:

  2025. március 18.

A technológia fejlődésével a „hiszem, ha látom” mondás új értelmet nyert, hiszen jól tudjuk, hogy az online térben ez nem mindig igaz. A mesterséges intelligencia egyik legújabb és legmeghatározóbb alkalmazási területe az ún. deepfake technológia, amely a képek és hangok manipulálásával komoly hatást gyakorolhat a társadalomra. Ez az eljárás a félrevezetés és az adatmanipuláció új szintjét képviseli, és jelentős etikai és biztonsági kérdéseket vet fel. Ezekrőlérdemes minél többet megtudni, ha gyermekeinket és saját magunkat is biztonságban szeretnénk tudni az online térben. Ugyanis az interneten fellelhető veszélyforrások nemcsak a saját-, illetve gyermekeink személyes adatait veszélyeztethetik, hanem közvetve hatással lehetnek a mentális egészségre, az érzelmi fejlődésre, és a szociális kapcsolatokra egyaránt.

Ugyanakkor nem beszélhetünk csak a negatívumokról, számos pozitív hozadéka is van a deepfake technológia fejlődésének. Ismerjük hát meg jobban!

Hogyan működik a deepfake technológia?

A "deepfake" kifejezés a "deep learning" (mélytanulás) és a "fake" (hamis) szavak kombinációjából származik. A technológia részletekbe menően elemzi a képeket, videókat és hangokat majd az így nyert információkat felhasználva képes új, élethű, de hamis tartalmak generálására. Ennek során az algoritmus az adott személy arckifejezéseit, mimikáját és beszédstílusát először modellezi, majd ezeket beépíti egy mesterségesen létrehozott tartalomba. Több típusát is megkülönböztetjük, az egyik legismertebb a videós deepfake, amikor egy személy arcát egy másik személy arcára cserélik egy videóban, de egy adott hang leklónozása is ide sorolható. A deepfake tartalmak felismerése egyre nagyobb kihívást jelent, hiszen a háttérben működő algoritmusok egyre pontosabbak, és addig finomítják a kimeneteket, amíg az emberi szem számára szinte felismerhetetlenné válik, hogy mesterségesen létrehozott felvételről van szó. Ez bizonyos esetekben nem probléma, sőt szinte várt fejlődési ütem., ugyanis a deepfake technológia alkalmazási területei rendkívül sokrétűek. A film-és szórakoztatóipar főként színészek digitális fiatalítására, elhunyt művészek rekonstruálására, valamint vizuális effektusok fejlesztésére használja, míg az oktatás területén lehetővé teszi a híres történelmi személyiségek hiteles ábrázolását. A játékfejlesztésben az interaktív karakterek létrehozásához és a valósághűbb játékélmény biztosításához használják.

A pozitívumok mellett meg kell említenünk a deepfake technológia potenciális veszélyeit is. A deepfake technológia nem megfelelő kezekben lehetőséget ad bizonyos tartalmak manipulálására, amelyek visszaéléseket is lehetővé tesznek. Lehetőséget teremthet a közvélemény befolyásolására azáltal, hogy politikai beszédeket vagy nyilatkozatokat hamisítanak a segítségével, de használják kibertámadások és adathalászat végrehajtásához, vagy éppen a hamisított audiovizuális anyagok révén egyének vagy közszereplők hitelének rontásához. Továbbá érdemes megemlítenünk, hogy az interneten fellelhető deepfake videók 96 %-ának van valamilyen szexuális vonatkozása, és ábrázol olyan - többnyire kiskorú - lányokat, akik nem egyeztek bele a tartalom előállításába. Ezek súlyos adatvédelmi, jogi és etikai aggályokat vetnek fel, valamint a tartalmak cyberbullying eszközeként is felhasználhatók, tovább növelve az online bántalmazás áldozatainak számát.

Hogyan ismerhető fel a deepfake tartalom?

Bár a deepfake egyre kifinomultabbá válik, léteznek olyan jelek, amelyek alapján azonosítható egy manipulált tartalom. Az alábbiakban felsoroltunk néhány tanácsot, ami (a cikkünk írásakor még jellemzően igazak, de rendkívül gyorsan fejlődik a technika) segíthet felismerni, ha hamisított tartalommal találkozol:

Szemmozgás és pislogás – A mesterséges intelligencia gyakran nehezen modellezi a természetes szemmozgásokat, néha túl lassú vagy túl gyors a megjelenítés.

Bőrhibák és bőrtextúra– A mesterségesen generált arcoknál előfordulhat, hogy túl sima a bőr, hiányoznak a természetes ráncok, vagy a bőr textúrája túlságosan mesterségesnek tűnik.

Beszédhang és szinkronizációs problémák – Az elhangzott beszéd és a szájmozgás eltérései gyanúsak lehetnek.

Hogyan védekezhetünk a deepfake tartalmakkal szemben?

Legyünk kritikusak az online tartalmakkal: ha egy videó túl megdöbbentő vagy különös, vagy egy ismert személy valami tőle teljesen szokatlant, egymásnak ellentmondásos információkat mond, érdemes leellenőrizni több forrásból is.

Fordítsunk fokozott figyelmet az online térben megosztott adatainkra!

Kövessük nyomon az aktuális technológiai megoldásokat: bár a deepfake technológia folyamatosan fejlődik, vannak programok, amelyek képesek felismerni a hamisított tartalmakat (pl. Sensity AI, Deepware Scanner, Microsoft Video Authenticator).

A deepfake egy rendkívül fejlett, mesterséges intelligencián alapuló technológia, amelyet lehet szórakoztató és kreatív célokra is használni, de komoly visszaélésekre is lehetőséget ad. Ennek megelőzése érdekében az olyan óriás tartalom- és videómegosztó oldalak, mint például a YouTube vagy a Facebook folyamatosan dolgoznak olyan fejlesztéseken, amelyek lehetővé teszik a deepfake tartalmak gyors azonosítását és eltávolítását, ugyanakkor a felhasználók egyéni felelősségét soha nem szabad elfelejteni, hiszen kritikai gondolkodással és forrásellenőrzéssel csökkenthető a manipulációk társadalomra gyakorolt hatása.

Amint látjuk, a deepfake rendkívül összetett, és sok esetben nehezen megfogható jelenség, ugyanakkor mégis érdemes gyermekeinkkel beszélgetni róla, hiszen a mindennapi online jelenlétük során egyre gyakrabban találkozhatnak ilyen tartalmakkal. Összeszedtünk néhány gyakorlati tanácsot, amely segíthet beszélgetést kezdeményezni a gyerekekkel a témában:  

• Vizsgáljatok meg együtt egy deepfake videót, képet vagy hanganyagot! Azonosítsátok azokat a pontokat, amik alapján felismerhető (akár figyelembe véve a cikkben kifejtett szempontokat), hogy ezek nem valódi felvételek!
• Próbáljatok ki valamilyen deepfake tartalmakat felismerő programot, tanítsd meg gyermekedet a használatára (pl. Sensity AI, Deepware Scanner, Microsoft Video Authenticator). Ez nemcsak jó közös program lehet, hanem kiváló alkalom a közös tanulásra. 
• Beszéljétek meg, hogy nem minden tartalom valódi, amivel az online térben találkozik, a deepfake tartalmak mögött sok esetben manipulációs szándék húzódik meg!
• Hívd fel a figyelmét arra, hogy tájékozódjon több forrásból, ha elbizonytalanodik egy információ, hír hitelességén, különös tekintettel, ha valamilyen audiovizuális tartalommal is párosul.
• Fontos érzékeltetni azt is, hogy a deepfake technológiát nemcsak negatív dolgokra lehet használni, nagyon sok pozitív hozadéka is van a fejlődésének: nézzetek meg együtt egy olyan filmet, történelmi összefoglalókat, amelyekben egy elhunyt színészt vagy történelmi alakot modelleztek, és jelenítettek meg a segítségével.
• A személyes adatok védelmének fontosságát nem lehet elégszer hangsúlyozni, nézzétek meg közösen, milyen személyes adatot osztotok meg általában magatokról az online térben, vizsgáljátok meg a digitális lábnyomotokat, és azt, hogy az milyen potenciális veszélyforrást rejt magában.