Részletesen

A deepfake azokat az eljárásokat és termékeiket jelenti, amelyek mesterséges intelligencia segítségével mozgóképes vagy hangzó alapanyagból valósághű, de manipulált mozgóképet, illetve hangot állítanak elő. A kész anyagok képesek valós eseményként mutatni olyasmit, ami nem történt meg, ennek pedig kiszámíthatatlan következményei lehetnek.

A technológia működését a következőképpen lehet elképzelni. Egy algoritmust megtanítanak arra egy nagy adatbázison, hogy hogyan néz ki egy ember arca különböző szögekből, különböző megvilágításban, eltérő beszédhelyzetekben. Ezt az algoritmust pedig arra használják fel, hogy vagy egy másik videón szereplő arc helyére montírozza a szereplő fejét. Esetleg a szájmozgását alakítsa át egy felvételnek úgy, hogy a valóságban ki nem mondott szavakat mondjon el. Azaz a technológia lehetővé teszi egy hamis nyilatkozat vagy akár egy hamis házi pornóvideó létrehozását is.

Pornó és politika

A közvélemény a technológiának elsősorban azt az alkalmazási formáját ismeri, amikor pornográf videók szereplőinek arcát cserélik le celebekére (deepfake porn). Hasonló visszaélésnek nem közismert emberek is áldozatul eshetnek, az ilyen hamis videók a bosszúpornó sajátos eseteiként működhetnek. Akár celebet, akár közembert érint a támadás, a hamis videó súlyosan sérti az áldozat méltóságát, rombolja reputációját.

A deepfake-hez kapcsolódó félelem, hogy az eszközt felhasználják politikai dezinformációra is. A módszer alkalmas egy hamis beszéd létrehozására. Ugyanakkor egyelőre még kampányban senki nem élt ilyen eszközzel. Egy olasz politikai paródiaműsor azonban már állított elő politikai deepfake-et Matteo Renzi olasz politikusról.

A deepfake a közösségi médiában terjed, ami a szolgáltatókat is viszonyulásuk megfogalmazására kényszeríti. A Reddit és a Twitter már tiltja oldalain a deepfake videók terjesztését, sőt a pornográf videómegosztó Pornhub is, bár utóbbi kritikusai szerint a tiltásnak nem szerez érvényt.

Már nem játék

Nemrég ismertté vált az első valóságos bűncselekmény, egy csalás is, amelyet deepfake hanggal hajtottak végre. Egy üzletembert külföldi partnere telefonon kérte egy pénzügyi átutalásra. A tranzakció megtörtént, ám utóbb kiderült, hogy a partner hangja számítógéppel generált utánzat volt.

A deepfake korában különösen fontos, hogy tisztában legyünk az óvatos tényellenőrzés fogásaival, és kritikai szemlélettel közelítsünk a médiatartalmakhoz és forrásaikhoz.

Nem csak csalás, vagy ámítás

A multimédiás, elsősorban vizuális anyagok manipulálásának lehetőségeit a tudomány is kutatja, és a rosszhiszemű felhasználásokon túl izgalmas eszközei lehetnek a művészi kísérletezésnek is. A képalkotásra képes gépi tanulás életre keltheti a múlt mozihőseit, és általában is tovább növelheti a filmképi trükkök játékterét. A pontosan szimulált hang automatizálhatja a szinkront, megkönnyítheti a régi hangfelvételek javításait, de fejlesztheti a látássérülteket segítő felolvasó eszközök hangzó képességeit is.

Van 10 perced?

Mélyedj el a témában szakértőnkkel!

Miről beszélgessünk gyermekünkkel, mire figyeljünk, mielőtt regisztrál a közösségi médiában?

Novák Adrienn, szakmai koordinátor, Bűvösvölgy

Elolvasom