Mintha úgy lennénk a deepfake-kel, mint Szent Ágoston az idővel: ha nem kérdezik, tudjuk, mi az, ha megkérdezik, akkor már nem. Pontosan mi a deepfake?
Digitális médiamanipulációt, módosított médiaterméket jelent. Kezdetben kifejezetten videós produktumokról volt szó, de mára a hangfelvételek, az úgynevezett hangklónozott felvételek is ebbe a körbe tartoznak. A kifejezés 2017-ből származik, egy Reddit-csoport használta először, amelyben ismert színésznők arcát montírozták felnőttfilmes szereplők fejére. Gyakorlatilag az egész csatorna ilyen jellegű pornográf felvételekkel volt tele, amelyekben megalázó helyzetekben ábrázolták a színésznőket.
A Reddit nem lépett túl gyorsan, csupán egy év után tiltotta le ezeket a tartalmakat.
Ez volt a deepfake első megjelenési formája, utána azonban felfedezték a felhasználók, hogy nem csupán e célra lehet használni: a deepfake megjelent a politikai kommunikációban, illetve a hétköznapi emberek életében is. Fontos, hogy nem csak az ismert embereket érinti ez a jelenség, mert ugyan róluk sokkal több a könnyen elérhető felvétel, a forrásanyag, de bárkiről készülhet deepfake-videó vagy hangfelvétel.
Meg tudjuk különböztetni a deepfake-et a valódi felvételektől? Nem feltétlenül a közösségi médiában terjedő videókra gondolok, hanem ahol tényleg súlya van: például egy bűnügyben bizonyítékként felhasznált videó esetében.
Sajnos nincsenek jó híreim. A kezdetleges deepfake-videókat – amelyeket szintén mesterséges intelligencia hozott létre – könnyedén észre lehetett venni, mert például nem volt szinkronban a kép és a hang. De 2017 óta nagyon sokat fejlődött a technika, és ma már egyre nehezebb megkülönböztetni a hamisítványt a valódi tartalmaktól.
Mi lehet ennek a fő oka? A hírverseny. Minden sajtóorgánum először szeretné a szenzációnak számító hírt feldolgozni, és saját felületén közzétenni. Többek között ez a gyorsaságra való törekvés írta felül a média klasszikus kapuőri szerepét: hogy alapos mérlegelés után eldöntse, mi valós és valótlan, illetve mi tarthat közérdeklődésre számot. Pedig a példában szereplő egy nagyon könnyen felismerhető deepfake-videó volt: nem mozgott a beszélő nyaka és teste, csak a feje fordult jobbra-balra, nagyon furcsán pislogott, illetve az ukrán kiejtés sem az elnöké volt.
Az akcentus egyébként érdekes kérdés, mert az egyik pénzügyi csalás során még ezt is felhasználták. Egy német pénzügyi vezető felhívta a cég angliai leányvállalatának igazgatóját, hogy utaljanak át egy nagyobb, kétszázezer dollár körüli összeget egy másik számlára. A telefonhívás azonban nem volt valódi, klónozták, ám kellőképpen hihető volt a beszélgetés, így az angol cégvezető átutalta az összeget. Amikor utólag megkérdezték, hogyhogy nem ismerte fel a hívás valótlanságát, azt mondta, a pénzügyi vezető németes akcentusát is sikerült a csalóknak utánozniuk. Itt tart mára a technológia.
Az interneten gyakori megoldás a biztonsági kérdés: például ha megadjuk, hogy hívták az első kutyánkat, akkor visszaállíthatjuk a jelszót ezzel az információval. Ez lenne a megoldás a deepfake ellen?
Hétköznapi emberként is fel kell készülnünk, hogy megtévesztő videókkal találkozhatunk. Tudatosítanunk kell, hogy a jelenség létezik, és ha elkezdünk egészségesen kételkedni az interneten látott tartalmakban, egy lépést már megtettünk a védekezés érdekében. Ha valami túlságosan szenzációszerű, mindig alaposan ellenőrizzük a hír igazságtartalmát. Hangsúlyozom az egészséges kétely szerepét, az is veszélyes lehet, ha minden tartalomban kételkedünk. És érdemes (főként az idős) szeretteinket is felkészíteni, hogy kaphatnak megtévesztő, hangklónozott telefonhívást. Szakértők azt szokták javasolni, hogy beszéljünk meg személyesen valamilyen jelszót, amelyet csak vészhelyzet esetén, annak jelzésére használunk.
Szervezeti kommunikációban, a sajtóban, illetve a bűnüldözés terén is fel kell készülni a megtévesztő videók felismerésére. Léteznek a feltárásra technológiai megoldások is, ezeknek a megbízhatósága azonban még nem túl jó, viszont folyamatosan dolgoznak ezek fejlesztésén.
Riasztó jövőképet vázolt fel. De miben más a deepfake, mint az álhírek megjelenése?
Nehezebb ellenőrizni. Olyan értelemben, hogy ha rákeresünk egy hír tartalmára, és nem találjuk meg más platformon, elkezdünk benne kételkedni. Eleve gyanús, ha valami csak egy helyen jelenik meg, és nem veszi át több médium. Ezzel szemben egy videót sokkal nehezebb ellenőrizni, ráadásul az azokat előállító botok nagyon sok helyre képesek eljuttatni a tartalmakat. Mindemellett pedig az audiovizuális tartalom jobban hat az emberekre a szövegnél.
Érdemes hozzátenni, hogy manapság sokkal több ember számára elérhetővé vált a mesterséges intelligenciával generált tartalmak létrehozása. Kezdetben a ChatGPT nyilvános verziója szöveggenerálásra szolgált, de ma már bárki képes többek között ezzel az eszközzel is nemcsak szöveget és állóképeket, hanem videós tartalmakat is létrehozni. Az ingyenes verzióval készült képek és videók viszonylag könnyen felismerhetők, de előfizetéssel kifejezetten jó minőségű (akár megtévesztő) tartalmat lehet létrehozni.
Néhány éve szenzációként jelentek meg a CGI-influenszerek, digitálisan kreált karakterek, akiknek olykor rengeteg követőjük van. Azt várták, hogy letarolják a piacot, mégsem így lett. Tudni lehet, hogy mi az, ami velünk marad az AI-ból, és mi az, ami most csak az újszerűsége miatt izgalmas?
Maga a technológia lesz velünk. Például egy film forgatásakor sok lépcsőben bekapcsolható az AI, emlékezhetünk tavaly nyáron a forgatókönyvírók hollywoodi sztrájkjára. Amiatt szüntették be a munkát, mert a nagy stúdiók AI-t vetettek be a helyettesítésükre. Az ember-gép háborúban (ahogy ezt a folyamatot erős túlzással emlegetni szokták) ezt a csatát az emberiség nyerte, mert a stúdiók beleegyeztek abba a megállapodásba, hogy nem használhatnak AI-t a forgatókönyvek készítése során, és a forgatókönyvírók szövegeit sem használják a mesterséges intelligencia trenírozására, viszont a forgatókönyvírók önszántukból igénybe vehetik az AI segítségét.
De nemcsak a forgatókönyvírásban van jelen a mesterséges intelligencia, hanem a produkciós folyamatban is. Több külföldi kutatótársam is azzal foglalkozik, hogy hogyan lehet a filmgyártás folyamatát az első lépéstől az utómunkáig teljes mértékben az AI segítségével megvalósítani. Ez nem egy múló jelenség, egyre inkább az életünk része lesz.
Deepfake- és CGI-influenszerek is léteznek. A nem is kevés követőjük – a kommentek és egyes kutatások alapján – akár valódi érzelmeket táplálnak irántuk. Valóban nem vették át teljesen a piacot a CGI-influenszerek, ám jelentős bevételre tesznek szert. Milyen előnyeik vannak az emberi szereplőkhöz képest? Egy mesterséges influenszer soha nem fáradt, nincsenek magánéleti problémái, nem lepleződhet le, hogy mást mutat a digitális világban, mint amilyen a valós élete. Ez tehát még hatalmas nyitott és folyamatosan változó piacot jelent.
Milyen hatásai lesznek a politikára? Végül is bárki generálhat bármilyen, saját vagy csoportja világnézetének megfelelő valóságot. Még inkább széthúzhatnak az ellentétes nézeteket vallók?
Elképzelhető (amint néhány éve egy kaliforniai választáskor történt), hogy jogszabályba foglalják a választások során, hogy a politikai ellenfelek nem készíthetnek deepfake-et egymásról. Amikor valamit jogszabályba kell foglalni, az azt jelenti, arra már történt precedens. Említhetünk egy másik esetet. Indiában sok nyelven beszélnek, a politikusok célja pedig minél több ember elérése, lehetőleg a választók saját anyanyelvén. Ezért egy indiai politikus mesterséges intelligenciával klónoztatta a saját hangját, és különböző nyelveken mondta el ugyanazt a kampányszöveget. Az AI meg fogja változtatni a politikai kommunikációt, hacsak ez nem történt már meg.
Ön mitől tart az AI kapcsán?
Az álhírek, a digitális felületekkel támogatott összeesküvés-elméletek és a megtévesztő videók megváltoztatták a nyilvános kommunikációt, és ez minden bizonnyal még inkább erősödni fog. Ne is emlegessük itt azt a disztópikus jövőképet, amely szerint a takarékossági okokból bevetett AI átveszi az irányítást a rábízott közművek (vízellátás, elektromosság) felett. Hasonló riasztó forgatókönyvekről sokat lehet olvasni, de kommunikációkutatóként elsősorban a tájékozódást érintő témákkal foglalkozom.
Mi az, amiről már most tudni, hogy bekövetkezik az AI kapcsán a közeljövőben?
Friss fejlemény az AI-ügynökök nyilvánosságra hozatala. Ezek az ember helyett különböző, akár komplexebb feladatokat képesek elvégezni. Például az élelmiszer-vásárlási szokásaink vagy az elkészítendő étel receptje alapján online bevásárolnak, esetleg egy utazás megtervezésekor kiválasztják a megadott paraméterek szerint optimális utazási módot, lefoglalják a szállást, és összeállítják a programjavaslatot. A jelenleg is elérhető, „készíts egy videót” vagy „írd meg a felmondólevelem” feladatok után a következő szintet az összetettebb feladatokra is alkalmas AI-ügynökök jelentik. Eljutottunk ebbe a korba, és sokkal gyorsabban, mint ahogy a futurológusok jósolták.
Forrás és fotó: Magyar Kultúra magazin
