A jelenség hátterében egyrészt a programok hibái állhatnak, illetve az, hogy gyűlöletkelő, holokauszttagadó csoportok szándékosan arra használhatják fel ezeket a programokat, hogy olyan tartalmakat hozzanak létre, amelyek megkérdőjelezik a nácik által elkövetett rémtetteket.
Az UNESCO jelentése szerint az egyik legaggasztóbb perspektíva az, hogy a mesterséges intelligenciával létre lehet hozni úgynevezett deepfake tartalmakat a holokausztról: valódinak tűnő képeket és videókat, amelyek azt a benyomást kelthetik, hogy a holokauszt meg sem történt, vagy túlzók az arról szóló beszámolók. Mindez ahhoz vezethet, hogy az emberek nem fogják pontosan érteni a 20. század egyik kulcsfontosságú történelmi eseményét, és erősödhet az antiszemitizmus.
„Ha megengedjük azt, hogy a mesterséges intelligencia felelőtlen használata révén felhígítsák, eltorzítsák és meghamisítsák a holokauszt borzalmait, akkor azt kockáztatjuk, hogy robbanásszerűen fog terjedni az antiszemitizmus, és az emberek egyre kevésbé lesznek tisztában a nácik által elkövetett tömeggyilkosságok okaival és következményeivel” – figyelmeztetett közleményében Audrey Azoulay, az UNESCO főigazgatója.
A mesterséges intelligencia használata egyre nagyobb teret nyer az oktatásban, a kutatásban és az ismeretterjesztő írásokban, ami növeli a valószínűségét annak, hogy megbízhatatlan adatok és virtuális „hallucinációk” befolyásolják majd az emberek nézeteit a holokauszttal kapcsolatban, és téves értelmezéseket alakíthatnak ki. A szövegek, fotók, videók és hangok előállítására képes chatbotok, mint például a ChatGPT, akár ki is találhatnak olyan eseményeket a második világháborúval kapcsolatban, amelyek meg sem történtek. A jelentésben felidézték: volt már példa arra, hogy a ChatGPT „feltalált” egy minden történelmi alapot nélkülöző, teljes egészében kitalációnak tekinthető koncepciót, amely szerint a nácik a második világháború idején tömegesen vízbe fojtottak volna zsidó embereket.
A mesterséges intelligencia kedvez az összeesküvés-elméleteknek és a demokratikus kultúra leépülésének – jelentette ki Karel Fracapane, az UNESCO szakértője.
Az UNESCO a Zsidó Világkongresszussal együttműködve kidolgozott jelentésében felszólította a technológiai vállalatokat arra, hogy a mesterséges intelligencia fejlesztéséhez és felhasználásához fektessenek le olyan etikai szabályokat, amelyek csökkenthetik a megbízhatatlan információk terjedésének esélyét.
