A mesterséges intelligencia dönti el, mi a tiltott, tűrt és támogatott
Már félmillió magyart korlátozhatott a Facebook, miközben az online óriásplatformok tartalom- és fiókmoderálási szabályai gyakorlatilag átláthatatlanok – egyebek mellett erre mutatott rá egy, a Nemzeti Média- és Hírközlési Hatóság (NMHH) megbízásából készült friss tanulmány. A kutatás a Facebook és a YouTube vonatkozó gyakorlatát és szabályzatait elemezve azt vizsgálta, hogyan korlátozzák a nagy platformszolgáltatók a felhasználókat.
A tanulmány szerzője – adja hírül az NMHH közleménye –, Ződi Zsolt arra is rávilágít, hogy az online platformok havi szinten több millió szankcionáló döntést hoznak mesterséges intelligencia segítségével, amelyeknek aztán általában a felülvizsgálatát sem valós emberek végzik.
A közlemény kiemeli, hogy az Európai Unió digitális szolgáltatásokról szóló rendelete (DSA) értelmében ma már minden online óriásplatformnak számot kell adnia a moderációs döntéseiről. Ennek nyomán kiderült, hogy naponta százezres nagyságrendű, havi szinten pedig több millió korlátozó döntést hoznak, jellemzően mesterséges intelligencia segítségével. A döntésekre azonban, húzzák alá, általában nem adnak érdemi magyarázatot vagy indoklást, így
Az érintetteknek ugyan lehetőségük van kifogásolni a platformszolgáltatók lépéseit, sérelmükről azonban általában szintén mesterséges intelligencia határoz, amelytől nehezen várható, hogy felülbírálja az eredeti döntést. Az érdemi panaszkezelés, illetve a korlátozott tartalmak vagy fiókok helyreállítása így ma már egyre ritkább.
A tanulmány kiemeli, hogy megnehezíti a felhasználók eligazodását a platformok szabályzatainak rendezetlensége is. Ezeket a szolgáltatók ugyanis nem foglalják egyetlen, jól átlátható dokumentumba, a kisebb részterületeket érintő szabályzataik pedig sokszor logikátlanul csoportosítják az egyes szabálysértéseket.
A kutatás felhívja a figyelmet arra, hogy
A YouTube például az általános szerződési feltételeiben lefekteti, hogy nemcsak a kifejezetten jogellenes vagy szabályzatellenes tartalmakat távolíthatja el, hanem bármit, ami „kárt okozhat” a platformnak. A szolgáltatók legnagyobb részt a spamként azonosított tartalmakat, illetve a hamisnak vélt fiókokat moderálják, azonban százezres nagyságrendben hoznak korlátozó döntéseket a szólásszabadságot érdemben érintő gyűlöletbeszéd és dezinformáció tekintetében is.
Mint írják, a tanulmány vizsgálta az érintett platformszolgáltatók magyar felhasználókkal szembeni korlátozó gyakorlatát is, külön vizsgálva a tiltásokat és az árnyéktiltásokat. Előbbi esetekben a szolgáltató értesítést küld a moderációról, utóbbiakban azonban a felhasználó tudta nélkül alkalmaz korlátozást, például nem jeleníti meg egy-egy bejegyzését más felhasználók hírfolyamában.
Az NMHH közleménye kitér arra, hogy az óriásplatformok nem közölnek országokra lebontott adatokat a moderálási gyakorlatukról,
Ez ötszázalékos emelkedést jelent a korábbi évek eredményeihez képest.
Az érintett felhasználók felét már többször is elérte korlátozó intézkedés, negyedüknek pedig volt, hogy a fiókját is felfüggesztette a szolgáltató. Harmaduk kifejezetten kérte már korlátozó intézkedés feloldását, de 2024-ben a korlátozott tartalmak csupán egytizedét állította helyre a platform. A 2020-ban publikált felmérésben ez az arány jóval nagyobb volt, a szolgáltató ekkor még a felfüggesztett tartalmak mintegy egyötödét helyreállította. Ennek oka elsősorban az lehet, hogy a platformszolgáltatók már a panaszok kezelését is egyre inkább mesterséges intelligenciákra bízzák.
A tanulmány rámutat, hogy fontos lenne, ha a jövőben a felhasználók valóban érdemi magyarázatot kaphatnának a platformoktól, amennyiben korlátozás éri őket. Kiemeli azt is, hogy a digitalizált világban ma már megkerülhetetlen óriásplatformoknak a jelenleginél jóval szélesebb körben kellene biztosítaniuk az emberi ügyintézőhöz fordulás lehetőségét, ehhez pedig nagyságrendekkel több munkatársat kellene alkalmazniuk.
