Cikkajánló-összefoglaló az internetes moderációról.
Leginkább fordítás, összegzés, kevésbé személyes vélemény és kutatómunka az alábbi írás, továbbá eléggé USA-centrikus. Ha időközben vagy hamarosan feldolgozza a témát valamelyik nagyobb magyar oldal, annak csak örülni fogok, de érdekesnek találtam annyira, hogy megírjam ezt a szöveget. Remélem, hogy komolyabb félreértelmezésektől, hangsúlyeltolódásoktól mentesre sikerült, és valami újat mond annak, akinek nincs lehetősége elolvasni a közel tízezer szavas, angol nyelvű cikket, amelyet egyébként látványos illusztrációk díszítenek.
Megjegyzés: sem az eredeti cikk, sem ez az összefoglaló nem tárgyalja azt a nagyon is aktuális kérdést, hogy a sértődöttség sokak szerint kezd átesni a képzeletbeli ló túloldalára, és azt is nemkívánatosnak tekintik egyesek, ami valójában bőven a bántáson és a nyugalom megzavarásán innen található. Ezek nélkül a kérdéses esetek nélkül is éppen elég durva és egyértelműen jogsértő tartalom kerül fel az internetre.
A cenzúrát kiáltó Széles Gáborok és kommentelők miatt felelősségre vont weboldalak országában kicsit más a helyzet, mint a világ egyéb tájain, de az tény, hogy ismerjük a netes cenzúra és szólásszabadság problematikáját. A cikk egy személyes vonalra fűzi fel a témát egy sokat látott és tapasztalt interjúalanynak, Julie Mora-Blanco-nak köszönhetően. Mora-Blanco vágya az volt, hogy hair stylist* legyen, de a képzéshez pénzre volt szüksége, egy elég nagy kanyar után jutott el oda, hogy álmát elkezdhesse megvalósítani. Minket most az érdekel, ami addig történt, amíg pénzt gyűjtött.
* Kommentben várom a helyes fordítást.
Az emberek a “jelentem”-gomb mögött
Mora-Blanco a YouTube-nál kezdte moderátori pályafutását 2006-ban. Akkoriban összesen tízen, 4-6 fős csapatokban dolgoztak a sértő tartalmak elbírálásán. Komolyabb irányelvek nélkül történt a moderáció, egyetlen lapon, egy felsorolásban elfértek az eltávolítandó tartalmak: állatkínzás, vér, meztelenség, pornográfia és hasonlók. Ezek a listák persze folyamatosan növekedtek, többoldalassá váltak, de nem nehéz belegondolni abba, hogy teljesek sosem lesznek.
És ezeket a listákból irányelvekké kinőtt dokumentumokat jelentős részben ma is emberek alkalmazzák. Egy talán túlzó, de a helyzet komolyságát azért jelző becslés szerint a Facebook alkalmazottainak egyharmada moderálással foglalkozik. A napi egymillió sértőként jelentett tartalom mindenképpen komoly informatikai és humán hátteret feltételez. Miután a gépek lelkivilágáról sokat nem tudunk, foglalkozzunk az emberekkel. Azokkal, akik munkájuk során elképesztő szörnyűségeket látnak, és emiatt komoly traumákat élnek át, amelyek feldolgozásához kétségkívül szakemberekre van szükség. Bizonyos szempontból olyan ez a feladat, mint a harmadik világba exportált hulladék feldolgozása.
Szervezetileg sokszor a moderátorok elkülönülnek a cégek többi részlegétől, és a moderáció kisebb prioritást élvez, mint más területek. Még ott is, ahol komolyabb szerepet tulajdonítanak neki, hiányoznak, vagy egészen a közelmúltig hiányoztak a megfelelő eszközök és a vállalaton belüli együttműködés a részlegek között. A vezetők pedig szinte sosem szembesülnek a szörnyűségekkel, amelyeket nap, mint nap átélnek a moderátorok. A menedzserek leginkább csak speciális esetekben foglalkoznak a moderációval, és sok esetben magával a folyamattal sincsenek tisztában, és akkor is legtöbbször a moderátoroknak inkább csak körülírniuk kell, nem megmutatniuk azt a rémséget, amit láttak. Az egyik interjúalany, Joi Podgorny szerint könnyű ódákat zengeni a szólásszabadság védelméről, ha az ember nem látja, mi mindent tesznek közzé a felhasználók.
Gyomortáji érzések, és a legnagyobb moderátor
Kultúrától, vérmérséklettől és számtalan további tényezőtől függ, hogy valaki a hasát fogja a nevetéstől, vagy éppen elhányja magát egy adott internetes tartalom hatására. A különféle közösségi és más netes felületek üzemeltetőinek nem egyszerű az érzelmek és érzületek érzékeny egyensúlyában rendet vágni. Olyan kérdések merülnek fel, hogy miért kellett eltávolítani a mexikói drogháborúhoz kapcsolódó, erőszakot bemutató videókat, miközben ugyanez nem történt meg szíriai és orosz videókkal. A YouTube például külön belső szabályt hozott létre arról, hogy komoly hírérték esetén az erőszaknak is helye van az oldalon, igaz az ilyen tartalom esetén figyelmeztetni kell a felhasználókat mielőtt megtekinthetnék azt.
Hogy ne csak erőszakról legyen szó, egy fedetlen váll különböző kultúrákban mást és mást jelent, ráadásul komoly politikai tartalma is lehet, de fenyegetett már perrel a brazil kormány egy 1909-ben készült, félmeztelen bennszülött nőt ábrázoló fotó kimoderálása ellen tiltakozva, hogy a fekete nők jogaiért küzdő Say Her Name mozgalom eltávolított fotóiról ne is beszéljünk, pedig ott sincs vége a dolgok fokozhatóságának. Különös gondot jelent a kontextus is, főleg, ha a közösségi médián kívüli eseményekből értelmezhető csak egyes tartalmak egy magánszemélyt inzultáló volta – a cikk egy a munkahelyén zöld ruhában megjelenő nőt hoz példaként, akinek aztán az üzenőfalát ellepik a zöld békás fotók. Vajon neki ezt el kell tűrnie, és egyáltalán tehet bármit is a közösségi felület moderátora? És mi van akkor, amikor majdnem ugyanaz a tartalom már nem vicces, hanem sértő, és mikor, mitől válik sértővé?
És, hogy ki dönt arról, hogy mi a sértő? A cikk szerzői által megkérdezett szakértők szerint a felhasználók sok esetben nincsenek is tisztában azzal, hogy mekkora szerepet játszanak abban, hogy mi jelenik meg az oldalon. Holott eleve ők generálják a tartalmat, ők maguk adják adataik, szokásaik, viselkedésük révén a platform üzleti értékét, és ők jelentik a moderálás egyik első fokozatát azzal, hogy jelentik a számukra sértő, nem megfelelő tartalmakat, nélkülük jelenleg a rendszer egyáltalán nem működne. Persze vissza is lehet élni ezzel a hatalommal, sokan meg is teszik, gondoljunk csak a számos esetre, amikor komolyabb ok nélkül tűntek el Facebook-oldalak azért, mert valakinek szúrták a szemét.
Érdekek
Az USA-ban a jogszabályban lefektetett alapelv szerint a netes szolgáltatások üzemeltetői nem felelnek a felületeiken megjelenő mások által közzétett tartalmakért. Kivéve persze az olyan, szövetségi törvények által tiltott tartalmakat, mint például és kiemelten a gyermekpornográfia. (Közben Magyarországon a fene tudja, hogy ki miért felelős.) Ahhoz képest, hogy mennyi szabály vonatkozik rájuk, a különféle webes platformok szinte jogalkotói és -alkalmazói szerepet töltenek be azzal, hogy meghatározzák, mit szabad és mit nem. Egy internetes szólásszabadsággal foglalkozó jogászprofesszor, Jeffrey Rosen korábban azt írta, hogy jelenleg a magánvállalkozások által üzemeltetett platformoknak sokkal nagyobb hatalma van annak eldöntésében, hogy ki szólalhat meg és kinek hallható a hangja világszerte, mint bármilyen kormánynak, uralkodónak.
Mégis, a szabályok, amelyeket megalkotnak, javarészt titkosak, a folyamatok, amelyek alapján alkalmazzák őket, pedig nem átláthatóak. A YouTube hírértékről szóló szabálya például egy nap alatt született. Amikor Magyarországon egy nap alatt születik egy komoly döntés, akkor diktatúrát kiáltunk, de akár örülhetünk is, hogy legalább megválasztott képviselők hozzák a döntést. Amikor egy forradalmat vagy hasonló ívű eseményt befolyásolni képes tartalomról van szó, komoly felelősség az, hogy sokáig agyal-e felület üzemeltetője. Súlyos kérdés az is, hogy egyáltalán szabadna-e ilyen döntést hoznia, főleg az események kellős közepén.
A titkolózásnak és az átláthatóság hiányának persze számos oka van. Az okok között szerepel, hogy:
- a komoly értéket képviselő megoldásaikat titokban akarják tartani a cégek,
- illetve azzal, hogy nem hozzák nyilvánosságra az elveket, a jogi felelősségre vonás alól is kibújnak,
- továbbá meg tudják tartani a lehetőséget arra, hogy a gyorsan változó szituációkhoz, új, eddig általuk nem ismert jelenségekhez komolyabb kötöttségek nélkül alkalmazkodjanak,
- valamelyest védik egyúttal a moderátorokat is a közvéleménytől,
- és a szabályokat kijátszani próbálók feladata is nehezebbé válik a szabályok titkossága miatt.
A rejtőzködés ellenére folynak egyeztetések különféle civil szervezetekkel, de ezek nem kapnak (vagy kaphatnak) kellő nyilvánosságot. És azt sem szabad elfelejteni, hogy a moderálás nem ugyanúgy érdeke minden platformnak. Jellemzően a frissen alakult szolgáltatások a növekedéssel foglalkoznak először, és leginkább akkor veszik a fáradságot, amikor a bevételeiket érzékenyen érinti a szabályozatlan tartalom. Az internet segglyukaként ismert /b/ a 4chan nevű oldalon szélsőséges példája a mérethez és hatáshoz képest elenyésző, javarészt önkéntes moderálásnak, de a szalonképesebb Reddit hozzáállása a tartalmak szűréséhez szintén megkérdőjelezhető. Ráadásul üldözték már el egy CEO-ját a felhasználók (a 444 cikke). Persze nem teljesen fekete vagy fehér az eset, de mindenképpen elgondolkodtató. Az oldal felhasználóinak jelentős része elégedetlen a különféle sértő tartalmak jelenléte miatt, míg mások a szólásszabadságot féltik, miközben a vezetőség láthatóan egymásnak ellentmondó nyilatkozatokat és lépéseket tett eddig. Arról pedig ne feledkezzünk meg, hogy nemcsak a tartalmak eltávolításával avatkozhat bele nem kívánt módon egy szolgáltató abba, hogy milyen tartalom kerül a felhasználó elé, elég, ha a Facebook kísérletezgetésére gondolunk.
Merre haladnak az események?
A moderációs automatizmusok, algoritmusok jelentős fejlődésen estek át, sőt, már az nagy szó, hogy léteznek. Az internet vezető cégei pedig egyre nagyobb figyelmet fordítanak a moderáció kérdéskörének, és nem csak a kommunikációjukban, hanem ténylegesen is megvalósítják a különféle szervezeti egységek (jog, PR, stb.) együttműködését a probléma kezelésében. Az is tény, hogy elképesztő mértékben nő a témával kapcsolatos ismeretanyag, jelentős a tudományos érdeklődés is. Van, aki már eleve ezen a területen végzi doktori tanulmányait, de azt még senki sem tudhatja, hogy mi lesz a végeredmény, vagy, hogy egyáltalán lehet-e tartós eredményt elérni további sérelmek nélkül. A cikkben a fent láthatónál nagyobb szerepet kapott, és munkahelyein egészen komoly pozícióba került Mora-Blanco mindenképpen érdekes korszakban hagyta ott a moderációs pályát. Az már a kétezres évek óta látszik, hogy a szabad internet, avagy az, hogy a net egy különálló világ, inkább mítosz, mint valóság, de vajon mennyit veszítünk a net által elhozott, ma élő ember által valószínűleg korábban nem látott szabadságból?