Spręsti unikalius socialinio VR moderavimo iššūkius mastu

Socialinė VR iškelia moderavimo iššūkius į paviršių taip, kad ne VR pavadinimai dažnai išvengtų. Balsas, panardinimas ir labai socialinis dizainas padidina statymą, o ekonominė realybė taip pat apriboja saikingą aprėptį. Geros naujienos yra tai, kad duomenimis pagrįsti metodai rodo, kad yra kitas kelias.

Svečių straipsnis, Dr. George Ng

George’as yra vienas iš GGWP įkūrėjų ir CTO. Jis dirba su sistemomis, padedančiomis internetinėms bendruomenėms suprasti savo vartotojus, sumažinti toksiškumą ir mažėjimą bei dirbti kaip partneris, palaikantis tiesioginių operacijų komandas. Anksčiau jis buvo kibernetinės rizikos vertinimo platformos „Cyence“ įkūrėjas. Cyence’ą įsigijo „Guidewire Software“, kur jis ėjo vyriausiojo duomenų pareigūno pareigas. Dr. Ng buvo vyriausiasis Cray Supercomputer duomenų mokslininkas ir DARPA mokslininkas. Ng dėstė mašininį mokymąsi UC Berkeley, žaidimų teoriją Amerikos universitete ir ekonomiką UC Irvine.

Saikingumo iššūkiai socialinėje VR struktūriškai skiriasi nuo tradicinių plokščiaekranių žaidimų.

Žaisdami plokščiu ekranu, žaidėjai paprastai žaidžia iš pirmojo ar trečiojo asmens perspektyvos ir turi ribotas žaidėjo tarpusavio sąveikos galimybes dėl įvesties, pvz., žaidimų pulto, klaviatūros ir pelės, apribojimų. Balso ryšys dažnai yra suskaidytas tarp žaidėjų, kurie neturi mikrofono, ir tų, kurie apsiriboja vakarėlio pokalbiais ar išorinėmis balso platformomis, tokiomis kaip „Discord“.

Kita vertus, VR ausinės įkvepia žmones tiesiai į veikėjo vietą, o judesio valdikliai suteikia daug įvairesnių (ir galbūt invazinis) žaidėjų tarpusavio sąveikos priemonės. Ir kadangi visose VR ausinėse yra mikrofonas, atviras balso ryšys, kurį gali girdėti visi šalia esantys, yra labiau lūkestis, o ne išimtis.

Dėl šio veiksnių derinio socialinių VR erdvių moderavimas yra išskirtinis iššūkis. Rizikos paviršius yra didesnis ir lūkesčiai dėl saugumo didesni; tačiau dėl rinkos realijų biudžetas šiai problemai spręsti paprastai yra mažesnis.

Daugelyje socialinių VR pavadinimų incidentų duomenys rodo nuoseklų modelį: veiksmingas moderavimas nereikalauja nuolatinio stebėjimo. Tam reikia kryptingo dėmesio, pagrįsto rizikos signalais.

Kodėl VR yra nuosaikumo riba

Daugumoje socialinių VR žaidimų nėra praktiško teksto atsarginių dalių, todėl akivaizdus skirtumas, palyginti su kitomis internetinėmis bendruomenėmis, yra šioje erdvėje sukurtas balsas. Nemažai reikšmingos sąveikos žaidime vyksta balsu, o tai iškart padidina moderavimo išlaidas vienam vartotojui. Balso moderavimas reikalauja didesnių skaičiavimo, saugojimo ir peržiūros išlaidų nei teksto. Tai taip pat padidina emocinį intensyvumą, o tai sustiprina suvokiamą žalą, kai įvyksta incidentai.

Auditorijos sudėtis prideda dar vieną sluoksnį. Socialinės VR erdvės dažnai apima žaidėjus, turinčius labai skirtingą brandos ir patirties lygį, o tai gali padidinti impulsyvų elgesį ir ribų testavimą. Žaidėjai yra labiau linkę prisijungti, kai kas nors veikia, ir mažiau linkę šiuo metu susireguliuoti.

Tada yra pats dizainas. Socialinė sąveika per artimus pokalbius, atvirus lobius ir besiformuojantį grupės elgesį nėra šalutiniai ypatumai, jie yra visa patirties esmė. Skirtingai nei komandos šaudyklėje, kur balso pokalbiai palaiko rungtynes, socialinė sąveika socialinėse VR erdvėse yra pagrindinė priežastis, dėl kurios žmonės pasirodo.

Pajamos vienam vartotojui socialinėje VR yra žymiai mažesnės nei daugelyje žinomų žanrų, o saugumo lūkesčiai yra didesni. Rezultatas yra struktūrinis apribojimas: didelis sąveikos kiekis, didelis jautrumas ir ribotas moderavimo biudžetas.

Kodėl svarbu nustatyti rizika pagrįstą prioritetą

Įprastas instinktas yra manyti, kad vienintelis būdas apsaugoti žaidėjus yra viską stebėti. Visuotinis stebėjimas gali būti labai efektyvus, tačiau jis taip pat reikalauja daug išteklių. Praktiškai daugelis kūrėjų naudojasi daugiasluoksniais metodais, kurie derina platų aprėptį su rizika pagrįstu prioritetų nustatymu.

Iš kelių mūsų analizuotų VR žaidimų mažiau nei 1 % žaidėjų sudaro maždaug 28 % visų užfiksuotų incidentų. Šie modeliai nėra teoriniai. Jie stebimi kai kuriose didžiausiose šiandienos socialinėse VR bendruomenėse, įskaitant tokius pavadinimus kaip Gorilos žyma ir Gyvūnų kompanijakur socialinė sąveika ir balsas yra pagrindiniai žaidėjo patirties elementai.

Tai yra pasikartojantys blogiausi pažeidėjai, kurie vėl ir vėl sukuria problemų. Dauguma žaidėjų niekada negeneruoja vienos ataskaitos. Netgi tarp tų, kurie tai daro, daugelis nėra nuolat trikdantys.

Vienodas stebėjimas prisiima vienodą riziką. Praktiškai rizika yra labai koncentruota.

Kalbant apie mastą, nuosaikumas yra išteklių paskirstymo problema neapibrėžtumo sąlygomis. Tikslas yra ne maksimalus stebėjimas, o maksimalus ribinės žalos sumažinimas vienam stebėjimo vienetui.

Galite žymiai sumažinti bendrą žalą be bendros aprėpties, jei sutelksite dėmesį į nedidelę žaidėjų dalį ir situacijas, kurios lemia daugumą incidentų.

Pažangus mėginių ėmimas

Kitas modelis, kuris nuolat rodomas VR duomenyse, yra tai, kad labai mažai žaidėjų visada yra blogi. Vietoj to, daugelis jų yra blogai. Jie reaguoja į aplinkinius žmones ir eskaluoja, kai kas nors kitas peržengia ribą. Jie prisijungia, nes tuo momentu tai socialiai priimtina.

Tikslinė atranka žymiai padidina aptikimo efektyvumą, o tai reiškia, kad veiksmingos sistemos nustato prioritetus pagal signalus, kurie koreliuoja su rizika, o ne atsitiktinai klausosi fiksuoto procento seansų. Ankstesnio elgesio istorija yra viena įvestis. Seanso lygio kontekstas yra kitas. Kas yra vestibiulyje, kokio tipo erdvė yra ir kiek toli į sesiją žaidėjai yra svarbūs. Metaduomenys, pvz., pasikartojančios ataskaitos arba žinomų pažeidėjų telkimas, gali dar labiau paryškinti vaizdą.

Net kai pagal rizikos signalus pirmenybė teikiama tik seansų pogrupiui, gali atsirasti neproporcinga incidentų dalis. Apibendrinant keliose VR aplinkose, atrinkus maždaug 10 % seansų, naudojant pagal riziką pagrįstą prioritetų nustatymą, vidutiniškai nustatyta maždaug 52 % visų užfiksuotų incidentų. Tiksli proporcija svyruoja pagal pavadinimą ir mėnesį, tačiau platesnis modelis išlieka nuoseklus: rizika yra koncentruota. Kai aprėptis viršija bazinę liniją, aptikimo ir prevencijos rodikliai toliau didėja.

Kodėl tai ypač tinka VR

Rizika pagrįstas prioritetų nustatymas leidžia kūrėjams sutelkti vykdymą ten, kur žala yra didžiausia. Šis metodas pagerina įsikišimo greitį, o infrastruktūrą ir peržiūros darbo eigas tampa lengviau valdomos. Komandoms, kurios sparčiai plečiasi, tai gali žymiai pagerinti saugos aprėptį be netvaraus veiklos augimo. Lygiai taip pat svarbu, kad tai sumažina infrastruktūros sąnaudas ir sumažina suvokimą apie visuotinį stebėjimą, kuris gali pakenkti žaidėjų pasitikėjimui, jei nebus skaidriai valdomas.

Yra kompromisas, nes mėginių ėmimas nėra tobulas prevencijai realiuoju laiku. Jūs praleisite kai kuriuos incidentus, kai jie įvyks. Vietoj to jis išsiskiria atgrasymu ir laikui bėgant formuojančiu elgesiu. Daugelyje socialinių VR aplinkų atgrasymas ir išilginio elgesio formavimas yra svarbesni nei tobulas perėmimas realiuoju laiku.

Atgrasymas pranoksta visą aprėptį

Nuosaikinimo efektai susilpnėja, kai ataskaitos patvirtinamos, o rezultatai matomi arba bent jau socialiai suprantami. Kai žaidėjai tiki, kad vykdymas iš tikrųjų vyksta, elgesys pasikeičia. Net ir dalinis vykdymas gali reikšmingai sumažinti tolesnių incidentų skaičių.

Mes matėme, kaip ši dinamiška vyksta dideliuose socialiniuose VR pavadinimuose. Kai vykdymas tampa nuspėjamas, o pakartotiniai pažeidėjai susiduria su vis didėjančiomis pasekmėmis, bendras incidentų skaičius mažėja net ir be visuotinio stebėjimo.

VR, kur socialiniai ženklai ir reputacija greitai keliauja, atgrasymas gali būti galingesnis nei tobulas aptikimas.

Ką kūrėjai turėtų įvertinti ir siekti

Kūrėjams svarbu ne tai, kad nuosaikumas gali būti minimalus. Būtent nuosaikumas turi būti nukreiptas.

Ne kiekvienai komandai gali būti įmanoma visko klausytis. Investavimas į prioritetų nustatymo logiką, seanso lygio kontekstą ir aiškius pakartotinių pažeidėjų eskalavimo kelius paprastai duoda geresnių rezultatų. Sėkmės metrikoje pirmenybė turėtų būti teikiama incidentų koncentracijos mažinimui, pakartotiniam nusikaltėlių recidyvui ir žaidėjų praneštam saugumui, o ne neapdorotam aptikimo kiekiui.

Šie rodikliai parodo, kas žaidėjams iš tikrųjų rūpi, ir galiausiai veda į klestinčias internetines bendruomenes, kuriose žaidėjai jaučiasi pakankamai saugūs, kad galėtų pasirodyti, kalbėti ir likti.

– – – – –

Jei įmanoma, derindami visapusišką duomenų perdavimą su išmaniuoju prioritetų nustatymu ir kontekstiniais signalais, kūrėjai gali sumažinti plataus masto žalą nesiimdami beatodairiškos priežiūros.

Kūrėjams, kuriantiems socialines VR bendruomenes, kitas žingsnis – moderavimą traktuoti kaip tiesioginių paslaugų infrastruktūrą: mažos delsos, serverio pusės, apsaugotas nuo klastojimo sistemos, kurios gali apdoroti balso ir elgesio signalus realiuoju laiku, teikti pirmenybę didelės rizikos sesijoms ir palaikyti aiškias eskalavimo darbo eigas.

GGWP kuria moderavimo infrastruktūrą pagal šį modelį balsu, tekstu, grotuvų ataskaitomis ir kontekstiniais rizikos signalais. Kūrėjai, norintys padidinti socialinio VR saugą nepasitikėdami visuotine stebėjimu, gali sužinoti daugiau adresu GGWP.