Mielipide: Onko Metan turvallisuusvalvontajärjestelmä rikki?

Lähes jokainen sisällöntuottaja tai aktiivinen sosiaalisen median hallinnoija on kohdannut saman ongelman lähiaikoina Facebookissa tai Instagramissa: julkaisu tai tili on kielletty, todennäköisesti vääristä syistä.

Tämä ärsyttävä tilanne on vain osa monimutkaisen ongelman palapeliä, joka liittyy Metan sisällönsäätelyjärjestelmään. Vaikka Meta näyttää olevan monia valvontatoimenpiteitä – joskus absurdin – ongelman ydin ei näytä ratkeavan.

Viime kuukausien aikana Meta on esitellyt lukuisia päivityksiä sisältöohjeisiinsa ja pannut täytäntöön tiukempia sääntöjä, joiden tavoitteena on rakentaa terveellisempi online-ympäristö. Yhtenä seurauksena monia yrityksiä, julkaisijoita ja käyttäjätilejä on kielletty, mikä on johtanut satoihin valituksiin foorumeilla, chat-alustoilla ja sosiaalisen median kanavissa. Useita uutisjulkaisijoita ja brändejä poistettiin Metan alustoilta tietyillä alueilla tänä vuonna, mikä herätti huolta yritysten omistajien, toimittajien ja sisällöntuottajien keskuudessa.

Huolimatta Metan viimeisimmistä päivityksistä, jotka antavat vaikutelman tiukemmasta moderoinnista ja sisällön tarkemmasta tarkastelusta sen alustoilla, huumeisiin, itsemurhaan, seksuaaliseen häirintään, kiusaamiseen, vihapuheeseen, väärinkäyttöön ja valeuutisiin liittyvät julkaisut pääsevät edelleen läpi algoritmien, tavoittaen haavoittuvia yhteisöjä.

En voi olla miettimättä: Mitä tapahtuu Metan turvallisuusjärjestelmälle?

Tilejä suljettu väärin perustein

Kaikki alkaa samankaltaisella viestillä: ”Meta-tilisi ei noudata sääntöjämme.” Monet Facebookin ja Instagramin käyttäjät on kielletty tai heidät on tilapäisesti poistettu tileiltään ”sääntöjen noudattamatta jättämisen” vuoksi, vaikka he uskovat noudattaneensa niitä.

Olemme kokeneet tämän tilanteen Wizcasessa. Metan järjestelmä luokittelee aiheeseen liittyvät kohteet sopimattomiksi ja pakottaa yhteisön managerin käymään läpi valitusprosessin ja esittämään viranomaisten myöntämät henkilöllisyystodistukset.

Sadat käyttäjät, yhteisöjen managerit ja tilinhallinnoijat ovat valittaneet Redditissä ja muilla foorumeilla, chatteissa ja sosiaalisen median kanavissa vastaavista tilanteista. Useissa epäonnistuneissa skenaarioissa käyttäjät menettävät tilinsä eivätkä voi tehdä asialle mitään, eivätkä he edes saa selitystä.

“Facebookin tukitiimi on kamala. Ei ole väliä kuinka monta kertaa kerromme heille kaiken tai selitämme kaiken heille, he yksinkertaisesti eivät ymmärrä”, sanoi yksi käyttäjä Redditissä keskusteluketjussa, joka koski kiellettyjä tilejä. ”Yhden asian voin sanoa heti: et saa tiliäsi palautettua, ellet ole käyttänyt satoja tuhansia päivässä”, lisäsi toinen.

Vaikka tämä ongelma saattaa vaikuttaa koskettavan vain sisällöntuottajia, se on vain pieni osa suurempaa haastetta.

Meta oikeusjuttuja vastaan

Vuodesta toiseen Meta on investoinut sisällön valvontaan ja uusiin strategioihin, joiden avulla se pyrkii tarjoamaan turvallisemman alustan käyttäjilleen ja suojelemaan itseään yhä useammilta oikeusjutuilta – viimeisimmän haasteen heille on esittänyt kenialaiset sisällönvalvojat, jotka vaativat tällä hetkellä 1,6 miljardin dollarin korvauksia massiivisista irtisanomisista ja sen ahdistavasta materiaalista, jolle he altistuivat analysoessaan sisältöä Facebookille.

Teknologiayritys turvautuu kolmansien osapuolten apuun sisällönsäätelyssä ja kehittää työkaluja, jotka tunnistavat, milloin sisältö rikkoo alustan sääntöjä. Nämä toimenpiteet eivät kuitenkaan ole olleet riittäviä, ja tilanne on riistäytynyt käsistä, erityisesti alaikäisten käyttäjien keskuudessa.

Vuonna 2021 Meta esitteli uusia suojatoimintoja, mutta se ei estänyt senatia lisäämästä Instagramia ja Facebookia lasten kannalta haitallisten alustojen joukkoon viime vuonna. Teknologiajätti joutui kohtaamaan 33 osavaltion yhteisen haasteen Yhdysvalloissa sen manipuloivan ja vahingollisen algoritmin vuoksi.

Tammikuusta lähtien Meta on jakanut päivityksiä uusista turvallisuuden hallintatyökaluistaan. Kesäkuussa yritys paransi kiusaamisen vastaista työkaluaan suojellakseen teini-ikäisiä Instagramissa oletusarvoisella ”Läheiset ystävät” -toiminnolla sekä ”Rajoitukset” -toiminnolla, jotta vain todelliset ystävät ja perheenjäsenet voisivat olla vuorovaikutuksessa nuorten käyttäjien julkaiseman sisällön kanssa.

Vain muutama päivä sitten yritys ilmoitti uusista Teini-tileistä suojellakseen teini-ikäisiä ja “vakuuttaakseen vanhemmat siitä, että teinit saavat turvallisia kokemuksia.” Riittäisikö tämä lasten suojelemiseen? Entä vanhemmista käyttäjistä?

Turvaton ekosysteemi

Facebook, Instagram ja WhatsApp ovat edelleen täynnä haitallista sisältöä, joka vaikuttaa käyttäjiin – kaikenikäisiin, eri ammateissa toimiviin ja eri sosiaalisista ryhmistä tuleviin – eikä ongelmaa tuskin ratkaistaan lähiaikoina.

Tutkimus, jonka suoritti Center for Countering Digital Hate (CCDH), analysoi yli 500 miljoonaa kommenttia Instagramissa, jotka kohdistettiin kymmenelle naispoliitikolle Yhdysvalloissa, ja paljasti, että Meta ei onnistunut poistamaan tai ryhtymään toimenpiteisiin 93 % näistä kommenteista vastaan.

Useat Metaa vastaan nostetut kanteet ovat kirjaimellisesti todistaneet, että yhtiöllä on vaikeuksia suojella käyttäjiään vahingolliselta sisällöltä, ja se on myös vahingoittanut luojia, julkaisijoita ja brändejä epäreiluilla suodattimilla ja huonosti toteutetuilla turvallisuustyökaluilla.

Tietenkin tämä on monimutkainen ja syvällinen kysymys, joka tulisi käsitellä perusteellisesti, mutta ehkä on aika hyväksyä, että Meta ei ole kyennyt hoitamaan tätä tilannetta. Laastarikorjaukset eivät ratkaise perusteellisesti rikki olevaa järjestelmää. Nyt todellinen kysymys on: Kuinka monen käyttäjän pitää vielä joutua epäreilusti kielletyiksi, johdetuiksi harhaan tai manipuloiduiksi ennen kuin todellinen muutos tapahtuu?