Facebookin tuomioistuimen ensimmäiset päätökset
Facebookin pitkään rakennettu Oversight Board (OB) on antanut ensimmäiset päätöksensä. Mikäli OB ei ole tuttu, kannattaa lukea aiempi bloggaukseni ja tutustua elimen omiin sivuihin. Mutta pähkinänkuoressa: OB on Facebookin perustama ja rahoittama, mutta itsenäisesti toimiva elin, jonka tehtävänä on arvioida Facebookin sisältöpäätöksiä suhteessa käyttäjiin eli sitä, onko FB tulkinnut omia käyttösääntöjään oikein esimerkiksi poistaessaan käyttäjien sisältöä palvelusta. Käyttäjät voivat viedä kokemansa vääryydet OB:n käsiteltäväksi, mikäli FB:n ylläpidon antamat päätökset eivät ole tyydyttäviä. OB päättää itse, mitkä tapaukset se ottaa käsiteltäväkseen. FB voi myös halutessaan viedä tapauksia elimeen itse (ja on jo vienyt OB:n käsiteltäväksi päätöksen poistaa Donald Trumpin tili palvelusta).
Päätöksiä OB on siis antanut nyt viisi. Alunperin elimen oli tarkoitus antaa kuusi päätöstä, mutta yksi tapauksista nollautui, kun tapauksen OB:hen vienyt käyttäjä veti tapauksensa pois. Neljä viidestä päätöksestä koskee Facebookia ja yksi Instagramia (joka Facebookin omistamana tuotteena on siis myös OB:n mahdollisten päätösten kohde).
Nyt käsiteltyjen tapausten aihesanat ovat kuin kokoomalista Internetin hittisisällöistä: väkivalta, vaaralliset organisaatiot, politiikka, alastomuus ja seksi, terveys, vihapuhe, uskonto ja syrjintä. Näistä pitäisi sitten jotain järkevää päätöstä kehrätä.
Päätökset eivät päästä Facebookia helpolla
Ja itse asiassa on kehrättykin. Ensimmäiseksi on huomattava, että OB:n antamasta viidestä päätöksestä neljä asettuu Facebookin tekemiä sisältöpäätöksiä vastaan ja käyttäjän puolelle. Otos on toki pieni, mutta näyttää siltä, että itsenäinen elin tulkitsee näissä viidessä tapauksessa Facebookin sääntöjä valtaosaltaan eri tavalla kuin Facebook itse.
Toinen merkittävä asia on, että OB näyttäisi ottavan huomattavasti laajemman roolin kuin Facebook on kenties sille suunnitellut. Elin ei pelkästään arvioi Facebookin päätöksiä suhteessa käyttösääntöihin ja Facebookin “arvoihin”. OB myös arvioi ja kritisoi Facebookin sääntöjä, kuvaten niitä mm. epämääräisiksi, antaen suosituksia uusiksi säännöiksi ja arvioi Facebookin käyttösääntöjä suhteessa kansainvälisiin ihmisoikeusstandardeihin. Yhdessä päätöksessään OB esimerkiksi arvostelee Facebookia siitä, että yhtiön sisältöä koskevat säännöt ovat vaikeasti ymmärrettäviä, hajallaan erilaisilla sivustoilla ja jopa keskenään ristiriitaisia:
“A patchwork of policies found on different parts of Facebook’s website make it difficult for users to understand what content is prohibited. Changes to Facebook’s COVID-19 policies announced in the company’s Newsroom have not always been reflected in its Community Standards, while some of these changes even appear to contradict them. “
Sama kritiikki ristiriitaisista ja vaikeasti ymmärrettävistä säännöistä toistuu päätöksessä, joka koskee käyttäjän Facebookiin kirjoittamaa lainausta Joseph Göbbelsiltä (lainaus ei ilmeisesti ollut Göbbelsiltä), jonka FB poisti käyttösääntöjen vastaisena. Facebookin “vaarallisia henkilöitä” koskeva sääntö on OB:n mukaan epäselvä, koska se ei kyllin selkeästi kerro, millä tavalla “vaarallisia henkilöitä” saa palvelussa lainata tai käsitellä eikä säännöissä listata vaarallisia henkilöitä (jotka kuitenkin on listattu ylläpidolle). Viime kädessä kysymys on siis kontekstista, joka tunnetusti on Facebookille kovin vaikea asia.
Toisessa päätöksessä, jossa OB asettuu Facebookin puolelle, OB arvostelee Facebookia siitä, että palvelu ei toimi kyllin läpinäkyvästi. Päätöksen mukaan
“(Board recommends that Facebook) Ensure that users are always notified of the reasons for any enforcement of the Community Standards against them, including the specific rule Facebook is enforcing. In this case, the user was informed that the post violated Facebook’s Community Standard on Hate Speech but was not told that this was because the post contained a slur attacking national origin. Facebook’s lack of transparency left its decision open to the mistaken belief that the company removed the content because the user expressed a view it disagreed with.”
Ehkä mielenkiintoisin OB:n päätös liittyy alastomuuteen. Tapauksessa Facebookin algoritmi poisti Instagramista kuvia, joiden se tunnisti loukkaavan FB:n alastomuussääntöjä, vaikka kyseiset kuvat oli julkaistu rintasyöpäkampanjan yhteydessä, mikä tekisi FB:n sääntöjen mukaankin rintoja esittävistä kuvista hyväksyttäviä.
FB heräsi itse virheelliseen päätökseen käyttäjän vietyä päätöksen OB:n prosessiin, palautti kuvat ja pyysi OB:ta olemaan käsittelemättä tapausta, koska virhe oli korjattu. OB kuitenkin päätti käsitellä valituksen tästä huolimatta. Ja hyvä niin, sillä päätöksessä OB suosittelee, että FB kertoo käyttäjilleen mikäli sisältöpäätös on täysin algoritmisesti tehty ja että käyttäjän pitäisi voida valittaa algoritmisesta päätöksestä ihmiselle, joka tarkistaisi algoritmin toiminnan. Tämä suositus on merkittävä, sillä se iskee suoraan Facebookin ytimessä olevaan ylläpidon skaalautuvuuden vaatimukseen.
Onko Oversight Boardilla merkitystä?
Mitä päätökset sitten merkitsevät? Ensinnäkin ne tekevät selväksi sen, että Oversight Board pyrkii tekemään itsenäisiä päätöksiä eikä ujostele kyseenalaistaa Facebookin toimintatapoja hyvinkin perusteellisesti. Seuraavaksi täytyy tietenkin kysyä kuinka tosissaan Facebook tuomioistuimensa päätökset ja varsinkin sen antamat ehdotukset toimintatapojen muuttamisesta ottaa. Jos palvelu ryhtyy toteuttamaan edes nyt julkaistuissa viidessä tapauksessa annettuja ehdotuksia, palvelun täytyy palkata runsaasti lisää moderointivoimaa, joka ymmärtää paikallisia kieliä ja kulttuureja ja ohjeistaa ja kouluttaa se aiempaa yksityiskohtaisemmin.
Jos yhtiö yrittää luistella suositelluista toimistaan, Oversight Board muuttuu nopeasti paperitiikeriksi, jolla ei ole erityistä merkitystä ja jota Facebook ei voi esitellä toimivana itsesääntelymenetelmänä valtiollisille päättäjille. Tämän seurauksena kansallisvaltiot ottavat palvelun aiempaa tarkempaan syyniin ja alkavat vaatia yhtiöltä tiukempaa sisältökontrollia kansallisten lakien avulla. Sitäkään vaihtoehtoa ei voi pitää Facebookille erityisen hyvänä.
