Facebook ja “koordinoitu yhteisöllinen haittatoiminta”
Facebookin toiminnasta on viime päivinä tihkunut tietoja, jotka ovat maalanneet yhtiöstä yhä surkeamman kuvan. WSJ on saanut käsiinsä suuren määrän yhtiön sisäisiä muistioita ja sähköposteja, jotka näyttävät Facebookin toimivan samalla tavalla kuin suuret tupakka- ja öljy-yhtiöt: Facebook on tiennyt toimintansa aiheuttamista ongelmista mutta korjaamisen sijaan se on pyrkinyt kieltämään ongelmat julkisuudessa ja estänyt ongelmien ratkaisua sisäisesti. Monet ongelmista ovat olleet yhtiön korkeimman johdon ja toimitusjohtajan tiedossa.
Tätä taustaa vasten on ymmärrettävää, että Facebook pyrkii ohjaamaan julkista keskustelua edes jotenkin yhtiölle positiivisiin asioihin. Tällainen on yhtiön torstainen tiedote, jossa se kertoo ryhtyvänsä rajoittamaan alustalla tehtävää “koordinoitua yhteisöllistä haittatoimintaa”. Tämän taustalla on Facebookin aiempi toiminta, jolla yhtiö on pyrkinyt rajoittamaan ns. trollifarmien ja muiden “ei-autenttisten toimijoiden” toimintaa. “Ei-autenttisilla toimijoilla” Facebook tarkoittaa erilaisia valetilejä, joita poliittiset tai kaupalliset tahot luovat ja käyttävät harhauttaakseen muita FB-käyttäjiä tai palvelua itseään.
Nyt Facebook siis laajentaa tähtäintään valetileistä todellisiin tileihin, joita käytetään aiheuttamaan haittaa. Reutersille annetussa haastattelussa Facebookin edustajat ottavat esimerkeiksi oikeiden käyttäjien koordinoidusti tekemät ilmiannot joilla pyritään sulkemaan toiminnan kohteena olevan käyttäjän Facebook-tili ja tietyn käyttäjän tilin koordinoitu häiritseminen maininnoilla ja kommenteilla (Reutersin juttu käyttää tästä toiminnasta nimeä “brigading”, jonka merkitys on yleensä hieman laajempi).
Facebookin ongelma on vaikea. Yritys pyrkii kitkemään oikeiden käyttäjien ei-toivottavaa ja monissa tapauksissa käyttösääntöjen vastaista toimintaa. Toimintaan puuttuminen tehokkaasti edellyttää laajempaa toimintaa kuin puuttumista yksitellen kuhunkin koordinoituun toimintaan osallistuvan käyttäjän tiliin. Tätä FB tarkoittaa tiedotteessa kirjoittaessaan “To address these organized efforts more effectively, we’ve built enforcement protocols that enable us to take action against the core network of accounts, Pages and Groups engaged in this behavior. As part of this framework, we may take a range of actions, including reducing content reach and disabling accounts, Pages and Groups”. Käytännössä tämä tarkoittanee ainakin jossain määrin automatisoituja toimia sen jälkeen, kun “koordinoitu yhteisöllinen haittatoiminta” on havaittu.
Toisin sanoen Facebook kertoo yrittävänsä tunnistaa tietynlaisen käyttäytymisen kontekstia. Asiaa ei tietenkään sanota suoraan, mutta tästä on kysymys. FB yrittää päätellä (algoritmisesti, käyttäjiltä tulevista signaaleista pääteltynä ja ihmistyönä tehtävän ylläpidon avulla), onko tiettyyn käyttäjään kohdistuva kommentointi orgaanista närkästymistä vai koordinoitua häirintää. Orgaaninen närkästyminen esimerkiksi poliitikon sanomisista ja sen osoittaminen poliitikon FB-statuksen kommenteissa on edelleen ok, mutta närkästyksen valmistaminen ja toimintaohjeiden antaminen FB-sivulla tai -ryhmässä ei, ainakaan silloin, kun se ylittää Facebookin määrittämän, haitanteoksi määriteltävän rajan. Ongelma on tietenkin, että emme tiedä, mikä tämä raja on.
Tai: mikä on hyväksyttävää poliittista kampanjointia ja mikä vahingontekoa? Reutersin uutisessa mainitaan K-pop-fanien toiminnaksi väitetty tempaus, jossa Trumpin kampanjatilaisuuden liput myytiin käyttäjille, joilla ei ollut aikomusta tulla paikalle vaan aiheuttaa haittaa kampanjalle tyhjällä hallilla. Olisiko tällainen “koordinoitua yhteisöllistä haittatoimintaa”, jos siihen käytettäisiin Facebookia?
Kokonaan oma kysymyksensä on myös se, onko Facebookin tarkoituskaan ulottaa haittatoiminnan vastaisia toimiaan suurten kielialueiden ulkopuolelle. Selkeästi koordinoituja kiusaamis- ja tilien ilmiantokampanjoita tapahtuu täälläkin (esimerkki Ruotsista), mutta Facebookin ylläpidon valmiudet puuttua tällaisiin tapauksiin vaikuttavat olemattomilta. Yhtiö ei kykene reagoimaan edes (ilmeisesti) automaattisesti tehtyihin sisältöpäätöksiin järjellisessä ajassa. Miten Facebook pystyisi muodostamaan luotettavia tulkintoja kysymyksistä, jotka vaativat paikallisen politiikan ja kulttuurin tuntemusta?
