När algoritmerna blir domare Ibland känns det som att vi lever i en värld där algoritmer har fått större makt än sunt förnuft. I förrgår försvann allt på några minuter. Mitt Facebook-konto stängdes ner. Samtidigt försvann mitt Instagramkonto, mitt Threads-konto och Dumpens Instagram. Sara blev dessutom av med sitt privata Instagramkonto. Facebook meddelade att de hade stoppat en hackare som enligt dem hade tagit sig in på mitt konto. Instagram gav en helt annan förklaring. Där påstods att jag brutit mot deras regler och att jag hade en möjlighet att överklaga innan kontot skulle tas bort permanent. Problemet var bara att det inte gick att överklaga. Vi satt i timmar och försökte komma i kontakt med Meta. När jag försökte skicka in min överklagan hamnade jag bara i en ändlös loop där ingenting fungerade. Ingen människa gick att få tag på. Ingen kunde svara på vad vi hade gjort fel. Ingen kunde hjälpa oss. På kvällen hände något märkligt. Alla konton kom tillbaka. Utan någon förklaring. Utan någon ursäkt. Utan ett enda besked om vad som egentligen hade hänt. Dagen efter började allt om igen. Facebook hävdade återigen att de stoppat en hackare. Instagram stod fast vid att mitt konto bryter mot deras regler. Threads vill att jag ska förklara varför jag brutit mot deras policy, trots att jag inte ens fått någon konkret varning om vilket innehåll som skulle vara fel. Det märkliga är att jag inte hade publicerat någonting nytt. Hur kan ett konto ena dagen vara godkänt och nästa dag plötsligt bryta mot reglerna? Vi vet naturligtvis inte vad som ligger bakom. En möjlig förklaring är att personer som ogillar Dumpens arbete samordnar massanmälningar av våra konton. Om det är så, och om Metas automatiska system reagerar på stora mängder anmälningar utan att en människa först granskar innehållet, blir resultatet att den som anmäler mest också får störst inflytande. Oavsett orsaken är det ett allvarligt problem när det saknas tydliga besked och fungerande möjligheter att överklaga. Det handlar egentligen om något större än Dumpen. Om digitala plattformar ska fungera som vår tids offentliga torg måste det också finnas rättssäkerhet. Den som stängs av ska få veta varför. Det ska finnas en fungerande möjlighet att överklaga. Beslut ska kunna granskas av människor – inte enbart av algoritmer. Det ironiska i allt detta är att vi arbetar med en av samhällets viktigaste barnrättsfrågor: att uppmärksamma och förebygga sexuella övergrepp mot barn. Ändå är det vi som gång på gång får lägga timmar på att försöka bevisa att vi har rätt att finnas kvar på plattformarna. Vi kommer naturligtvis inte att ge upp. Men Meta borde fundera över vilket samhälle de vill bidra till. Ett där organiserade anmälningar eller automatiska system kan tysta människor utan förklaring, eller ett där transparens, rättssäkerhet och möjlighet till dialog faktiskt betyder något. För om den som arbetar med att skydda barn riskerar att tystas medan algoritmerna inte kan förklara varför, då är det kanske inte användarna som är problemet. Då är det systemet. #Algoritmer #Rättssäkerhet #DigitalaPlattformar
