Facebook vangt heel weinig haatreacties op met haar algoritme

Facebook heeft lang gezegd dat haar algoritme de haatreacties en uitlokkende berichten van haar platform weghaalt. Het blijkt nu dat deze algoritme helemaal niet zo goed werkt en dat er maar een heel klein beetje van dit ongewenste gedrag wordt verwijderd van het platform.

Guy Rosen, de vicepresident van Facebook schreef zondag in een blogpost dat de haatreacties op Facebook met 50 procent zijn gedaald in de afgelopen drie kwartaal. Volgens The Wall Street Journal helpt het algoritme van Facebook alleen helemaal niet zo goed als er wordt beweerd. Facebook zou namelijk maar 3 tot 5 procent van de haatreacties ontvangen. Posts met de oproep tot geweld worden nog minder gevonden, maar liefst 0,6 procent van de gevallen wordt opgepakt door het algoritme. Volgens de WSJ zijn er ook problemen met het labelen van de inhoud. Zo werden hanengevechten gezien als auto-ongelukken en auto's in wasstraten waren opeens schietpartijen volgens het algoritme.

Rosen claimt dat alleen het verwijderen van content 'de verkeerde manier om naar haatgedrag te kijken'. Bij Facebook kijken ze namelijk met heel andere ogen naar het probleem. De vicepresident zegt dat het ook belangrijk is om te kijken naar hoe vaak de haatreacties worden opgemerkt door mensen. Rosen beweert dat van de 10.000 stuks slechte content, slechts vijf daadwerkelijk wordt gezien.

De gegevens werden vorige maand openbaar gemaakt door klokkenluider Frances Haugen. Volgens de oud-werknemer geeft het bedrijf meer om de winst, dan om de veiligheid van de gebruikers. Haugen heeft voordat ze haar identiteit bekend heeft gemaakt al veel stukken gelekt via The Washington Journal. De informatie van de krant komt namelijk allemaal van de klokkenluider vandaar. Daar valt ook het interne onderzoek van Facebook onder, waaruit blijkt dat het social media platform schadelijk is voor tieners.