Het algoritme van Facebook detecteert een klein deel van de haatzaaiende berichten

Volgens interne documentatie volgt het algoritme van Facebook een klein deel van de berichten die de regels voor haatzaaien schenden. Het bedrijf zegt in een reactie dat het zich vooral richt op hoe vaak gebruikers dergelijke posts tegenkomen.

Facebook schat zelf dat het 3 tot 5 procent van de haatzaaiende berichten detecteert , meldt The Wall Street Journal . Voor berichten die oproepen tot geweld is dit 0,6 procent. Het gaat om posts die het algoritme zelfstandig heeft gevonden zonder rapportage en die om die reden zijn verwijderd. Volgens Facebook zelf detecteert het algoritme in 98 procent van de gevallen zelfstandig posts met problematische inhoud, nog voordat een gebruiker dit meldt.

In een reactiezegt Facebook zich niet te herkennen in het beeld dat is gegeven dat het algoritme het niet zo goed doet als het bedrijf aan de buitenwereld duidelijk maakt. Daarbij wil het bedrijf zich vooral richten op het aandeel haatzaaiende content dat gebruikers te zien krijgen. Dat aandeel is gedaald tot 5 op 10.000 en was negen maanden geleden het dubbele. Dit komt deels omdat het algoritme, als het niet zeker genoeg is, de verspreiding van de post beperkt zonder deze te verwijderen, zegt Facebook.

Bovendien heeft het algoritme problemen met het herkennen van inhoud. Zo werden hanengevechten bestempeld als een auto-ongeluk, terwijl een auto die door de wasstraat ging, door het algoritme werd bestempeld als video van een schietpartij.

Facebook komt tot de cijfers door een steekproef te nemen van alle berichten op Facebook en deze vervolgens door mensen te laten controleren. Dit moet een beeld geven van wat het algoritme heeft gemist. De Wall Street Journal heeft de interne documentatie in handen gekregen van een klokkenluider.