Twitter beloont voor het vinden van vooroordelen in algoritme

Twitter keert tijdens Defcon een algoritmische vooringenomenheid uit. Het vraagt bezoekers van het hacker-event om vooroordelen in een Twitter-algoritme te ontdekken die bepaalde mensen in hun dienstverlening kunnen benadelen, en beloont hen.

Het is voor het eerst dat Twitter een geldbedrag uittrekt tegen het vinden van fouten in het algoritme die bepaalde mensen in hun dienstverlening benadelen of bevoordelen. Tijdens het Defcon-hackerevenement zal het Machine Learning Ethics, Transparency and Accountability-team van Twitter een algoritme vrijgeven dat bezoekers kunnen gebruiken. Als ze een vooroordeel ontdekken, kunnen ze een geldprijs winnen.

Twitter gebruikt verschillende algoritmen in hun service. Zo is er naast een algoritme dat de tijdlijn opmaakt, ook een algoritme dat afbeeldingen automatisch bijsnijdt zodat ze allemaal even groot zijn in de preview in de tijdlijn. Twitter is beschuldigd van oneerlijke algoritmen die in het verleden vooroordelen bevestigen.

Vorig jaar ontdekten gebruikers bijvoorbeeld dat de preview van Twitter bij het delen van een foto van een blanke en een zwarte man consequent de foto van een blanke man laat zien. Andere gebruikers merkten dat de preview in een lange afbeelding vaker witte gezichten laat zien bij het uitsnijden, ten koste van zwarte gezichten. Twitter onderzocht de zaak en bevestigde in mei de fout in het algoritme.

Twitter-onderzoeker Rumman Chowdhury zegt dat gebruikers het algoritme tijdens Defcon kunnen hacken. De vondsten worden getest door een panel van machine learning-experts, onder meer van de OpenAI-stichting. Aanstaande vrijdag maakt Twitter meer details over de wedstrijd bekend, inclusief welke beloningen er te winnen zijn.

Twitter is niet de eerste die denkt dat bug bounty-programma's een goede manier kunnen zijn om vooroordelen te ontdekken. Een Mozilla Foundation-onderzoeker, Deborah Raji, onderzoekt hoe bug bounty-programma's kunnen helpen bij het vinden van vooroordelen in algoritmen.