7.6 C
Stockholm
tisdag, oktober 26, 2021

Ubers ”rasistiska” program för ansiktsigenkänning avfyrar svarta och asiatiska förare, hävdar tidigare förare

Uber står inför rättsliga åtgärder för påstådd indirekt rasdiskriminering av en förare som hävdar att han fick sparken efter att ansiktsigenkänningsprogrammet som företaget använde inte kunde känna igen honom.

I ett yrkande i arbetsdomstolen som inlämnades i veckan hävdar Blacks chaufför, som bad om att inte få namn, att Ubers brittiska dotterbolag inaktiverade hans konto efter att ha missat att känna igen honom på två separata fotografier, vilket gjorde att han inte kunde arbeta.

The Independent Workers Union of Great Britain (IWGB), som lämnade in kravet för förarens räkning, berättade för Eurodigitalnews Next att det hade kunnat verifiera minst 35 liknande uppsägningar bland sina medlemmar sedan starten av COVID-19-pandemin, men varnade för att ”hundratals, om inte tusentals fler” kan påverkas.

IWGB uppmanar Uber att sluta använda sin ”rasistiska algoritm” och återställa förare som orättvist avfyrats till följd av påstådda mjukvarubuggar.

Mänskligt stöd

I ett uttalande sa Uber att dess program för ansiktsigenkänning var ”utformat för att skydda säkerheten för alla som använder Uber -appen genom att hjälpa till att säkerställa att rätt förare sitter bakom ratten.”

Företaget sa att systemet innehåller ”en robust mänsklig granskning för att säkerställa att denna algoritm inte fattar beslut om någons försörjning i ett vakuum, utan övervakning.”

I arbetsdomstolskravet som Eurodigitalnews Next såg, hävdar föraren, som arbetade för Uber från 2016 tills han fick sparken i april förra året, att han aldrig erbjöds möjlighet till manuell fotokontroll.

Uber har använt ID-verifiering i realtid i Storbritannien sedan april 2020, efter att Londons transportregulator TfL väckt oro över säkerheten för företagets passagerare.

Programvaran som skapats av Microsoft fungerar genom att jämföra en selfie som föraren tagit när han börjar arbeta med ett foto som företaget har på fil. Det säger att alla förare kan välja automatiserade kontroller genom en algoritm eller manuella kontroller som utförs av människor.

En hjälpsida på Ubers webbplats säger att om ID-verifiering i realtid inte kan verifiera ett förares foto kommer båda bilderna att skickas till ett ”team av specialister” som manuellt kommer att verifiera förarens identitet.

Eurodigitalnews Next frågade Uber om det hanterar specialiserade identitetskontroller på egen hand, men företaget svarade inte vid presstiden.

Är algoritmer rasistiska?

Rasisk partiskhet har länge varit ett problem som lyfts fram av studier av teknik för ansiktsigenkänning.

En artikel från 2018 av datavetenskapare Joy Buolamwini och Timnit Gebru fann att ansiktsigenkänningsteknologierna de studerade, inklusive Microsofts, fungerade bättre med ljusare hudtyper.

All teknik som de granskade fungerade sämre med mörkare skinniga kvinnliga ansikten, en upptäckt som ekades av en oberoende studie från 2019 om teknik för ansiktsigenkänning av National Institute of Standards and Technology.

Microsofts president Brad Smith skrev i ett blogginlägg från 2018 att ”särskilt i sitt nuvarande utvecklingsläge ökar vissa användningar av teknik för ansiktsigenkänning risken för beslut och mer allmänt resultat som är partiella och i vissa fall bryter mot lagen. förbjuda diskriminering ”.

Risken för partiskhet är särskilt relevant för Uber -förare i Storbritannien.

En TfL-undersökning från december 2020 bland privata uthyrningsförare i London visade att mer än tre fjärdedelar av de tillfrågade var svart eller brittisk svart, asiatisk eller asiatisk brittisk eller blandad ras.

”Hundratals förare och kurirer som tjänstgjorde under pandemin har förlorat sina jobb utan någon vederbörlig process eller bevis på felaktigheter och detta speglar den bredare kulturen i Uber som behandlar dess BAME -arbetare mestadels som engångsartiklar”, säger Henry Chango López. IWGB.

”Uber måste skyndsamt skrota den här rasistiska algoritmen och återställa alla drivrutiner som den orättvist har tagit bort.”

Black Lives Matter UK, som också stöder fallet, sa: ”Spelekonomin, som redan skapar en enorm osäkerhet för viktiga svarta arbetare, förvärras nu ytterligare av denna programvara som hindrar dem från att arbeta alls, baserat enbart på färgen på deras hud .. Rasistiska metoder som dessa måste ta slut. ”

Related Articles

LÄMNA ETT SVAR

Vänligen ange din kommentar!
Vänligen ange ditt namn här

Latest Articles