Twitter kunngjør en bug bounty-konkurranse for brukere og forskere for å finne algoritmisk skjevhet- Technology News, Firstpost
admin
2 min read
Agence France-Presse2. august 2021 13:58:38 IST
Twitter sa fredag at det ville tilby en kontant “dusør” til brukere og forskere for å hjelpe til med å utrydde algoritmisk skjevhet på plattformen for sosiale medier. San Francisco -teknologifirmaet sa at dette ville være “bransjens første algoritmiske skjevhetskonkurranse”, med premier opp til $ 3500. Konkurransen er basert på “bug bounty” -programmene noen nettsteder og plattformer tilbyr for å finne sikkerhetshull og sårbarheter, ifølge Twitter -ledere Rumman Chowdhury og Jutta Williams.
Tiltaket kommer midt i økende bekymring for automatiserte algoritmiske systemer, som til tross for et forsøk på å være nøytral, kan inkorporere rasemessige eller andre former for skjevhet. Bilde: Pixabay
“Å finne skjevhet i maskinlæringsmodeller er vanskelig, og noen ganger finner selskaper ut om utilsiktede etiske skader når de allerede har nådd publikum,” Chowdhury og Williams skrev i et blogginnlegg.
“Vi ønsker å endre det.”
De sa at hacker -bounty -modellen gir løfte om å finne algoritmisk skjevhet.
“Vi er inspirert av hvordan forsknings- og hackersamfunnene hjalp sikkerhetsfeltet med å etablere beste praksis for å identifisere og dempe sårbarheter for å beskytte publikum,” skrev de.
“Vi ønsker å dyrke et lignende fellesskap … for proaktiv og kollektiv identifisering av algoritmiske skader.”
Tiltaket kommer midt i økende bekymring for automatiserte algoritmiske systemer, som til tross for et forsøk på å være nøytral, kan inkorporere rasemessige eller andre former for skjevhet.
Twitter, som tidligere i år lanserte et algoritmisk rettferdighetsinitiativ, sa i mai at det ble skrotet et automatisert bildebeskjæringssystem etter at vurderingen fant skjevhet i algoritmen som kontrollerer funksjonen.
Meldingsplattformen sa at den fant algoritmen levert “ulik behandling basert på demografiske forskjeller”, med hvite mennesker og menn foretrukket fremfor svarte mennesker og kvinner, og “objektivering” -skjevhet som fokuserte på en kvinnes bryst eller ben, beskrevet som “mannlig blikk. “
