Tyranny of the algorithm

home-isis-tech-transfer“Tyranny of the algorithm” er et fantastisk udtryk for årsagerne til alle de problemer man kan man få, bare fordi et eller andet system automatisk kategoriserer en forkert. Udtrykket så jeg på B2fxxx, hvor også udtrykket “the judgmental algorithm” bruges, i en historie om at Paypal ikke tillader beboere med en adresse hvor “isis” indgår at modtage pakker. Og eftersom Themsen hedder “The Isis” omkring Oxford rammer det som minimum flere adresser i det område.

Naturligvis er det amatøragtigt at lave den slags regler i et system, ikke desto mindre sker det igen og igen.

Som f.eks. fortalt i “Machine Bias” der handler om et amerikansk system der forsøger at forudsige om en kriminel måske vil begå ny kriminalitet. Systemet anvendes i dele af det amerikanske retssystem for at tilpasse domsafsigelser og ikke overraskende viser det sig at have en indbygget racisme.

Dette indlæg blev udgivet i Udvikling og tagget , , . Bogmærk permalinket.

Skriv et svar

Udfyld dine oplysninger nedenfor eller klik på et ikon for at logge ind:

WordPress.com Logo

Du kommenterer med din WordPress.com konto. Log Out / Skift )

Twitter picture

Du kommenterer med din Twitter konto. Log Out / Skift )

Facebook photo

Du kommenterer med din Facebook konto. Log Out / Skift )

Google+ photo

Du kommenterer med din Google+ konto. Log Out / Skift )

Connecting to %s