Het AI Now Institute and NYU Law’s Center on Race, Inequality, and the Law hebben een rapport gepubliceerd over de wijze waarop procedures worden ingezet om overheden ter verantwoording te roepen voor de schadelijke gevolgen van het gebruik van algoritmes.

Algorithmic Decision Systems (ADS) worden vaak gepresenteerd als een oplossing voor allerlei vraagstukken, zoals het wegnemen van menselijke vooroordelen, kostenbesparing en het vergroten van de effectiviteit, nauwkeurigheid en betrouwbaarheid van beslissingen. In de praktijk worden deze voordelen echter zelden aangetoond, zelfs wanneer het bewijs van de schadelijke effecten toeneemt. De toepassing van deze technologie in de zorg, het justitieapparaat, onderwijs en op de arbeidsmarkt heeft ondertussen een enorme impact op het leven van miljoenen mensen.

Het rapport noemt onder andere de Nederlandse procedure tegen het Systeem Risico Indicatie (SyRI).

Bekijk hier de presentatie van Anton Ekker op het AI Now congres over de procedure tegen SyRI.

Lees hier het nieuwbericht van het AI Now institute.

 

 

 

Leave a Reply