Algorismes: com fer-los més justos
Eren els anys trenta. Robert Moses, l’urbanista més poderós de la història de Nova York, va ordenar construir uns ponts tan baixos que els autobusos no hi poguessin passar. Els autobusos eren el transport dels pobres i de la població negra. El pont era excloent per disseny i per defecte.
En la versió digital passa el mateix: els algorismes i models de llenguatge esdevenen una arquitectura moral. Quan un equip homogeni decideix com funciona un sistema de reconeixement facial, quan la lògica financera d’una empresa determina quines veus s’amplifiquen en un feed d’informació o quan una interfície dissenyada sense pensar en la diversitat deixa col·lectius sencers fora, el gest és idèntic al dels ponts baixos. Cada decisió tècnica és una decisió sobre qui importa i què és “normal”.
Article de Liliana Arroyo, directora de la "Chair for Socially Responsible Digital Innovation" (SoReDI) i professora i investigadora del Departament de Societat, Política i Sostenibilitat d’Esade, publicat al Diari Ara.