Algoritmos: cómo hacerlos más justos
Eran los años treinta. Robert Moses, el urbanista más poderoso de la historia de Nueva York, ordenó construir unos puentes tan bajos que los autobuses no pudieran pasar por ellos. Los autobuses eran el transporte de los pobres y de la población negra. No hizo falta ninguna ley: el puente era excluyente por diseño y por defecto.
En la versión digital pasa lo mismo: los algoritmos y modelos de lenguaje se convierten en una arquitectura moral. Cuando un equipo homogéneo decide cómo funciona un sistema de reconocimiento facial, cuando la lógica financiera de una empresa determina qué voces se amplifican en un feed de información o cuando una interfaz diseñada sin pensar en la diversidad deja a colectivos enteros fuera, el gesto es idéntico al de los puentes bajos. Cada decisión técnica es, a la vez, una decisión sobre a quién importa y qué es "normal".
Artículo de Liliana Arroyo, directora de la "Chair for Socially Responsible Digital Innovation" (SoReDI) y profesora e investigadora del Departamento de Sociedad, Política y Sostenibilidad de Esade, publicado en el Diari Ara.