José Mª Torras Coll (Profesor Asociado de la UPF)

El reto de los sesgos algorítmicos.

Nuestros datos privados, nuestras preferencias, deseos, proyectos laborables, de vacaciones, etc.  son controlados por hilos invisibles, los algoritmos. 

Estamos expuestos a los sesgos de los algoritmos. Al desafío de la implementación de la inteligencia artificial que, a pasos agigantados, penetra y gobierna nuestra existencia.

Asistimos al desarrollo de un mundo tecnológico en el que impera la opacidad, la ausencia de autorregulación y la falta de auditoría, que es obligada, en el régimen de la función pública.

A través de los algoritmos, de determinados patrones preestablecidos, automatizados, se toman decisiones trascendentes en el ámbito de la salud, cribaje, en el laboral, en la selección de personal, en la seguridad, en la predicción del maltrato, en el de la reincidencia de condenados.

Nos fascina la tecnología, nos seduce, obnubila, a la vez, que anestesia nuestra capacidad crítica.

La polarización en las redes sociales, los contenidos de vertiginosa volatilidad, propios de las denominada sociedad líquida, maximizan el negocio.

La psicología irrumpe en el campo de la publicidad, en el ocio y entretenimiento. Las platafornas de contenidos nos alienan en las preferencias audiovisuales, en las series. 

Quienes subastan al mejor postor ese caudal codiciado de nuestros datos, saben que nos apetece, nuestros gustos, nuestras inclinaciones, aficiones, etc.

La anómala regulación o el escaso control de esos sesgos algorítmicos puede llevar a la toma de decisiones discriminatorias, tremendamente injustas y perjudiciales. 

Por ello, en aras de la ética digital, es menester establecer auditorías contrastadas ante el riesgo generado. Es preciso evitar el espacio de impunidad en el desarrollo tecnológico. Progreso, sí, pero con cautela, con protección, controlando el impacto social, ético y legal de la tecnología intensiva de datos.

José María Torras Coll

Sabadell

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s

A %d blogueros les gusta esto: