Una discusión necesaria.
No es ninguna novedad que la raza humana esté siempre dependiendo de alguien más, inventado o real, para descansar en el futuro, en la justicia, y un sinfín de situaciones. Cathy O’Neil dice que ahora descasamos en los algoritmos, pero eso ya está por acabar.
O’Neil es una doctora de matemáticas de Harvard y es posdoctorada en el MIT.
“Los algoritmos, o también conocidos como Inteligencia Artificial, no es más que un término de marketing para nombrar a los algoritmos”, dice O’Neil, serán machistas, racistas o discriminadores, según quién los diseñe.
Si los algoritmos están mal programados pueden llegar a ser armas de destrucción. De hecho se mal entiende lo que son, hay un abismo entre lo que se piensa que es y lo que realmente es.
Se cree que a través de los algoritmos se puede llegar a una verdad objetiva -como si eso existiera-. Se ha creado una especie de fe en ellos porque se cree que son una autoridad, porque los científicos son una especie de autoridad, la gente les ha dado esa autoridad y también se la pueden quitar.
Pero lo que en realidad es un algoritmo es un sistema de perfiles que se genera a partir del big data. Pueden estipular si eres un buen o un mal cliente, cuáles son tus probabilidades para comprar un departamento o cuál es tu clase social, tu etnia, y así.
Los algoritmos pueden ser armas de destrucción matemática
Los algoritmos de destrucción matemáticas son importantes, secretos y destructivos. “Injusto para los individuos que evalúa”, dice Cathy O’Neil en entrevista con El Diario.
“Normalmente son un sistema de puntuación. Si tienes una puntuación lo suficientemente elevada se te da una opción, pero si no la consigues se te deniega. Puede ser un puesto de trabajo o la admisión en la universidad, una tarjeta de crédito o una póliza de seguros. El algoritmo te asigna una puntuación de manera secreta, no puedes entenderla, no puedes plantear un recurso. Utiliza un método de decisión injusto”, comenta y agrega que “Sin embargo, no solo es algo injusto para el individuo, sino que normalmente este sistema de decisión es algo destructivo también para la sociedad. Con los algoritmos estamos tratando de trascender el prejuicio humano, estamos tratando de poner en marcha una herramienta científica. Si fracasan, provocan que la sociedad entre un bucle destructivo, porque aumentan la desigualdad progresivamente”.
Pero también puede ser algo más preciso. Puede ser un algoritmo para decidir quién accede a la libertad condicional racista, uno que determina qué barrios sufren una mayor presión policial en función de la presencia de minorías…
Cathy O’Neil
La próxima revolución será sobre el control de los algoritmos
“Creo que los algoritmos reemplazarán todos los procesos burocráticos humanos porque son más baratos, más fáciles de mantener y mucho más fáciles de controlar. Así que, sí: la cuestión sobre quién tiene el control está relacionada con quién despliega ese algoritmo. Espero que nosotros tengamos un control con rendición de cuentas sobre ellos”, explica.
“Pero si nos fijamos en un lugar como China, donde hay sistemas de puntuaciones sociales que son intentos explícitos de controlar a los ciudadanos, no tengo tanta esperanza sobre que los ciudadanos chinos puedan ser los propietarios de esos algoritmos. En estos casos estamos hablando de una distopía, una sociedad de vigilancia en la que el Gobierno controla a los ciudadanos con los algoritmos, como una amenaza real. Es algo que puede pasar”, continúa.
Transparencia y algoritmos
“Los políticos piensan que desde su posición tendrán en su mano controlar los algoritmos, así que no quieren renunciar a este poder, aunque sea malo para la democracia”.
“Es una consideración muy seria. Como digo en el libro, Obama fue adorado por la izquierda por su uso del big data para aumentar las donaciones o mejorar la segmentación de mensajes. Pero eso fue un precedente muy peligroso: en las últimas elecciones hemos visto como la campaña de Trump logró suprimir el voto de los afroamericanos gracias a esa misma segmentación de mensajes a través de los algoritmos de Facebook”.
TAMBIÉN TE PUEDE INTERESAR
