Armas de destrucción matemática: Cómo el big data aumenta la desigualdad y amenaza la democracia

Aunque no trata directamente con algoritmos, este libro explora cómo la 'transparencia' (una cualidad que a menudo se espera de los sistemas de Big Data) puede volverse una fuerza opresiva, similar a cómo los algoritmos opacos de O'Neil ejercen control sobre los individuos. Ambos autores cuestionan la benevolencia inherente de conceptos aparentemente positivos (transparencia, eficiencia algorítmica).

Ambos libros abordan la raíz y el perpetuamiento de la desigualdad sistémica. Mientras O'Neil se centra en cómo los algoritmos refuerzan las desigualdades existentes y crean nuevas, Piketty ofrece un marco histórico y económico profundo sobre cómo la naturaleza del capital mismo tiende a concentrar la riqueza, sentando las bases para que los 'armas de destrucción matemática' actúen en un terreno ya fértil para la inequidad.

Este libro profundiza en los mecanismos y la ideología subyacente al Big Data que O'Neil critica. Zuboff explora cómo la recopilación masiva de datos (el combustible de los 'armas de destrucción matemática') es parte de un sistema económico y social diseñado para extraer valor del comportamiento humano, lo que lleva a un control social similar al que O'Neil identifica como consecuencia de los algoritmos opacos.

Marcuse, un filósofo alemán, aborda la manipulación y el control social a través de sistemas 'racionales' y tecnológicos, aunque él se enfoca en la sociedad industrial. Su crítica profunda a cómo los sistemas avanzados pueden oprimir la libertad individual y reforzar el statu quo resuena con la tesis de O'Neil sobre los algoritmos que, bajo la fachada de la eficiencia, limitan las oportunidades y perpetúan la injusticia. Ambos disecan cómo mecanismos aparentemente neutros anulan la agencia humana.

Ellul, un sociólogo y teólogo francés, anticipa la preocupación de O'Neil sobre la opacidad y el control de los sistemas tecnológicos. Su obra 'La sociedad programada' explora cómo las 'técnicas' (que hoy incluyen los algoritmos y el Big Data) se vuelven autónomas y escapan al control humano, programando la sociedad de maneras que limitan la libertad individual y la acción consciente, un eco directo de los peligros de los 'armas de destrucción matemática'.

Aunque no es un ensayo sobre algoritmos, la estructura argumentativa de Kahneman es similar a la de O'Neil: ambos desglosan sistemas complejos (la toma de decisiones humana vs. la toma de decisiones algorítmica) para revelar sus fallas y sesgos inherentes. O'Neil expone cómo los prejuicios humanos se codifican en los algoritmos, y Kahneman muestra cómo la mente humana opera con sus propias 'heurísticas' que pueden llevar a errores, ofreciendo una estructura comparativa para entender los sesgos en la toma de decisiones.