El uso cada vez mayor de la toma de decisiones algorítmica plantea algunas preguntas desafiantes, desde el sesgo debido a los sesgos sociales que se incorporan a los datos de entrenamiento, hasta el pérdida del espacio para el compromiso (debido a la necesidad de codificar una función de pérdida o recompensa en un sistema de aprendizaje automático) que es tan importante para abordar objetivos y valores en conflicto en sociedades democráticas. El papel más amplio de los modelos como medio para comprender y dar forma a las sociedades es uno de los temas de mi libro más reciente, Engranajes y monstruos, en el dominio de la economía. En explicit, quería exponer en el modelado económico la reflexividad involucrada en ser miembro de una sociedad que analiza la sociedad para tratar de cambiar la sociedad, cuando sus otros miembros bien pueden alterar (en formas a menudo imprevistas) el comportamiento que fue. analizados, porque son sujetos, no objetos.
Bueno, todo esto es el tema del excelente libro de Erica Thompson Escape from Mannequin Land: cómo los modelos matemáticos nos desvían y qué podemos hacer al respecto. Se centra en el uso de modelos algorítmicos y tiene una amplia gama de ejemplos, desde modelos sanitarios y epidemiológicos hasta proyecciones climáticas y mercados financieros. Abarca, además de la reflexividad, algunos desafíos familiares como la performatividad, la dinámica no lineal, los sistemas complejos, las rupturas estructurales y el riesgo frente a la incertidumbre ‘radical’. La conclusión last es la necesidad de ser debidamente humildes acerca de lo que pueden lograr los modelos. Por desgracia, las personas, los ‘expertos’, parecen quedar atrapadas con demasiada frecuencia en el entusiasmo por las posibilidades técnicas sin la consideración necesaria para tomar decisiones que afectarán la vida de las personas de manera importante.
Así que este es un muy necesario y bienvenido libroy estoy deseando participar en una evento con el autor en la LSE en enero.
