23 de mayo de 2016

Preocupaciones liberales y algoritmos

Creo que, a grandes rasgos, el mainstream del debate sobre algoritmos se pueden clasificar en dos áreas: 1) algoritmos relacionados a servicios o transacciones y 2) algoritmos en asuntos de seguridad. En el primer grupo entrarían las discusiones sobre servicios que utilizan algoritmos en sus modelos de negocio (por ejemplo, Google, Netflix, Facebook). En el segundo grupo estarían las discusiones sobre sistemas de seguridad nacional o internacional que utilizan algoritmos para su operación (por ejemplo, vigilancia de sujetos a partir de sus perfiles en social media o la identificación de amenazas “potenciales” para ataques de drones). Lo que tienen en común estas dos áreas es que parten de una preocupación liberal-individualista. Es decir, están enfocadas en como la libertad de un individuo puede ser afectada, ya sea por un Leviatán estatal (en el caso de la seguridad) o un Leviatán corporativo (en el caso de los servicios o transacciones). Esta preocupación parte de una concepción liberal tanto del Estado como del Mercado. Es decir, se conciben como un “desenmascaramiento” de prácticas que contravienen valores como la libertad y la neutralidad. Ejemplos de esto son las revelaciones de que Facebook no es simplemente una plataforma que muestra lo más popular sin intervención humana alguna (algo de por si contradictorio en sí mismo) o que los políticos autorizan el funcionamiento aparato que vigila las comunicaciones de los habitantes

Por otro lado, creo que un tema que no está presente en el mainstream es el uso de algoritmos por parte del Estado para administrar a la población. Cuestiones como la clasificación de niveles pobreza no están presentes en las discusiones sobre tecnología y más bien se encuentran en recluidas en discusiones técnicas entre economistas. Mi suposición es que esto se debe precisamente a la preocupación liberal-individualista mencionada anteriormente. El mainstream de las discusiones trata a los sujetos como ciudadanos-consumidores con derechos a proteger, y no como población a administrar. El problema que encuentro en esta aproximación es que se concentra en quienes tienen la capacidad de consumir o en formas potencialmente represivas en las que el Estado controla sujetos, dejando de lado prácticas estatales cotidianas de administración, las cuales afectan mayormente a los sectores más vulnerables de la población. A diferencia del enfoque anteriormente descrito un estudio sobre el uso de algoritmos para la administracion de población no debería quedarse en “desenmascarar” el uso de algoritmos, sino en proponer ajustes para mejorar el funcionamiento de estos algoritmos y lograr una administración eficaz de la población.