Auditorías algorítmicas, una propuesta interesante

En un mundo en el que los algoritmos ocupan cada vez más espacio y en que decisiones antes humanas pasan a ese lado del jardín, parece evidente la necesidad de introducir mecanismos de control. Por supuesto, si esos algoritmos están tratando con datos de carácter personal o afectan a personas, todavía más aún. Aunque, cuando miras con una perspectiva amplia, las consecuencias para las personas, desde el punto de vista individual o colectivo, casi siempre están ahí. A fin de cuentas, todo conforma un complejo sistema dinámico con sus partes interdependientes. Por eso conviene aplicar auditorías algorítmicas, para generar metodología de intervención humana, con una suma de técnicas cuantitivas y cualitativas, que nos prevenga de que campen a sus anchas algoritmos sesgados.

Desde que asumí las clases de ética en el grado de Business Data Analytics que impartimos en Mondragon Unibertsitatea (por cierto, ahora ya en As Fabrik, en Zorrotzaurre, el futuro Manhattan bilbaíno), tengo activadas varias alertas para ver qué nuevas propuestas surgen en este ámbito. Es así como descubrí a Eticas Research & Consulting, una pequeña empresa especializada desde 2012 en abrir las tan habituales cajas negras en que se han convertido los algoritmos.En su web nos presentan a su equipo, liderado por Gemma Galdon-Clavell.

De vez en cuando publican novedades en su blog y es ahí donde descubrí su propuesta de auditorías algorítmicas, un concepto que ya lleva tiempo en la escena pero que necesita sistemática y rigor para aplicarlo en condiciones. Pues bien, el pasado 12 de enero, publicaban el post Presentamos la Guía de Auditoría Algorítmica para desarrollar algoritmos justos y eficaces. Ahí daban acceso, mediante registro previo de e-mail, a la guía en sí, un estupendo instrumento que seguro que cubre esta necesidad que comentaba de sistemática y rigor. Hay que reseñar también que se ha elaborado a partir de un encargo de la Agencia Española de Protección de Datos y que reune dos enfoques, uno más académico, a partir de una revisión de literatura científica relacionada con la cuestión, y otro más operativo, pensando en la realización práctica de las auditorías algorítmicas.

Las auditorías algorítmicas se presentan como una forma necesaria de hacer que esta tecnología sea más explicable, más transparente, más predecible y más controlable por la ciudadanía, las instituciones públicas y también las empresas, ya sea antes del desarrollo del sistema, durante su desarrollo o a posteriori.

La guía está muy bien estructurada. En la versión que yo me bajé de su web contenía algunos pequeños errores de textos repetidos que supongo corregirán en versiones actualizadas. Además del correspondiente marco teórico, la guía propone una serie de fases para llevarla a cabo, tal como podéis observar en la imagen adjunta.

Incluye también un listado de recomendaciones que a modo de ejemplo se pueden considerar para trabajar con más responsabilidad social en torno a los algoritmos. Estas recomendaciones se clasifican en tres bloques:

• Recomendaciones relativas a la gestión de los datos y la precisión de un algoritmo
• Recomendaciones relativas al cumplimiento ético y legal
• Recomendaciones para una mayor aceptabilidad y deseabilidad del sistema

En fin, solo quería dejar constancia aquí de esta propuesta que para quienes trabajamos en torno a la ética en el campo de los algoritmos y del big data nos viene de perlas. Comentaba ayer en la universidad que puede ser una buena herramienta para nuestras alumnas y alumnos cuando lleguen a tercero. Si en primero queremos que muevan neuronas y entiendan por qué tienen que reflexionar desde una perspectiva ética y en segundo trabajamos específicamente sobre el modelo del Data Ethic Canvas, en tercero podríamos introducir este concepto de auditoría algorítmica como referencia básica de aplicación de la ética a la ciencia de los datos.

Imagen de Pete Linforth en Pixabay.