Este lunes pasado tuve una clase con las alumnas y alumnos de tercero de nuestro Grado en Business Data Analytics. Estuvimos hablando de las auditorías algorítmicas, algo que con el paso del tiempo y el poder de los datos es cada vez más necesario plantearse. Me temo que aún hay demasiadas cajas negras que destapar, sobre todo cuando los algoritmos tienen peso en decisiones que nos afectan. En la medida en que su uso se extiende, necesitamos incorporar mecanismos fiables de auditoría.
Pensé que la manera en la cual tocarles la fibra sensible era plantearles este supuesto: la nota académica que te vas a llevar no te la va a poner un humano. No, será un algoritmo quien lo haga. ¿No estamos en un grado que quiere poner en valor los datos? ¿No es una queja extendida esa que tiene que ver con que a veces el profesorado es injusto al poner las notas? Pues, venga, vamos a por ello: que sea un algoritmo el que se encargue de ello.
Como esto puede parecer demasiado disruptivo, decidí rebajar algo la propuesta. Vale, quizá no es cuestión de que el 100% de la nota venga del algoritmo. ¿Estaríamos de acuerdo en que una parte de esa evaluación viniera del algoritmo? ¿Hablamos de un 50-50, por ejemplo? ¿Quizá es mejor que seamos más conservadores y dejar que sea el profesorado quien siga llevando la voz cantante y lo dejamos en un 75-25? ¿O hacemos al revés y sin darle total responsabilidad al algoritmo, sí que delegamos en él el peso principal de la nota?
Al margen del análisis técnico, un primer desencadenante de este proceso tiene que ver con un problema social complejo: ¿es deseable cambiar el sistema actual y dar entrada de forma progresiva a los algoritmos? Esta es la primera gran pregunta: ¿los algoritmos aportarán alguna ventaja evidente respecto al sistema anterior? La deseabilidad es uno de los primeros factores a tener en cuenta. Frente a la moda del dato por el dato, la pregunta clave es esta: ¿es deseable que los algoritmos comiencen a jugar en la toma de decisiones o no merece cambiar el sistema?
¿Y cómo cambiaría el rol del profesorado si introducimos algoritmos? ¿Deberían participar de alguna manera en el diseño del nuevo algoritmo? Parecería que sí. Lo lógico sería conformar un equipo mixto de diseño del algoritmo en el que personas expertas en datos se nutren del conocimiento del profesorado. Pero entonces, ¿estamos introduciendo los sesgos de siempre, los que arrastra el profesorado, y el algoritmo no hará sino reproducir lo que ya estamos haciendo? ¿El futuro debería partir de la experiencia del pasado? ¿Eso es lo que, de verdad, aporta un algoritmo?
De momento, lo dejo aquí. Es solo un primer post respecto a un tema que me parece apasionante. Ya lo digo desde ahora: no lo tengo claro. No sé muy bien cómo encarar este asunto. Tengo, eso sí, muchas preguntas. ¿Creéis que llegaremos a ver a los algoritmos poniendo notas en la universidad?
2 comentarios
No es de extrañar que un algoritmo te califique en la universidad. Ya hay algoritmos que te califican y clasifican en procesos de segmentación para ofrecerte, venderte, etc.. Los algoritmos influyen prácticamente en todo, y evolucionan de manera sorprendente.
Más allá de todas las preguntas que nos hacemos, más allá de nuestra posición en contra o a favor, hay que entender que nos guste o no, estamos en un proceso de cambios. Evolución le llaman. Habrá que ver cuales serán los resultados
Saludos cordiales Julen, desde el otro lado del gran charco
En cualquier caso, Jorge, los humanos tenemos que diseñar procesos en los que no perdamos el control sobre lo que supone un paso de estas características. Para mí, es un asunto muy delicado.