Comenzamos de nuevo las clases de Ética y Datos en la uni

Hoy tengo la primera clase con las alumnas y alumnos de primero del grado de Business Data Analytics en la sede de Bilbao Berrikuntza Faktoria. Contamos con la experiencia del año pasado y lo que aprendimos de trabajar con un modelo que planteaba diversos estímulos de aprendizaje: debates en clase sobre algunos conceptos básicos, sesiones con profesionales que de alguna manera mostraban sensibilidad por cuestiones éticas en torno a los algoritmos y, por último, ejercicios prácticos para redactar la parte correspondiente a la ética en sus informes finales relacionados con los retos que tienen que ir afrontando a lo largo del curso. Seguiremos en esa línea, con algunos ligeros cambios después de las lecciones aprendidas el curso anterior. La mayoría serán clases online aunque también, si el virus nos respeta, podremos trabajar alguna que otra vez con el formato presencial.

Por su parte, la semana que viene arranco también con el grupo que este año está ya en segundo curso. En este caso centraremos mucho más el trabajo en profundizar en un modelo concreto de análisis: el Data Ethics Canvas aplicado a cada uno de los retos a los que tienen que hacer frente. Cuando hablo de retos, hay que tener en cuenta que el grado se vehícula en gran parte a través de esta metodología: Challenge Based Learning.

Al introducir el enfoque ético en la analítica masiva de datos estamos buscando decidir qué está bien y qué está mal. La cuestión es que decir que algo está bien o mal tiene que ver con la moral dominante: en función de nuestras creencias y convicciones personales decidimos si algo está bien o mal. Los datos se están conformando como la principal materia prima con la que levantar negocios hoy en día. El poder que se asigna a los algoritmos ocupa un lugar absolutamente preeminente en nuestra sociedad contemporánea. Así que tenemos que conseguir que nuestras alumnas y alumnos se hagan las preguntas que quizá un enfoque meramente técnico pudiera dejar escondidas.

Hoy casi todas las grandes compañías –las GAFAM de turno– disponen de sus grandes declaraciones de principios éticos. El problema es que no suele haber forma de asegurar que luego la realidad de su actuación es coherente con esas frases lapidarias¹Os recomiendo este paper de Thilo Hagendorff (2019): The Ethics of AI Ethics–An Evaluation of Guidelines.. Se quedan en palabras huecas. Ya escribimos en su día sobre ethicswashing en este blog. La ambición por hacer caja puede mucho más que la prudencia y de vez en cuando encontramos prácticas (a veces sancionadas con condenas judiciales y a veces no) que contradicen lo que se promulgó como principio ético que debía guiar la conducta.

Claro que todo parte de la reflexión sobre qué está bien y qué está mal. Y ahí nuestro particular sistema de creencias, anclado en una determinada cosmovisión, campa a sus anchas. Somos el fruto de nuestro tiempo, de la educación que recibimos. Pero en un mundo movido por el consumo, se juega con nuestros sesgos cognitivos para que sea el sistema 1, en términos de Kahneman, el que se imponga en muchas de las decisiones que tomamos. Todo está diseñado para que nuestra percepción del bien y del mal sea una en concreto, esculpida a base de un modelado de conducta del que no solemos ser conscientes. El asunto es complicado y solo hay una manera de enfrentarlo: haciendo uso del pensamiento crítico.

Este, por tanto, sería el gran objetivo que trabajamos en las clases de ética: fomentar el sentido crítico. Mejor si levantamos un permanente ejercicio de duda ante los retos que se van planteando durante el curso:

• ¿La forma en que los datos originales se han recabado es fiable?
• ¿Conocemos para qué se va a usar el algoritmo y lo vemos adecuado (contraste ODS o derechos humanos)?
• ¿La muestra de los datos es representativa y no contiene sesgos?
• ¿Existe un equipo o algún mecanismo que evalúa y «controla» el algoritmo desde un punto de vista ético?
• El diseño del algoritmo es transparente: ¿se ha documentado y se puede acceder a él?
• ¿Se conforma un equipo de diseño del algoritmo con diversidad (edad, género, raza, religión…)?
• ¿El algoritmo no va a eliminar puestos de trabajo actualmente ocupados por personas?
• ¿Se planifican y llevan a cabo acciones para explicar a las personas afectadas cómo funciona el algoritmo?
• ¿Ante cualquier señal de riesgo o peligro para las personas, se detiene su aplicación?

Necesitamos que nuestras chicas y chicos se hagan estas preguntas y que las apliquen a sus ejercicios de análisis masivo de datos. Hoy comenzamos y lo haremos, entre otras cosas, echando unas partidas a la Moral Machine. Vamos a empezar a provocar un poco de desasosiego: ¿a quién vamos a matar con los algoritmos que gobiernan el vehículo autónomo?

Imagen de facethebook en Pixabay.

• 1
  Os recomiendo este paper de Thilo Hagendorff (2019): The Ethics of AI Ethics–An Evaluation of Guidelines.