Ética respecto a los datos masivos en un grado universitario

Hoy comenzamos en la universidad nuestras clases sobre ética y datos. En el marco del nuevo grado en Business Data Analytics disponemos de 20 horas lectivas para trabajar este asunto. En los últimos meses he estado leyendo diverso material relacionado con este asunto (continúo con las lecturas, claro está). Tengo que reconocerlo: me encanta leer y reflexionar sobre esta cuestión. En gran parte porque me parece observar una corriente de idolatría absolutamente acrítica respecto a los algoritmos y la inteligencia artificial. En este blog ya hemos escrito en varias ocasiones sobre cuestiones éticas en torno al management en general. Ahora, sin embargo, el foco tiene que ver con los algoritmos que permiten el manejo de grandes volúmenes de datos.

En mi tesis doctoral ya me enfrenté a la realidad: ¡es tan sencillo obtener datos de Internet mediante scraping! No me extraña que esa tentación conduzca a comportamientos muy cuestionables desde una perspectiva ética. En mi caso, por ejemplo, que obtenía la información de un foro de discusión online de carácter público, la primera cuestión tenía que ver con que quienes participaban allí supieran y dieran su consentimiento para llevar a cabo la investigación. Insisto: extraer datos es demasiado sencillo. De ahí que haga falta una reflexión inicial sobre aspectos éticos.

Para entender de qué va esto de la ética aplicada a datos masivos, la entrada Big Data Ethics de la Wikipedia es un buen punto de partida. Sí, la Wikipedia, como tantas otras veces, resulta ser el camino más corto para disponer de un panorama muy pertinente sobre la materia. Allí se aportan los principios sobre los que incidir cuando nos acercamos a la ética de los datos. En torno a estas cuestiones van a girar nuestras sesiones:

• Propiedad
• Transparencia de las transacciones
• Consentimiento
• Privacidad
• Valor económico
• Apertura

Por supuesto que cuando hablamos de datos hay que distinguir si los datos se refieren a objetos o si estamos hablando de datos personales. En este segundo caso, todo se vuelve mucho más delicado. Como explicaba Paloma Llaneza en la conferencia TEDx Parque del Oeste, somos «un dato andante». El mercadeo de nuestros datos, en el que todo tiene un precio y, sin que nos enteremos, todo se compra y se vende, debe prevenirnos para que seamos prudentes. El primer paso siempre corre de nuestra parte. Debemos actuar con cautela y exigir nuestros derechos.

Desde que me encargaron estas clases pensé que lo más importante será provocar la reflexión de las chicas y chicos que están estudiando nuestro grado. No me puedo permitir el lujo de apabullar con teoría –aunque también hay que introducirla en el programa–y de ahí que haya buscado dos vías: por un lado, colaborar con profesionales que cada día se enfrentan a aspectos éticos en su trabajo con datos y algoritmos y que vendrán a clase a compartir sus experiencias y, por otro, introducir ejercicios y dinámicas que nos obliguen a pensar. Sí, hay que pensar y considerar las repercusiones de nuestro trabajo con algoritmos y grandes cantidades de datos.

Como decía, hoy comenzamos. La primera sesión la quiero dedicar a preguntarles sobre qué aspectos consideran que debemos tratar en las 20 horas de que dispondremos en el grado. Yo, por supuesto, tengo mi teoría bien pensada, pero me interesa buscar por dónde va su pensamiento. Además, quiero jugar en el aula con la máquina moral diseñada por el MIT para que nuestros algoritmos decidan en el caso de un accidente inevitable de un vehículo autónomo. Ya comenté este juego en un post anterior.

En fin, iré compartiendo por aquí algunas reflexiones a partir de estas clases. Les estamos diciendo a estas chicas y chicos que el futuro es suyo porque sabrán trabajar con datos masivos. ¿Para qué?, ¿qué responsabilidad tendrán en mejorar la sociedad que somos?, ¿tendrán el poder de hacerlo?, ¿en qué condiciones? Datos por todas partes. Este parece ser el punto de partida.