El dilema: ¿saber más, aunque sin saber por qué lo sabemos?

by Julen

Ya sé que puede parecer un trabalenguas: ¿saber más, aunque sin saber por qué lo sabemos? Dejando a un lado redundancias verbales, me parece que queda clara la profundidad de la cuestión, ¿no? Claro, lo has adivinado, tiene que ver con la inteligencia artificial, con los algoritmos. Si admitimos la primera parte de la ecuación, «inteligencia»; la segunda, «artificial», deja bien a las claras que hablamos de algo diferente a lo que nuestra fisiología nos entrega al nacer. «Artificial» entra de lleno en un terreno que funciona con otras reglas del juego: las del tratamiento masivo de datos, las de la estadística.

La manera más sencilla de explicar lo que implica el título de este artículo tiene que ver con los conceptos de causalidad y de correlación. El primero es inherentemente humano; el segundo corresponde a la estadística. En el caso de las personas, entender la causalidad tiene que ver con ese momento eureka que marca un antes y un después. Cuando entendemos algo quiere decir que hemos sido capaces de encontrar la lógica: algo pasaba como consecuencia de ciertos elementos que lo explicaban. Al entender las causas, nos quedamos tranquilos.

El tratamiento masivo de datos nos descubre correlaciones. Las máquinas se quedan tranquilas cuando descubren que si A, luego B. ¿Por qué? Lo siento, no es pertinente la pregunta. No me programaron para jugar con porqués. No me construyeron para dar ese tipo de respuestas, sino simplemente para detectar que determinados datos correlacionan entre sí. Tú y yo, en cuanto humanos, no tenemos esa capacidad, porque no podemos digerir semejantes cantidades masivas de datos. Así pues, no se nos hace la luz. Pero el caso es que los datos dicen que si A, luego B. Hasta ahí podemos jugar la partida.

El asunto puede parecer simple, pero todo se complica cuando entra en juego el aprendizaje profundo. Deep learning, que ya se sabe que los anglicismos nos hacen mejores personas. Esto va de que el algoritmo, de acuerdo con su lógica, comience a aprender sin intervención del humano. En realidad, hay un paso previo, delicado, y es ese que tiene que ver con que un humano (o una humana) ha diseñado el algoritmo para que haga ese tipo de cosas. Vamos, que la inteligencia artificial lo es porque así lo hemos querido.

Como quiera que el algoritmo maneja datos a quintales y nosotros, según parece, somos un cero a la izquierda al compararnos con semejante capacidad, llega un momento en que las decisiones del algoritmo son incomprensibles para nuestras entendederas. ¿Por qué la máquina ha decidido cambiar una pieza en una instalación? El personal de mantenimiento lo sospecha. Pero puede que no sepa realmente por qué. Claro que si la sustitución de esa pieza conduce a una eficiencia mayor de la instalación, quiénes somos nosotros, simples humanos, para decirle nada a la inteligencia artificial. Sabemos más porque la instalación es, ahora, más eficiente. Pero no sabemos por qué. ¿Aceptamos esta regla del juego?

Sustituir una pieza es algo muy simple. El problema viene si el algoritmo se empeña en despedir a alguien —vale, no me pongo tan cenizo y cambio los términos: en contratar a alguien—, en predecir tu salud o tu enfermedad, en asignarte la nota en la universidad o en jugar con lo que te muestro para que quieras tomar determinadas decisiones como si fueran tuyas.

A todo esto, no hay que olvidar que la humanidad lo es (también) porque es capaz de generar tecnología como ninguna otra especie. Estamos en plena era transhumana, sea mediante un exocerebro llamado smartphone o mediante algoritmos que expanden la inteligencia y a los que hacemos caso. Sin embargo, las lógicas son diferentes. Sabemos cada vez más —o accedemos de forma más fácil a lo que ya sabíamos— a través de tecnología. Es artificial. ¿Aceptamos que no vamos a saber por qué sabemos más y más cosas?, ¿esto es progreso para la humanidad?, ¿es sabiduría humana?

Una última reflexión para terminar: los humanos también sabemos muchas cosas sin que sepamos muy bien explicar por qué las sabemos. Entre congéneres reconocemos que hay una parte de conocimiento tácito. La inteligencia intuitiva parece muy humana, ¿verdad? A veces también podríamos decir que somos cajas negras. Pero, claro, forma parte de nuestra humanidad. Lo que nos permitimos entre humanos no rige para las máquinas. ¿Piensas también así?

Imagen de Birgit Böllinger en Pixabay.

Artículos relacionados

Deja un comentario

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.