15 citas de El enemigo conoce el sistema, de Marta Peirano

De entre las lecturas con las que ando últimamente, no hay duda que este libro de Marta Peirano es de los que te hace pensar: El enemigo conoce el sistema. Por cierto, no sé si hablar de best seller porque el otro día lo veía en lugar destacado en una de las librerías de referencia aquí en Bilbao. La lectura la enmarco en la preparación de mis clases sobre ética aplicada a Big Data e inteligencia artificial en la universidad. Ya sabéis que Marta, entre otras cosas, tiene una bonita charla en TEDx, muy recomendable. Además, podéis localizar bastantes entrevistas con ella en distintos medios. En fin, que aquí va otro post de los que suelo escribir con citas de libros que me parecen interesantes.

Sobre nuestra curiosa relación con Facebook:

Facebook no tiene afiliación política, tiene objetivos. [Su] objetivo es convertir a cada persona viva en una celda de su base de datos, para poder llenarla de información.

Nuestros smartphones son la puerta abierta para que nos «capten» en la secta.

Lo que quiere la tecnología que hay dentro de tu móvil es engagement. El engagement es la cumbre de la felicidad de la industria de la atención.

Vivimos en tiempos de conductismo puro y duro.

Freud le ganó en las guerras culturales, pero el mundo posinternet es suyo. Si Skinner estuviera vivo, ahora mismo trabajaría para Facebook, Google o Amazon, y tendría tres mil millones de ratones humanos con los que experimentar.

Necesitamos nuestra dosis diaria para salir adelante. Sí, datos como azucarillos de autoestima.

«Solo controlando cuándo y cómo le das a la gente los pequeños chutes de dopamina, puedes llevarlos de usar la aplicación un par de veces a la semana a usarla docenas de veces por semana», explica Ramsay Brown en una entrevista. El usuario no puede saber si el número será alto o bajo, si esconde algo bueno o algo mejor. «Ese es el elemento que lo hace compulsivo.» Nadie quiere jugar a un juego donde acierta o gana todo el rato, le quitaría todo su sabor. Es el viejo condicionamiento operante del profesor Skinner, pero alimentado con big data y optimizado con inteligencia artificial.

Alguien ahí detrás programa qué vemos y qué no. Nuestro trabajo es mirar la pantalla.

La pantalla podría mostrarnos los últimos contenidos de manera automática, cada vez que la miramos. De hecho, antes era así. Ahora es una caja de Skinner donde tiramos de la palanca para que pase algo, sin saber si la palanca trae premio o no.

¿Quién quiere política pudiendo captar nuestra atención con otras artes?

El capitalismo de la atención no tiene tiempo para la política, ni para los valores ni para los niños ni para ninguna otra cosa que no sea el engagement.

Ya lo sabes: en realidad no hace falta que nos cuentes nada. Ya hablan por ti los metadatos.

El consejero general de la NSA, Stewart Baker, confesó que «los metadatos te cuentan absolutamente todo acerca de la vida de alguien. Si tienes suficientes metadatos no necesitas contenido». «Nosotros matamos gente usando metadatos», declaró el general Michael Hayden en un debate titulado Re-evaluando la NSA. Si tienes suficientes, los metadatos te cuentan cosas que el vigilado no sabe. En la era del Big Data, el contenido es lo menos valioso. El metadato es el rey.

Resulta que la nube lo es tanto.

Contra lo que su vaporoso nombre sugiere, la nube es una aglomeración de silicio, cables y metales pesados que se concentra en lugares muy concretos y consume un porcentaje alarmante de electricidad.

Los algoritmos reflejan lo que somos, lo que incluye sesgos y errores del pasado.

El algoritmo imita el sesgo implícito del sistema al que sirve porque ha sido entrenado en sus valores morales y reproduce los errores del pasado.

Parece que los datos también llevan aparejados ciertos riesgos de manipulación.

El big data es el nuevo plutonio. En su estado natural tiene fugas, contamina y hace daño. Contenido y aprovechado de manera segura puede iluminar una ciudad.

La vieja historia de que, al final, somos el producto.

Los anuncios son la tapadera, una excusa. El negocio no es venderles productos a los usuarios, sino vender los usuarios como productos a una industria hambrienta de atención. Para que el negocio funcione, hay que mantener a los usuarios entretenidos mirando la página el mayor tiempo posible.

¿Lo hacemos porque queremos?

Pero cada época tiene su propio fascismo, y el nuestro difiere en muchos aspectos del que describe Orwell en los cuarenta, al menos en el mundo occidental. A nosotros nadie nos obliga a tener la telepantalla encendida. Nosotros mismos nos esmeramos en llevarla a todas partes, cargarla a todas horas, renovarla cada dos años y tenerla encendida todo el tiempo y programada para no perdernos un segundo de propaganda.

Cada cual recibe su merecido. Pero, claro, las consecuencias son (o pueden ser) terribles.

El afroamericano que desayuna cada día con titulares sobre brutalidad policial, esclavitud, agravios culturales y racismo institucional no sabe que su odiado vecino blanco amanece con titulares de bandas criminales hondureñas de caras tatuadas, negros detenidos por violar y matar misionarias o vender crack a adolescentes.

Ya sabemos que nuestras democracias no lo son tanto. Tenemos ejemplos día sí y día también.

«Los regímenes autoritarios no son los únicos que usan la manipulación organizada de las redes sociales —concluía el primer informe del Proyecto de Propaganda Computacional de la Universidad de Oxford en 2017—. Los primeros registros de gobiernos revolviendo en la opinión pública son de democracias. Las nuevas innovaciones en las tecnologías de comunicación suelen venir de partidos políticos y surgen durante campañas electorales de alto nivel.»

Parece que hay un antes y un después del impresentable Donald Trump.

Los anuncios de Clinton eran serios y tradicionales, los de Trump eran reguetón. Causaban furor entre sus seguidores e indignación entre sus detractores, haciendo que los dos lados los pincharan y compartieran por igual. […] El único delito de Trump fue ser el candidato perfecto para Facebook.

La imagen está tomada de Viquipèdia.