Francamente... Posthumano
Cómo nos manipulan los robots

¿Leyeron los términos y condiciones generales? ¿No? En la columna “Posthumano… a las claras” Liwen Qi muestra cómo nuestro comportamiento se adapta al de las máquinas.

De Liwen Qin

Una vez estaba yo sola en el ascensor del Hotel JW Marriot en Shenzhen, uno de los Silicon Valleys de China. De pronto, se abrió la puerta. Entró rodando un cilindro vertical blanco que parecía R2-D2, de Star Wars, sólo que sin brazos ni piernas. Me saludó con voz infantil y segura de sí misma: “Hola, voy al piso 38.” Me quedé muy sorprendida, pero llena de alegría y curiosidad: quería seguir al cilindro y hacerme su amiga, quizá incluso volverme su dueña. Y me quedaba completamente claro que me habían manipulado.
 
La preocupación en torno a la inteligencia artificial (IA) es exagerada. Rodney Brooks, ex director del Laboratorio de Ciencia e Inteligencia Artificial en el MIT, enlista en un artículo los “siete pecados capitales” de las profecías sobre la inteligencia artificial. Explica que, en relación con la IA, existe aún una gran brecha entre la realidad y lo que cree la gente.

No hay forma de decir que no

Programas informáticos como AlphaGo o Deep Blue pueden haber vencido a campeones (humanos) mundiales de ajedrez, pero las máquinas no aprenden, por mucho, de manera tan efectiva como las personas,  y lo hacen de manera mucho menos compleja que el cerebro humano, que absorbe la información como una esponja. Lo que debería preocuparnos actualmente no es que la inteligencia artificial vaya a gobernar el mundo, sino que los seres humanos nos adaptemos a la menor inteligencia de las máquinas, algunas de las cuales son tan tiernas como R2-D2.
 
La primera de estas adaptaciones es un patrón de conducta que se asemeja al de una máquina. Le damos clic a “Sí, acepto los términos y condiciones generales” sin haberlos leído. Le damos “like” a videos en línea, y de ese modo alimentamos a la computadora con nuestras preferencias: cosas tiernas o bromas. Así, nos convertimos en máquinas alimentadoras de datos, y con frecuencia ni siquiera podemos decir que no.

Relación entre amo y esclavo

La segunda forma de adaptación es un pensamiento de posesión que influye la relación entre personas. Cuando las personas hacen valer un derecho a poseer un ser inteligente y luego hacen mal uso de este poder, por ejemplo, gritándole a Alexa, eso también influye las relaciones interpersonales, porque aparecen patrones de conducta que recuerdan la relación entre amo y esclavo.
 
Y finalmente: si pasamos demasiado tiempo con una inteligencia artificial “sumisa”, eso repercute de manera negativa en nuestra capacidad de construir relaciones con nuestros semejantes. Y aquí radica la tercera forma de adaptación. En la actualidad, más de medio millón de hombres japoneses sostienen una relación con un personaje digital llamado Rinko. Estos “digisexuales” se deciden por una relación plácida y controlable con una inteligencia artificial, en lugar de iniciar una relación complicada con un ser humano: una relación en la que a veces también puede haber fricciones.
 
Está claro que somos nosotros quienes programamos a la inteligencia artificial. Pero no todos podemos decidir cómo es que se le debe configurar exactamente. Eso lo deciden sólo quienes determinan el juego que la inteligencia artificial ha de jugar con nosotros: las empresas y los gobiernos.

Cuestiones morales y sociales

Hasta ahora la vigilancia y la manipulación cotidianas en Alemania siguen siendo menores que en otras partes del mundo, puesto que la sociedad alemana todavía le concede un alto valor a la protección de datos. Sin embargo, esto se debe también a que la infraestructura de la tecnología de la información en Alemania es todavía muy rudimentaria en comparación con países como Estados Unidos o China. Pero es probable que eso cambie muy pronto.
 
No creo que hayamos perdido la lucha contra las máquinas, siempre y cuando el usuario esté consciente de su relación con la inteligencia artificial. Y mientras que los desarrolladores tengan presente que las funciones de la IA deben supervisarse siempre desde un punto de vista moral, social e histórico antes de llegar a manos humanas. Por último, la forma en que la inteligencia artificial se desarrolle en el futuro dependerá en gran medida de cómo nos percibimos a nosotros mismos. Y de qué expectativas depositamos en nosotros mismos.
 
Me llamo Liwen Qin. Colaboro con empresas de tecnología de la información y en esta columna les presentaré mis nuevos descubrimientos.