Eric Sadin: “La pandemia mostró que hacen falta más material y camas que inteligencia artificial”

Una mujer se somete a una entrevista de trabajo bajo un formato curioso. Tiene que seguir las instrucciones que le dicta la plataforma Pymetrics desde su teléfono: tocar la pantalla cuando aparezca un punto rojo, cantar una melodía o deletrear sin tropezar el alfabeto. Falta algo: ver y hablar con una persona. La entrevista se interrumpe y no ha oído ni visto a nadie. Solo al pingüino animado que le hacía las preguntas. Poco después, recibe una notificación en su móvil: no pasa a la siguiente fase.

Este episodio sirve al escritor y filósofo Eric Sadin (París, 1973) para poner en contexto al lector en su nueva obra La inteligencia artificial o el desafío del siglo. Anatomía de un anti humanismo radical (Caja Negra, 2020). Una reflexión sobre la sociedad que se avecina y sobre lo que está en juego en un mundo invadido por una tecnología en constante progreso que se dirige, de cabeza, a la digitalización de las actividades, los gestos y las emociones del ser humano o, en otras palabras, de la vida. Al acabar la lectura de su obra ―y de algunos de sus ensayos anteriores, como La humanidad aumentada o La siliconización del mundo― el panorama que se dibuja en la mente del lector es inquietante: el ser humano pierde su poder de decisión y opinión y se somete al “saber absoluto” que le facilita la máquina en un tiempo récord.

Sadin responde a EL PAÍS por videoconferencia desde París. Antes de nada, contesta una pregunta básica, pero de la cual, según opina, poca gente sabe la respuesta: ¿qué es la inteligencia artificial (IA)? “Todo el mundo ha oído hablar de la IA, pero nadie sabe lo que es realmente y aún menos sus consecuencias. Todo es tan precipitado que nos nos paramos a pensar en ellas. Lo damos todo por hecho, como si fuese el curso normal de las cosas, pero es un grave error. No nos hacemos las buenas preguntas”, opina.

Hemos pasado de la era del acceso a la del exceso

La Real Academia Española (RAE) define la IA como una “disciplina científica que se ocupa de crear programas informáticos que ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje o el razonamiento lógico”. Sin embargo, Sadin añade que “estos sistemas constituyen un órgano capaz de valorar la realidad de una manera más fiable que nosotros mismos y revelarnos dimensiones, hasta ahora escondidas, de nuestra conciencia”. “Es muy perturbadora su capacidad para enunciar la verdad basada en ecuaciones frente a las cuales el ser humano no puede decir nada”, asegura.

La dinámica que ha emprendido el planeta hacia la mayor optimización posible, la perfección y la automatización de la existencia no le convence en absoluto. Para él, la humanidad se somete a un sistema utilitario que le roba o sustituye su esencia y que le transforma en un simple blanco del mercado. En su obra, pinta la humanidad al servicio de la herramienta y deja entrever cómo, sin darnos cuenta, nos convertimos en unos muñecos de las máquinas que nos dicen qué hacer, cuándo y cómo. “Ya hemos cruzado un límite”, asevera.

Pandemia, medicina y humillación

Las dudas, la ambigüedad, el temor, el cansancio y la subjetividad son propias de la humanidad y no existen en el mundo de los algoritmos. Uno más uno igual dos, y punto. Según Sadin, la industria numérica cree haber resuelto el mayor problema del sistema sanitario, el error humano, pero se equivoca. “Dicen que la medicina es el ámbito que más se va a beneficiar de estos sistemas superinteligentes para los diagnósticos. Pero no es cierto”, remata. “Quieren aprovecharse de nuestros defectos, pero con esta pandemia hemos visto que la medicina no necesita esto. Más bien necesita camas, espacio y material”, insiste. Al filósofo francés le parece una aberración que los 12 años de estudio de un médico cuenten menos que una máquina, que además no son los propios médicos las que la programan.

“La realidad [de la pandemia] nos ha dado en plena cara y la IA no ha sido capaz de verla venir. No ha dado ninguna señal de alarma. ¿Dónde está aquí la voluntad de controlarlo todo? Hemos sido humillados. Nos ha sobrepasado a todos”, asevera. Uno de sus consejos es que la gente tenga cuidado con los discursos de la industria que le intenta vender soluciones para sus mayores defectos. “Ahora mismo, en 2020, no niego que exista una complementariedad humano-máquina, pero hablemos dentro de cinco años. Todo será distinto”, advierte.

Lo que ocurre y ocurrirá con el mundo laboral es lo que más inquieta al escritor. No tanto por la pérdida de empleos que traerá la IA, una de las mayores preocupaciones de Martin Ford, experto en robótica británico, sino por el nuevo método de organización que se implementará a gran escala. Una organización regida totalmente por las máquinas y los algoritmos que no deja lugar al desacuerdo. “El empleado se doblega a la verdad enunciada por la máquina, una verdad definida por intereses económicos. ¿Dónde está la ética? ¡Están reduciendo la realidad a ecuaciones matemáticas!”, exclama.

Para Sadin el trabajo se define por la colectividad: varios seres humanos toman decisiones y encuentran soluciones a partir de diversas opiniones. Sin embargo, hoy son los datos los que dirigen la cadena mediante sensores que miden los gestos y la eficiencia de los trabajadores. “No solo evalúa en tiempo real, sino dicta los gestos que se tienen que hacer. Esto burla la integridad y dignidad del ser humano”, alerta el filósofo. Quizás lo que más tensa al escritor parisino, es que no se hable lo suficiente de que se esté intentando robotizar e incluso borrar el caos, esencial al mundo, con sus cualidades y defectos. “Estos sistemas tratan de homogeneizar a la sociedad con esa inquietud permanente de alcanzar la perfección, que, menos mal, siguen teniendo lagunas. Los seres humanos seguimos siendo multisensoriales, complejos, contradictorios y plurales”.

— ¿Sabes cuáles es tu mayor defecto?, pregunta el filósofo del otro lado de la pantalla.

— No.

— Ser la única como tú en este mundo, responde para ilustrar el problema.

La “sociedad de la sugerencia automatizada”

Volvamos a la mujer de la entrevista de trabajo. Los que contratan ya no necesitan leer todo el papeleo, la máquina analiza a los candidatos en su lugar y la decisión la toman los algoritmos. “Es otra ganancia de optimización, lo reconozco, pero ¿qué pasa si la persona que hay enfrente de la pantalla es tartamuda, pero no por eso menos apto para el trabajo? ¿Y si toma su tiempo para contestar no por falta de reactividad, sino porque, simplemente, piensa antes de hablar?”. Por ahora los seres humanos tienen el control, opina Sadin. Pero dentro de tres años todo puede cambiar y por eso hay que empezar a reflexionar y a no dar las cosas por hecho.

Sin embargo, es posible que “demos por hecho” todo esto porque desde hace más de 10 años, con la invención del smartphone, forma parte de nuestras vidas. Aceptamos su llegada y le dimos incluso la bienvenida, los brazos abiertos y los pulgares en alto listos para pulsar la pantalla. Estos sistemas que están por todas partes constituyen “un acompañante algorítmico de la vida”, nos da ideas, mejores opciones, sugerencias e incluso nos hablas, como los altavoces inteligentes de Amazon que llaman “asistente virtual”. “Es difícil deshacerse de esto porque confiamos en estas aplicaciones, en su criterio”, explica Sadin. La IA cambia la estructura: “Ya no son los seres humanos los que van hacia los productos, los productos son los que se presentan a las personas. Entramos en una sociedad de la recomendación y la sugerencia automatizada y personalizada”.

Del acceso, al exceso

Salir de este bucle digital parece imposible. “Hemos pasado de la era del acceso a la del exceso”, dice el filósofo. Además, es complicado alejarse de estas tecnologías, pues facilitan la vida y sus resultados son fiables. El mercado numérico contesta a la demanda, ¿que pasaría si el ser humano parase de pedir más y más? “Podría ser una opción, pero la industria digital tiene un poder de seducción muy potente”, contesta.

Entonces, ¿qué hacer? En una palabra: parar. Sadin asegura que hay una solución frente a esta carrera hacia la automatización del mundo: “Es la responsabilidad de la persona de decidir hasta donde acepta estar controlada. Cuando ve que está perdiendo ese poder de decisión, tiene que parar”. El filósofo cree que, pese a todo esto, estamos en un mundo donde, al mismo tiempo que la tecnología se desarrolla a una velocidad vertiginosa, también lo hacen las ideas y las inquietudes. “Con la pandemia y los errores, hemos llegado al final de una historia”, concluye. En definitiva, es el momento de hacerse las buenas preguntas.