¿Llegará un algoritmo informático a ser presidente del Gobierno?

Las máquinas, con los algoritmos que las hacen funcionar, comenzaron a entender frases simples en inglés en los años sesenta. Más tarde aprendieron a traducir textos más complejos a cientos de lenguajes, filtrar nuestros correos electrónicos y reconocer un texto escrito a mano. Y hoy ya son capaces de ganarnos en juegos de estrategia y lógica, entender lo que decimos y actuar en consecuencia, asistir a los médicos y vencer a los mejores jugadores de ajedrez o Go.

Un bot es un programa informático que imita el comportamiento humano, y un chatbot es el bot que simula una conversación con una persona. Los primeros pueden decirse que existen desde hace 50 años. Y los segundos, los bots conversacionales, están brotando por todas partes. En la prensa, a estos algoritmos se les denomina Inteligencias Artificiales. Yo prefiero llamarlos algoritmos informáticos, porque tienen mucha informática además de los algoritmos específicos de Inteligencia Artificial (IA), que es una parte de la informática.

Los programas más avanzados son capaces de entender el discurso humano y mantener una conversación lógica y seudointeligente, y además en varios idiomas, lo que también está permitiendo grandes avances en la traducción automática y permite vislumbrar el traductor instantáneo en el horizonte. Las capacidades de la herramienta ChatGPT es una buena muestra de lo que decimos.

Pero lograr esta comprensión automática de la información no es fácil porque el programa informático no solo tiene que leer o escuchar la información, sino también relacionarla e interpretarla para entenderla y poder actuar o responder en consecuencia. Si durante una conversación alguien dice Sevilla, el algoritmo informático debe poder distinguir si se refiere a la ciudad o al club de fútbol, y para ello no solo necesita poder procesar el lenguaje, sino haber sido dotado de mucha información, de definiciones de conceptos y conocimientos básicos para poder razonar y extraer la solución del contexto, como lo haría una persona.

Las máquinas y los algoritmos informáticos son el futuro y en muchos casos ya el presente, y sus avances despiertan sorpresa, temor y, habitualmente, preocupación. Sin duda, el principal miedo con los algoritmos informáticos y sus avances, es su hipotética capacidad de tomar decisiones que jueguen en contra de los seres humanos. La realidad es que, a diferencia de las historias que nos cuentan algunas películas, las máquinas, los algoritmos, no son conscientes de su propia existencia, no tienen sus propios objetivos y sentimientos. Esto está a siglos de nuestras capacidades tecnológicas actuales.

Pero ¿Necesitan los algoritmos una guía ética? La Unesco ha tomado la iniciativa. Sus 193 miembros han adoptado esta semana una lista de recomendaciones que quiere ser una guía ética, la primera de carácter mundial. Esta guía puede consultarse aquí.

Una recomendación, la número 26, es taxativa: “Los sistemas de IA no deberían utilizarse con fines de calificación social o vigilancia masiva”. Otro de los consejos, el 36, estipula que “un sistema de IA nunca podrá reemplazar la responsabilidad final de los seres humanos y la obligación de rendir cuentas”. “Por regla general –añade el texto– las decisiones de vida o muerte no deberían cederse a los sistemas de inteligencia artificial”.

Pero el debate es más profundo

¿Podrá existir un partido político dirigido por un algoritmo informático y cuyo líder sea un chatbot?. Quizá suene a ciencia ficción o al argumento de una serie distópica, pero es un hecho real; ese partido ya existe, y forma parte de la campaña electoral en Dinamarca. Se llama Synthetic Party, y está liderado por Leader Lars, un chatbot con el que cualquier ciudadano puede hablar.

Los impulsores del Synthetic Party aspiran a presentarse a las próximas contiendas electorales en Dinamarca. Para ello piden que se cambie la ley para que un algoritmo se pueda presentar como candidato a las elecciones. Lo que piden no es presentarse un grupo de personas asesoradas por el algoritmo. Quieren que sea el algoritmo informático el que se presente a las elecciones y tome las decisiones políticas pertinentes a partir de la interacción que haya tenido con los electores.

Pero, ¿cuál es su ideología?, ¿progresista?, ¿conservadora? “El partido es sintético, lo que literalmente significa que homogeneiza lo que parece contradictorio o dispar”, explica Asker Bryld Staunaes, miembro del grupo de artistas Computer Lars y del centro tecnológico MindFuture y principal creador e impulsor del Synthetic Party.

Hay otros movimientos similares en el resto del mundo. Le llaman políticos virtuales. En Wikipedia se puede encontrar información sobre estos movimientos y artículos relacionados.

Pero la pregunta es: ¿Queremos que un algoritmo informático se presente a las elecciones? Mi respuesta es no. No, por varias razones. La primera es que la política es un quehacer humano básico. Es la actividad que usamos para tomar decisiones globales. La política es inherentemente conflictiva en la medida en que hay intereses contrapuestos en la sociedad y, por lo tanto, nos engañan cuando propugnan una política sintética, neutra, por encima de los intereses.

En línea con las recomendaciones de la Unesco, creo que siempre tiene que haber una persona que sea responsable de las recomendaciones que hace un algoritmo y más en el terreno de la política. De la misma manera, creo que debemos pedir que una persona se responsabilice de cada decisión que un algoritmo puede tomar, pero no escudarse tras él. Ya sea al pedir una hipoteca, en la priorización en un hospital, etc.

Reivindico la importancia de la política, de la participación política y la necesidad de los políticos. Defender que un algoritmo informático tome las decisiones es pensar que la neutralidad es posible y que los políticos deberían desaparecer. Es un movimiento antipolítico que, si lo pensamos con detalle, prefiere que las cosas sigan como están.

Miguel Toro es catedrático de Lenguajes y Sistemas Informáticos de la Universidad de Sevilla.

Crónicas del Intangible es un espacio de divulgación sobre las ciencias de la computación, coordinado por la sociedad académica SISTEDES (Sociedad de Ingeniería de Software y de Tecnologías de Desarrollo de Software). El intangible es la parte no material de los sistemas informáticos (es decir, el software), y aquí se relatan su historia y su devenir. Los autores son profesores de las universidades españolas, coordinados por Ricardo Peña Marí (catedrático de la Universidad Complutense de Madrid) y Macario Polo Usaola (profesor titular de la Universidad de Castilla-La Mancha).

Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.