Alicia Troncoso: “En el futuro desarrollaremos capacidades relacionadas con la interacción humano - máquina”

El mundo entero habla de la capacidad de la IA, de su poder ambivalente, de por qué lado caerá una moneda que ahora gira en el aire. Alicia Troncoso sostiene que necesitamos añadir una sigla a ese acrónimo: R de Responsable. Y U de universal. Aunque esas bridas frenen un tanto su potencial transformador, las considera imprescindibles para dirigirlo por el buen camino.

¿Qué buena pregunta no le han hecho aún sobre IA?

Nunca me han preguntado si hará que los seres humanos en un futuro cercano seremos menos inteligentes, si perderemos capacidades como por ejemplo el conocimiento de idiomas. Hace más de treinta años, los estudiantes sabían hacer raíces cuadradas, pero desde el apogeo de las calculadoras electrónicas en la década de los ochenta, esa capacidad se ha perdido. Pienso que se transformarán las capacidades y habilidades de las personas gracias a su poder de adaptación. Las generaciones futuras no sabrán conducir un coche con cambio manual, pero sí dirigir las conversaciones con la IA hacia respuestas satisfactorias en temáticas concretas y de interés. En general, podemos decir que desarrollaremos capacidades relacionadas con la interacción humano-máquina.

Si tuviera que explicar a un niño qué es...

Pues le diría que es como tener un amigo que sabe mucho de algo concreto y a quien le puedes pedir ayuda para resolver problemas relacionados con eso que sabe.

Si un gran poder conlleva una gran responsabilidad, ¿cuál es la de los creadores de la IA generativa?

Como mínimo, se puede resumir en el cumplimiento de la ley, y garantizar la privacidad de los datos personales y la protección de los derechos ciudadanos. Cualquier producto basado en IA debe ser transparente, responsable y ético, lo que implica que las decisiones tomadas con base en ese producto tienen que ser explicables y justas, sin discriminar a ningún grupo de personas.

¿Qué hacemos con los que no están dispuestos a ponerle esos límites?

La ley debe establecer qué hay que hacer en estos casos y contemplar desde posibles sanciones a delitos tipificados, dependiendo del daño causado. A su vez, es importante concienciar a la sociedad de los posibles riesgos y cómo hacer un uso responsable de las diferentes tecnologías.

La IA explicada a un niño: “Es como tener un amigo que sabe mucho de algo concreto y a quien le puedes pedir ayuda para resolver problemas relacionados con eso que sabe”

¿Es esa nuestra mayor responsabilidad como usuarios?

Así es. Saber usarla de una forma responsable, conocer las implicaciones que puede tener su mal uso, verificar la información que procede de una aplicación de IA, no difundir contenidos falsos o exigir responsabilidades a las empresas que, a través de esas aplicaciones, hagan un uso ilícito de datos privados, de imágenes o derechos de propiedad, por ejemplo.

¿Qué le quita y qué le pone a la nueva reglamentación europea?

La normativa nos protege a todos en lo que respecta a derechos como la privacidad y la transparencia en el uso de algoritmos, pero como contrapartida podría hacer que la innovación sea más lenta o esté limitada. No obstante, en mi opinión, es una ley de mínimos que regula aspectos necesarios y beneficiará el desarrollo de la IA mucho más que perjudicarlo.

Dicen que las mujeres directivas tienden a cuidar más a los equipos y eso se refleja en los resultados. ¿Hace falta una IA más femenina para que sea más humana?

La diversidad en un equipo de trabajo siempre es un plus, diferentes puntos de vista y experiencias aportan riqueza y valor al producto desarrollado. Entonces no hace falta que la IA sea más femenina, sino que el equipo de personas responsables de su desarrollo tengan conciencia de inclusividad, equidad y ética para incorporar esos valores en la IA desde su diseño. Eso contribuirá a que sea mucho más inclusiva y humana.

Es legendaria la productividad española. ¿La IA será tan influyente como para ayudar a mejorarla?

En las universidades españolas hay muy buenos grupos especializados en IA que desde hace más de 25 años investigan en series temporales, deep learning, machine learning, robótica, ontologías, planificación automática... Todos estos grupos estamos en contacto a través de las actividades que organizamos desde la Asociación Española de Inteligencia Artificial, y no hablo de algo reciente, porque en 2024 celebramos su 40 aniversario. Por tanto, sería muy importante que las empresas establecieran alianzas con estas unidades para innovar servicios que mejoren la competitividad empresarial a través de la IA. Con esa premisa, la tecnología puede ser uno de los motores de la productividad en múltiples sectores.

De todos los grandes beneficios factibles que promete, ¿cuál elegiría?

Sin duda los relacionados con la salud y el medio ambiente, la investigación en IA para encontrar la cura a enfermedades graves como el cáncer y la gestión de los recursos naturales con el fin de combatir el cambio climático. Para lograrlo, es crucial desarrollar algoritmos que sean sostenibles, con un consumo de energía responsable.

El mundo con una IA en su segunda fase, ¿será mejor en general? ¿Y en la tercera?

Si sabemos encauzar la IA de forma responsable y ética, podríamos alcanzar grandes avances para aumentar el bienestar humano, al tiempo que minimizamos los riesgos potenciales. No obstante, aun siendo ética y responsable, hay que tener siempre en cuenta que la IA impactará en alguna medida en aspectos como la transformación del empleo.