«La IA priorizará objetivos y no valores humanos»

Un futuro de sistemas superinteligentes puede priorizar sus objetivos sin que estos estén alineados con los valores humanos. Es uno de los riesgos de la inteligencia artificial (IA). Que puede utilizarse también para el mal. Educar en lo que no es futuro, sino ya presente, es uno de los objetivos del sector tecnológico. La ciberseguridad, uno de los grandes desafíos. «Los modelos híbridos, que combinen la IA con el factor humano, son el futuro», señala Tomás Castro, director general de Proconsi.

—¿Hacia dónde lleva la IA a la humanidad?

—Hacia un futuro en el que los sistemas serán superinteligentes y donde no comprenderemos sus procesos. De hecho, puede que prioricen sus propios objetivos sin estar alineados con valores humanos. Aunque seguro que antes habremos sufrido otra sorpresa creada por un sistema de IA menos inteligente en manos de malos actores que podrían atacar sistemas bancarios o incluso diseñar armas biológicas.

—¿Sabemos trazar líneas rojas en el desarrollo de la IA?

—De momento se habla de nuevos reglamentos en la UE para que las empresas de tecnológica tengamos que poner medidas, pero si no están muy bien diseñados, pueden frenar la innovación. Habría que fijar estándares internacionales.

—¿Debería la IA formar parte de los programas educativos?

—Antes deberíamos preparar a los responsables de formular políticas educativas en materia de IA, ya que los rápidos desarrollos tecnológicos conllevan inevitablemente múltiples riesgos y desafíos a los que ha de darse solución. La IA ayuda a crear un ambiente de aprendizaje inclusivo y diverso, que es imprescindible en un mundo globalizado.

—¿Cómo cree que se ha de incorporar la IA en el ámbito empresarial?

—Aporta un gran valor a aquellas empresas que la utilizan de forma apropiada, incrementando la eficiencia y la calidad de sus operaciones, de una forma que implica cambios radicales en la gestión empresarial en todas sus áreas. Las empresas deberían apoyarse en sus proveedores TIC para incorporar estas herramientas en su día a día.

—¿Qué papel juega la IA actualmente en su empresa?

—Nuestro compromiso como empresa TIC es estar al día de las últimas novedades en materia de tecnología. Por ello, llevamos tiempo conformando un equipo de profesionales especializados y fomentando la capacitación de nuestros empleados en esta nueva tecnología para, gracias a ello, potenciar la eficiencia de la plantilla y ofrecer soluciones más rentables y competitivas a nuestros clientes. En Proconsi, creemos que los modelos híbridos que combinen IA + ser humano, son el futuro.

—¿En qué proyectos de IA están trabajando actualmente en Proconsi?

—Llevamos años trabajando en tecnologías relacionadas con la IA, como la visión artificial basada modelos de machine learning . Desde la explosión de las IA generativas de 2022, estamos desarrollando proyectos de copilotaje en la programación, sistemas de atención al cliente con deep learning y varios proyectos basados en redes neuronales asociados al reconocimiento de imágenes.

JON HERNÁNDEZ. DIVULGADOR SOBRE IA «El impacto de la IA será mayor que la pandemia»

La inteligencia artificial (IA) marca nuestras vidas desde hace mucho más tiempo del que pensamos. Y su impacto será mayor que el de la pandemia, «estamos desaprovechando un tiempo valioso». Uno de los efectos más visibles será el que tenga en el mercado laboral, y se producirá en diferentes olas. La divulgación llega tarde, pero es fundamental para afrontar los cambio+s.

—Cada vez dependemos más de la IA, pero ¿la IA necesita de nosotros?

—La IA cada vez necesita menos de los humanos. Hasta ahora, dependía de los datos que le aportábamos para su entrenamiento, pero la aparición de los datos sintéticos ha permitido que esta relación de dependencia desaparezca. Las otras dos barreras que había de afrontar la IA eran el poder computacional y el dinero. Actualmente, tampoco resultan un problema, dada la ingente cantidad de ambos que hay en el mercado. En la relación de los humanos con la IA, la dependencia es cada vez mayor. De hecho, llevamos dependiendo de la IA muchos más años de los que pensamos.

—¿Cuáles son los principales errores y aciertos que cometemos con la IA?

—Los principales errores son conectar la IA a internet, sacarla del laboratorio y hacerla pública, y darle acceso a los libros de psicología humana. Sin embargo, desde mi punto de vista el principal error es no comunicar de forma inmediata y adecuada el potencial del cambio social que se nos viene encima. Es responsabilidad del gobierno. El impacto de la inteligencia artificial va a ser mucho mayor que el de pandemia. Estamos desaprovechando un tiempo valioso. Otro error tiene que ver con la educación. Estoy seguro de que el uso de la IA se va a prohibir en las escuelas y universidades. Es esencial incluirla en los programas formativos. En los aciertos, hay aplicaciones muy interesantes capaces de cambiar nuestras vidas, pero incluso tengo dudas de que esto sea un acierto. Algo que sin duda considero un acierto fue el comunicado que dijo que «mitigar el riesgo de extinción por la IA debería ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear».

—¿Qué trabajos serán los más afectados por la IA?

—Todos en diferentes olas. Los primeros son los fotógrafos, los actores de doblaje, músicos de jingles , los locutores, … sobre todo trabajos creativos y relacionados con la imagen, el marketing, etc.

—¿Cuáles son las 5 habilidades empresariales más relevantes que ha conseguido la IA?

—Son el copywriting , la atención al cliente, el soporte para la salud de los trabajadores y las soluciones basadas en la unión de IA+Big data.

—¿Cuáles son los criterios éticos que deben seguir las empresas?

—La honestidad con los empleados es fundamental, deberían comunicar a aquellos departamentos susceptibles de desaparecer para, por lo menos, dar un tiempo a pensar en cómo reorganizar sus vidas y sus carreras laborales.

—¿Cree que la desconexión es el destino final?

—No tengo la esperanza perdida al 100%. Por un lado, pienso que podemos llegar a vivir en una utopía, igual que podríamos acabar viviendo una catástrofe. Quizá pueda haber un punto intermedio en el que la IA no desarrolle conciencia, ni objetivos, y se mantenga como una herramienta muy útil.