Máquina frente a la ley

En 1997, Deep Blue, una máquina creada por IBM, derrotó al campeón mundial de ajedrez Garry Kasparov. Los avances en el hardware, el aumento de la capacidad de cálculo y los nuevos algoritmos condujeron a un interés por la inteligencia artificial (IA) que, en realidad, venía ya de lejos, con Alan Turing, John McCarthy y Eliza. Hoy asistimos a la evolución de esta tecnología que se inmiscuye en la vida cotidiana y profesional. «La IA ha generado grandes expectativas de crecimiento, eficiencia y mejora de las condiciones de vida y de impulso de la investigación, entre otros aspectos», explica Miquel Peguera, catedrático de los Estudios de Derecho y Ciencia Política de la Universitat Oberta de Catalunya (UOC). Y añade: «Sin embargo, también son muy grandes los riesgos que presenta en términos de potenciales discriminaciones y sesgos en diferentes ámbitos». Por ejemplo, decisiones automatizadas que puedan comportar que ciertos individuos no tengan acceso a servicios esenciales, la denegación de créditos bancarios, riesgos de manipulación de grupos vulnerables, generación de contenidos engañosos (deepfakes) o la distorsión del funcionamiento electoral. Para hacer frente a estos riesgos y favorecer al desarrollo de una IA segura, la Unión Europea tiene previsto poner en funcionamiento la nueva Ley de Inteligencia Artificial (AI Act) —aún pendiente de ser aprobada por el Consejo de la UE y de su publicación oficial-, que se espera que vea la luz en las próximas semanas. Se trata de una iniciativa pionera con la que la UE asume cierto rol de liderazgo en esta materia, de manera similar a como ya hizo con el Reglamento general de protección de datos (RGPD) que se ha convertido en un modelo de regulación a nivel internacional. «La UE quiere marcar la pauta internacional en la regulación de la IA centrándose exclusivamente en aquellos sistemas que pueden ocasionar riesgos relevantes y dejando fuera el resto de las soluciones de IA para evitar una regulación excesiva», explica Peguera.

«Establecerá sanciones económicas muy elevadas a quien infrinja el reglamento, que se aplica también a los proveedores de fuera de la UE si sus sistemas de IA se usan en el territorio europeo»

De este modo, la nueva ley « establecerá sanciones económicas muy elevadas a quien infrinja el reglamento, que se aplica también a los proveedores de fuera de la UE si sus sistemas de IA se usan en el territorio europeo «, comenta el experto. Por lo tanto, la nueva regulación afectará a GPT4 (Open AI), Gemini (Google), LlaMA (Meta), entre otros. Para profundizar en los cambios y los retos futuros de esta ley, los Estudios de Derecho y Ciencia Política de la UOC han organizado, el próximo 22 de mayo a las 9.30 horas, una jornada presencial y en línea sobre esta nueva legislación europea: Elementos clave y retos de la nueva Ley de Inteligencia Artificial. Esta jornada forma parte de una formación específica en forma del seminario en línea de Inteligencia artificial y derecho: claves y retos, que empezará el 12 de junio en modalidad en línea y tendrá una duración de cuatro semanas.

«Este Reglamento afecta principalmente a las empresas que desarrollan sistemas de IA y los lanzan al mercado, pero también a quienes utilizan herramientas de IA».