Retos legales y éticos de la inteligencia artificial

La inteligencia artificial (IA) está revolucionando múltiples sectores, generando cambios profundos en la manera en que trabajamos, nos comunicamos y tomamos decisiones. Sin embargo, su rápida adopción ha traído consigo una serie de retos legales y éticos que requieren una atención cuidadosa. A raíz de estas cuestiones, el 1 de agosto de 2024 entró en vigor el Reglamento Europeo de Inteligencia Artificial (AIA, por Artificial Intelligence Act) que busca regular los usos de la IA para limitar los riesgos que de ellos se derivan. Este marco legislativo tiene por objetivo garantizar que los sistemas de IA sean seguros, éticos, fiables y robustos, evitando que generen daños físicos y morales y garantizando que cumplan con lo que establecen las leyes:

• Falta de transparencia: la inteligencia artificial depende de grandes volúmenes de datos para funcionar con precisión, pero la recolección y el procesamiento de datos sensibles (como la información personal o médica) plantea serias preocupaciones sobre privacidad. Es el caso de los sistemas de reconocimiento facial y asistentes virtuales, que pueden recopilar y almacenar datos personales sin el consentimiento total de los usuarios. Adicionalmente, muchos modelos de IA funcionan como "cajas negras", donde ni siquiera los desarrolladores pueden explicar claramente cómo se toman las decisiones. Por ejemplo, en herramientas como Chat GPT no es posible saber por y en base a qué a veces contesta de una forma y otras de otra forma, aunque las respuestas sean similares. Para evitar esta falta de transparencia, la normativa exige que se informe a los usuarios cada vez que interactúen con inteligencia artificial y que tengan acceso a la información sobre cómo funciona y los riesgos asociados a estos sistemas.

• Amenazas a la seguridad: la IA también presenta desafíos de seguridad, tanto en términos de ciberseguridad como de seguridad física , especialmente en sectores del transporte y las infraestructuras, donde los riesgos asociados a la salud y seguridad son mayores. Además, existen múltiples casos en los que estos sistemas se han utilizado de forma indebida, para realizar actividades maliciosas y crear contenido manipulador o falso. Para ello, este nuevo reglamento requiere que en estos sistemas haya supervisión humana, que se produzca el cumplimiento de la normativa técnica, así como la evaluación y revisión periódicas de los riesgos asociados a esta tecnología.

• Discriminación y sesgos en los algoritmos de toma de decisiones: cuando la inteligencia artificial se entrena con datos históricos, puede replicar o aumentar los sesgos existentes en la sociedad, generando decisiones discriminatorias por género, raza o nivel socioeconómico. Es el caso de algunos sistemas de reclutamiento que utilizan esta tecnología que, debido a los sesgos que contienen, han llegado a descartar candidatos válidos para ciertas posiciones. Por ello, el marco legislativo europeo incluye regulaciones para promover la igualdad y la diversidad y garantizar que los desarrolladores implementen medidas para minimizar estos sesgos. En contrapartida, la inteligencia artificial puede ser una herramienta útil para que los candidatos que poseen dilatada experiencia y conocimiento (como los profesionales senior) puedan destacar su talento y demostrar que la tecnología no es una barrera para ellos .

• Violación de derechos fundamentales e intrusión de la privacidad: en algunos procesos de selección automatizados, los algoritmos de IA recopilan y analizan información personal de los candidatos que va más allá de su información laboral. Esto incluye detalles sobre su actividad en redes sociales, patrones de comportamiento online o características de comportamiento, lo que representa una intrusión en la privacidad del candidato. Por ello, el Reglamento Europeo de IA prohíbe sistemas que violen la privacidad y los derechos fundamentales de las personas, como la vigilancia masiva o evaluación del comportamiento de los ciudadanos por parte de las autoridades.

La IA ofrece un enorme potencial, pero también plantea desafíos éticos y legales que deben ser abordados con urgencia. Es esencial que los gobiernos, las empresas y la sociedad trabajen juntos para establecer un marco ético y legal que proteja los derechos individuales, promueva la transparencia y garantice que los avances tecnológicos se utilicen de manera responsable. Adicionalmente, como señalaba  Zahorí Martínez (General Counsel de Siemens Mobility España) en la Formación SAVIA "La revolución de la IA - retos y oportunidades para los profesionales senior", esta nueva normativa europea debe tener la “flexibilidad para adaptarse a su constante evolución, así como desarrollar la capacidad de previsión de los futuros riesgos que vayan surgiendo asociados a esta tecnología” .

1. En el #DíadelTrabajadorSenior los profesionales senior de SAVIA nos cuentan cómo se mantienen actualizados con las nuevas tecnologías que nos ha traído la Inteligencia Artificial: