La Ley de Inteligencia Artificial: una breve explicación

Desde 2008, varios países han promulgado leyes que reconocen la importancia de integrar la inteligencia artificial (IA) en ámbitos clave de la vida nacional. Este creciente cuerpo legislativo se conoce como la Ley de Inteligencia Artificial. En esta entrada del blog, ofreceremos una breve explicación de la ley.

Y es que la IA tiene la capacidad de mejorar enormemente la calidad de nuestras vidas. Desde la asistencia en las tareas cotidianas hasta el desempeño de un papel clave en sectores como el financiero, los seguros, la sanidad u otros sectores.

La tecnología de la IA está revolucionando nuestra forma de vivir y trabajar. Sin embargo, a pesar de sus muchos beneficios, se ha planteado la preocupación por las consecuencias de desarrollar las capacidades de la IA. En potencia, la IA puede generar un auto-aprendizaje que haga ciertas acciones que no se correspondan con los fines para los que el software fue desarrollado.

De hecho, cada vez es mayor la creencia de que la tecnología podría superar la supervisión humana y convertirse en una amenaza para la seguridad de las personas. Para abordar estas cuestiones, la Comisión Europea está haciendo el primer intento en el mundo para crear un marco regulatorio a las aplicaciones con una ley de inteligencia Artificial.

El 21 de abril de 2021 la Comisión aprobó un marco normativo pionero que buscaba armonizar la materia. Su intención no deja de ser ambiciosa, ya que pretende sentar las bases y otorgar seguridad jurídica de cara a estimular la inversión y la innovación, promulgando un conjunto de normas que salvaguarden los derechos fundamentales y la seguridad.

Esta no es la única propuesta presentada de Reglamento, pues ya anteriormente la Comisión había propuesto un Plan coordinado de revisión de la inteligencia artificial para 2021, en el cual:

• Se definió la estrategia que Europa va a seguir en esta materia.
• Se instauró un plan coordinado para llevarlo cabo (sentando de esta forma las bases para que los estados lleven a cabo medidas conjuntas)
• Se pretendió eliminar mediante esta unificación la fragmentación de los programas de financiación, las iniciativas y las acciones emprendidas tanto por la UE como por los estados miembros. 

Estas propuestas surgen de la necesidad de construir un mercado de inteligencia artificial en la Unión que sea más fiable, seguro y respetuoso con los derechos fundamentales.

Te puede interesar: Cumplimiento normativo de la Inteligencia Artificial

Breve explicación de la Ley de Inteligencia Artificial

Aprobación de la norma

Como mencionamos, este Reglamento sirve para establecer un marco legal y con ello regular  el mercado de la IA en la Unión Europea. De hecho, desde el primer considerando, se propone como objetivo del Reglamento mejorar el funcionamiento del mercado interior mediante la definición de un marco jurídico uniforme.

Esta norma será aplicable en todo el territorio de la UE,  abarcando desde clientes a personal en la Unión y proveedores (incluidos los que son fabricantes para la UE).

El  principal objetivo del Reglamento del que hoy hablamos es, por una parte, impulsar el desarrollo y uso de la inteligencia artificial y, por otra parte, reforzar a la UE como un centro mundial de excelencia asociado a la IA, pero siempre teniendo en cuenta los peligros que conlleva y velando por implementar sólo sistemas confiables.

El Reglamento será de aplicación para aquellos softwares desarrollados con enfoques de aprendizaje automático, enfoques lógicos y basados en el conocimiento o estadísticos, excluyendo a los sistemas desarrollados con el único propósito de la investigación y el desarrollo científico, así como los que tengan fines militares.

Clasificación del riesgo de la inteligencia artificial

La propuesta de la Comisión incluye una prohibición de las aplicaciones de IA, por considerar que tienen riesgos aceptables. La Ley de Inteligencia artificial introduce obligaciones específicas que conllevan altos riesgos en términos de salud, seguridad y derechos fundamentales.

Para ello se ha previsto un sistema multinivel para clasificar el riesgo intrínseco asociado a las prácticas de inteligencia artificial utilizadas:

• Prácticas de IA prohibidas. El Reglamento prohíbe las prácticas de IA que generan un riesgo inaceptable. Una de ellas es el crédito social. Estima que supone una promoción de vigilancia masiva. Sólo está permitida la posibilidad de utilizar sistemas de identificación biométrica en tiempo real a entidades que colaboren con autoridades policiales.
• El Reglamento establece una categoría específica para los sistemas de seguridad de alto riesgo. Pertenecen a esta categoría aquellas tecnologías que presentan un riesgo importante de causar daños y, por tanto, su uso se permite sólo a controles de seguridad específicos. Esta parte se relaciona con la legislación vigente en la UE sobre seguridad de los productos y gestión de riesgos. Aquí se incluye, por ejemplo, la clasificación crediticia, los sistemas de IA relacionados con infraestructuras públicas, los dispositivos médicos…

Concretamente, los sistemas de IA de alto riesgo son puntuados mediante un baremo que clasifica el riesgo asociado al propio producto.

El Reglamento también adjunta una serie de controles que debe realizar el proveedor en sistemas de IA de alto riesgo. Entre otros controles están los siguientes: transparencia, seguridad, responsabilidad, gestión de riesgos, verificación y supervisión

Régimen sancionador

El  proyecto destina una parte a las sanciones en caso de incumplimiento, las cuales recuerdan a las sanciones ante violación del Reglamento General de protección de datos. Prevé que se creará un Comité Europeo de Inteligencia Artificial, que ofrecerá asesoramiento y asistencia a la comisión, para así contribuir a una cooperación efectiva entre autoridades nacionales de control y la comisión, además de coordinar y contribuir a la orientación y el análisis de las inquietudes emergentes proporcionados por la comisión y autoridades nacionales de control u otras competentes, así como ayudar a las autoridades nacionales de control y a la comisión a garantizar la aplicación coherente de las normas. 

Los estados miembros están obligados a designar autoridades nacionales competentes y una autoridad nacional de control que tenga la tarea de proporcionar orientación y asesoramiento para la aplicación del reglamento. Estas serán supervisadas por el Comité Europeo de Inteligencia Artificial, que, además de la supervisión y aplicación de la norma, tendrá asignada la facultad de imponer multas por importes de hasta 30 millones de euros o el 6 % de la facturación de la empresa.

Entrada en vigor y aplicación

La aplicación de este reglamento será a partir de abril de 2023, dos años después de su entrada en vigor. Aunque todavía queda casi un año para que se aplique, aún es susceptible de sufrir cambios. Por esta razón, se recomienda a las empresas susceptibles de verse afectadas que lo tengan en cuenta cuanto antes, en vista de las amenazas de sanciones y la propagación de la IA para hacer frente a los desafíos legales y técnicos que ofrece este nuevo marco legal.

En diciembre del pasado año, 113 organizaciones de la sociedad civil lanzaron una declaración colectiva pidiendo que los derechos fundamentales se pusieran en un primer plano. En esta declaración, se describieron recomendaciones para guiar tanto al Parlamento como al Consejo para modificar su propuesta.