Novedades del nuevo Reglamento Europeo de Inteligencia Artificial: La irrupción de la tecnología de Inteligencia Artificial es comparable a la revolución que supuso la aparición de Internet en los 70.

La Inteligencia Artificial, como tecnología disruptiva que está cambiando el mundo y cada una de sus facetas, viene cargada de potencialidades y riesgos que necesitan ser regulados.

Si bien en el año 2020 la Unión Europea a través de Consejo Europeo inició un profundo debate sobre la necesidad de regulación de la Inteligencia Artificial, fue el 22 de mayo de 2024 cuando la Comisión, el Parlamento y el Consejo Europeo ratificaron de común acuerdo el texto del nuevo Reglamento Europeo de Inteligencia Artificial.

Es interesante resaltar que ha sido la Unión Europea la primera en el mundo en elaborar un marco jurídico integral para regular el desarrollo de sistemas de Inteligencia Artificial. Pero, ser los primeros en regular la Inteligencia Artificial también tiene sus riesgos. Muestra de ello es que el CEO de ApenAI, creadora del conocido ChatGPT, ha repetido en numerosas ocasiones que la regulación europea podría limitar la innovación y el desarrollo de la Inteligencia Artificial en Europa, si bien, a la par, también reconoce la necesidad de establecer marcos regulatorios para garantizar el uso ético y seguro de la IA.

Si bien la regulación europea de Inteligencia Artificial es a la fecha actual la más garantista e intervencionista de las existentes a nivel mundial, en Estados Unidos se han sentado las bases mediante una orden ejecutiva sobre una inteligencia artificial seguro y fiable, en octubre de 2023, más orientada en el papel del Estado y en la industria de la Inteligencia Artificial, en comparación con el foco en los derechos fundamentales de los ciudadanos y protección del consumidor de aplicaciones de Inteligencia Artificial.

Es tal el efecto de esta nueva tecnología de Inteligencia Artificial que el propio Reglamento Europeo hace incampié que la gobernanza de estas tecnologías va a ser decisiva para el futuro de la democracia, evitando dañarlas o afectarlas. Así, el Reglamento Europeo de Inteligencia Artificial incide en la necesidad de proteger «la salud, la seguridad, los derechos fundamentales consagrados en la Carta, incluidos la democracia y el Estado de Derecho y la protección del medio ambiente, contra los efectos nocivos de los sistemas de inteligencia artificial en la Unión y apoyar la innovación.»

El enfoque del Reglamento Europeo de Inteligencia Artificial

El Reglamento Europeo de Inteligencia Artificial construye sus bases sobre el riesgo que esta tecnología puede suponer, clasificando los sistemas de Inteligencia Artificial en 3 niveles:

• Los sistemas prohibidos,
• Los sistemas de alto riesgo, y
• Los sistemas que no están prohibidos ni son de alto riesgo, que se subdivide en:
  • Actividades de inteligencia artificial limitadas, y
  • Actividades de inteligencia artificial mínima o inexistentes.

Que un sistema se encuadre en uno u otro nivel de riesgo (categoría), tendrá consecuencias claras para su validación y puesta producción ya que, a mayor riesgo, mayores van a ser los controles. Y, es que, los ciudadanos tienen que poder ver reparados los daños que le produzcan productos defectuosos de inteligencia artificial, pudiendo reclamarse responsabilidad a los fabricantes o explotadores de dichos productos. Desde luego que un sistema prohibido que genere daños, tendrá que responder por responsabilidad civil ante los ciudadanos afectados sin estos necesitar probar la responsabilidad de éste. Es lo que se conoce como responsabilidad objetiva en derecho de daños.

Así, el Reglamento europeo de Inteligencia Artificial comienza estableciendo la necesidad de desarrollar sistemas de inteligencia artificial fiables ya en su artículo 1.

Pero si este Reglamento Europeo de Inteligencia Artificial viene a regular eso, los sistemas de inteligencia artificial, la primera cuestión fundamental a delimitar es qué son sistemas de inteligencia artificial regulados por dicho Reglamento, y qué no son sistemas de inteligencia artificial.

El nuevo Reglamento Europeo de Inteligencia Artificial permite conjugar la investigación y desarrollo en esta tecnología disruptiva con la preservación de los derechos de los ciudadanos, la dinamización de la economía y el desarrollo de la sociedad europea.

¿Qué es un sistema de inteligencia artificial, según el nuevo Reglamento Europeo?

Es interesante puntualizar que el nuevo Reglamento Europeo de Inteligencia Artificial ha actualizado su definición, desde un borrador previo, para abarcar definiendo como sistema de inteligencia artificial una gama más amplia de tecnologías que no se limiten a “un software”. Por tanto, el texto definitivo amplía la acepción de sistema de inteligencia artificial, definiéndolo en su artículo 3 como:

                “un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales;”.

Más actividades excluidas del ámbito de aplicación de la regulación de Inteligencia Artificial en Europa

Es muy importante tener claro cuándo no aplica el Reglamento europea de Inteligencia Artificial. Y dichos casos, son los siguientes, establecidos en el artículo 2.3 del Regamento:

• Sistemas y desarrollos en el ámbito militar.

La redacción de este apartado ha sido uno de los más polémicos en este Reglamento, pues tiene una gran incidencia en el futuro, y especialmente en al ámbito militar, donde la Inteligencia Artificial va a tener un peso y unas consecuencias enormes, quedando del siguiente modo:

“El presente Reglamento no se aplicará a los ámbitos que queden fuera del ámbito de aplicación del Derecho de la Unión y, en cualquier caso, no afectará a las competencias de los Estados miembros en materia de seguridad nacional, independientemente del tipo de entidad a la que los Estados miembros hayan encomendado el desempeño de tareas en relación con dichas competencias.

El presente Reglamento no se aplicará a los sistemas de IA que, y en la medida en que, se introduzcan en el mercado, se pongan en servicio o se utilicen, con o sin modificaciones, exclusivamente con fines militares, de defensa o de seguridad nacional, independientemente del tipo de entidad que lleve a cabo estas actividades. El presente Reglamento no se aplicará a los sistemas de IA que no se introduzcan en el mercado o no se pongan en servicio en la Unión en los casos en que sus resultados de salida se utilicen en la Unión exclusivamente con fines militares, de defensa o de seguridad nacional, independientemente del tipo de entidad que lleve a cabo estas actividades.”

Es decir, se excluyen de la aplicación del Reglamento los sistemas y desarrollos de Inteligencia Artificial en el ámbito militar, pero con un enfoque amplio, excluyendo también el ámbito de sistemas y desarrollos en materia de seguridad nacional, y excluyendo también de la aplicación del Reglamento no sólo a los Estados miembro sino, además, a entidades ajenas al Estado cuando lleven a cabo actividades relacionadas con dichas materias. La razón de ser de dicho enfoque extenso de no aplicación del Reglamento no es casual, ya que en la actualidad un porcentaje enorme de la industria militar está en el sector privado, y no en los Estados. Por ejemplo, el sector de las telecomunicaciones y las tecnologías de la información.

En definitiva, y con dicha exclusión del Reglamento europeo de Inteligencia Artificial a cuestiones militares y de seguridad nacional, priman las cuestiones estratégicas y de seguridad de los Estados de la Unión Europea, como medio de defensa ante las amenas externas crecientes, como puede ser las armas de desinformación de terceros estados.

Dicha exención asegura a los Estados miembro la posibilidad de llevar a cabo investigación, innovación y desarrollos de inteligencia artificial en el terreno militar sin limitaciones frente a otros Estados que no regulen la inteligencia artificial, o lo hagan de manera mucho menos restrictiva. Por ejemplo, esa exención del Reglamento Europeo de Inteligencia Artificial de los sistemas de ámbito militar o de seguridad nacional dota de legalidad a los sistemas basados en datos biométricos para el control de fronteras exteriores del Espacio Schengen que está implementando Europea (Sistema de Entradas y Salidas -EES-).

Más actividades excluidas del ámbito de aplicación de la regulación de Inteligencia Artificial en Europa

Una de las grandes preocupaciones que infundía la regulación de la Inteligencia Artificial en Europa, frente a otros países que aún no la han regulado ni previsiblemente lo harán, es que dicha regulación suponga un freno a la investigación, desarrollo o, incluso, la comercialización de productos que integren la tecnología de Inteligencia Artificial. Una regulación europea más restrictiva puede favorecer la migración y deslocalización de empresas que investiguen, desarrollen o comercialicen los productos de inteligencia artificial a otros terceros países, con la consecuencias perjudiciales a todos los niveles que ello ocasionaría, en contraprestación a la protección de los derechos de los ciudadanos y consumidores de productos de inteligencia artificial en Europa.

Exclusión del Reglamento europeo de Inteligencia Artificial de la investigación y desarrollo en la materia. Pues bien, para evitar dicho peligro, el Reglamento europeo de Inteligencia Artificial ha integrado otra exclusión en su redacción, como es la exclusión de la aplicación del Reglamento a «los sistemas y modelos de IA, incluidos sus resultados, específicamente desarrollados y puestos en servicio con el único fin de investigación y el desarrollo científicos.»

Queda protegida, de ese modo, la investigación y desarrollo de Inteligencia Artificial en Europa por parte de las instituciones científicas y empresas europeas, con tal de que el sistema de inteligencia artificial no sea puesto en servicio o comercializado, compatibilizando así la necesaria protección de los derechos de los ciudadanos con el progreso y avanza en Europa de la investigación en dicha tecnología disruptiva. En este aspecto, los Sanboxes o Entornos de Prueba jugarán un papel esencial entre favorecer la innovación y competitividad europea en el campo de la Inteligencia Artificial, sin menoscabar los derechos o generar riesgos en los ciudadanos europeos. De especial interés resulta el Real Decreto 817/2023 de 8 de noviembre, que establece un marco controlado de pruebas para el ensayo del cumplimiento de la propuesta del Reglamento del Parlamento Europeo y del Consejo por el que se establecen las normas armonizadas en materia de inteligencia artificial.

Exclusión del Reglamento europeo de Inteligencia Artificial de los sistemas de Inteligencia Artificial bajo licencias de código abierto, siempre que no sean de alto riesgo. Resulta especialmente interesante la exclusión del Reglamento europeo de Inteligencia Artificial de los sistemas de Inteligencia Artificial liberados bajo licencias de código abierto., cuando no sean comercializados o se pongan en servicio como sistemas de Inteligencia Artificial de alto riesgo.

Exclusión del Reglamento europeo de Inteligencia Artificial al uso de esta tecnología por personas físicas, siempre y cuando no la utilicen en el ejercicio de una actividad profesional. Dicha exclusión fomentará el uso particular por parte de los ciudadanos de la tecnología de Inteligencia Artificial, y la revolución social y desarrollo económico que sin duda va a conllevar.

Las novedades del Reglamento Europeo de Inteligencia Artificial, con sus definiciones básicas, las exclusiones de dicho Reglamento, la lista de prohibiciones y excepciones de sistemas basados en Inteligencia Artificial, las novedades en la implementación de sistemas de Inteligencia Artificial de Alto Riesgo y el nuevo sistema de gobernanza de Inteligencia Artificial serán algunos de los aspectos que analizaremos en el Máster en Criptografía Avanzada y Seguridad de las Comunicaciones, título propio de la Universidad de Málaga, que se impartirá en modalidad online desde la Escuela Técnica Superior de Ingeniería de Telecomunicación de la Universidad de Málaga este próximo curso 2024/25, y en la que colaborarán los abogados en Málaga y Nerja del despacho Pérez Parras Economistas y Abogados.

El Despacho Pérez Parras Economistas y Abogados cuenta con Abogados en Málaga y Nerja expertos en Derecho de la Inteligencia Artificial, Derecho de las Nuevas Tecnologías, profesores en el Departamento de Ingeniería de Comunicaciones de la Universidad de Málaga, que imparten clases en el Máster en Criptografía Avanzada y Seguridad de las Comunicaciones, título propio de la Universidad de Málaga, que se impartirá en modalidad online desde la Escuela Técnica Superior de Ingeniería de Telecomunicación de la Universidad de Málaga este próximo curso 2024/25.

Más información: https://www.biosip.uma.es/master-cripto/