Prácticas prohibidas · techo del Reglamento

Conducta

Incumplir la prohibición de prácticas de IA del artículo 5

Importe

Hasta 35 000 000 EUR o, si el infractor es una empresa, hasta el 7 % del volumen de negocios mundial total del ejercicio anterior, la cuantía que sea superior

Art. 99.3

Obligaciones de operadores y transparencia · techo del Reglamento

Conducta

Incumplir las obligaciones de proveedor, representante autorizado, importador, distribuidor, responsable del despliegue, organismo notificado, o las de transparencia del art. 50

Importe

Hasta 15 000 000 EUR o el 3 % del volumen de negocios mundial total, la cuantía que sea superior

Art. 99.4

Información engañosa a las autoridades · techo del Reglamento

Conducta

Dar información inexacta, incompleta o engañosa a organismos notificados o autoridades nacionales en respuesta a una solicitud

Importe

Hasta 7 500 000 EUR o el 1 % del volumen de negocios mundial total, la cuantía que sea superior

Art. 99.5

El orden de urgencia no coincide con el de gravedad intuitiva: un fallecimiento tiene diez días y una infraestructura crítica tiene dos. Un procedimiento interno construido por «gravedad percibida» se equivoca de plazo. La clasificación se hace por la letra del artículo 3.49, no por juicio.

Alteración grave e irreversible de infraestructuras críticas, o infracción generalizada

Plazo

2 días

Desde cuándo corre

Desde que el proveedor o el responsable del despliegue tiene conocimiento del incidente

Art. 73.3

Fallecimiento de una persona

Plazo

10 días

Desde cuándo corre

Desde la fecha en que se tiene conocimiento del incidente; y de manera inmediata desde que se establece o se sospecha la relación causal

Art. 73.4

Perjuicio grave para la salud, vulneración de derechos fundamentales, o daños graves a la propiedad o al medio ambiente

Plazo

15 días

Desde cuándo corre

Desde que se tiene conocimiento del incidente; e inmediatamente después de establecer el vínculo causal con el sistema, o la probabilidad razonable de que exista

Art. 73.2

Autoridad de vigilancia del mercado de cada Estado miembro donde se produjo el incidente

Cuándo

Régimen general. Si el incidente se produjo en varios Estados, hay varias notificaciones

En España

España creó la AESIA (RD 729/2023) como agencia de supervisión de la IA. El proyecto de ley orgánica de gobernanza de la IA, en tramitación en las Cortes, la designa autoridad de vigilancia del mercado, con autoridades sectoriales para ámbitos concretos. Hasta que la ley se apruebe, la designación formal está pendiente.

AESIA ↗

Art. 73.1

Oficina de IA, en lugar de la autoridad nacional

Cuándo

Sistemas de alto riesgo bajo competencia exclusiva de la Oficina de IA. Introducido por el Reglamento (UE) 2026/1744

En España

Es un órgano de la Comisión Europea, no una ventanilla española: la vía es europea.

Oficina Europea de IA ↗

Art. 75.1 bis

Primero el proveedor; después el importador o distribuidor y la autoridad de vigilancia del mercado

Cuándo

Cuando quien detecta el incidente es el responsable del despliegue. Si no consigue contactar con el proveedor, se aplica el art. 73

Art. 26.5

Autoridad nacional designada a tal fin

Cuándo

Sistemas que sean productos sanitarios o componentes de seguridad de productos sanitarios

En España

La AEMPS, que ya es la autoridad competente de productos sanitarios, es la vía española también para estos sistemas.

AEMPS ↗

Art. 73.10

Proveedor

Proveedor: quien desarrolla un sistema o un modelo y lo introduce en el mercado o lo pone en servicio bajo su nombre o marca

Responsable del despliegue

Responsable del despliegue: quien utiliza un sistema bajo su propia autoridad, salvo uso personal no profesional

Importador y distribuidor

Importador y distribuidor: quien lo introduce o comercializa en la cadena de suministro

Representante y fabricante

Representante autorizado y fabricante del producto, en sus supuestos

Establecidos fuera de la Unión

Quien está establecido fuera de la Unión, si el resultado del sistema se utiliza dentro

Exclusiones

Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial

Identificador

CELEX 32024R1689

Fuente

EUR-Lex · Diario Oficial de la Unión Europea · Oficina de Publicaciones de la Unión Europea

Ciberseguridad

La ciberseguridad es un requisito entre muchos, no el objeto: el art. 15 exige exactitud, solidez y ciberseguridad a los sistemas de alto riesgo (con amenazas específicas de IA como el envenenamiento de datos) y el art. 55 pide protección a los modelos GPAI de riesgo sistémico. El resto de la norma es gobernanza de la IA, no seguridad de la información.

Valoración del curador · nivel 2 de 5

Prácticas prohibidas

Prohibición de determinadas prácticas de IA, entre ellas la puntuación social y ciertos usos de identificación biométrica remota.

Art. 5

Alfabetización en IA

Garantizar un nivel suficiente de alfabetización en materia de IA del personal que se ocupa del funcionamiento y la utilización de los sistemas. Alcanza a mucha más gente de lo que suele suponerse.

Art. 4

Clasificación de alto riesgo

Clasificación de un sistema como de alto riesgo según su ámbito de uso, que activa el bloque completo de obligaciones de los artículos 9 a 15.

Art. 6 y Anexo III

Obligaciones del proveedor de alto riesgo Ciber parcial

Bloque de obligaciones del proveedor de un sistema de alto riesgo: cumplir los requisitos de los arts. 9 a 15, someterlo a evaluación de la conformidad, colocar el marcado CE y registrarlo.

Art. 16

Obligaciones del responsable del despliegue

Obligaciones del responsable del despliegue de un sistema de alto riesgo, incluida la supervisión humana y, en algunos casos, la evaluación de impacto sobre los derechos fundamentales.

Arts. 26-27

Transparencia con las personas

Transparencia cuando una persona interactúa con un sistema de IA, o cuando se genera o manipula contenido. No depende de que el sistema sea de alto riesgo.

Art. 50

Cambio de rol en la cadena

Cambio de rol en la cadena de valor: quien pone su nombre a un sistema de alto riesgo, lo modifica sustancialmente o cambia su finalidad prevista pasa a ser proveedor y asume sus obligaciones.

Art. 25

Registro en la base de datos de la UE

Antes de introducir el sistema en el mercado o ponerlo en servicio, el proveedor (o su representante autorizado) se registra a sí mismo y registra el sistema en la base de datos de la UE que gestiona la Comisión. Cubre dos supuestos que suelen leerse como uno: los sistemas de alto riesgo del Anexo III, salvo los del punto 2 (infraestructuras críticas), que se registran a nivel nacional; y los sistemas sobre los que el proveedor ha concluido que NO son de alto riesgo por el art. 6.3, que se registran igual. Hay un tercer sujeto con deber propio: el responsable del despliegue que sea autoridad pública, institución u órgano de la Unión, o quien actúe en su nombre, se registra él mismo, selecciona el sistema y registra su utilización antes de ponerlo en servicio o usarlo. Lo registrado es público y navegable, con una excepción tasada: los sistemas de garantía del cumplimiento del Derecho, migración, asilo y control fronterizo (Anexo III, puntos 1, 6 y 7) van a una sección segura no pública, con un subconjunto de datos que el propio art. 49.4 enumera. El calendario tiene un desajuste que conviene ver: el Reglamento (UE) 2026/1744 aplazó las secciones 1, 2 y 3 del capítulo III, no la sección 5, donde vive este artículo, así que el deber de registro es aplicable desde el 2 de agosto de 2026 mientras que las reglas que clasifican un sistema como de alto riesgo no lo son hasta diciembre de 2027.

Literal de la norma Antes de introducir en el mercado o de poner en servicio un sistema de IA de alto riesgo enumerado en el anexo III, con excepción de los sistemas de IA de alto riesgo mencionados en el anexo III, punto 2, el proveedor o, en su caso, el representante autorizado, registrarán su sistema y a ellos mismos en la base de datos de la UE a que se refiere el artículo 71.

Art. 49 · art. 71 y Anexo VIII

Sistema de gestión de riesgos Ciber parcial

Un proceso continuo y documentado a lo largo de todo el ciclo de vida del sistema: identificar riesgos previsibles, estimarlos, evaluar los que surjan del uso previsto y del mal uso razonablemente previsible, y adoptar medidas. No es un análisis que se hace una vez.

Art. 9

Gobernanza de datos

Prácticas exigidas sobre los conjuntos de entrenamiento, validación y prueba: origen, preparación, supuestos de partida, detección de sesgos y medidas para corregirlos, y examen de lagunas o deficiencias.

Art. 10

Documentación técnica

Un expediente que debe existir antes de la introducción en el mercado y mantenerse actualizado. El Anexo IV es la lista concreta de lo que tiene que contener.

Art. 11 y Anexo IV

Registros automáticos

El sistema debe registrar automáticamente los acontecimientos a lo largo de su vida, y el proveedor conservar esos registros durante el periodo que fija el art. 19.

Art. 12 y art. 19

Transparencia e instrucciones de uso

El sistema debe permitir a quien lo despliega interpretar sus resultados y usarlo adecuadamente, con instrucciones de uso que incluyan características, capacidades y limitaciones de rendimiento.

Art. 13

Supervisión humana

Medidas que permitan a una persona vigilar el funcionamiento, interpretar la salida, decidir no usarla, e interrumpir el sistema. La supervisión tiene que ser efectivamente posible, no nominal.

Art. 14

Exactitud, solidez y ciberseguridad Ciber

Es el artículo de ciberseguridad. Exige resistencia frente a intentos de alterar el uso, el comportamiento o el rendimiento del sistema, y nombra amenazas específicas de IA: envenenamiento de datos y de modelos, ejemplos adversarios, evasión y ataques a la confidencialidad. Desde el Reglamento (UE) 2026/1744 hay una vía de ahorro: un sistema que entre en el ámbito del Reglamento (UE) 2024/2847 y cumpla las condiciones de su art. 12.1 (el anexo I del CRA en sus dos partes, acreditado en la declaración UE de conformidad) se considera conforme con este artículo (art. 42.3).

Art. 15

Sistema de gestión de la calidad

El proveedor debe implantar un sistema de gestión de la calidad documentado que cubra, entre otras cosas, el cumplimiento normativo, el diseño, la verificación, los ensayos y la gestión posterior a la comercialización.

Art. 17

Documentación técnica del modelo

Un expediente del modelo que se elabora, se mantiene actualizado y se entrega a la Oficina de IA y a las autoridades nacionales competentes previa solicitud. El Anexo XI fija el mínimo, en función del tamaño y del perfil de riesgo del modelo: tareas y sistemas en los que puede integrarse, políticas de usos aceptables, fecha de lanzamiento y métodos de distribución, arquitectura y número de parámetros, modalidad y formato de entradas y salidas, licencia, especificaciones de diseño y proceso de entrenamiento, datos de entrenamiento, prueba y validación con su tipo, procedencia y métodos de gestión, recursos computacionales empleados y consumo de energía conocido o estimado. Su sección 2 añade, solo para los modelos con riesgo sistémico, las estrategias de evaluación con sus resultados, las pruebas adversarias internas o externas y la arquitectura del sistema. No alcanza a los modelos divulgados con licencia libre y de código abierto cuyos parámetros, arquitectura e información de uso se publiquen, salvo que el modelo tenga riesgo sistémico (art. 53.2).

Literal de la norma elaborarán y mantendrán actualizada la documentación técnica del modelo, incluida la información relativa al proceso de entrenamiento y realización de pruebas y los resultados de su evaluación, que contendrá, como mínimo, la información establecida en el anexo XI con el fin de facilitarla, previa solicitud, a la Oficina de IA y a las autoridades nacionales competentes

Art. 53.1.a) y Anexo XI

Información a los proveedores que integran el modelo

Es la obligación que mira hacia abajo en la cadena: quien pone el modelo en el mercado tiene que dar a los proveedores de sistemas de IA que van a integrarlo la información suficiente para que entiendan sus capacidades y sus limitaciones y puedan cumplir el Reglamento por su cuenta. El Anexo XII fija el mínimo, y no coincide con el Anexo XI: añade cómo interactúa el modelo con hardware o software ajeno, las versiones de software pertinentes y el tamaño máximo de entradas y salidas (por ejemplo, la ventana de contexto), y recorta lo demás. Nada de ese contenido es información de seguridad. La entrega se hace sin perjuicio de los derechos de propiedad intelectual e industrial y de los secretos comerciales, y decae con la misma excepción de código abierto del art. 53.2.

Literal de la norma elaborarán y mantendrán actualizada información y documentación y la pondrán a disposición de los proveedores de sistemas de IA que tengan la intención de integrar el modelo de IA de uso general en sus sistemas de IA

Art. 53.1.b) y Anexo XII

Política de derechos de autor

Establecer directrices internas para cumplir el Derecho de la Unión sobre derechos de autor y derechos afines. El texto concreta una pieza y deja el resto abierto: hay que detectar y respetar la reserva de derechos del art. 4.3 de la Directiva (UE) 2019/790 (la que permite a un titular excluir su obra de la minería de textos y datos), y el Reglamento apunta a las tecnologías punta como vía para hacerlo. A diferencia de las dos anteriores, esta obligación no tiene excepción de código abierto: alcanza a todo proveedor de modelo de uso general.

Literal de la norma establecerán directrices para cumplir el Derecho de la Unión en materia de derechos de autor y derechos afines, y en particular, para detectar y cumplir, por ejemplo, a través de tecnologías punta, una reserva de derechos expresada de conformidad con el artículo 4, apartado 3, de la Directiva (UE) 2019/790

Art. 53.1.c)

Resumen público del contenido de entrenamiento

La única obligación del capítulo V cuyo destinatario es el público y no una autoridad ni un cliente: un resumen suficientemente detallado del contenido usado para entrenar el modelo, publicado con arreglo al modelo que facilita la Oficina de IA. El formato no es libre, y tampoco tiene excepción de código abierto. Conviene leerla junto con la política de derechos de autor: el resumen es lo que permite a un titular de derechos saber si su obra pudo entrar en el entrenamiento.

Literal de la norma elaborarán y pondrán a disposición del público un resumen suficientemente detallado del contenido utilizado para el entrenamiento del modelo de IA de uso general, con arreglo al modelo facilitado por la Oficina de IA

Art. 53.1.d)

Representante autorizado en la Unión Ciber parcial

El proveedor establecido en un tercer país tiene que nombrar por mandato escrito, antes de introducir el modelo en el mercado de la Unión, a un representante autorizado establecido aquí. El mandato le habilita para comprobar que existe la documentación técnica del Anexo XI y que el proveedor cumple el art. 53 y, en su caso, el art. 55; conservar copia de esa documentación diez años a disposición de la Oficina de IA y de las autoridades nacionales; facilitar información previa solicitud motivada; y cooperar en cualquier acción sobre el modelo, incluso cuando ya esté integrado en un sistema. Tiene además un deber propio que rompe la lógica del mandato: si considera o tiene motivos para considerar que el proveedor incumple, pone fin al mandato e informa inmediatamente a la Oficina de IA. La excepción de código abierto del art. 54.6 decae si el modelo tiene riesgo sistémico.

Literal de la norma Antes de introducir en el mercado de la Unión un modelo de IA de uso general, los proveedores establecidos en terceros países tendrán que nombrar, mediante un mandato escrito, a un representante autorizado que esté establecido en la Unión.

Art. 54

Ciberseguridad del modelo de uso general Ciber

Tres deberes que van juntos: evaluar el modelo con protocolos y herramientas normalizados del estado de la técnica, incluidas pruebas de simulación de adversarios realizadas y documentadas; evaluar y mitigar los riesgos sistémicos a escala de la Unión que puedan derivarse del desarrollo, la introducción en el mercado o el uso del modelo, incluido el origen de esos riesgos; y garantizar un nivel adecuado de protección de la ciberseguridad para el modelo y su infraestructura física. La diferencia con el art. 15 está en el objeto protegido: aquel protege el sistema desplegado frente a los intentos de alterar su uso, sus resultados o su funcionamiento; este protege el modelo como activo (pesos, algoritmos, servidores y conjuntos de datos) y nombra de forma expresa la infraestructura física.

Literal de la norma velarán por que se establezca un nivel adecuado de protección de la ciberseguridad para el modelo de IA de uso general con riesgo sistémico y la infraestructura física del modelo

Art. 55.1.a), b) y d)

Incidentes graves ante la Oficina de IA Ciber

Vigilar, documentar y comunicar sin demora indebida a la Oficina de IA (y, en su caso, a las autoridades nacionales competentes) la información pertinente sobre incidentes graves y las posibles medidas correctoras para resolverlos. El Reglamento no fija aquí ningún plazo tasado, a diferencia del régimen escalonado del art. 73 para los sistemas de alto riesgo.

Literal de la norma vigilarán, documentarán y comunicarán, sin demora indebida, a la Oficina de IA y, en su caso, a las autoridades nacionales competentes, la información pertinente sobre incidentes graves y las posibles medidas correctoras para resolverlos

Art. 55.1.c)

Gestión de riesgos de seguridad Compartida

Conocer a qué está expuesto el negocio y decidir qué se acepta y qué se trata: el proceso de gestión de riesgos determina las prioridades del resto de iniciativas.

Art. 9.2 · categorización del curador, no de la norma

Adquisición y desarrollo seguros Compartida

La seguridad como requisito de compra y de construcción: exigencias al adquirir, prácticas de desarrollo seguro al construir y mantenimiento con la seguridad dentro durante todo el ciclo de vida.

Arts. 15.1 y 16.a) · categorización del curador, no de la norma

Gestión de vulnerabilidades Compartida

Tratar las vulnerabilidades como un proceso continuo con responsable y plazos, no como reacciones aisladas: las vulnerabilidades conocidas se gestionan en lugar de acumularse.

Art. 15.5 · categorización del curador, no de la norma

Evaluación de la eficacia y mejora Compartida

Evaluar si las medidas implantadas son eficaces, no solo si existen, y convertir los resultados de esa evaluación en mejoras aplicadas.

Arts. 9.6 y 9.8 · categorización del curador, no de la norma

Seguridad de modelos de IA Compartida

Proteger el modelo de IA como activo propio, distinto del sistema que lo sirve: los pesos, los conjuntos de datos de entrenamiento y la infraestructura donde el modelo vive, con un dueño identificado y controles específicos frente a los ataques que solo existen en IA.

Art. 55.1.a) y d) · categorización del curador, no de la norma

Conformidad y certificación Compartida

Poder demostrar a un tercero lo que se ha hecho, en sus dos versiones: la conformidad de la organización, que se audita y se certifica, y la del producto, que se evalúa, se documenta y se marca antes de venderlo. Es el expediente que convierte el cumplimiento en algo oponible a un cliente, a un pliego o a un supervisor.

Arts. 43, 47 y 48 · categorización del curador, no de la norma

Proceso de notificación regulatoria Compartida

Saber a quién, qué y en cuánto tiempo hay que notificar un incidente, y poder hacerlo bajo presión y con los relojes en contra.

Art. 55.1.c) · categorización del curador, no de la norma

Defensa frente a los ataques específicos de la IA

Un programa de defensa por familia de amenaza propia de la IA: envenenamiento del conjunto de entrenamiento, envenenamiento de modelos preentrenados, ejemplos adversarios o evasión, ataques a la confidencialidad y defectos del modelo. En cada una hay que cerrar el ciclo completo que pide el texto (prevenir, detectar, combatir, resolver y controlar) y dejar evidencia de cada fase.

Art. 15.5 · categorización del curador, no de la norma

Solidez del sistema y parada segura

Diseñar el sistema para que aguante errores, fallos e incoherencias propios y del entorno, incluidos los que nacen de su interacción con personas u otros sistemas. La vía que nombra el texto es la redundancia técnica: copias y planes de prevención contra fallos que detengan el sistema de forma segura ante una anomalía o cuando opere fuera de los límites predeterminados.

Art. 15.4 · categorización del curador, no de la norma

Proveedor

Quien desarrolla un sistema de IA o un modelo de uso general (o lo encarga) y lo introduce en el mercado o lo pone en servicio con su propio nombre o marca, previo pago o gratuitamente. Regalarlo no te saca del Reglamento, y ponerlo en servicio para uso propio también te hace proveedor.

Literal de la norma una persona física o jurídica, autoridad pública, órgano u organismo que desarrolle un sistema de IA o un modelo de IA de uso general o para el que se desarrolle un sistema de IA o un modelo de IA de uso general y lo introduzca en el mercado o ponga en servicio el sistema de IA con su propio nombre o marca, previo pago o gratuitamente

Art. 3.3

Responsable del despliegue

Quien utiliza un sistema de IA bajo su propia autoridad en un contexto profesional. El uso personal no profesional queda fuera. No hace falta haberlo construido: comprarlo y decidir usarlo basta.

Literal de la norma una persona física o jurídica, o autoridad pública, órgano u organismo que utilice un sistema de IA bajo su propia autoridad, salvo cuando su uso se enmarque en una actividad personal de carácter no profesional

Art. 3.4

Importador

Quien, establecido en la Unión, introduce en el mercado un sistema de IA con el nombre o la marca de alguien establecido en un tercer país.

Literal de la norma una persona física o jurídica ubicada o establecida en la Unión que introduzca en el mercado un sistema de IA que lleve el nombre o la marca de una persona física o jurídica establecida en un tercer país

Art. 3.6

Distribuidor

Quien forma parte de la cadena de suministro, sin ser proveedor ni importador, y comercializa un sistema de IA en el mercado de la Unión.

Literal de la norma una persona física o jurídica que forme parte de la cadena de suministro, distinta del proveedor o el importador, que comercialice un sistema de IA en el mercado de la Unión

Art. 3.7

Representante autorizado

Quien, establecido en la Unión, acepta por escrito el mandato de un proveedor de fuera para cumplir en su nombre las obligaciones del Reglamento.

Literal de la norma una persona física o jurídica ubicada o establecida en la Unión que haya recibido y aceptado el mandato por escrito de un proveedor de un sistema de IA o de un modelo de IA de uso general para cumplir las obligaciones y llevar a cabo los procedimientos establecidos en el presente Reglamento en representación de dicho proveedor

Art. 3.5

Fabricante del producto

El Reglamento no lo define. Aparece como sujeto en el art. 2.1.e y, cuando introduce en el mercado un sistema de IA junto con su producto y con su propio nombre o marca, asume el papel de proveedor por el art. 25.3.

Art. 2.1.e) y art. 25.3

Proveedor de modelo de uso general

Quien desarrolla un modelo de IA de uso general y lo introduce en el mercado de la Unión, tenga o no riesgo sistémico ese modelo. Es el sujeto de los arts. 53 y 54, el régimen general del capítulo V. El proveedor de un modelo con riesgo sistémico no es otra cosa: es un subconjunto de este rol que suma encima las obligaciones del art. 55. La excepción de código abierto de los arts. 53.2 y 54.6 libera de parte de estos deberes, nunca de todos, y no se aplica cuando el modelo tiene riesgo sistémico.

Cap. V, sección 2 (arts. 53-54) · art. 3.3

Proveedor de modelo GPAI con riesgo sistémico

Quien desarrolla un modelo de IA de uso general clasificado con riesgo sistémico y lo introduce en el mercado. No es un caso particular del proveedor de alto riesgo: el capítulo V le impone un régimen propio y anterior, que no incluye los arts. 9 a 15 sino la lista más corta del art. 55, sumada a las obligaciones de los arts. 53 y 54.

Cap. V (arts. 51-55)