Reglamento Europeo de Inteligencia Artificial (AI Act)

El Reglamento Europeo de Inteligencia Artificial, conocido como AI Act (Reglamento UE 2024/1689), es la primera normativa integral del mundo que regula el desarrollo y uso de sistemas de IA. Entró en vigor el 1 de agosto de 2024 y se aplica de forma escalonada hasta 2027. Su enfoque es basado en el riesgo: cuanto mayor es el daño potencial de un sistema, más estrictas son sus obligaciones.

Cómo funciona: la pirámide de riesgo

El AI Act clasifica los sistemas en cuatro niveles:

• Riesgo inaceptable (prohibido): puntuación social por parte de gobiernos, manipulación subliminal, categorización biométrica sensible. Prohibidos desde febrero de 2025.
• Alto riesgo: IA en contratación, crédito, educación, justicia o dispositivos médicos. Exige evaluación de conformidad, gestión de riesgos, supervisión humana y documentación técnica.
• Riesgo limitado: chatbots y contenido generado por IA. Obligación de transparencia (informar al usuario de que interactúa con una IA).
• Riesgo mínimo: la mayoría de aplicaciones, sin obligaciones específicas.

A esto se suma un capítulo propio para los modelos de IA de propósito general (GPAI), como los grandes modelos de lenguaje. Las obligaciones para proveedores de GPAI son aplicables desde agosto de 2025: documentación técnica, resumen de datos de entrenamiento, cumplimiento de derechos de autor y, para modelos con riesgo sistémico, evaluaciones de seguridad adicionales.

Por qué importa para quien construye con Claude

Claude de Anthropic es un modelo de propósito general, así que Anthropic actúa como proveedor de GPAI bajo el AI Act. Esto significa que publica documentación de modelo, políticas de uso y evaluaciones de seguridad que tú puedes aprovechar para tu propio cumplimiento.

Pero ojo: si construyes una aplicación sobre la API de Claude, tú también adquieres obligaciones. El reglamento distingue entre el proveedor del modelo (Anthropic) y el deployer o proveedor del sistema final (tú). Si tu app cae en la categoría de alto riesgo (por ejemplo, filtra currículos o evalúa solvencia), eres responsable de la supervisión humana, la evaluación de riesgos y la transparencia. Entender dónde encaja tu caso de uso es parte del trabajo de quien quiera usar la IA en contextos profesionales y de negocio con criterio.

Transparencia: la obligación que afecta a casi todos

Aunque tu uso sea de riesgo limitado, hay dos reglas de transparencia que casi siempre aplican:

1. Informar al usuario de que está interactuando con una IA (un chatbot con Claude debe dejarlo claro).
2. Etiquetar el contenido generado o manipulado por IA, incluidos textos, imágenes y deepfakes.

Errores comunes

Hay varios malentendidos frecuentes sobre el AI Act:

• "Solo aplica a empresas europeas". Falso. Aplica a cualquier proveedor cuyo sistema se use en la UE, sin importar dónde esté establecido (alcance extraterritorial, como el RGPD).
• "Usar Claude me hace automáticamente cumplidor". No. Anthropic cubre sus obligaciones como proveedor del modelo, pero tu aplicación final tiene las suyas propias.
• "Ya está todo en vigor". No. La aplicación es escalonada: prohibiciones en 2025, GPAI en 2025, alto riesgo en 2026 y 2027.
• Confundirlo con el RGPD. El RGPD regula datos personales; el AI Act regula sistemas de IA. Se solapan pero son normas distintas.

El incumplimiento conlleva multas de hasta 35 millones de euros o el 7% de la facturación global anual, lo que convierte el cumplimiento en una prioridad real, no en papeleo.