Acuerdo sobre la Ley de IA y AESIA: primera lectura

En la noche del 8 de diciembre de 2023, tras tres días de negociación, la presidencia española del Consejo y los negociadores del Parlamento Europeo alcanzaron un acuerdo político provisional sobre el Reglamento de Inteligencia Artificial. Será el primer marco horizontal de regulación de la IA en el mundo. Pocos meses antes, el Real Decreto 729/2023, de 22 de agosto, aprobó el estatuto de la Agencia Española de Supervisión de Inteligencia Artificial (AESIA), con sede en A Coruña.

Con las dos piezas sobre la mesa, es buen momento para una primera lectura desde la práctica de la arquitectura.

Qué se ha acordado

El acuerdo mantiene el enfoque basado en el riesgo que la Comisión propuso en 2021, con ajustes negociados entre las posiciones del Consejo y del Parlamento:

• Prácticas prohibidas. Entre otras, la manipulación cognitiva conductual, la puntuación social y el reconocimiento de emociones en el lugar de trabajo y en centros educativos, con excepciones limitadas para el uso policial de la identificación biométrica.
• Sistemas de alto riesgo. Obligaciones de gestión de riesgos, calidad de datos, documentación, supervisión humana y, para ciertos implementadores, una evaluación de impacto sobre derechos fundamentales.
• IA de propósito general. Obligaciones de transparencia para todos los modelos, como documentación técnica, respeto al derecho de autor europeo y resúmenes del contenido usado en el entrenamiento, y obligaciones reforzadas para los modelos con riesgo sistémico.
• Sanciones. Según el Consejo, hasta 35 millones de euros o el 7 % del volumen de negocio global por prácticas prohibidas, 15 millones o el 3 % por otros incumplimientos y 7,5 millones o el 1,5 % por información incorrecta, con límites más proporcionados para pymes y empresas emergentes.

El texto todavía debe completarse a nivel técnico y aprobarse formalmente por ambas instituciones. Según el acuerdo, el reglamento se aplicará con carácter general dos años después de su entrada en vigor, con plazos más cortos para algunas disposiciones, como las prohibiciones.

AESIA: la autoridad que tendremos cerca

España se ha adelantado creando su autoridad de supervisión antes de que exista el reglamento. El Real Decreto 729/2023, publicado en el BOE el 2 de septiembre, configura la AESIA como agencia estatal adscrita al ámbito de la digitalización, con funciones de supervisión, asesoramiento y fomento de una IA confiable. La agencia está en fase de puesta en marcha.

En paralelo, el Real Decreto 817/2023 ha establecido un entorno controlado de pruebas para ensayar el cumplimiento de la futura norma con sistemas de alto riesgo.

Para el sector, esto significa que habrá un interlocutor nacional identificable y, previsiblemente, guías de aplicación en español. Conviene seguir sus publicaciones desde el principio.

Qué afecta a un estudio de arquitectura

Lo dije tras el voto del Parlamento en junio y lo mantengo: el núcleo del trabajo de un estudio no es un uso de alto riesgo. Generar un borrador de memoria, consultar normativa, producir imágenes de ideación o resumir documentación no entra en esa categoría.

Hay, sin embargo, cuatro puntos que sí conviene anotar:

1. Recursos humanos. El uso de IA para seleccionar, evaluar o promocionar personal seguirá siendo alto riesgo. Un estudio o una ingeniería que use herramientas de cribado de candidatos deberá exigir al proveedor el cumplimiento y aplicar supervisión humana.
2. Transparencia del contenido. Las imágenes y textos generados que puedan confundirse con contenido real deberán identificarse. Afecta a infografías comerciales y material de promoción inmobiliaria.
3. Elección de proveedores. Los proveedores de modelos de propósito general tendrán obligaciones de documentación y de respeto a los derechos de autor. Será un criterio objetivo para elegir herramientas.
4. Infraestructuras críticas y productos. Las ingenierías que desarrollen o integren IA en la gestión de infraestructuras o en componentes de seguridad deben estudiar el texto final con detalle.

El acuerdo no cambia cómo proyectamos; cambia cómo elegimos y documentamos las herramientas con las que proyectamos.

La responsabilidad profesional no cambia

Es importante subrayarlo: el reglamento regula sistemas de IA, no la profesión. La responsabilidad del arquitecto ante el CTE, la LOE y el colegio sigue siendo la misma. Una justificación normativa errónea seguirá siendo responsabilidad del técnico firmante, la haya redactado él o una herramienta. Por eso el criterio que defiendo desde febrero sigue vigente: cualquier respuesta normativa que se use en un proyecto debe poder rastrearse hasta el artículo exacto y la versión vigente.

Cómo prepararse en 2024

Con dos años de margen general, no hay motivo para el alarmismo, pero sí para el orden:

1. Mantener un registro de herramientas de IA con proveedor, finalidad y datos tratados.
2. Revisar si alguna herramienta se usa en procesos de personal.
3. Establecer un criterio de etiquetado para imágenes y documentos generados.
4. Pedir a los proveedores información sobre su plan de cumplimiento.
5. Seguir las guías que publique la AESIA y las que puedan elaborar los colegios.

Mi lectura

Europa ha elegido regular primero y España ha elegido tener la autoridad preparada. Para la arquitectura, el impacto directo será limitado y el indirecto, positivo: herramientas más transparentes, mejor documentadas y con responsabilidades claras. Los estudios que traten 2024 como un año de preparación ordenada llegarán a la aplicación del reglamento sin sobresaltos.