Servicios · Ámbito en preparación
Auditoría de IA
Auditar la inteligencia artificial de alto riesgo, cuando la norma lo exija.
El Reglamento europeo de IA establece que los sistemas de inteligencia artificial de alto riesgo deben someterse a evaluaciones de conformidad realizadas por organismos independientes. Nos estamos preparando para ello.
CerteIDAS participó en el Sandbox regulatorio de IA español, el primer entorno controlado de pruebas de Europa, donde trabajamos con reguladores y empresas en los procedimientos de auditoría de sistemas de IA. En ETSI contribuimos a los grupos de trabajo que están definiendo las normas técnicas de auditoría de ciberseguridad de los sistemas de IA para el Reglamento de IA.
Alcance
Qué evaluaremos
El alcance quedará fijado por las normas armonizadas y los actos de ejecución del Reglamento de IA, aunque ya podemos anticipar los siguientes alcances:
- Sistemas de IA de alto riesgo (Anexo III del Reglamento de IA) sujetos a evaluación de conformidad por terceros;
- Sistemas de gestión de riesgos, gobernanza de datos, documentación técnica y registro de eventos;
- Transparencia, supervisión humana, precisión, robustez y ciberseguridad del sistema;
- Sistemas de gestión de la calidad del proveedor y vigilancia poscomercialización.
Lo que nos hace distintos
Estamos donde se redactan los estándares, donde se diseña la ejecución del Reglamento IA.
Participamos en el Sandbox regulatorio de IA español y en los grupos de ETSI que definen las normas de auditoría de ciberseguridad de los sistemas de IA, y formamos parte del AI Advisory Forum del Reglamento de IA. Cuando los estándares mandatados por la Comisión UE estén listos, nosotros también.
Por qué todavía no es un servicio
No vendemos lo que aún no se puede certificar.
Queremos evaluar la conformidad de los sistemas de IA con el Reglamento de IA. Pero hoy no existen aún las normas técnicas contra las que ejecutar esa evaluación: no las hay para nadie. Por eso estamos donde se están escribiendo.