Magerit y las fallas de los modelos de seguridad de datos actuales

¡Hola, Santiago! ¿Cómo estás?

Qué interesante ver cómo relacionas Magerit con las fallas que todavía tienen los modelos de seguridad de datos actuales dentro de la gobernanza de la IA, porque ese vínculo muestra por qué la gestión de riesgos necesita evidencias y no solo principios.

Tal como lo explicaste, marcos como el EU AI Act, el NIST y la ISO/IEC 42001 piden una gestión de riesgos basada en evidencias, y ahí Magerit aporta una base metodológica útil: identifica activos, amenazas y salvaguardas de los sistemas de información. La falla de muchos modelos tradicionales de seguridad es que protegen datos y sistemas, pero no cubren riesgos propios de la IA, como el sesgo, la deriva del modelo o la falta de trazabilidad de las decisiones automatizadas.

Mi consejo es que apliques el ciclo de Magerit a un sistema de IA concreto. Primero, haz un inventario de sus datos, modelos y procesos. Después, registra las amenazas específicas de IA junto con los controles existentes. Por último, asigna un responsable legal y operativo para cada riesgo y documenta las evidencias de auditoría. Así conectas los controles técnicos con la responsabilidad organizativa que mencionas, y avanzas hacia el enfoque de AI Safety by Design.

¿Qué control técnico o estructura de responsabilidad crees que sería más difícil de implementar en una organización que hoy trabaja con un cumplimiento solo reactivo?

¡Un abrazo y buenos estudios!

wow muchas gracias me pusiste a reflexionar nose a veces una arquitetura hexagonal o por capas no son buenas sin estructuras de datos youn analisis de algoritmos automatico hace la diferencia pero no es todo son muchas fases tecnicas para sacar un mvp que tiene que seguir mejorando

Hola para Santiago y el profe Armando.

Terminé el curso de gobernanza y al ingresar al foro me encuentro con su debate, como no sabía de que hablaban, me di a la tarea de ponerme al día.

Buscando información, entendí que el Magerit es un marco Español que busca reducir los riegos en los sistemas TI y que se puede por su proceso, implementar en la IA, ya que no solo busca minimizar el riesgo los activos con que se cuenta, sino minimizar las amenazas y los impactos negativos que estos tendrían en nuestros sistemas.

Al integrarlo a la IA entiendo que al controlar los riesgos no solo se impacta en los sesgos a los que puede llegar a entrar un sistema de IA, también encaja como el seguimiento, control y supervión al igual que en la retroalimentación que esta debe llevar para estar alineada con lo requerido.

Muchas gracias por permitirme aprender algo más, cuetionarme y ahondar en un tema desconocido.

Saludos calurosos desde Medellín - Colombia.