Buenas tardes para todos, acabo de finalizar el curso gobernanza de IA, y agradezco al tutor por permitirnos ahondar en un tema creo desde mi punto de vista neuralgico para la creación de sistemas de IA.
Entendí que no solo basta con crear algo relacionado con la IA, sino que para que esta funcione de la manera correcta (como lo esperado), no solo basta con darles prompt y llevarla a la ejecución. Debemos realizar un seguimiento constante y supervisión humana, para determinar sesgos, discriminaciones o errores que se puedan ir presentando, para ello debemos diseñar, controlar, seguir, monitorear y retroalimentar ese programa.
No sin antes realizar un enfoque y un diseño, que documentemos y se lo pasemos a un comité evaluador para que le de el visto bueno, este lo podremos realizar alineados a los frameworks ya organizados y diseñados para este fin, como lo es el de la ISO IEC 42001 (pongo en consideración este, dado que aquí en Colombia estamos más alineados con los ISO que con otros marcos).
Nota: Leyendo un post de uno de los compañeros (Santiago) que termino el curso, pude observar que hacía referencia a un marco Europeo [MAGERIT] que trata el tema del control de los riesgos en los sistemas TI y que puede ser tenido en cuenta al momento de elevar una gobernazo de IA.
Saludos calurosos desde Medellín - Colombia.
Cuenta con el apoyo de la comunidad Alura en tu viaje. ¡Saludos y buenos estudios!