Ya estoy inscrito ¿Todavía no tienes acceso? Nuestros Planes
Ya estoy inscrito ¿Todavía no tienes acceso? Nuestros Planes
Solucionado (ver solución)
Solucionado
(ver solución)
2
respuestas

[Proyecto] Práctica 6 — Del documento al prompt: seguridad y privacidad en IA

Hola a todos:

Comparto mi práctica de Seguridad y Privacidad, desarrollada con el caso ficticio Austral Importaciones y datos sintéticos.

Preparé tres demostraciones: revisión de factura y packing list, comparación de cotizaciones y conciliación de gastos. El trabajo aborda clasificación de información, minimización, seudonimización y revisión crítica de las respuestas, manteniendo las decisiones en manos del responsable.

Un aprendizaje relevante fue que proteger la entrada también exige revisar la salida: una respuesta puede calcular correctamente y, aun así, introducir supuestos o solicitar información innecesaria.

El informe conserva los prompts y las transcripciones, documenta los hallazgos y distingue las demostraciones realizadas de los controles corporativos propuestos y las verificaciones pendientes.

Presentación interactiva:
Ver «Del documento al prompt»

Informe completo:
Consultar el informe en PDF — Google Drive

Quedo atento a sus comentarios y observaciones.

Carlos Paredes.

2 respuestas
solución!

¡Hola, Carlos! ¿Cómo estás?

Qué buen trabajo el de tu práctica sobre seguridad y privacidad en IA, llevando el paso del documento al prompt con un caso ficticio y datos sintéticos. Separar las demostraciones realizadas de los controles propuestos y de las verificaciones pendientes le da mucha claridad y honestidad al informe.

Tu aprendizaje sobre la salida es un punto muy valioso: proteger la entrada con clasificación de información, minimización y seudonimización es solo la mitad del camino, porque la respuesta también puede introducir supuestos o pedir datos que no son necesarios. Mi consejo es convertir ese hallazgo en una lista de verificación de salida reutilizable.

Para hacerlo, después de cada respuesta revisa tres cosas: si los cálculos se pueden comprobar con los datos originales, si el modelo asumió algo que no estaba en el prompt y si solicitó información adicional que puedas negarte a entregar. Anota el resultado junto a cada transcripción y deja siempre la decisión final en manos del responsable, tal como lo planteaste.

¿Qué criterios usarías para decidir qué datos de una empresa real nunca deberían entrar a un prompt, aunque estén seudonimizados?

¡Un abrazo y buenos estudios!

¡Hola, Armano! Muchas gracias por la revisión y la sugerencia. Incorporaré esa lista de verificación de salida para revisar cálculos, supuestos y solicitudes de información adicional.

Para una empresa real, evaluaría si el dato es necesario para la tarea, si permite identificar a alguien al combinarlo con otros antecedentes y si su exposición compromete accesos, acuerdos de confidencialidad o información estratégica. Dejaría fuera credenciales, claves de API, datos sensibles innecesarios y secretos comerciales, aunque se sustituyan los nombres: la seudonimización por sí sola no elimina esos riesgos.

¡Gracias por ayudarme a profundizar el ejercicio! Un abrazo.