Ya estoy inscrito ¿Todavía no tienes acceso? Nuestros Planes
Ya estoy inscrito ¿Todavía no tienes acceso? Nuestros Planes
1
respuesta

Fundamentos de la IA Generativa (Aula 2)

¡Buenas tardes a todos! Por aquí les dejo mi entrega de la práctica del Aula 2. Decidí trabajar con Oracle para simular un asistente corporativo real. En el archivo detallo paso a paso los 6 ejercicios solicitados: desde la organización de documentos e ingeniería de tokens, hasta un experimento para ver cómo la perilla de la Temperatura afecta a la función softmax y provoca alucinaciones si no se calibra correctamente. Espero que les sea de utilidad y estoy abierto al debate. ¡Mucho éxito en sus entregas!

https://1drv.ms/w/c/d7c4615721d1a325/IQA6rFh8rsGqTr3UrHAoN3xjAblktMeAGq3ADgqLmpR5tJo?e=Hqo4Bk

1 respuesta

¡Hola, Claudia! ¿Cómo estás?

Muchas gracias por compartir tu entrega con la comunidad. Elegir un caso como el de Oracle le dio mucho realismo a la práctica, y se nota el cuidado en la organización de los seis ejercicios: hay una línea clara que va desde el mapeo de la base de conocimiento hasta las medidas de control para producción.

Destaco especialmente la conclusión sobre el "mito de la fluidez". Mostrar que una respuesta puede estar bien escrita, sonar segura y aun así ser completamente inventada es una de las ideas más importantes del curso, y tu experimento con la temperatura la ilustra muy bien. También es muy acertada la propuesta de anclar el asistente a un índice cerrado (RAG) con la documentación mapeada en el Ejercicio 1.

Como estás abierta al debate, te comparto algunos puntos para enriquecer el análisis:

  • Tokens: la división ["Con", "tra", "to"] funciona bien como ejemplo, pero vale aclarar que cada modelo usa su propio tokenizador, así que la segmentación real puede variar (una palabra común puede ser incluso un solo token).
  • Softmax y búsqueda: en el Ejercicio 3, la función softmax no es la que dirige la búsqueda hacia el Sector 3. En un sistema RAG, la recuperación de documentos se hace comparando el embedding de la consulta con los embeddings de los documentos (por ejemplo, con similitud coseno). La softmax actúa en otro momento: convierte los logits en probabilidades para elegir el siguiente token durante la generación.
  • Temperatura baja: con 0.2 el modelo se vuelve más conservador, pero no totalmente determinista ni libre de alucinaciones. Lo que realmente sostiene la veracidad es el anclaje a fuentes confiables y la verificación humana.
  • Revisión de la Configuración B: justamente aplicando ese pensamiento crítico, conviene revisar la respuesta "correcta". No existe una certificación oficial de HIPAA; el cumplimiento suele formalizarse mediante acuerdos como el BAA (Business Associate Agreement). Es un detalle pequeño, pero muestra cómo una respuesta conservadora y bien redactada también puede contener imprecisiones, lo que refuerza todavía más tu conclusión del Ejercicio 6.

Son ajustes que suman a un trabajo que ya está muy bien construido. ¡Felicitaciones por la dedicación y sigue firme en tus estudios!