¡Hola, José Luis! ¿Cómo estás?
Qué bueno verte planteando tu duda sobre la frontera de la IA y sobre cómo se definen sus límites, porque es una pregunta que ayuda a entender mejor cómo funcionan estos modelos en el día a día.
La frontera de la IA no es una línea fija ni un parámetro único: describe hasta dónde un modelo puede dar resultados confiables. Depende del tipo de tarea, de los datos de entrenamiento y de cómo formulas el prompt. Por eso sí cambia según el input: un prompt ambiguo o sin contexto empuja al modelo a completar vacíos con respuestas plausibles, y eso es lo que llamamos alucinación.
Los modelos generativos predicen texto probable, no verifican hechos, así que en tareas repetitivas también pueden inventar datos, sobre todo cuando la conversación se alarga y el modelo pierde parte del contexto. No es posible apagar por completo la función generativa, pero sí reducirla. Mi consejo: define en el prompt un rol y un formato de salida estricto, entrega los datos o ejemplos que debe usar, indica que responda "no tengo información" cuando no la encuentre y, si tu herramienta lo permite, baja la temperatura. Para tareas repetitivas, procesa en lotes pequeños con una conversación nueva en cada uno y revisa una muestra de los resultados.
¿Qué tipo de tarea repetitiva estás automatizando con IA y en qué momento notas que empieza a inventar información?
¡Un abrazo y buenos estudios!
