ChatGPT a veces produce respuestas plausibles pero incorrectas o sin sentido, debido a que se entrena con grandes cantidades de texto de internet, donde no toda la información es precisa.
ChatGPT es sensible a pequeños cambios en los comandos (prompts) o a intentos repetidos de la misma solicitud, lo que puede generar respuestas inconsistentes.
El modelo también puede ser prolijo y usar en exceso ciertas frases, debido a sesgos en los datos de entrenamiento.
ChatGPT tiene limitaciones en su capacidad de memoria y contexto, lo que significa que puede tener dificultades para acceder a información o referencias anteriores específicas.
Finalmente, el modelo puede generar respuestas imprecisas y tendenciosas debido a los sesgos presentes en los datos de entrenamiento.
