Ya estoy inscrito ¿Todavía no tienes acceso? Nuestros Planes
Ya estoy inscrito ¿Todavía no tienes acceso? Nuestros Planes
1
respuesta

El output como el invierno en la IA por la integridad y etica de la IA

Creo que la orquestacion de agentes y diferentes sitemas como arena de calude hace que podamso ver primero IAs mejores por que ahora tienen un sesgo hacer cosas malas necesarias pero ese aprendizaje tiene que seguir creciendo por que es necesario que se se sigan marcos de privacidad de la informacion y que nunca atente a los humanos pero para eso se necesita que una persona que tiene moral lo vea asi tengas el mejor orquestador de agente sy uno de esos agentes tenga un modelo detras como gemini 4 carbon o que tenga una Agi mejor creo que nucna va a poder mirar con los ojos de una persona que siente y que se este investigando apra que el cerebro humano cree un cerebro artificial que las neuronas lleguen a crear ssitemas de fluidos en un robot no se que tan ectico sea pero espero que me toque cuando lo perfeccionen.Muchas personas antes de que existiera la luz artificial decian que era imposible pero ahora con la integracion del color verde por ese invetigador creo que con lo que logro open AI de poder decifrar el problema de naiver bayes lo podemos utilizar con la biomedica para llegar a ese futuro

1 respuesta

¡Hola, Santiago! ¿Cómo estás?

Qué interesante tu reflexión sobre el output de los sistemas de IA, la idea de un posible invierno en la IA y la importancia de la integridad y la ética de la IA en el futuro de la tecnología.

Tu punto central tiene sentido: aunque un orquestador de agentes sea muy sofisticado y use modelos avanzados, la supervisión humana sigue siendo necesaria, porque la responsabilidad moral no se delega a un sistema. Por eso los marcos de privacidad, la transparencia y la trazabilidad son tan importantes: permiten entender qué decidió cada agente y por qué.

Sobre las referencias técnicas que mencionas, como los avances de OpenAI con Naive Bayes o los modelos futuros, es importante contrastarlas con fuentes confiables antes de darlas por hechas. Mi consejo es este: en un flujo con varios agentes, registra qué agente generó cada output, con qué datos y bajo qué criterio, y define un punto de revisión humana antes de cualquier decisión que afecte a personas. Así la ética queda integrada en el proceso y no se trata como algo posterior.

¿Qué decisiones de un sistema con varios agentes crees que nunca deberían quedar sin revisión humana y por qué?

¡Un abrazo y buenos estudios!