Ya estoy inscrito ¿Todavía no tienes acceso? Nuestros Planes
Ya estoy inscrito ¿Todavía no tienes acceso? Nuestros Planes
1
respuesta

[Duda] Como Aprovechar Todo el Potencial de la IA de forma Segura?

Considero que enmascarar los datos sensibles es una excelente recomendación. Sin embargo, me gustaría entender mejor cómo se protege la información que ingresamos y qué garantías de seguridad ofrecen estas plataformas, especialmente las versiones gratuitas.

En alguna ocasión me explicaron que la información que ingresamos queda almacenada en la nube, de manera similar a servicios como OneDrive o Google Drive, donde asumimos que nuestros datos están protegidos. Sin embargo, durante las clases se insiste en no compartir credenciales personales, pero si queremos implementar automatizaciones o agentes de IA que interactúen con otras herramientas, ¿no necesitamos proporcionarles acceso a esas plataformas? ¿Cómo se gestionan esas credenciales y cómo se minimizan los riesgos?

Por ejemplo, ¿qué tan seguro sería dar acceso a un agente de IA a nuestro software contable para gestionar tareas que involucran información financiera sensible de la empresa?

En definitiva, ¿cómo podemos aprovechar todo el potencial de la IA y sus automatizaciones sin comprometer la seguridad y confidencialidad de nuestra información personal y empresarial?

1 respuesta

¡Hola, Janeth! ¿Cómo estás?

Qué pregunta tan pertinente sobre cómo aprovechar todo el potencial de la IA de forma segura, sobre todo cuando pensamos en automatizaciones que tocan información personal y empresarial.

Tu comparación con OneDrive o Google Drive tiene sentido, pero hay una diferencia importante: la política de uso de datos. En muchas versiones gratuitas, las conversaciones pueden conservarse y usarse para mejorar los modelos, a menos que desactives esa opción. Los planes empresariales suelen ofrecer garantías contractuales, como no entrenar con tus datos, cifrado y certificaciones de seguridad.

Por eso conviene revisar los términos de cada plataforma antes de usarla con información sensible. Sobre las credenciales, la clave está en no entregar tu usuario y contraseña personales, sino usar mecanismos diseñados para eso, como tokens de acceso (OAuth) o claves de API con permisos limitados, guardados en un gestor de secretos.

Esto se conoce como principio de mínimo privilegio. En el caso del software contable, puede ser viable si creas un usuario dedicado con acceso de solo lectura, registras toda la actividad y exiges aprobación humana antes de cualquier acción que modifique datos. Mi consejo es empezar con un piloto: usa datos anonimizados o un entorno de pruebas, valida cómo se comporta el agente y amplía los permisos de forma gradual, solo cuando tengas confianza en el proceso.

¿Qué medidas de seguridad crees que tu empresa o tu equipo necesitarían definir antes de permitir que un agente de IA trabaje con información financiera real?

Cuenta con el apoyo de la comunidad Alura Latam en tu trayectoria. ¡Un abrazo y buenos estudios!