1 - Controles de Gobernanza de Datos y Retención:
- Políticas de Retención Claras: La herramienta debe permitir al administrador configurar políticas claras sobre cuánto tiempo se retienen los datos ingresados por los usuarios y las interacciones con la IA. Idealmente, los datos se retienen solo el tiempo necesario para el propósito de la consulta o para cumplir con las regulaciones de la empresa.
- Control de Eliminación de Datos: Debe existir la capacidad de eliminar datos de usuario y registros de interacción de forma segura y permanente cuando ya no sean necesarios.
- Auditoría y Trazabilidad: La herramienta debe ofrecer registros de auditoría detallados sobre quién accedió a qué datos y cómo se utilizaron, para asegurar la trazabilidad y el cumplimiento.
2 - Uso de Datos para Entrenamiento del Modelo:
- No Uso de Datos Empresariales para Entrenamiento de Modelos Públicos: Esta es una de las configuraciones más críticas. La herramienta debe permitir una opción (o ser la configuración predeterminada en entornos empresariales) para que los datos corporativos ingresados o accedidos por la IA NO SE UTILICEN PARA ENTRENAR MODELOS DE IA PÚBLICOS o generales. Esto asegura que la información confidencial de la empresa no termine siendo expuesta en las respuestas a otros usuarios externos.
- Entrenamiento Privado/Dedicado: En algunos casos, puede haber una opción para usar los datos de la empresa para entrenar un modelo de IA específico y privado para esa empresa, con estrictas garantías de aislamiento de datos. Esto es diferente y mucho más seguro que entrenar modelos públicos.
3 - Seguridad de Acceso y Autenticación:
- Autenticación Fuerte: La herramienta debe integrarse con los sistemas de autenticación corporativos (ej. SSO, 2FA) para asegurar que solo los usuarios autorizados puedan acceder a la IA y a los datos a los que está vinculada.
- Control de Acceso Basado en Roles (RBAC): Debe permitir a los administradores definir qué usuarios o grupos de usuarios tienen acceso a ciertas funciones de la IA o a datos específicos dentro de la IA.
4 - Encriptación de Datos:
- Encriptación en Tránsito y en Reposo: Todos los datos que se mueven hacia y desde la herramienta de IA, así como los datos almacenados por la herramienta (en reposo), deben estar encriptados utilizando estándares de la industria (ej. TLS para el tránsito, AES-256 para el reposo).
5 - Aislamiento de Datos (Data Isolation):
- Entornos Dedicados/Separados: Para entornos corporativos de alta seguridad, la herramienta debe ofrecer aislamiento lógico o físico de los datos de una organización de los datos de otras organizaciones, garantizando que la información de una empresa no se mezcle con la de otra.
6 - Cumplimiento Normativo y Certificaciones:
- Adherencia a Estándares: La herramienta debe cumplir con estándares de privacidad y seguridad relevantes (ej. ISO 27001, SOC 2, GDPR, CCPA). Esto indica que el proveedor de la IA sigue buenas prácticas en la gestión de la seguridad de la información.
- Acuerdos de Procesamiento de Datos (DPA): El proveedor de la herramienta debe ofrecer y cumplir con DPAs que establezcan claramente cómo se procesarán y protegerán los datos de la empresa.
7 - Transparencia y Configuración de Preferencias de Uso:
- Configuraciones Granulares: El administrador debe poder configurar cómo la IA interactúa con los datos del Workspace, por ejemplo, si puede leer correos electrónicos para resúmenes o solo archivos específicos en Drive.
- Políticas de Uso Aceptable: La herramienta debe permitir la implementación de políticas de uso aceptable que los usuarios deben aceptar
¿Le fue útil este artículo?
¡Qué bueno!
Gracias por sus comentarios
¡Sentimos mucho no haber sido de ayuda!
Gracias por sus comentarios
Comentarios enviados
Agradecemos su iniciativa, e intentaremos corregir el artículo