Seguridad e IA: quizá ya confías tus datos a la nube
Muchas organizaciones rechazan la IA por estar «en la nube» mientras ya confían correo, documentos y clientes a otros proveedores cloud. Esa contradicción no demuestra que la IA sea segura: demuestra que necesitamos aplicar el mismo análisis coherente a todos los servicios.
Una de las respuestas más frecuentes cuando propongo explorar IA es: «No podemos enviar nuestros datos a la nube». La preocupación puede ser completamente legítima. Lo extraño es escucharla en una videollamada, mientras compartimos un documento online y hablamos de información que ya vive en un CRM alojado por terceros.
No digo esto para ridiculizar el riesgo. Tampoco para afirmar que, como ya usamos cloud, podemos usar cualquier IA. La confianza previa no es un cheque en blanco. Es un punto de partida para hacer un análisis coherente.
«IA» no es un modelo de tratamiento de datos
Dos productos que utilizan modelos parecidos pueden tener compromisos muy distintos. Cambian el tipo de cuenta, el contrato, la retención, la región, los controles administrativos, los conectores y el uso que el proveedor puede hacer de los datos.
Antes de aprobar o prohibir una herramienta necesitamos saber:
- Qué información recibe y cuál genera.
- Si se utiliza para entrenar o mejorar modelos y bajo qué condiciones.
- Cuánto tiempo se conserva y dónde se procesa.
- Quién puede acceder y cómo se revoca ese acceso.
- Qué sistemas externos puede consultar o modificar.
- Qué registros y controles administrativos existen.
- Qué ocurre cuando hay un incidente o una solicitud de eliminación.
La respuesta no se deduce del logotipo ni de una captura de pantalla. Debe comprobarse en el producto, la configuración y el contrato concretos.
Responsabilidad compartida
El cloud lleva años trabajando con una idea útil: el proveedor protege una parte de la infraestructura y el cliente conserva responsabilidades sobre identidades, configuración, aplicaciones y datos. Con IA ocurre algo similar.
Un proveedor puede cifrar información y excluir por defecto los datos empresariales del entrenamiento. Eso no impide que una persona copie información que no debería, conceda permisos excesivos a un conector o acepte una acción sin revisarla. La seguridad es una propiedad del sistema completo, no una característica que se compra en una caja.
Comparar riesgo con riesgo, no riesgo con imaginación
Propongo inventariar el flujo de datos actual y colocar la nueva herramienta en el mismo mapa. ¿Qué información ya sale de la organización? ¿Con qué propósito? ¿Qué proveedor la procesa? ¿Qué controles tenemos? ¿Qué riesgo nuevo añade la IA y qué riesgo podría reducir?
A veces descubriremos que el uso propuesto no es aceptable. Otras veces veremos que la diferencia con un servicio aprobado es menor de lo imaginado. Y con frecuencia encontraremos un punto intermedio: anonimizar, limitar el caso de uso, usar una cuenta empresarial, desactivar un conector o mantener aprobación humana.
De la prohibición genérica a las reglas utilizables
«No introduzcas nada sensible» parece una política, pero obliga a cada persona a interpretar qué es sensible. Una guía útil clasifica datos y conecta cada clase con herramientas y acciones permitidas.
También distingue entre generar una sugerencia y permitir que un agente actúe. Leer un documento, enviar un correo y modificar un registro tienen radios de impacto diferentes. Los permisos deberían crecer con la necesidad y reducirse cuando dejan de ser necesarios.
El objetivo no es eliminar el riesgo. Es conocerlo, compararlo con el valor esperado y diseñar controles que permitan aprender sin ocultar lo que está ocurriendo.