Un colaborador necesita resumir un contrato, revisar información de clientes o mejorar un fragmento de código. Copia el contenido en un asistente de inteligencia artificial y obtiene una respuesta en segundos. El problema aparece cuando, junto con la consulta, también salen del entorno controlado datos personales, credenciales, condiciones comerciales, documentos internos, código propietario u otra información que la organización debía proteger.
Este riesgo se relaciona especialmente con la IA generativa: chatbots, asistentes de escritura o programación y otras aplicaciones capaces de recibir texto, documentos y datos para generar nuevas respuestas.
Evitar filtraciones no depende únicamente de pedir a los empleados que tengan cuidado. La organización necesita definir qué información puede utilizarse, qué herramientas están autorizadas, qué controles deben aplicarse y cómo actuar cuando ocurre un error.
Cómo se filtran datos con IA
Una filtración puede comenzar al escribir un prompt, adjuntar un documento, pegar código fuente o permitir que una aplicación de IA consulte información almacenada en otros sistemas. El riesgo existe tanto en los datos que ingresan en la herramienta como en la información que posteriormente puede aparecer en sus respuestas.
El AI Risk Management Framework del National Institute of Standards and Technology (NIST) dispone de un perfil específico para inteligencia artificial generativa destinado a ayudar a las organizaciones a identificar y gestionar riesgos asociados con estos sistemas.
Por eso, una política de seguridad debería considerar no solo el uso de la herramienta, sino también los documentos, datos, cuentas, integraciones y permisos que intervienen en el proceso.
Define qué datos pueden usarse
Decir que los empleados no deben compartir “información sensible” puede resultar demasiado ambiguo. Es más útil establecer categorías que permitan reconocer rápidamente qué información puede introducirse en una herramienta de IA y cuál necesita controles adicionales.
Las categorías concretas deben adaptarse al tipo de organización, los datos que administra y las obligaciones aplicables a su actividad.
Autoriza herramientas y accesos
La empresa debería definir qué herramientas de IA pueden utilizarse y para qué tareas. Antes de aprobar un servicio conviene revisar cómo trata los datos introducidos, qué opciones administrativas ofrece y qué controles existen sobre usuarios, archivos, integraciones y almacenamiento.
También es importante aplicar el principio de mínimo privilegio. Un asistente que solo necesita consultar determinados documentos no debería disponer de acceso general a correos, repositorios, bases de datos o carpetas que no intervienen en la tarea.
Las Guidelines for Secure AI System Development del National Cyber Security Centre (NCSC) abordan la seguridad durante el diseño, desarrollo, implementación, operación y mantenimiento de sistemas que utilizan inteligencia artificial.
Reduce los datos antes del prompt
Que una herramienta esté autorizada no significa que necesite recibir todos los datos disponibles. Antes de enviar un documento, conviene comprobar qué información necesita realmente el modelo para realizar la tarea.
Por ejemplo, si se quiere mejorar la redacción de una cláusula, puede ser innecesario incluir nombres completos, números de identificación, cuentas bancarias o direcciones. Esos elementos pueden sustituirse por referencias como “Cliente A” o “Proveedor B” cuando no sean necesarios para obtener el resultado.
El mismo criterio debe aplicarse al código y a los archivos técnicos. Credenciales, tokens y otros secretos deben mantenerse fuera de los prompts y gestionarse mediante los procedimientos de seguridad definidos por la organización.
Capacita con situaciones reales
Una política escrita pierde utilidad si el colaborador no sabe aplicarla durante su trabajo. La capacitación debería utilizar situaciones similares a las que enfrenta cada área: resumir una base de clientes, revisar un contrato, redactar una comunicación con información de empleados, analizar una propuesta comercial o solicitar ayuda con código.
Antes de utilizar una herramienta de IA, el empleado puede comprobar tres preguntas: ¿la herramienta está autorizada?, ¿la clasificación de estos datos permite utilizarlos en ella? y ¿la tarea realmente necesita toda la información que estoy a punto de enviar?
El NCSC señala que la seguridad de los sistemas de IA también depende de la cultura organizacional, los procesos, la comunicación y el liderazgo, y no únicamente de las medidas técnicas.
Prepara la respuesta a incidentes
Incluso con controles preventivos pueden producirse errores. Si un empleado introduce información que no debía compartir, la empresa necesita un procedimiento para identificar qué datos fueron enviados, en qué herramienta, con qué cuenta y en qué momento ocurrió.
El equipo responsable deberá evaluar el alcance y aplicar las acciones previstas en los procedimientos internos. Cuando se hayan expuesto credenciales o secretos técnicos, también puede ser necesario revocarlos o reemplazarlos mediante el proceso autorizado.
Preparar esta respuesta con anticipación permite tratar una exposición como un incidente gestionable y aprender de ella para ajustar políticas, controles y capacitación.
Conclusión
Evitar filtraciones de información mediante inteligencia artificial requiere controles en varias capas. Definir qué datos pueden utilizarse, aprobar herramientas, limitar accesos, reducir la información enviada y capacitar a los colaboradores convierte una recomendación general de seguridad en un proceso aplicable.
El objetivo no es impedir cualquier uso de IA, sino establecer condiciones claras para que cada persona sepa qué herramienta puede utilizar, qué información puede compartir y qué debe hacer cuando existe una duda o un incidente.
Estructura la capacitación de tu equipo
Si tu organización ya desarrolla formación interna, el Instituto Internacional de Ingeniería (3i) dispone de planes con herramientas para crear exámenes y, según la modalidad seleccionada, incorporar cursos propios y utilizar analítica para organizar procesos de formación.
Fuentes consultadas
National Institute of Standards and Technology. Artificial Intelligence Risk Management Framework y Generative Artificial Intelligence Profile. 2024.
National Cyber Security Centre. AI and cyber security: what you need to know. 2024.
National Cyber Security Centre. Guidelines for Secure AI System Development. 2023.
Instituto Internacional de Ingeniería (3i). Planes de suscripción. Consultado en 2026.
