Vigilancia con IA: los riesgos y las salvaguardas

La inteligencia artificial ha reescrito en silencio la economía de la vigilancia. Un trabajo que antes exigía una sala de analistas, semanas de investigación manual y herramientas especializadas ahora puede automatizarse, escalarse y dirigirse contra poblaciones enteras. Los informes de amenazas publicados por los propios laboratorios de IA concretan la trayectoria: el informe de OpenAI de febrero de 2025, por ejemplo, describía la suspensión de cuentas que usaban sus modelos para ayudar a construir una herramienta de monitoreo de redes sociales. Para un CISO o un DPO, la pregunta ya no es si la IA cambia el modelo de amenazas de la vigilancia, sino cómo evita tu organización convertirse en autora o en víctima de ella.

Antes de que cualquier sistema de IA que afecte a personas entre en producción, una evaluación de impacto estructurada es el control central: la evaluación de impacto de IA de PlayCISO te guía en una.

Cómo escala la IA la vigilancia

La vigilancia tradicional era cara y, por tanto, se autolimitaba. La IA elimina la fricción en cada etapa y convierte la observación dirigida en algo que puede ejecutarse de forma continua y barata contra millones de personas.

• Reconocimiento facial y biometría: los modelos pueden emparejar rostros entre cámaras, imágenes y archivos, convirtiendo multitudes anónimas en individuos identificados en tiempo real.
• Agregación de datos abiertos: fragmentos de información pública (publicaciones en redes sociales, registros, volcados de brechas y metadatos) se correlacionan automáticamente para recomponer una imagen detallada que ninguna fuente contenía por sí sola.
• Perfilado del comportamiento: los patrones de movimiento, gasto y actividad en línea se puntúan para inferir creencias, relaciones, salud o intenciones, a menudo con conclusiones seguras de sí mismas pero sin rendición de cuentas.
• OSINT automatizado: los modelos de lenguaje pueden resumir, traducir y priorizar enormes volúmenes de inteligencia de fuentes abiertas, comprimiendo días de trabajo de analista en minutos y rebajando la pericia necesaria para hacerlo.

Por separado, estas capacidades son corrientes. Combinadas, permiten a un equipo pequeño construir y actualizar de forma continua expedientes sobre personas a una escala que antes era exclusiva de los Estados.

Por qué los riesgos son graves

Los daños de la vigilancia no son abstractos. Recaen sobre las personas, sobre la sociedad y, de forma incómoda para los líderes de seguridad, sobre la organización que opera el sistema.

• Efectos inhibidores sobre los derechos: quienes creen que los vigilan se autocensuran, evitan protestar y se retiran de la vida pública. Esa erosión de la libertad de expresión y de asociación es un daño reconocido a los derechos humanos, no un efecto secundario.
• Abuso y discriminación: los sistemas de perfilado codifican y amplifican los sesgos, y la misma infraestructura construida para un propósito se reutiliza fácilmente para apuntar a periodistas, disidentes, minorías o empleados.
• Exposición de seguridad de los propios datos de vigilancia: una base de datos que fusiona biometría, historial de ubicaciones y rasgos inferidos es uno de los activos más sensibles imaginables. Si se vulnera, la agregación que construiste se convierte en un arma en manos de otro. El propio acto de recopilar concentra el riesgo.

Este último punto es el que muchos equipos pasan por alto. Construir capacidad de monitoreo no solo crea exposición legal y ética; crea un escenario de brecha catastrófico en el que las joyas de la corona son perfiles íntimos de personas reales.

Por qué los laboratorios de IA restringen el uso para vigilancia

Los proveedores de frontera prohíben la vigilancia, el monitoreo masivo y la desanonimización en sus políticas de uso aceptable, y hacen cumplir esos términos. Los informes de amenazas publicados son un ejemplo público de ese cumplimiento: los laboratorios describen cómo encontraron cuentas que intentaban usar sus modelos para monitorear y perfilar, y cómo las suspendieron. La lección para las empresas es doble. Primero, si dependes de un modelo comercial para alimentar cualquier función de monitoreo de personas, casi seguro estás incumpliendo los términos del proveedor y te arriesgas a perder el acceso de forma abrupta. Segundo, la misma detección que atrapa a los adversarios se aplica a los clientes: el mal uso es visible. Construir vigilancia sobre un modelo restringido es un riesgo tanto de cumplimiento como de continuidad.

Salvaguardas que un CISO o un DPO puede aplicar

La postura defensiva la dirige el gobierno, no las herramientas. Estos controles evitan que la analítica legítima derive hacia un monitoreo ilícito y demuestran la rendición de cuentas ante los reguladores.

Minimización de datos y privacidad desde el diseño

Recopila los mínimos datos necesarios para un resultado definido y diseña los sistemas para que la protección de la privacidad sea la opción por defecto y no un añadido. No ingieras datos personales «por si resultan útiles». La agregación es la materia prima de la vigilancia, así que la minimización es el control estructural más eficaz. Publicar una explicación clara y honesta de lo que recopilas (como hacemos en nuestra página de privacidad) forma parte de esa disciplina.

EIPD y limitación de la finalidad

Haz una Evaluación de Impacto relativa a la Protección de Datos (EIPD o DPIA) antes de que entre en producción cualquier sistema que monitoree, perfile o rastree a personas. Una EIPD te obliga a nombrar de entrada la finalidad, la base jurídica, los riesgos y las mitigaciones. La limitación de la finalidad vincula después los datos a ese uso declarado; la desviación de finalidad, cuando una herramienta construida para detectar fraude se convierte en silencio en monitoreo de empleados, es como sistemas bienintencionados acaban siendo vigilancia.

Controles de acceso y retención

Restringe quién puede consultar los datos de perfilado, registra cada acceso y separa funciones para que ninguna persona pueda reunir por sí sola un expediente completo sin control. Aplica una retención corta y el borrado automático. Cuanto más pequeño y controlado sea el almacén, menos daño podrán hacer una brecha o un interno.

Diligencia debida con los proveedores

Tanto si compras un producto de IA como si usas la API de un modelo, examina las prácticas de datos, la procedencia del modelo, los términos de uso aceptable y la postura de seguridad del proveedor antes de comprometerte. Pregunta de dónde vienen los datos de entrenamiento, si tus entradas se conservan o se usan para entrenar y qué controles tiene el propio proveedor contra el mal uso. Una herramienta que se vende para «enriquecimiento» o «resolución de identidades» puede ser vigilancia reempaquetada; trata esas afirmaciones con escrutinio. Nuestra calculadora de riesgo de identidad (Pro) puede ayudar a los equipos a entender su propia exposición, y la biblioteca de herramientas de seguridad respalda el trabajo de diligencia debida.

Regulación y una política de gobierno de la IA

El RGPD ya regula el perfilado y las decisiones automatizadas: exige una base jurídica, transparencia, limitación de la finalidad, minimización y, para el monitoreo a gran escala, una EIPD. Están surgiendo regímenes similares en todo el mundo junto con regulación específica de la IA. Traduce esas obligaciones a una política interna de gobierno y uso aceptable de la IA que diga claramente qué hará y qué no hará tu organización con la IA y los datos personales, asigne responsables y dé al personal una vía para plantear inquietudes. Una política escrita y aplicada convierte el gobierno de la IA de un eslogan en un control en el que pueden confiar los auditores, los reguladores y tu propia gente.

Supervisión humana y líneas rojas

El perfilado automatizado nunca debería tomar decisiones con consecuencias sobre una persona sin una revisión humana significativa. Define líneas rojas que ningún equipo pueda cruzar sea cual sea la presión del negocio: nada de monitoreo encubierto de personas, nada de desanonimizar datos seudonimizados, nada de scraping que viole los términos de una plataforma o las expectativas razonables de una persona, y nada de reidentificar conjuntos de datos agregados. Ponlo por escrito, informa a todos los equipos que trabajan con IA y asegúrate de que compras, marketing y producto sepan que una capacidad atractiva no es un permiso para desplegarla. La salvaguarda más fuerte es una cultura en la que el personal se sienta capaz de decir «podríamos construir esto, pero no lo haremos».

Monitoreo, pruebas y respuesta a incidentes

Considera dentro del alcance del aseguramiento continuo cualquier sistema de IA que afecte a personas. Registra cómo se hacen los prompts a los modelos y qué datos fluyen hacia ellos, prueba los sesgos y la ampliación del alcance, y ensaya un plan de respuesta a incidentes específico para el fallo en el que se filtran datos de perfilado o se descubre que una función opera fuera de su finalidad declarada. Como los sistemas de IA cambian de comportamiento cuando cambian los datos y los prompts, una EIPD única no basta; programa reevaluaciones periódicas y vincúlalas a tu proceso de gestión de cambios para que una ampliación silenciosa del alcance no pase sin revisión.

En resumen

La IA no inventa la vigilancia, pero la industrializa, y las mismas capacidades que hacen potente la analítica abaratan el monitoreo masivo. Las organizaciones que se mantienen en el lado correcto de esta línea tratan los datos personales como un pasivo que minimizar y no como un activo que acumular, y envuelven todo sistema de IA que afecte a personas en EIPD, límites de finalidad, controles de acceso y un gobierno honesto. Los informes de amenazas de los laboratorios recuerdan que el mal uso es real y detectable; la salvaguarda contra él es una cultura que se niega a construir lo que no debe, respaldada por una política que hace exigible esa negativa.