Operaciones de influencia con IA y desinformación: guía para defensores

Las operaciones de influencia son tan antiguas como la propaganda, pero la IA generativa cambia su economía. Cuando un solo operador puede generar contenido fluido y con sonido nativo en una docena de idiomas y manejar cientos de personas a la vez, el viejo instinto de detección de «busca la mala gramática» deja de funcionar. Los informes de inteligencia de amenazas que publican ahora los laboratorios de IA documentan exactamente este cambio — el informe de Anthropic de marzo de 2025, por ejemplo, describía una operación de influencia como servicio que usaba Claude para manejar más de 100 cuentas bot en redes sociales — y esta explicación recorre cómo funcionan de verdad las operaciones de influencia escaladas con IA, las señales que todavía las delatan y cómo se defienden de ellas las organizaciones, los equipos de comunicación y las plataformas.

Si tu organización publica contenido multimedia, la lista de comprobación de procedencia de contenidos (C2PA) de PlayCISO puntúa hasta qué punto puedes demostrar lo que publicaste.

Qué nos dicen los informes de amenazas de los laboratorios de IA

Anthropic y OpenAI publican ahora con regularidad informes de inteligencia de amenazas que describen intentos reales de usar indebidamente sus modelos — entre ellos operaciones cibernéticas, fraude y operaciones de influencia — y las cuentas que expulsaron como consecuencia. Los informes no son manuales de instrucciones; son el relato de un defensor sobre los patrones que se repiten cuando los adversarios recurren a un modelo de lenguaje capaz. En el caso concreto de las operaciones de influencia, el valor para los defensores está en la anatomía: qué se le pidió al modelo, dónde aportó palanca y qué huellas de comportamiento dejaron al descubierto la actividad.

La lección principal es que la IA rara vez inventa un tipo de ataque nuevo. Comprime el coste y el tiempo de uno existente. Una campaña de desinformación que antes necesitaba una sala llena de redactores puede intentarla un equipo pequeño, y las pistas pasan del propio contenido a la coordinación que lo rodea.

Qué aporta realmente la IA a una operación de influencia

Conviene ser preciso sobre la palanca, porque es lo que los defensores aprenden a detectar. En los casos documentados, los modelos se usan para aportar:

• Volumen. Miles de publicaciones, comentarios y respuestas que, de otro modo, sería poco práctico escribir a mano.
• Fluidez. Una prosa de calidad nativa que elimina los errores gramaticales y de expresión en los que se apoyaban históricamente los defensores.
• Traducción y localización. El mismo relato adaptado de forma convincente a muchos idiomas y registros culturales.
• Realismo de las personas. Historias, tonos y hábitos de publicación coherentes que hacen que las cuentas falsas, o «sockpuppets», parezcan personas distintas.
• Mensajes probados con A/B testing. Generación rápida de variantes de enfoque para que los operadores iteren hacia el gancho emocional que mejor funcione.

Fíjate en lo que no está en la lista: ideas nuevas, audiencias reales o interacción auténtica. La IA produce oferta. No puede fabricar una demanda genuina, y en esa brecha es donde vive la detección.

Patrones típicos y las tácticas que hay detrás

Las campañas asistidas por IA suelen reutilizar un manual conocido, que ahora funciona más rápido y más lejos:

• Redes de sockpuppets. Grupos de cuentas falsas que se hacen pasar por ciudadanos corrientes, periodistas o aficionados, cada una con una persona generada.
• Astroturfing. Un consenso «de base» fabricado, en el que muchas voces sintéticas amplifican un mismo argumento para que una postura marginal parezca mayoritaria.
• Contenido multimedia fabricado. Imágenes, audio o vídeo generados con IA para dar a hechos falsos una apariencia de prueba documental.
• Comportamiento inauténtico coordinado. Cuentas que parecen independientes pero publican, impulsan y responden de forma estrechamente sincronizada.

El hilo conductor es una coordinación que se hace pasar por espontaneidad. Esa apariencia es frágil y deja costuras.

Señales de detección que siguen funcionando

Como la IA mejora el contenido pero no la orquestación de fondo, las señales duraderas son de comportamiento y estructurales, no lingüísticas:

• Coordinación. Muchas cuentas que comparten seguidores, enlaces, hashtags o frases casi idénticas a escala.
• Horarios. Ráfagas de actividad alineadas con una sola zona horaria o un horario laboral, o una sincronización poco natural entre cuentas supuestamente no relacionadas.
• Reutilización de plantillas. Una uniformidad estructural bajo una variedad superficial: el mismo esqueleto argumental vestido con palabras distintas.
• Lagunas de procedencia. Personas sin un historial verificable, fotos de perfil recicladas o generadas y contenido multimedia sin un rastro de origen creíble.
• Asimetría de interacción. Mucha producción combinada con poca interacción recíproca auténtica de comunidades reales.

Ninguna señal por sí sola es una prueba. Los investigadores ganan confianza acumulando varias y corroborándolas después con metadatos y con la telemetría de las plataformas que los usuarios individuales nunca ven. Practicar el instinto con ejemplos realistas ayuda; ejercicios interactivos como Pick the Phish y el analizador de solicitudes de amistad de PlayCISO entrenan los mismos músculos de escrutinio de personas y tácticas de presión que explota la desinformación.

Cómo se defienden las organizaciones, los equipos de comunicación y las plataformas

La defensa es por capas. Ningún control por sí solo detiene una operación decidida, pero juntos aumentan el coste y reducen el alcance.

Alfabetización mediática y juicio humano

La primera defensa es una plantilla y una audiencia que se detienen antes de amplificar. Enseña a la gente a comprobar la procedencia, a desconfiar de la urgencia diseñada para provocar emociones y a tratar una captura de pantalla como una afirmación y no como una prueba. La alfabetización mediática escala más que cualquier detector porque reduce a la vez el beneficio de todas las campañas.

Procedencia, marcas de agua y autenticidad del contenido

Importa más de dónde procede el contenido que lo pulido que parezca. Los estándares de autenticidad del contenido como C2PA (la Coalition for Content Provenance and Authenticity) adjuntan metadatos a prueba de manipulaciones que describen cómo se creó y editó un contenido multimedia. Las comprobaciones de procedencia y las marcas de agua duraderas no lo detectan todo, y los metadatos se pueden eliminar, pero dan a las redacciones, las plataformas y el público una señal verificable en la que apoyarse. Las herramientas de detección que clasifican el texto generado con IA siguen siendo útiles como una entrada más, aunque los defensores deben tratar su resultado como probabilístico, no como un veredicto.

Prácticas de confianza y seguridad de las plataformas

Las plataformas se defienden a nivel de red, donde la coordinación es visible. Un trabajo eficaz de confianza y seguridad agrupa las cuentas por infraestructura y comportamiento compartidos, limita la automatización sospechosa, exige procedencia en el contenido sintético y elimina las redes inauténticas coordinadas como un todo, no cuenta a cuenta. Publicar informes de transparencia sobre las retiradas también alimenta a la comunidad defensora en general, y así es como acaban saliendo a la luz muchas operaciones, incluidas las de los informes de amenazas de los laboratorios de IA.

Monitorizar tu marca y a tus directivos

Toda organización es un posible objetivo de suplantación. Los equipos de comunicación y de seguridad deben vigilar las cuentas de directivos suplantadas, las declaraciones fabricadas y los ataques de relato contra la marca. Estate atento a las críticas coordinadas repentinas, los perfiles sociales clonados y los audios con voz generada por IA que dicen proceder de la dirección. Detectarlo pronto da tiempo para responder antes de que se asiente un relato falso.

Respuesta a incidentes de desinformación

Trata un evento de desinformación como cualquier otro incidente: con un plan escrito antes de necesitarlo. Un manual útil nombra a quién verifica las afirmaciones, a quién decide si responder públicamente y cómo se conservan las pruebas. A veces lo correcto es una corrección factual a través de los canales propios; a veces, amplificar una falsedad al rebatirla hace más daño que el silencio. Decide el umbral de antemano, coordínate con las plataformas y, cuando esté justificado, con las fuerzas de seguridad, y documenta todo para la revisión posterior al incidente.

Una postura realista

La IA abarata la producción de contenido persuasivo, pero no la construcción de una confianza genuina. Las operaciones siguen necesitando una distribución auténtica que no pueden fabricar, y esa dependencia es la ventaja del defensor. A las organizaciones que mejor les va combinan personas escépticas, herramientas atentas a la procedencia, una monitorización activa de la marca y un plan de respuesta ensayado. Los informes de amenazas de los laboratorios son alentadores en un punto concreto: las operaciones que describen se detectaron y las cuentas que había detrás fueron expulsadas. La amenaza es real y está escalando, pero no es invisible, y la defensa coordinada sigue funcionando.