Operación conversacional que suplanta a un activista real: caso GTG-84006

Qué sucedió

Identificamos y eliminamos una operación de influencia distribuida dirigida a audiencias dentro y fuera de Irán. Para engañar a los usuarios, la operación suplantó a un activista real instruyendo a un agente de IA compartido para clonar la cuenta personal de Telegram del activista y luego indicándole en persa que ahora era esa persona. El actor instruyó a Claude para que leyera unas 8.400 publicaciones de Telegram del activista con el fin de replicar su estilo de escritura, y luego lo utilizó para mantener conversaciones políticas en tiempo real con sus contactos. Por lo que sabemos, estos contactos no sabían que hablaban con una cuenta asistida por IA.

Aunque los actores no compartían infraestructura de cuentas ni mostraban signos evidentes de coordinación, nuestra investigación vinculó la campaña a la Organización de los Mujahedin del Pueblo de Irán (OMPI/MEK) y a su frente político, el Consejo Nacional de Resistencia de Irán (CNRI).

Nuestra investigación mostró que al menos cuatro personas que dirigían la campaña trabajaban para la organización mediática oficial del CNRI. La operación se basaba en activos mediáticos del CNRI/MEK en múltiples plataformas, incluidos televisión y radio, radiodifusión por satélite y onda corta, Instagram, Telegram y X/Twitter. Aunque la existencia de un ciclo de aprobación por comité y notas sobre el liderazgo del MEK sugieren que puede haber una asignación central de tareas, no pudimos verificar el alcance del control centralizado.

Utilizando la Breakout Scale, evaluamos la operación como Categoría 2 (múltiples plataformas, distribuida a través de los propios activos mediáticos del CNRI de la red y cuentas amplificadoras).

Qué hizo la IA

La operación raspó con éxito más de 500 canales de redes sociales para construir perfiles detallados de personas dentro de Irán. Luego agruparon estos objetivos por ciudad, edad, profesión, postura política e historial de arrestos, lo que pudo ayudarles a adaptar los mensajes a audiencias específicas.

La red analizó unos 51.944 mensajes archivados de estas conversaciones para construir perfiles psicológicos detallados de decenas de personas concretas dentro de Irán. Para difundir aún más su mensaje, la cuenta suplantadora también envió un titular de noticia de última hora fabricado a más de 30 contactos simultáneamente.

Para promocionar el plan de diez puntos de la presidenta del CNRI, Maryam Rajavi, la red creó avatares generados por IA para cada artículo. El actor animó estos avatares, les dio voz y los utilizó en contenido de video.

El papel de la IA fue la suplantación de identidad y la conversación en tiempo real, no solo la redacción de publicaciones públicas. El informe también afirma que la operación raspó más de 500 canales sociales y construyó perfiles agrupados por ciudad, edad, etc., para contactos posteriores. Esta página solo describe el riesgo de «construir listas de contacto a nivel de grupo» y no proporciona ningún campo de perfil ni lista.

Qué observó el informe

El informe la evaluó como Categoría 2 de la Breakout Scale: múltiples plataformas, pero la distribución se produjo principalmente dentro de sus propios medios y cuentas amplificadoras.

Que los contactos no lo supieran fue la comprensión del informe en ese momento («por lo que sabemos»), no una investigación forense independiente de cada conversación.

Confirmado y desconocido

Respuesta de la plataforma

Anthropic eliminó las cuentas relevantes y el agente compartido.

Límites de la respuesta：Eliminar el acceso al modelo no puede notificar automáticamente a todas las personas suplantadas o a los contactos con los que se conversó.