Un reciente informe del Centro de Análisis de Amenazas de Microsoft (MTAC, por sus siglas en inglés) revela que los actores amenazantes afiliados a China están intensificando el uso de la inteligencia artificial para influir y sembrar división en los Estados Unidos y otros países.
Los investigadores destacaron cómo los actores afiliados al Partido Comunista Chino (PCCh) están publicando contenido generado por IA en las redes sociales para amplificar temas controvertidos internos y criticar la administración actual en los Estados Unidos.
En un ejemplo, el grupo Storm-1376, especializado en operaciones de influencia, difundió narrativas conspirativas sobre los incendios forestales en Hawái en agosto de 2023 en varias plataformas de redes sociales.
Estas publicaciones alegaban que el gobierno de los Estados Unidos había provocado deliberadamente los incendios para probar un «arma climática» de grado militar. Storm-1376 utilizó imágenes generadas por IA de carreteras costeras y residencias en llamas para hacer que el contenido sea más llamativo y publicó los textos en al menos 31 idiomas.
En otro caso, el grupo lanzó una campaña en redes sociales sobre el descarrilamiento de un tren en Kentucky, que tuvo lugar durante las vacaciones de Acción de Gracias. Estas publicaciones difundieron la narrativa de que el gobierno de los Estados Unidos podría haber causado el descarrilamiento y «estar ocultando algo deliberadamente».
Las campañas de influencia de Storm-1376 también tenían como objetivo avivar la discordia en países de Asia Oriental. Esto incluyó el uso de memes e imágenes generadas por IA para criticar al gobierno japonés después de que Japón comenzara a liberar aguas residuales tratadas radioactivas en el océano Pacífico en agosto de 2023.
Estos mensajes se entregaron indiscriminadamente en plataformas de redes sociales en numerosos idiomas, incluidos el japonés, el coreano y el inglés. El informe también señaló el creciente uso de personas generadas por IA en videos por parte de actores afiliados a China. Esto incluyó presentadores de noticias generados por IA creados por empresas tecnológicas de terceros, utilizando la herramienta CapCut de la empresa tecnológica china ByteDance.
Estos presentadores generados por IA aparecieron en una variedad de campañas con funcionarios taiwaneses previas a las elecciones presidenciales de Taiwán en enero de 2024.
China pone a prueba a los votantes estadounidenses.
MTAC observó el creciente uso de «títeres» chinos haciéndose pasar por votantes estadounidenses en las redes sociales para solicitar opiniones sobre temas políticos de ciudadanos estadounidenses.
Los investigadores creen que esto probablemente sea para recopilar inteligencia y precisión sobre los principales grupos demográficos de votantes antes de las elecciones presidenciales de los Estados Unidos para informar campañas para influir en los votantes.
Estas cuentas «casi exclusivamente» publican sobre temas divisivos internos de los Estados Unidos, como el uso de drogas, las políticas de inmigración y las tensiones raciales. En el futuro, Microsoft espera que los actores cibernéticos e influyentes de China trabajen hacia el objetivo de dirigirse a varias elecciones clave que se llevarán a cabo más adelante este año, incluidas las de India, Corea del Sur y los Estados Unidos, utilizando la IA para ayudar en sus campañas.
«Aunque el impacto de dicho contenido en el cambio de audiencias sigue siendo bajo, la creciente experimentación de China en la ampliación de memes, videos y audio continuará, y podría resultar efectiva en el futuro», escribieron los investigadores.
Corea del Norte continúa generando ingresos a través de Operaciones Cibernéticas.
Otra área cubierta en el informe fue el uso de Corea del Norte de ataques cibernéticos para generar ingresos y recopilar inteligencia sobre presuntos adversarios como los Estados Unidos, Corea del Sur y Japón.
En noviembre de 2023, el Grupo Insikt de Recorded Future estimó que los piratas informáticos norcoreanos han robado más de $3 mil millones en criptomonedas desde 2017 mientras el gobierno busca evadir las sanciones económicas para financiar su programa de armas.
Microsoft dijo que tres actores amenazantes que rastrea, Jade Sleet, Sapphire Sleet y Citrine Sleet, se han centrado principalmente en objetivos de criptomonedas desde junio de 2023.
Los actores amenazantes norcoreanos también apuntaron fuertemente al sector de tecnología de la información con ataques de spear-phishing y ataques a la cadena de suministro de software durante el período cubierto, desde junio de 2023 hasta enero de 2024.
Por ejemplo, el grupo Diamond Sleet explotó la vulnerabilidad CVE-2023-42793 de TeamCity en octubre de 2023 para comprometer a cientos de víctimas en diversas industrias en los Estados Unidos y países europeos como el Reino Unido, Dinamarca, Irlanda y Alemania.
Además, algunas actividades cibernéticas norcoreanas tenían un objetivo geopolítico, como contrarrestar la alianza trilateral entre los Estados Unidos, Corea del Sur y Japón.
Grupos como Ruby Sleet, Emerald Sleet y Pearl Sleet frecuentemente apuntaban a organizaciones en sectores como el gobierno, la defensa y los medios de comunicación para recopilar inteligencia sobre dichos países, según el informe. Los investigadores también destacaron cómo los actores norcoreanos continúan experimentando con modelos de lenguaje grande (LLM) de IA para hacer que sus operaciones sean más efectivas. El análisis del Centro de Análisis de Amenazas de Microsoft no encontró cambios en las prioridades o los objetivos de China: buscando lanzar «operaciones de influencia» dirigidas a las Islas del Pacífico Sur, la región del Mar del Sur de China y la base industrial de defensa de los EE. UU., pero señaló que las últimas tendencias representan un cambio en las tácticas.
El Centro de Análisis de Amenazas de Microsoft ha señalado en el pasado cómo las cuentas de redes sociales afiliadas a China comenzaron a hacerse pasar por votantes estadounidenses, pero en este último informe, señala cómo estas cuentas han comenzado a publicar casi exclusivamente sobre temas políticos divisivos de los EE. UU., y en los últimos meses esas publicaciones han comenzado a incluir lo que Microsoft describió como «preguntas de encuestas»: preguntas como «¿Qué opinas sobre esto?» Y «¿Cuál es tu reacción?»
Microsoft dice que cree que esto podría ser «un esfuerzo deliberado para comprender mejor qué grupo demográfico de votantes estadounidenses apoya qué tema o posición y cuáles son los temas más divisivos» antes de las elecciones presidenciales de 2024.
Las operaciones de influencia chinas también han utilizado cada vez más la inteligencia artificial para tratar de sembrar divisiones políticas en los EE. UU. y en otros lugares, según el informe.
Microsoft dice que observó la red afiliada a China conocida como Spamouflage, a la que Microsoft se refiere como Storm-1376, intensificar las operaciones de IA durante las elecciones presidenciales de Taiwán, promoviendo clips de audio generados por IA engañosos, memes y otro contenido.
En los EE. UU., Storm-1376 intentó usar contenido generado por IA para difundir desinformación sobre una amplia variedad de temas —afirmando, por ejemplo, que los incendios forestales de Maui en 2023 fueron organizados por el gobierno de EE. UU.— aunque Microsoft encuentra «pocas pruebas de que estos esfuerzos hayan tenido éxito en influir en la opinión».
¿Que otas amenazas encontro este informe?
Microsoft también señaló preocupación sobre Corea del Norte, señalando que el país ha continuado sus esfuerzos de larga data para robar criptomonedas que financian su programa de armas. Según cifras de las Naciones Unidas citadas por Microsoft, los ciberatacantes norcoreanos han robado más de $3 mil millones en criptomonedas desde 2017. Corea del Norte también está orientando sus operaciones cibernéticas para recopilar inteligencia sobre EE. UU., Corea del Sur y Japón. Una entidad norcoreana que Microsoft llama Emerald Sleet ha estado utilizando IA para mejorar sus operaciones, y Microsoft dijo que está trabajando con OpenAI para desactivar las cuentas asociadas con Emerald Sleet.
Contexto clave.
Microsoft ha señalado previamente la preocupación de que grupos patrocinados por el Estado puedan estar utilizando inteligencia artificial para mejorar sus operaciones de piratería. En febrero, Microsoft publicó un informe que indicaba que varios grupos afiliados a Rusia, China y otros utilizaban regularmente herramientas de OpenAI para ser más productivos en sus esfuerzos de piratería, aunque los funcionarios de Microsoft señalaron que en su mayoría las estaban utilizando para tareas simples. «Simplemente lo están usando como todos los demás, para intentar ser más productivos en lo que están haciendo», dijo Tom Burt, jefe de ciberseguridad de Microsoft, al New York Times en ese momento. Los adversarios de los EE. UU. han enfrentado desde hace tiempo acusaciones de utilizar las redes sociales para influir en la política o sembrar divisiones, principalmente en 2016, cuando entidades patrocinadas por el gobierno ruso fueron vinculadas a un impulso para respaldar al entonces candidato Donald Trump.
El portavoz de la Embajada China, Liu Pengyu, dijo a Forbes en un correo electrónico que el informe era «en sí mismo desinformación ya que distorsiona los hechos y la verdad». Pengyu sostuvo que la elección presidencial es un asunto interno de EE. UU. y dijo que China está «comprometida con el principio de no intervención» y que las afirmaciones sobre la influencia de China en las elecciones presidenciales de EE. UU. son «completamente fabricadas». También acusó a EE. UU. de ser el «verdadero caldo de cultivo de la desinformación», a menudo presentando negativamente las políticas chinas.
El informe llega mientras Microsoft responde a sus propios desafíos de ciberseguridad. La compañía en enero reveló que un grupo vinculado a Rusia llamado Midnight Blizzard accedió a algunas de sus cuentas de correo electrónico corporativo y más tarde en marzo señaló los intentos continuos del grupo de acceder a los sistemas de la compañía. A principios de esta semana, la Junta de Revisión de Seguridad Cibernética del gobierno federal emitió un informe criticando a Microsoft por una «cascada de errores evitables» que contribuyeron a una violación de los sistemas de la gigante tecnológica por grupos afiliados a China. Los piratas informáticos en ese ataque cibernético supuestamente accedieron a buzones de correo electrónico de decenas de organizaciones y varios funcionarios del gobierno de EE. UU.
Bajo la misma linea de evitar manipulaciones, el multimillonario Elon Musk dijo que planeaba intentar eliminar cuentas de bots en su plataforma de redes sociales X, anteriormente conocida como Twitter, aunque la plataforma ha tenido dificultades para controlar la aparición de cuentas falsas.
En medio de un panorama cada vez más complejo en el ámbito de la ciberseguridad y la geopolítica digital, las revelaciones del informe de Microsoft subrayan la urgencia de abordar las crecientes amenazas que provienen de actores estatales y grupos afiliados en todo el mundo. Con la proliferación de técnicas avanzadas, como el uso de inteligencia artificial para influir en la opinión pública y sembrar la discordia, se hace evidente la necesidad de una mayor colaboración internacional, así como de medidas proactivas por parte de las empresas y los gobiernos para protegerse contra estas amenazas emergentes. A medida que avanzamos en la era digital, la vigilancia y la adaptación continua serán fundamentales para garantizar la seguridad y la integridad de nuestras infraestructuras digitales y sistemas democráticos.
Ciberprisma - alianza por la ciberseguridad 