La red pro-China YouTube utilizó inteligencia artificial para difamar a Estados Unidos, según un informe

En un tono algo forzado y una gramática algo incómoda, la voz con acento estadounidense en YouTube ridiculizó el mes pasado el manejo de Washington de la guerra entre Israel y Hamás, argumentando que Estados Unidos no era capaz de «desempeñar su papel de mediador como China». y «ahora se encuentra en una situación de aislamiento significativo».

La publicación de 10 minutos fue uno de los más de 4.500 videos en una red inusualmente grande de canales de YouTube que difunden narrativas pro China y anti-estadounidenses, según un informe de esta semana del Instituto Australiano de Política Estratégica, un grupo de expertos centrado en la seguridad.

Algunos de los videos utilizaron avatares o voces en off generados artificialmente, lo que convirtió a la campaña en la primera operación de influencia conocida del instituto para combinar voces de IA con ensayos en video.

El objetivo de la campaña, según el informe, era claro: influir en la opinión mundial a favor de China y en contra de Estados Unidos. Los videos promovían la narrativa de que la tecnología china era superior a la estadounidense, que Estados Unidos estaba condenado al colapso económico y que China y Rusia eran actores geopolíticos responsables. Algunos clips halagaron a empresas chinas como Huawei y denigraron a empresas estadounidenses como Apple.

El informe señala que el contenido de al menos 30 de los canales de la red ha obtenido casi 120 millones de visitas y 730.000 suscriptores desde el año pasado, junto con anuncios ocasionales de empresas occidentales.

Algunos videos presentaban títulos y escritos que parecían ser traducciones directas de frases comunes en chino y nombres de empresas chinas, según el informe. Otros mencionaron información que podría remontarse a noticias producidas y difundidas principalmente en China continental.

La desinformación –como la afirmación falsa de que algunas naciones del Sudeste Asiático habían adoptado el yuan chino como moneda– era común. Los vídeos a menudo pudieron reaccionar rápidamente a los acontecimientos actuales. Jacinta Keast, analista del instituto australiano, escribió que la campaña coordinada podría ser “una de las operaciones de influencia relacionadas con China más exitosas jamás vistas en las redes sociales”.

YouTube dijo en un comunicado que sus equipos están trabajando las 24 horas del día para proteger a su comunidad, y agregó que «hemos invertido mucho en sistemas robustos para detectar de manera proactiva operaciones de influencia coordinadas». La compañía dijo que acogía con satisfacción los esfuerzos de investigación y había cerrado muchos de los canales mencionados en el informe por violar las políticas de la plataforma.

Los esfuerzos para promover mensajes pro-China han proliferado en los últimos años, pero han presentado contenido en gran medida de baja calidad que ha atraído una participación limitada o no ha logrado mantener audiencias significativas, dijo Keast.

«Esta campaña en realidad aprovecha la inteligencia artificial, lo que le da la capacidad de crear contenido persuasivo sobre amenazas a escala a un costo muy limitado en comparación con campañas anteriores que hemos visto», dijo.

Varios otros informes recientes sugieren que China se ha vuelto más agresiva al presionar la propaganda despectiva de Estados Unidos. Históricamente, sus operaciones de influencia se han centrado en defender al gobierno del Partido Comunista y sus políticas en temas como la persecución de los uigures o el destino de Taiwán.

China comenzó a atacar a Estados Unidos de manera más directa durante las protestas masivas a favor de la democracia en Hong Kong en 2019 y continuó durante la pandemia de Covid-19, haciéndose eco de los esfuerzos rusos de larga data para desacreditar el liderazgo y la influencia estadounidenses en el país y en el extranjero.

Durante el verano, investigadores de Microsoft y otras empresas descubrieron pruebas de cuentas no auténticas utilizadas por China para acusar falsamente a Estados Unidos de utilizar armas energéticas para iniciar incendios forestales mortales en Hawái en agosto.

En un informe de septiembre, el Departamento de Estado acusó a China de utilizar “métodos engañosos y coercitivos” para dar forma al entorno informativo global, incluida la creación de cuentas falsas en las redes sociales e incluso de organizaciones de noticias falsas. Otras investigaciones sugieren que China ha estado difundiendo activamente desinformación en Taiwán de que Estados Unidos eventualmente traicionará a la nación insular.

Meta anunció el mes pasado que había eliminado 4.789 cuentas de Facebook de China que se hacían pasar por estadounidenses para discutir cuestiones políticas, advirtiendo que la campaña parecía estar sentando las bases para una interferencia en las elecciones presidenciales de 2024. Es la quinta red con vínculos con China tomada. por Meta este año, más que cualquier otro país.

La llegada de la tecnología artificial parece haber despertado un interés particular por parte de Pekín. Keast, del instituto australiano, dijo que los vendedores de información errónea utilizan cada vez más programas de edición de vídeo y de inteligencia artificial de fácil acceso para crear grandes volúmenes de contenido convincente.

Dijo que la red de canales de YouTube pro-China probablemente insertó guiones en inglés en un software de conversión de texto a video disponible en línea o en otros programas que no requieren habilidades técnicas y pueden producir clips en minutos. Estos programas suelen permitir a los usuarios seleccionar narraciones de voz generadas por IA y personalizar el género, el acento y el tono de la voz.

Algunos de los rumores utilizados en la red pro-China eran claramente sintéticos. Keast notó que el audio carecía de pausas naturales e incluía malas pronunciaciones y notas ocasionales de interferencia electrónica. Ocasionalmente, varios canales de la red utilizaban la misma voz. (Sin embargo, un grupo de videos intentó engañar a los espectadores haciéndoles creer que una persona real estaba hablando, incorporando audio como «Soy tu anfitrión, Steffan»).

En 39 vídeos, Keast encontró al menos 10 avatares generados artificialmente anunciados por una empresa británica de inteligencia artificial. Escribió que también descubrió lo que podría ser el primer ejemplo de una operación de influencia de un avatar digital creado por una empresa china: una mujer con un vestido rojo llamada Yanni.

Según el informe, el alcance de la red pro-China probablemente sea aún más amplio. Canales similares parecían dirigirse a indonesios y franceses. Tres canales distintos publicaron vídeos de fabricación de chips que utilizaban imágenes en miniatura similares y el mismo título traducido al inglés, francés y español.