Estudiante de UPenn comienza canal de YouTube, su rostro es robado en redes sociales de China.

Olga Loiek apenas estaba despierta una mañana de mediados de invierno cuando leyó un enigmático mensaje de Instagram.

«¿Hablas algún mandarín?» decía en inglés.

Loiek había recibido mensajes similares en semanas anteriores de supuestos fans de su pequeño canal de YouTube, donde sube videos de empoderamiento personal a poco más de 15,000 suscriptores.

Confusamente, varios de esos comentarios también elogiaban su dominio del idioma chino.

Loiek no habla chino en absoluto, dijo la estudiante de 20 años a Business Insider desde su apartamento en Munich.

Pero este último mensaje, enviado a finales de enero, fue una advertencia, no un elogio. Alguien podría estar intentando suplantarte, decía.

Ese mensaje incluía un enlace a un video en Xiaohongshu, una plataforma de redes sociales que está ganando rápidamente fuerza en China. El clip parecía mostrar a Loiek hablando a la cámara en chino mientras fotos del Kremlin y del líder ruso Vladimir Putin saltaban en pantalla.

«Al principio, me sentí como, oh, es solo una broma divertida. Pero luego empecé a traducirlo», dijo Loiek. Con su rostro, la mujer en el video hablaba elogiosamente de los lazos sino-rusos, lamentando las sanciones a Moscú mientras vendía productos rusos en una página de tienda.

Para Loiek, que es ucraniana, era indignante. «Me sentí violada porque estas eran cosas que nunca, nunca diría en mi vida», dijo.

Loiek asiste a una manifestación en apoyo a Ucrania, su país de origen.

Olga Loiek



El abuso de deepfakes, una tecnología en rápida evolución que utiliza IA para replicar virtualmente la apariencia de una persona, ha sido documentado durante años.

Pero la superposición entre rostros occidentales y cuentas chinas presenta un nuevo nivel de complejidad, porque el ecosistema de redes sociales de China está en gran medida cerrado al mundo.

Deepfakes detrás de la Gran Muralla

Para los aproximadamente 1.08 mil millones de usuarios de internet de China, YouTube e Instagram están bloqueados y reemplazados por alternativas moderadas a plataformas internacionales. Está WeChat en lugar de WhatsApp y Facebook, Weibo en lugar de X, y Xiaohongshu como una mezcla de TikTok e Instagram.

En estas plataformas chinas, los deepfakes de mujeres no chinas a menudo pasan desapercibidos ya que los espectadores pueden no reconocer fácilmente a la persona original. Mientras tanto, el creador es menos probable que descubra que su rostro ha sido robado porque, a su vez, normalmente no acceden a las plataformas chinas donde ocurre el robo.

«En un entorno de redes sociales ‘abierto’, cuando aparece un deepfake de alguien, podemos demostrar muy fácilmente que no es real porque podemos encontrar a la persona original,» dijo Lyu Siwei, profesor de ciencias de la computación que dirige el Media Forensics Lab de la Universidad en Buffalo. «Pero dentro de China, porque no es tan fácil para los usuarios chinos ir más allá de la Gran Muralla, no podrán hacer esa validación cruzada.»

Lyu y otro investigador en IA, Haibing Lu de la Universidad de Santa Clara, dijeron a BI que en los últimos seis meses, han observado lo que sospechan son otros deepfakes de mujeres en plataformas chinas como Douyin, la versión china de TikTok.

El caso de Loiek muestra que al menos algunos de estos deepfakes son no consentidos, dijeron.

La cuenta que ejecutaba deepfakes de Loiek fue descrita en Xiaohongshu como Natasha, una mujer rusa de 31 años que vive en la provincia de Heilongjiang de China. La cuenta tenía 140,000 seguidores, más que la página real de Loeik. Una página de tienda afiliada a la cuenta vendía caramelos rusos por $3.60 por paquete.

Izquierda: Loiek habla en un YouTube Short subido a su canal. Derecha: Un deepfake de Loiek elogia a los rusos celebrando el Año Nuevo Lunar.

Olga Loiek, Xiaohongshu



Docenas de videos en la página de «Natasha» contenían señales reveladoras de manipulación digital. Por un lado, en estos videos, los labios de Loiek no siempre están sincronizados con la voz en off, que tiene acento mandarín. Hay momentos en los que el software falla, y su entonación es plana. La calidad del audio es también casi perfecta, sin sonidos de respiración o ruido de fondo, lo cual, según los dos investigadores, era una señal de alerta.

«Era tan espeluznante porque literalmente estaba viendo mi rostro hablar sobre cosas que nunca aprobaría», dijo Loiek.

De una mujer vienen una docena de rusos

Loiek, que estudia neurociencia cognitiva en la Universidad de Pensilvania pero que ahora está en Alemania por una pasantía, no está segura de por qué estas cuentas de Xiaohongshu la eligieron a ella.

Pero quienquiera que haya apuntado a Loiek encontró su canal de YouTube incipiente en cuestión de semanas.

La estudiante comenzó su canal de empoderamiento personal en noviembre y hasta ahora ha publicado ocho videos y siete YouTube Shorts.

En un video de YouTube que subió a finales de enero, Loiek pidió a sus seguidores que ayudaran a reportar la cuenta de Natasha. El engaño fue eliminado de Xiaohongshu para el 25 de febrero.

Y aunque «Natasha» se ha ido, han surgido otras cuentas también con el rostro de Loiek. Loiek dijo que descubrió alrededor de otras 30 cuentas en Xiaohongshu que usan su rostro y afirman ser rusas.

Izquierda: Olga Loiek habla en un YouTube Short en su canal. Derecha: Un deepfake de Loiek dice a los espectadores chinos que compren caramelos rusos.

Olga Loiek/Captura de pantalla, Xiaohongshu/Captura de pantalla



BI ha visto algunos de ellos. Está April Annie, la mujer rusa que se trasladó a China hace ocho años; Sophia Elena, que alaba a las mujeres rusas que quieran casarse con hombres chinos; y Katyusha, que elogia la asociación entre China y Rusia. Todos utilizan deepfakes de Loiek.

Los deepfakes de Xiaohongshu de otras youtubers hacen lo mismo. Los perpetradores parecen enfocarse en creadoras femeninas que suben contenido fácilmente accesible de ellas mismas pero que no son celebridades importantes.

Estas cuentas no son difíciles de encontrar, ya que la aplicación de Xiaohongshu a menudo sugiere páginas similares a la que estás viendo. En cuestión de unos 10 minutos, BI encontró videos deepfake de al menos cinco mujeres caucásicas en Xiaohongshu. En todos estos videos, los dobles deepfake alababan a Rusia y China.

Una de ellas es Lana Blakely. Blakely es una creadora de contenido con sede en Estocolmo que tiene 1.6 millones de suscriptores en YouTube, donde habla sobre temas como la auto-reflexión y la gestión de relaciones. Pero al menos una versión deepfake china de Blakely tiene una agenda diferente para compartir en Xiaohongshu.

«Cuando éramos jóvenes, aprendimos en la escuela que China y Rusia son hermanos en la adversidad», dice una versión deepfake de Blakely en chino en un video visto por BI.

Izquierda: Un deepfake de Lana Blakely encontrado en Xiaohongshu la presenta hablando sobre mujeres rusas que quieren casarse con hombres chinos. Derecha: Una captura de pantalla de la página de Instagram de Blakely.

Captura de pantalla/Lana Blakely y Xiaohongshu



Elizabeth Filips, con sede en Londres y que tiene 950,000 suscriptores en YouTube, sube videos sobre consejos de neurociencia y mejora personal. En Xiaohongshu, una cuenta publicó deepfakes de ella discutiendo las relaciones internacionales de China.

«China tiene tres buenos amigos. El primero es el buen hermano Pakistán, está el buen hermano Serbia, y por último, los buenos hermanos China y Rusia,» dijo una versión deepfake de Filips en un video.

Izquierda: Un deepfake de Elizabeth Filips recibe elogios de los usuarios chinos. Derecha: Una captura de pantalla de la página de Instagram de Filips.

Captura de pantalla/Elizabeth Filips y Xiaohongshu



Blakely declinó a través de su agencia de gestión de talentos hacer comentarios. Filips no respondió a las solicitudes de comentario enviadas por BI.

En los videos revisados por BI, ningún usuario chino comentó con sospechas de que los clips estuvieran manipulados.

«Los mensajes son consistentes con lo que ya conocen, que China es genial», dijo Lyu. «Y creo que además de eso está el hecho de que una hermosa joven de origen extranjero está hablando chino. Eso añade al factor de curiosidad y atrae a los espectadores chinos.»

Cuando se le preguntó sobre los deepfakes, un portavoz de Xiaohongshu dijo a BI: «A medida que la inteligencia artificial ha seguido desarrollándose, Xiaohongshu fomenta y valora sus innovaciones. Al mismo tiempo, han surgido muchos riesgos debido al contenido generado por IA en plataformas en línea.»

Señalaron a las pautas de la plataforma, las cuales prohíben la suplantación y publicar contenido que no esté «basado en experiencias reales».

Orígenes aún oscurecidos

Aunque Loiek logró cerrar la cuenta de Natasha, las personas que crean estos videos siguen siendo un misterio.

Nuevas cuentas que pretenden ser ella aparecen ocasionalmente. Una cuenta que una vez usó su rostro como foto de perfil comenzó a subir videos de gatos.

¡Contáctanos para saber más!

Contactanos