Los propagadores de rumores de bajo coste y potenciados por IA generan 4.000 mensajes dañinos al día, lo que supone un mayor daño para la sociedad.

Foto: VCG

Los propagadores de rumores en línea están avanzando con la ayuda de modelos de inteligencia artificial (IA). La emergente industria de publicaciones pagadas impulsada por IA puede influir en las opiniones y decisiones de los usuarios comunes de internet con montones de comentarios falsos en poco tiempo, creando más de 4.000 mensajes dañinos en un solo día.

La IA se ha infiltrado en todas las fases de la industria de las publicaciones pagadas, permitiendo a estos "guerreros de internet" registrar cuentas en redes sociales en masa, eludiendo el sistema de nombres reales, proporcionando servicios de mantenimiento para las cuentas y, finalmente, monetizando las publicaciones, según informó el Jiefang Daily, con sede en Shanghai.

Con el rápido desarrollo de los grandes modelos de IA en los últimos años, los propagadores de rumores en línea han fortalecido sus capacidades al integrarse con la tecnología de IA. Pueden hacerse pasar fácilmente por usuarios comunes de internet, y las publicaciones y comentarios generados por IA pueden ser incluso más provocativos que los escritos por personas reales, informó el Jiefang Daily.

Yang Bing (seudónimo), empleada de un estudio, mencionó a los publicistas pagados que podrían ser contratados tanto por inversores cinematográficos como por fans de actores. Declaró al Jiefang Daily que el contenido publicado por este "ejército en línea" solo busca lograr los objetivos de sus empleadores, ya sea para generar expectación o atacar a la competencia. Con el desarrollo de grandes modelos de IA, Yang percibe que los "ejércitos en línea" de personas reales están siendo reemplazados gradualmente por publicistas potenciados por IA.

Ye Xing, director de marketing de Geetest, proveedor de servicios de seguridad en internet, afirmó que llevan 12 años luchando contra la industria clandestina y han interceptado un total de 2.170 millones de ataques lanzados por el "ejército en línea" potenciado por IA, según informó el Jiefang Daily.

Los propagadores de rumores en línea pueden generar scripts automatizados para generar contenido en línea por lotes, manipulando deliberadamente la opinión pública mediante el uso de modelos de IA. Son económicos pero altamente eficientes, capaces de operar 24/7 con capacidades multitarea, según Ye.

Con la ayuda de grandes modelos de IA, una persona o un pequeño grupo de personas ahora puede organizar un "ejército en línea" impulsado por IA.

Una tarea que antes requería el esfuerzo de varias horas de usuarios pagados a tiempo parcial para generar 1.000 comentarios o publicaciones, ahora la IA puede realizarla en tan solo unos minutos, señaló Yang.

En junio de 2024, la policía de Nanchang, provincia de Jiangxi, al este de China, investigó un caso de difusión de rumores e información falsa que alteraba el orden público. Los sospechosos produjeron una cantidad masiva de artículos en poco tiempo, alcanzando un máximo de 4.000 a 7.000 artículos al día con software de IA. Las estimaciones preliminares indicaron que sus ingresos superaron los 10.000 yuanes (1.382 dólares) diarios, según un informe de la Televisión Central de China.

Los departamentos de Administración del Ciberespacio de China han intensificado sus esfuerzos para combatir las publicaciones pagadas desde 2024, investigando problemas como el reclutamiento, los ascensos, la manipulación del tráfico y las reseñas controladas. Han cerrado o eliminado más de 400 sitios web y plataformas, eliminado 4,82 millones de contenidos ilegales y gestionado 2,39 millones de cuentas y tiendas online, además de 52.000 grupos online.

Xu Xiaoke, profesor del Centro de Investigación de la Comunicación Computacional (Zhuhai), Facultad de Periodismo y Comunicación de la Universidad Normal de Beijing, afirmó que era fácil distinguir entre publicaciones de personas reales y publicaciones pagadas con IA basándose en la IP del teléfono móvil y la ubicación geográfica. Sin embargo, estos métodos ya no pueden reprimir con precisión a las publicaciones pagadas con IA, que actualmente generan contenido en masa con algoritmos e incluso simulan el comportamiento de usuarios reales.

En respuesta, China ha publicado un conjunto de directrices sobre el etiquetado del contenido de internet generado o compuesto por tecnología de IA, que entrarán en vigor el 1 de septiembre. Las directrices, emitidas por autoridades como la Administración del Ciberespacio de China, regulan el etiquetado del contenido online generado por IA durante sus procesos de producción y difusión, exigiendo a los proveedores que añadan marcas visibles a su contenido en los lugares adecuados. Además, las cuentas de redes sociales registradas por algoritmos de IA deben estar claramente marcadas por las plataformas de redes sociales y los operadores de las plataformas deben supervisar el contenido publicado por estas cuentas e identificar y marcar rápidamente el contenido falso o ilegal, dijo Xu el lunes.