Desde hace varios días, X enfrenta una ola masiva de contenidos engañosos relacionados con el conflicto entre Irán, Israel y Estados Unidos.
Entre videos sacados de contexto, imágenes manipuladas y secuencias de videojuegos presentadas como escenas reales de guerra, la situación ha alcanzado tal magnitud que la red social de Elon Musk decidió revisar en profundidad algunas de sus reglas de monetización.
En el centro del problema están los deepfakes, ya polémicos en X, así como videos generados por IA difundidos sin indicar explícitamente su carácter artificial. Ante las críticas, la plataforma anunció sanciones financieras específicas para intentar frenar el fenómeno.
Suspensión de 90 días del programa de ingresos
Fue Nikita Bier, responsable de producto de X, quien oficializó la medida en un mensaje. A partir de ahora, cualquier creador que publique un video generado por IA relacionado con un conflicto armado, sin indicar claramente que se trata de contenido creado con inteligencia artificial, será suspendido durante 90 días del programa Creator Revenue Sharing. En caso de reincidencia, la exclusión será definitiva.
La detección se basará, en particular, en las Community Notes (Notas de la Comunidad), el sistema de verificación colaborativa integrado en la plataforma, además del análisis de metadatos y otras señales técnicas propias de herramientas de generación de imágenes y video.
Al mismo tiempo, X implementó una etiqueta “Made with AI”, destinada a informar a los usuarios cuando un contenido ha sido creado con inteligencia artificial.
Esta decisión se produce tras una investigación de Wired que reveló que cientos de publicaciones engañosas habían acumulado millones de visualizaciones. Algunos videos mostraban imágenes antiguas como si fueran actuales; otros atribuían ataques a ubicaciones incorrectas; y varios contenidos eran totalmente generados o alterados mediante IA.
Un modelo económico que favorece los excesos
El programa de reparto de ingresos de X remunera a los creadores según el nivel de interacción que generan. En un contexto de guerra, los contenidos espectaculares, impactantes o polarizantes atraen de forma automática más visualizaciones e interacciones. Este mecanismo crea un incentivo económico directo para publicar contenido sensacionalista, sea auténtico o no.
Al dirigirse específicamente a los videos generados por IA en contextos de conflicto armado, X reconoce implícitamente que su modelo puede amplificar ciertos abusos. Sin embargo, la medida no abarca todos los contenidos engañosos, sino únicamente aquellos producidos con IA sin declararlo.
Por otra parte, la plataforma destacó recientemente sus esfuerzos de moderación, incluyendo la eliminación de millones de cuentas automatizadas y el refuerzo de herramientas de detección de spam.
Mientras la lucha contra la desinformación pasa ahora también por la regulación de la monetización, los próximos días mostrarán si estas nuevas reglas serán suficientes para limitar la propagación de información falsa.
