YouTube impone medidas para los contenidos generados por IA

La proliferación de contenidos generados o modificados por IA en YouTube lo obliga a adaptarse. Para encontrar un equilibrio entre las oportunidades creativas y su responsabilidad de proteger a su comunidad, la plataforma ha establecido nuevas normas para la IA generativa.

“Reconocemos que la IA traerá riesgos adicionales y requerirá nuevos enfoques”, explica YouTube en una nota de su blog. En las próximas semanas y meses se pondrán en marcha tres nuevas actualizaciones que incorporarán herramientas para informar sobre contenidos generados o modificados por IA.

Etiquetas específicas para contenidos generados o modificados por IA

Desde hace varios años, YouTube prohíbe cualquier contenido que haya sido modificado o alterado con el objetivo de engañar a sus usuarios. La llegada de la IA engaña a los espectadores si no se anuncia que “los vídeos han sido modificados o creados con inteligencia artificial”. En los próximos meses, YouTube ha anunciado que nuevas funciones informarán a los usuarios de que están viendo contenidos que han sido “creados sintéticamente, incluso utilizando herramientas de IA“.

En la práctica, cuando como creadores difundamos contenidos en línea, tendrás que indicar si han sido creados o modificados por IA. Entonces aparecerá una etiqueta en el panel de descripción del vídeo, especificando su naturaleza. Además, los contenidos que incumplan las normas serán retirados de la plataforma, como un vídeo creado por IA que muestre escenas realistas de violencia. En el futuro, “los contenidos creados por funciones generadas por IA se marcarán claramente como modificados o creados sintéticamente“.

También se prevén sanciones para los creadores que no especifiquen la naturaleza de sus contenidos, que van desde la eliminación de los vídeos infractores hasta la suspensión del programa de socios de YouTube.

Una herramienta para denunciar las Fake faces

Una gran cantidad de contenidos muestran el uso de herramientas que generan digitalmente una voz y un rostro. Mientras que algunos de estos vídeos son inofensivos o de buen tono, otros pueden ser perjudiciales para las personas que se ven u oyen en ellos. En los próximos meses será posible para todos los usuarios de la plataforma denunciar contenidos creados sintéticamente o generados por IA que simulen a una persona que pueda ser identificada (incluso con su cara o voz).

No todos los contenidos se eliminarán automáticamente. Las posibles violaciones de la privacidad se examinarán antes de su eliminación, lo que no debería afectar a las parodias y la sátira, siempre que cumplan las normas de la plataforma. Además, los pesos pesados de la industria musical también podrán solicitar la eliminación de contenidos de audio generados por IA “que imiten la voz única de un artista cantando o rapeando”.

La IA facilitará la moderación de contenidos en YouTube

Para moderar los contenidos en su plataforma, YouTube utiliza tecnologías de aprendizaje automático, incluidos “clasificadores basados en IA” que ayudan a detectar vídeos potencialmente no conformes. Estas clasificaciones son confirmadas de manera automática y a veces por moderadores humanos. El trabajo de la IA consiste en determinar si el contenido señalado por los clasificadores infringe efectivamente las normas.

YouTube reconoce que cuando surge una nueva amenaza, como la llegada de una tecnología que altera las normas, sus sistemas tienen relativamente poco contexto para comprenderla e identificarla a gran escala. Aquí es donde entra en juego la IA generativa de YouTube: amplia rápidamente el conjunto de información sobre el que la plataforma entrena sus clasificadores basados en IA. Como resultado, los contenidos ilegales se bloquean y eliminan con mayor eficacia y rapidez, reduciendo la exposición de los moderadores humanos.

Jean-Luc Lenoble
https://www.linkedin.com/in/jeanluclenoble