YouTube identificará automáticamente contenido creado por IA

Plataforma de videos online anunció una nueva medida para fomentar la transparencia en su plataforma, específicamente en relación con el contenido creado por inteligencia artificial (IA). Con el creciente uso de la IA generativa en la creación de contenido, la plataforma de vídeos busca que los usuarios puedan identificar si el material que están viendo es real o no.

Para ello, la plataforma ha incluido una nueva herramienta en Creator Studio que obliga a los creadores a informar a los espectadores cuando el contenido realista (contenido que un espectador podría confundir fácilmente con una persona, lugar o evento real) se crea con medios alterados o sintéticos, incluida la IA generativa. Estas aclaraciones aparecerán como etiquetas en la descripción ampliada o en el frente del reproductor de video.

Nueva herramienta en YouTube para etiquetar contenido generado con IA

La nueva herramienta en Creator Studio te permitirá etiquetar el contenido generado con IA. Fuente YouTube.

Casos en los que se deberá aclarar que el contenido se hizo con IA

En su blog oficial, la plataforma aclara que no se le exigirá a los creadores que revelen el uso de IA generativa para tareas de productividad, como la generación de guiones o subtítulos automáticos, ni cuando los medios sintéticos no sean realistas o los cambios sean intrascendentes, como ajustes de color o filtros de iluminación. En ese sentido, algunos ejemplos de contenido que requerirían aclaración incluyen:

  • Usar la imagen de una persona realista: alterar digitalmente el contenido para reemplazar el rostro de un individuo por el de otro o generar sintéticamente la voz de una persona para narrar un vídeo.
  • Alterar imágenes de eventos o lugares reales: como hacer que parezca como si un edificio real se incendiara o alterara un paisaje urbano real para que parezca diferente de la realidad.
  • Generar escenas realistas: mostrar una representación realista de eventos ficticios importantes, como un tornado que avanza hacia una ciudad real.

Ejemplo de etiqueta en el reproductor de vídeo. Fuente: YouTube.

Cómo y cuándo se verán estos cambios

Según explican desde la empresa, a partir de este cambio en los vídeos aparecerá una etiqueta en la descripción ampliada y, para los videos que abordan temas más delicados (como salud, noticias, elecciones o finanzas), también se mostrará una etiqueta más destacada en el vídeo en sí.

Ejemplo de etiqueta en la descripción ampliada. Fuente: YouTube.

 

Esta medida se implementará en todas las superficies y formatos de YouTube en las próximas semanas, comenzando con la app, luego en la PC y finalmente en la TV. Y se aclara que «si bien queremos darle tiempo a nuestra comunidad para adaptarse al nuevo proceso y características, en el futuro analizaremos medidas de cumplimiento para los creadores que constantemente eligen no revelar esta información».

Además, plataforma también está trabajando en un proceso de privacidad actualizado para permitir que las personas soliciten la eliminación de contenido generado por IA u otro contenido sintético o alterado que simule a un individuo identificable, como su rostro o su voz.

La preocupación por el uso de la IA

Si bien la IA promete revolucionar numerosos aspectos de nuestra vida cotidiana, desde la atención médica hasta la gestión del tráfico, también ha generado una serie de preocupaciones debido a su potencial para ser utilizada de manera maliciosa o perjudicial.

Uno de los puntos más críticos en este debate es la creación y propagación de deep fakes, una técnica de IA que permite la manipulación de imágenes y vídeos para crear representaciones falsas y convincentes de personas reales. Estos vídeos, que a menudo se distribuyen en línea, pueden suplantar la voz y la apariencia de figuras públicas para difundir información errónea, propaganda política o incluso perpetrar estafas y extorsiones.

El temor a los deep fakes ha suscitado preocupaciones sobre la confianza en los medios digitales y la capacidad de discernir entre la realidad y la ficción en un entorno cada vez más saturado de información manipulada. Además, la IA también ha sido empleada en la producción de contenido inapropiado, como imágenes y vídeos pornográficos generados artificialmente, lo que plantea serios riesgos de explotación y daño psicológico, especialmente para los menores de edad.

Un ejemplo de esto es cuando el año pasado se difundieron imágenes de un personaje público utilizando atuendos de moda. También se vio a un líder político participando en unas protestas. Incluso, surgieron imágenes de un líder siendo arrestado. Ninguno de estos escenarios ocurrió.

Estos fenómenos han llevado a un llamado generalizado a la acción, tanto por parte de los gobiernos como de las empresas tecnológicas y la sociedad civil, para abordar los desafíos éticos y de seguridad planteados por la IA. La necesidad de regular y supervisar el desarrollo y el uso de la IA se ha vuelto cada vez más urgente.

Foto: YouTube.

 

Mantente informado de las noticias más relevantes en nuestro canal de Telegram

En Grupo MET podemos ayudarte a implementar esta y muchas mas herramienta para optimizar tu trabajo. ¡Contáctanos para saber más!

Contactanos