YouTube estrena una herramienta contra la IA generativa y los deepfakes

El advenimiento de la Inteligencia Artificial a través de programas con un alcance masivo, ha facilitado la generación deepfakes altamente realistas, representando una amenaza directa para la reputación de los creadores de contenido y para la confianza de la audiencia. En respuesta a esta problemática creciente, YouTube ha comenzado a implementar una nueva y potente funcionalidad diseñada para devolver el control a los creadores de contenido: la herramienta de detección y gestión de semejanza con IA.

Esta semana, la plataforma de vídeos de Google ha puesto en marcha esta función pionera, disponible dentro de YouTube Studio, específicamente en la pestaña de Detección de Contenido. El objetivo principal de esta tecnología es dual: proteger la identidad de los creadores y evitar que los espectadores sean víctimas de engaños por contenido generado o alterado mediante IA que use su imagen.

YouTube propone alternativas para controlar los deepfakes

Para poder utilizar esta salvaguarda digital, los creadores deben pasar por un riguroso proceso de verificación de identidad. Este paso es crucial, ya que requiere la presentación de una identificación con fotografía y un vídeo selfie, garantizando que solo la persona cuya semejanza se busca proteger tenga acceso a la herramienta. Una vez verificada su identidad, el sistema alertará automáticamente al creador si se detectan vídeos no autorizados que utilicen IA para generar o modificar su rostro o semejanza facial.

La interfaz en YouTube Studio presenta una lista organizada de los vídeos detectados, incluyendo detalles clave como el título, el canal que lo subió, el número de visualizaciones y el diálogo asociado. Con esta información a su disposición, el creador puede ejercer su derecho y solicitar la eliminación del contenido.

Es importante destacar que la herramienta no se limita a la protección contra la manipulación por IA, sino que también facilita la presentación de solicitudes de eliminación por derechos de autor, ofreciendo una gestión centralizada de su propiedad intelectual y semejanza.

Inicialmente, solo un grupo selecto de creadores pueden tener una "utilidad más inmediata" para la función. Progresivamente, los miembros del Programa de Socios de YouTube obtendrán acceso en los meses siguientes, y se espera que para enero de 2026 la herramienta esté disponible para todos los creadores que monetizan su contenido en la plataforma.

Las apps de IA no tienen el mismo concepto de ética

Por un lado, el anuncio de YouTube se alinea con la postura de la misma OpenAI, desarrolladora de la herramienta de generación de vídeo Sora, que ha reafirmado su restricción de no permitir la creación de videos que imiten a celebridades o figuras públicas. En ambas se protege al contenido. Sin embargo, contrasta con el reciente anuncio de Sam Altman, director ejecutivo de OpenAI, respecto a ChatGPT y su propuesta para los usuarios.

A partir de diciembre, ChatGPT adoptará un cambio de rumbo significativo en su estrategia de moderación, buscando "tratar a los adultos como adultos" mediante la relajación de ciertas restricciones de seguridad, lo que incluirá la posibilidad de personalizar el tono del chatbot y, de forma más controvertida, permitir conversaciones eróticas para usuarios adultos verificado.

Esta medida proactiva no solo fortalece la protección de la identidad de sus creadores más valiosos, sino que también contribuye a mantener un entorno de visualización más confiable para la audiencia global, estableciendo un precedente importante sobre cómo las grandes plataformas deben abordar el uso malicioso de la IA generativa.

Puedes seguir a iPadizate en Facebook, WhatsApp, Twitter (X) o consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.