La Inteligencia Artificial generativa tiene el potencial de desbloquear la creatividad en YouTube y transformar la experiencia de los espectadores y creadores en la plataforma. No obstante, la plataforma sabe que esta nueva tecnología puede producir nuevos riesgos y requerirá nuevos enfoques.
Con el objetivo de que la IA no pueda usarse para generar contenido con el potencial de engañar a los espectadores, especialmente si no saben que el video ha sido manipulado o creado sintéticamente, YouTube requerirá a los creadores que indiquen si el material compartido ha sido modificado por dicha tecnología.
Por tanto, los usuarios tendrán que revelar cuando han creado contenido manipulado, que luzca realista, incluso utilizando herramientas de Inteligencia Artificial, especialmente en los casos en que el contenido aborde temas sensibles, como elecciones, conflictos en curso y crisis de salud pública, o funcionarios públicos.
Los creadores que no revelen esta información pueden estar sujetos a la eliminación de contenido, la suspensión del Programa de socios de YouTube u otras sanciones. Además, la plataforma trabajará con los creadores antes de que esto se implemente para asegurar la comprensión de estos nuevos requisitos.
Nuevas etiquetas de contenido
YouTube informará a los espectadores que el contenido puede ser artificial de dos maneras. La primera, se agregará una nueva etiqueta al panel de descripción que indica que parte del contenido fue alterado o generado digitalmente.
Para ciertos tipos de contenido sobre temas sensibles, se aplicará una etiqueta más prominente al reproductor de video.
Hay algunas áreas en las que una etiqueta por sí sola puede no ser suficiente para mitigar el riesgo de daño, y algunos medios sintéticos, independientemente de si están etiquetados o no, se eliminarán de la plataforma si violan los Lineamientos de la Comunidad.
Y en el futuro, a medida que se implementen estas nuevas actualizaciones, el contenido creado por los productos y funciones de Inteligencia Artificial generativa de YouTube se etiquetará claramente cómo: generado por Inteligencia Artificial.
Nuevas opciones para creadores, espectadores y artistas
En los próximos meses se permitirá solicitar la eliminación de contenido generado por Inteligencia Artificial generativa u otro contenido modificado que simule a un individuo identificable, incluida su cara o voz, mediante el proceso de Reclamo de Privacidad.
No todo el contenido se eliminará de YouTube, y se considerará una variedad de factores al evaluar estas solicitudes.
Esto podría incluir si el contenido es una parodia o sátira, si la persona que realiza la solicitud puede ser identificada de manera única, o si presenta a un funcionario público o individuo conocido, en cuyo caso puede haber un estándar más alto.
También YouTube está introduciendo la capacidad para que sus socios musicales soliciten la eliminación de contenido de música generado por Inteligencia Artificial que imita la voz de canto o el estilo de rap único de un artista.
Al determinar si conceder una solicitud de eliminación, se considerarán factores como si el material es objeto de informes de noticias, análisis o crítica de las voces sintéticas.
Estas solicitudes de eliminación estarán disponibles para los sellos discográficos o distribuidores que representan a los artistas que participan en los primeros experimentos de música con Inteligencia Artificial en YouTube. En los próximos meses, se ampliará el acceso a disqueras y distribuidores adicionales.
Implementación de tecnología con Inteligencia Artificial para impulsar la moderación de contenido
YouTube siempre ha utilizado una combinación de personas y tecnologías de aprendizaje automático para hacer cumplir estos Lineamientos de la Comunidad, con más de 20 mil supervisores en Google que operan en todo el mundo.
En los sistemas, los clasificadores de IA ayudan a detectar contenido potencialmente violatorio a gran escala, y los verificadores trabajan para confirmar si el contenido realmente ha cruzado los límites de las políticas.
Esta tecnología está aumentando continuamente, tanto en velocidad como en la precisión de los sistemas de moderación de contenido.
Uno de los claros efectos ha sido la identificación de nuevas formas de abuso. Cuando surgen nuevas amenazas, los sistemas tienen relativamente poco contexto para comprenderlas e identificarlas a gran escala.
Pero la Inteligencia Artificial generativa contribuye a expandir rápidamente el conjunto de información con el que se entrenan los clasificadores de esta herramienta, lo que significa que se puede identificar y capturar este contenido mucho más rápido.
La mejora de velocidad y precisión de los sistemas también permiten reducir la cantidad de contenido dañino al que están expuestos los supervisores humanos.
Integrando la responsabilidad en las herramientas y funciones de Inteligencia Artificial
A medida que se continúan desarrollando nuevas herramientas de Inteligencia Artificial para los creadores, el enfoque sigue siendo coherente con la forma en que se abordan algunos de sus mayores desafíos de responsabilidad: YouTube se toma el tiempo para hacer las cosas bien, en lugar de esforzarse por ser los primeros.
La plataforma busca siempre la forma de aprovechar años de inversión en los equipos y la tecnología capaces de moderar el contenido a la escala. Esto incluye un trabajo significativo y continuo para desarrollar protecciones que evitarán que las herramientas de IA generen el tipo de contenido que no pertenece a YouTube.
También la plataforma reconoce que los malos actores inevitablemente intentarán eludir estas protecciones. Por ello, incorporará los comentarios y el aprendizaje de los usuarios para mejorar continuamente la protección.
Dentro de la empresa, equipos dedicados como el departamento de inteligencia están específicamente enfocados en pruebas adversas y detección de amenazas para garantizar que los sistemas enfrenten nuevos desafíos a medida que surjan.
YouTube cumple 18 años: Conoce los contenidos más vistos por los peruanos
La transformación de la Inteligencia Artificial está al alcance
YouTube aún sigue en el camino para desbloquear nuevas formas de innovación y creatividad con Inteligencia Artificial generativa. La plataforma está al tanto del potencial de esta tecnología y sus avances repercutirán en las industrias creativas durante los próximos años.
YouTube está trabajando en equilibrar estos beneficios, así como garantizar la seguridad de su comunidad en estos momentos tan cruciales, y seguir trabajando de la mano con creadores, artistas y otras personas en las industrias creativas para construir un futuro en beneficio de todos.
