YouTube activa una nueva función para denunciar los deepfakes creados con IA
Esta es una buena herramienta para mejorar la seguridad de los usuarios
Desde la irrupción del contenido generado por inteligencia artificial en las diferentes plataformas que existen, hay algo que es un problema para muchos: los deepfakes -que son contenidos que imitan la apariencia o voz de personas, pero que no son reales y que ahora se generan con facilidad mediante el uso de IA-. Pues bien, YouTube quiere poner nuevas herramientas para que este problema sea menos importante.
Como decíamos, YouTube ha anunciado que está ampliando su proceso de solicitud de privacidad para permitir a los usuarios solicitar la eliminación de contenido generado por inteligencia artificial, así como de otros contenidos sintéticos o alterados de ellos mismos. Un buen paso que aumenta la protección de las personas, algo esencial en los tiempos que corren.
Un paso importante por parte de YouTube
Según la compañía, la decisión de adoptar un enfoque más responsable con respecto al contenido generado por inteligencia artificial está relacionada con el aumento de la frecuencia de los deepfakes. En otras palabras, se están tomando medidas para mejorar la protección, algo que llega después de ver que las críticas que hay al respecto frente a las grandes tecnológicas aumentan día tras día. En consecuencia, bien por YouTube y, por extensión, de Google.
En cualquier caso, aquellos que deseen solicitar la eliminación de sus deepfakes deberán utilizar el proceso de solicitud de privacidad de YouTube. El servicio evaluará la solicitud y considerará “una variedad de factores antes de la eliminación”, tales como si el contenido es alterado o sintético y podría ser confundido con material real. Una vez que todo se ha revisado, se procede a la eliminación del contenido si se detecta cualquier señal de problema. La efectividad del proceso en cuestión, lo será todo en este caso.
Habrá que ver cómo reacciona YouTube frente a diferente contenido que sea etiquetado como parodia o sátira que involucra a figuras conocidas (ya que pueden existir conflictos al respecto), pero el paso es positivo sin ningún tipo de duda. Obviamente, YouTube también verificará si la persona que hace la solicitud es identificable, debido a que esto es esencial para tener en cuenta la solicitud.
No habrá sanciones, al menos de momento…
Por último, pero no menos importante, YouTube anunció que los creadores notificados sobre quejas de privacidad no recibirán ninguna sanción, ya que las violaciones de privacidad son independientes de las propias relacionadas con las directrices de la comunidad. Por lo tanto, lo que se hará únicamente es eliminar la creación, sin más (al menos esto es así por el momento).
Un buen paso el que ha anunciado YouTube, ya que el uso de IA no siempre se realiza de forma positiva y algunos tienen en mente atacar a terceros o sacar tajadas de las nuevas tecnologías por la falta de control. Y, lo cierto, es que dotar a los usuarios de más herramientas cuando se detectan deepfakes (especialmente de uno mismo), es una buena decisión.
Sigue toda la información de Cinco Días en Facebook, X y Linkedin, o en nuestra newsletter Agenda de Cinco Días