Ningún trabajador de YouTube Kids controlará lo que tu hijo vea en el tablet

Ningún trabajador de YouTube Kids controlará lo que tu hijo vea en el tablet

YouTube quiso poner en marcha un plan de emergencia ante las críticas.

El año que ahora termina no ha sido de los mejores para YouTube Kids, la plataforma de vídeos de Google centrada en los más pequeños y que cuenta con aplicación propia, separada de la principal, para permitir a los menores acceder solo a los contenidos recomendados para ellos. El problema es que en algunas ocasiones ese firewall que se supone que tiene la plataforma no ha hecho muy bien su trabajo.

Seguro que recordáis cómo hace unos meses se hacía viral en YouTube Kids un vídeo subido por un youtuber que, entre imágenes populares para niños, incluía escenas en las que, a la vez que cantaba, podía verse a un personaje en actitud desenfadada pero con evidentes actitudes suicidas frente a la cámara. Todo un problema que estalló en la cara de YouTube y que puso en duda la seguridad de la plataforma.

El algoritmo no lo sabe todo

Aquel problema se produjo porque esas imágenes no eran el tema principal del vídeo, sino una parte muy pequeña pero evidentemente ofensiva. El algoritmo, que se supone que es capaz de ver, analizar y actuar en consecuencia ante la mayoría de casos, no fue capaz de reconocerlo y dejó pasar el vídeo hasta la plataforma. Si a eso unimos el sistema de recomendaciones que hace, pues tenemos un cóctel explosivo.

YouTube Kids, de Google.
YouTube Kids, de Google.

Ahora en enero, YouTube se verá obligada (en EE.UU. y, por lo tanto, el resto de países) a separar en dos ambas plataformas, para garantizar que no se suban contenidos que no estén dirigidos específicamente a los menores de 8 años. Esta medida tuvo una reacción inmediata por parte de la compañía, que buscó prepararse recurriendo a fórmulas que le aseguraran una manera de controlar todo lo que se publique a YouTube Kids.

Ahora se ha conocido que, a raíz de esa necesidad, YouTube se planteó que fueran empleados de la compañía los que analizaran, uno a uno, todos los contenidos dirigidos a menores de 8 años antes de darles el visto bueno y permitir que fueran accesibles dentro de YouTube Kids. A ese plan de emergencia se le llamó Crosswalk, y tenía a 40 empleados como responsables de ver todos los contenidos que se subieran al servicio, dejando en sus manos la última palabra para permitir su publicación, o no. Este plan no solo se plasmó en un papel sino que llegó al punto de tener a esos candidatos elegidos de entre todos los que pertenecen a la compañía pero, ¿qué pasó para que se cancelará?

Fue la CEO de YouTube, Susan Wojcicki, la que detuvo el proyecto aduciendo varias razones: la primera es que confiar esa responsabilidad en empleados para dar el OK, obligaría a la empresa a hacerse responsable como si fuera un medio de comunicación tradicional, donde uno es dueño de lo que publica a efectos de responsabilidad legal. Pero luego apareció una segunda razón: la imposibilidad de que un equipo de 40 personas fuera capaz de ver TODO lo que se sube a YouTube Kids a diario.Estamos hablando de un volumen de vídeos que supera las 500 horas por minuto. 

De todas formas, la pregunta es evidente: ¿es mejor que el control lo realice un algoritmo que puede equivocarse o un humano? Sea como fuere, la alternativa más segura es utilizar el control parental de YouTube Kids, que es muy eficaz. Así que como padres, ¿qué mejor solución que ser nosotros los que filtremos qué puede y qué no pueden ver nuestros hijos?

Normas