¿Pueden 10.000 humanos limpiar YouTube?

Categoría: Sin categorizar Al corriente 05 de diciembre

Los algoritmos no funcionan. YouTube, al igual que Facebook, recibe críticas constantes por contenido objetable, desde extremismo hasta abuso infantil . Los líderes tecnológicos prometen que la inteligencia artificial ayudará a resolver el problema al identificar automáticamente el contenido ofensivo antes de que alguien pueda verlo. Pero los mejores intentos de YouTube hasta ahora detectan solo el 75 por ciento de esos clips antes de que un usuario los informe.

Claramente, la IA aún no es suficiente. Ese mensaje parece ser reiterado por la directora ejecutiva de YouTube, Susan Wojcicki. En una nueva entrada de blog , explica que el sitio de videos está aumentando su equipo de moderación para incluir 10,000 empleados en Google para ayudar a combatir el contenido objetable.

¿Qué harán ellos? En buena medida, más de lo mismo. Desde junio, nuestros equipos de confianza y seguridad han revisado manualmente casi 2 millones de videos en busca de contenido extremista violento, escribe. También estamos tomando medidas agresivas en los comentarios, lanzando nuevas herramientas de moderación de comentarios y, en algunos casos, cerrando los comentarios por completo.

Pero Wojcicki también señala que todo el trabajo tiene otro uso: entrenar IA. El juicio humano es fundamental para tomar decisiones contextualizadas sobre el contenido, escribe, y agrega que al recopilar datos sobre cómo trabajan sus moderadores, YouTube podrá entrenar... tecnología de aprendizaje automático para identificar videos similares en el futuro.

Si todo esto te suena familiar, bueno, eso se debe a que Facebook agregó 3000 controles de contenido adicionales a principios de este año. En ese momento, argumentamos que es poco probable que las personas adicionales por sí solas, sin una IA robusta y confiable, hagan mella en el contenido ofensivo, porque hay mucho que filtrar.

En el caso de YouTube, con 300 horas de material subido cada minuto, parece igualmente improbable que tenga éxito, al menos hasta que sus algoritmos hayan aprendido todo lo que necesitan de los moderadores del meatspace.