Así es como la IA de Facebook busca cosas malas

Categoría: Inteligencia artificial Al corriente 29 de noviembre

El contexto: La gran mayoría de la moderación de Facebook ahora se realiza automáticamente mediante los sistemas de aprendizaje automático de la empresa, lo que reduce la cantidad de contenido angustioso que sus moderadores deben revisar. en su última informe de aplicación de estándares comunitarios , publicado a principios de este mes, la compañía afirmó que el 98 % de los videos y fotos terroristas se eliminan antes de que alguien tenga la oportunidad de verlos, y mucho menos denunciarlos.

Entonces, ¿qué estamos viendo aquí? La empresa ha estado entrenando sus sistemas de aprendizaje automático para identificar y etiquetar objetos en videos, desde lo mundano, como jarrones o personas, hasta lo peligroso, como pistolas o cuchillos. La IA de Facebook utiliza dos enfoques principales para buscar contenido peligroso. Una es emplear redes neuronales que buscan características y comportamientos de objetos conocidos y etiquetarlos con diferentes porcentajes de confianza (como podemos ver en el video de arriba).

Formación en curso: Estas redes neuronales se entrenan con una combinación de videos preetiquetados de sus revisores humanos, informes de usuarios y, pronto, videos tomados por la Policía Metropolitana de Londres. Las redes neuronales pueden usar esta información para adivinar lo que podría estar mostrando la escena completa y si contiene algún comportamiento o imágenes que deban marcarse. Dio más detalles sobre cómo funcionan sus sistemas en una conferencia de prensa esta semana.

¿Y que? Si el sistema decide que un archivo de video contiene imágenes o comportamientos problemáticos, puede eliminarlo automáticamente o enviarlo a un revisor de contenido humano. Si infringe las reglas, Facebook puede crear un hash, una cadena única de números, para indicarlo y propagarlo por todo el sistema, de modo que otro contenido coincidente se elimine automáticamente si alguien intenta volver a cargarlo. Estos hashes se pueden compartir con otras empresas de redes sociales para que también puedan eliminar copias del archivo infractor.

Estos videos [de la Policía Metropolitana] son ​​increíblemente útiles para nosotros. Los eventos terroristas son raros, afortunadamente, pero significa que la cantidad de datos de entrenamiento es muy pequeña, dijo el gerente de ingeniería Nicola Bortignon en una llamada.

Un punto débil: Facebook todavía está luchando por automatizar su comprensión del significado, el matiz y el contexto del lenguaje. Es por eso que la empresa confía en las personas para denunciar la gran mayoría de las publicaciones de intimidación y acoso que infringen sus reglas: solo el 16 % de estas publicaciones son identificadas por sus sistemas automatizados. A medida que avanza la tecnología, podemos esperar que esa cifra aumente. Sin embargo, lograr que la IA entienda realmente el lenguaje sigue siendo uno de los mayores desafíos del campo.

La fotografía más grande: En marzo, un terrorista mató a 49 personas en dos mezquitas de Christchurch, Nueva Zelanda. Transmitió en vivo la masacre en Facebook, y los videos de la misma circularon por el sitio durante meses después. Fue una llamada de atención para la industria. Si volviera a suceder ahora, hay más posibilidades de que se atrape y se elimine más rápidamente.