Cómo utiliza Facebook el aprendizaje automático para luchar contra ISIS y la propaganda de Al-Qaeda

Categoría: Silicon Valley Al corriente 12 de noviembre

Facebook afirma haber encontrado y eliminado proactivamente el 99% del contenido relacionado con terroristas en el sitio durante los últimos tres trimestres. Se le da una idea de sus procesos en un entrada en el blog .

Algunas estadísticas: Primero, es importante tener en cuenta que cuando dice terrorismo, Facebook se refiere solo a ISIS y Al-Qaeda. En promedio, las empresas afirman que ahora eliminan el contenido terrorista menos de dos minutos después de su publicación, en comparación con el promedio de 14 horas que tomó a principios de este año. Facebook tomó medidas sobre 9,4 millones de piezas de contenido en el segundo trimestre de 2018, una cifra que se redujo a 3 millones en el tercer trimestre de 2018, gracias a sus esfuerzos el trimestre anterior, dijo.

Sistemas de detección: Facebook ha lanzado una nueva herramienta de aprendizaje automático que evalúa si las publicaciones indican apoyo a ISIS o Al-Qaeda. Produce una puntuación que indica la probabilidad de que viole sus políticas antiterroristas, y las que reciben puntuaciones más altas se pasan a sus revisores humanos para que las evalúen. Para los casos con la puntuación más alta, las publicaciones se eliminan automáticamente. En los raros casos en que los empleados encuentran la posibilidad de un daño inminente, Facebook informa de inmediato a las fuerzas del orden, dijo.

Liberar los bots: Claramente, Facebook está dispuesto a parecer duro con el terrorismo. Y como siempre, se basa casi exclusivamente en algoritmos para hacerlo. Eso tiene mucho sentido desde su punto de vista, ya que los humanos nunca podrían escanear tanta información tan rápido (y son costosos). Pero es otro recordatorio del papel de Facebook como juez, jurado y verdugo de la información que nos permite ver.