211service.com
Las granjas de trolls llegaron a 140 millones de estadounidenses al mes en Facebook antes de las elecciones de 2020, según muestra un informe interno
Revisión de tecnología del MIT | elementos de envato
Actualizar: Después de que se publicó esta historia, Facebook eliminó dos de las cinco páginas de granjas de trolls que identificamos.
En el período previo a las elecciones de 2020, las más disputadas en la historia de EE. UU., las páginas más populares de Facebook para contenido cristiano y afroamericano estaban siendo administradas por granjas de trolls de Europa del Este. Estas páginas formaban parte de una red más grande que colectivamente llegó a casi la mitad de todos los estadounidenses, según un informe interno de la compañía, y logró ese alcance no a través de la elección del usuario, sino principalmente como resultado del propio diseño de la plataforma de Facebook y el algoritmo ávido de participación.
Historia relacionada
Cómo Facebook se volvió adicto a difundir información errónea Los algoritmos de inteligencia artificial de la compañía le dieron un hábito insaciable de mentiras y discursos de odio. Ahora el hombre que los construyó no puede solucionar el problema.
El informe, escrito en octubre de 2019 y obtenido por MIT Technology Review de un ex empleado de Facebook que no participó en la investigación, encontró que después de las elecciones de 2016, Facebook no priorizó cambios fundamentales en la forma en que su plataforma promueve y distribuye información. En cambio, la compañía siguió una estrategia de golpear al topo que implicaba monitorear y anular la actividad de los malos actores cuando participaban en el discurso político, y agregar algunas medidas de seguridad que impedían lo peor de lo peor.
Pero este enfoque hizo poco para detener el problema subyacente, señaló el informe. Las granjas de trolls, grupos profesionalizados que trabajan de manera coordinada para publicar contenido provocativo, a menudo propaganda, en las redes sociales, aún estaban generando audiencias masivas mediante la ejecución de redes de páginas de Facebook. Su contenido llegaba a 140 millones de usuarios de EE. UU. por mes, el 75% de los cuales nunca había seguido ninguna de las páginas. Estaban viendo el contenido porque el sistema de recomendación de contenido de Facebook lo había incluido en sus fuentes de noticias.
En lugar de que los usuarios elijan recibir contenido de estos actores, es nuestra plataforma la que elige darles [a estas granjas de trolls] un alcance enorme, escribió el autor del informe, Jeff Allen, ex científico de datos de alto nivel en Facebook.
Joe Osborne, un vocero de Facebook, dijo en un comunicado que la compañía ya había estado investigando estos temas en el momento del informe de Allen y agregó: Desde entonces, hemos formado equipos, desarrollado nuevas políticas y colaborado con colegas de la industria para abordar estas redes. Hemos tomado medidas de cumplimiento agresivas contra este tipo de grupos falsos nacionales y extranjeros y hemos compartido los resultados públicamente trimestralmente.
En el proceso de verificación de esta historia poco antes de su publicación, MIT Technology Review descubrió que cinco de las páginas de granjas de trolls mencionadas en el informe permanecían activas.
Esta es la página de granja de trolls más grande dirigida a afroamericanos en octubre de 2019. Todavía permanece activa en Facebook.
El informe encontró que las granjas de trolls estaban llegando a los mismos grupos demográficos señalados por la Agencia de Investigación de Internet (IRA) respaldada por el Kremlin durante las elecciones de 2016, que se había dirigido a cristianos, afroamericanos y nativos americanos. Un 2018 Investigación de BuzzFeed News descubrió que al menos un miembro del IRA ruso, acusado de supuesta interferencia en las elecciones estadounidenses de 2016, también había visitado Macedonia en torno al surgimiento de sus primeras granjas de trolls, aunque no encontró evidencia concreta de una conexión. (Facebook dijo que sus investigaciones tampoco habían encontrado una conexión entre el IRA y las granjas de trolls macedonios).
Esto no es normal. Esto no es saludable, escribió Allen. Hemos empoderado a actores no auténticos para que acumulen una gran cantidad de seguidores con fines en gran parte desconocidos... El hecho de que los actores con posibles vínculos con el IRA tengan acceso a una gran cantidad de audiencia en los mismos grupos demográficos a los que se dirige el IRA plantea un riesgo enorme para las elecciones estadounidenses de 2020. .
Siempre que las granjas de trolls tengan éxito en el uso de estas tácticas, cualquier otro mal actor también podría hacerlo, continuó: Si las granjas de trolls están llegando a 30 millones de usuarios de EE. UU. con contenido dirigido a los afroamericanos, no deberíamos sorprendernos en absoluto si descubrimos el IRA. Actualmente también tiene gran audiencia allí.
Allen escribió el informe como la cuarta y última entrega de un esfuerzo de un año y medio para comprender las granjas de trolls. Dejó la compañía ese mismo mes, en parte debido a la frustración de que el liderazgo había ignorado efectivamente su investigación, según el exempleado de Facebook que proporcionó el informe. Allen se negó a comentar.
El informe revela el alarmante estado de cosas en el que los líderes de Facebook abandonaron la plataforma durante años, a pesar de las reiteradas promesas públicas de abordar agresivamente la interferencia electoral en el extranjero. MIT Technology Review pone a disposición el informe completo, con los nombres de los empleados redactados, porque es de interés público.
Sus revelaciones incluyen:
- En octubre de 2019, se estaban agotando alrededor de 15 000 páginas de Facebook con una audiencia mayoritaria en los EE. UU. de Kosovo y Macedonia, conocidos malos actores durante las elecciones de 2016.
- Colectivamente, esas páginas de granjas de trolls, que el informe trata como una sola página con fines comparativos, llegaron a 140 millones de usuarios estadounidenses mensualmente y 360 millones de usuarios globales semanalmente. La página de Walmart alcanzó la segunda audiencia más grande de EE. UU. con 100 millones.
- Las páginas de la granja de trolls también se combinaron para formar:
- la página cristiana estadounidense más grande en Facebook, 20 veces más grande que la siguiente más grande, llegando a 75 millones de usuarios estadounidenses mensualmente, el 95% de los cuales nunca había seguido ninguna de las páginas.
- la página afroamericana más grande en Facebook, tres veces más grande que la siguiente más grande, llegando a 30 millones de usuarios estadounidenses mensualmente, el 85% de los cuales nunca había seguido ninguna de las páginas.
- la segunda página más grande de nativos americanos en Facebook, llegando a 400.000 usuarios mensualmente, el 90% de los cuales nunca había seguido ninguna de las páginas.
- la quinta página de mujeres más grande en Facebook, llegando a 60 millones de usuarios estadounidenses mensualmente, el 90% de los cuales nunca había seguido ninguna de las páginas.
- Las granjas de trolls afectan principalmente a los EE. UU., pero también se dirigen al Reino Unido, Australia, India y los países de América Central y del Sur.
- Facebook ha llevado a cabo múltiples estudios que confirman que el contenido con más probabilidades de recibir la participación de los usuarios (me gusta, comentarios y acciones) es más probable que sea del tipo que se sabe que es malo. Aún así, la compañía ha seguido clasificando el contenido en las noticias de los usuarios de acuerdo con lo que recibirá la mayor participación.
- Facebook prohíbe que las páginas publiquen contenido simplemente copiado y pegado de otras partes de la plataforma, pero no aplica la política contra los malhechores conocidos. Esto facilita que los actores extranjeros que no hablan el idioma local publiquen contenido completamente copiado y aun así lleguen a una audiencia masiva. En un momento, hasta el 40 % de las páginas vistas en las páginas de EE. UU. se dirigieron a aquellas que presentaban principalmente contenido no original o material de originalidad limitada.
- Las granjas de trolls se abrieron paso anteriormente en los programas de asociación Instant Articles y Ad Breaks de Facebook, que están diseñados para ayudar a las organizaciones de noticias y otros editores a monetizar sus artículos y videos. En un momento, gracias a la falta de controles de calidad básicos, hasta el 60 % de las lecturas de artículos instantáneos iban a contenido que había sido plagiado de otro lugar. Esto facilitó que las granjas de trolls pasaran desapercibidas e incluso recibieran pagos de Facebook.
Cómo Facebook habilita las granjas de trolls y aumenta su audiencia
El informe analiza específicamente las granjas de trolls con sede en Kosovo y Macedonia, que están dirigidas por personas que no necesariamente entienden la política estadounidense. Sin embargo, debido a la forma en que están diseñados los sistemas de recompensas de noticias de Facebook, aún pueden tener un impacto significativo en el discurso político.
Historia relacionada
Arriesgó todo para exponer Facebook. Ahora ella está contando su historia. Sophie Zhang, ex científica de datos de Facebook, reveló que permite la manipulación política global y ha hecho poco para detenerlo.
En el informe, Allen identifica tres razones por las que estas páginas pueden ganar audiencias tan grandes. Primero, Facebook no penaliza las páginas por publicar contenido completamente no original. Si algo se volvió viral anteriormente, es probable que se vuelva viral nuevamente cuando se publique por segunda vez. Esto hace que sea muy fácil para cualquier persona crear un seguimiento masivo entre los afroamericanos, por ejemplo. Los malos actores pueden simplemente copiar contenido viral de las páginas de los afroamericanos, o incluso de Reddit y Twitter, y pegarlo en su propia página o, a veces, en docenas de páginas.
En segundo lugar, Facebook ofrece contenido atractivo en las páginas a las personas que no las siguen. Cuando los amigos de los usuarios comentan o comparten publicaciones en una de estas páginas, esos usuarios también lo verán en sus fuentes de noticias. Cuanto más se comenta o comparte el contenido de una página, más viaja más allá de sus seguidores. Esto significa que las granjas de trolls, cuya estrategia se centra en volver a publicar el contenido más atractivo, tienen una gran capacidad para llegar a nuevas audiencias.
En tercer lugar, el sistema de clasificación de Facebook impulsa el contenido más atractivo más arriba en las noticias de los usuarios. En su mayor parte, las personas que dirigen las granjas de trolls tienen motivos financieros más que políticos; publican lo que recibe la mayor participación, sin tener en cuenta el contenido real. Pero debido a que es más probable que la desinformación, el clickbait y el contenido políticamente divisivo reciban una gran participación (como lo reconocen los propios análisis internos de Facebook), las granjas de trolls tienden a publicar más con el tiempo, dice el informe.
Como resultado, en octubre de 2019, las 15 páginas principales dirigidas a cristianos estadounidenses, 10 de las 15 páginas principales de Facebook dirigidas a estadounidenses negros y cuatro de las 12 páginas principales de Facebook dirigidas a nativos americanos estaban dirigidas por granjas de trolls.
Nuestra plataforma ha dado la voz más grande en la comunidad cristiana estadounidense a un puñado de malos actores que, según sus prácticas de producción de medios, nunca han ido a la iglesia, escribió Allen. Nuestra plataforma ha dado la voz más grande en la comunidad afroamericana a un puñado de malos actores que, según sus prácticas de producción de medios, nunca han tenido una interacción con un afroamericano.
Historia relacionada
Reseña: Por qué Facebook nunca podrá arreglarse solo En An Ugly Truth, las reporteras Sheera Frenkel y Cecilia Kang revelan las fallas fundamentales de Facebook a través de un relato detallado de sus años entre dos elecciones estadounidenses.
Siempre me parecerá profundamente extraño... y genuinamente horrible, escribió. Parece bastante claro que hasta que se pueda arreglar esa situación, siempre estaremos sintiendo serios vientos en contra al tratar de cumplir nuestra misión.
El informe también sugirió una posible solución. Esta está lejos de ser la primera vez que la humanidad lucha contra los malos actores en nuestros ecosistemas de medios, escribió, señalando el uso de Google de lo que se conoce como una medida de autoridad basada en gráficos, que evalúa la calidad de una página web según la frecuencia con la que cita y es citado por otras páginas web de calidad para degradar a los malos actores en sus clasificaciones de búsqueda.
Tenemos nuestra propia implementación de una medida de autoridad basada en gráficos, continuó. Si la plataforma tuviera más en cuenta esta métrica existente en las páginas de clasificación, podría ayudar a cambiar la tendencia inquietante en la que las páginas llegan a las audiencias más amplias.
Cuando las clasificaciones de Facebook priorizan el compromiso, las páginas de granjas de trolls superan a las páginas auténticas, escribió Allen. Pero el 90% de las páginas de Troll Farm tienen exactamente 0 Graph Authority... [Las páginas auténticas] claramente ganan.
Problemas sistémicos
Una búsqueda en todas las páginas de granjas de trolls enumeradas en el informe revela que cinco siguen activas casi dos años después:
- Una página llamada My Baby Daddy Ain’t Shit, que fue la página de Facebook más grande dirigida a los afroamericanos en octubre de 2019.
- Una página llamada Savage Hood, dirigida a los afroamericanos.
- Una página llamada Hood Videos, dirigida a los afroamericanos.
- Una página llamada Propósito de Vida, dirigida a cristianos.
- Una página llamada Eagle Spirit, dirigida a los nativos americanos.
Una página de granja de trolls dirigida a cristianos estadounidenses.
La reciente polémica de Facebook Informe de contenido ampliamente visto sugiere que algunas de las vulnerabilidades centrales que explotaron las granjas de trolls también permanecen. Quince de las 19 publicaciones más vistas enumeradas en el informe fueron plagiados de otras publicaciones que previamente se habían vuelto virales en Facebook u otra plataforma, según un análisis de Casey Newton en The Verge.
Samantha Bradshaw, investigadora postdoctoral en la Universidad de Stanford que estudia la intersección de la desinformación, las redes sociales y la democracia, dice que el informe habla de muchos de los problemas sistémicos más profundos con la plataforma y su algoritmo en la forma en que promueven ciertos tipos de contenido a ciertos usuarios, todo basado en este valor subyacente de crecimiento. Si no se solucionan, continuarán creando incentivos económicos distorsionados para los malos actores, agrega: Ese es el problema.