Por qué las redes sociales no pueden seguir moderando contenido en la sombra

pexels

En 2016, podía contar con los dedos de una mano los tipos de intervenciones que las empresas de tecnología estaban dispuestas a utilizar para librar a sus plataformas de desinformación, incitación al odio y acoso. A lo largo de los años, los mecanismos toscos como el bloqueo de contenido y la prohibición de cuentas se han transformado en un conjunto de herramientas más complejo, que incluye la cuarentena de temas, la eliminación de publicaciones de la búsqueda, la restricción de recomendaciones y la reducción de la prioridad de las publicaciones.

Y, sin embargo, incluso con más opciones a su disposición, la desinformación sigue siendo un problema grave. Hubo mucha cobertura sobre la desinformación el día de las elecciones: mi colega Emily Drefyuss descubrió, por ejemplo, que cuando Twitter trató de lidiar con el contenido usando el hashtag #BidenCrimeFamily, con tácticas que incluían la desindexación mediante el bloqueo de los resultados de búsqueda, los usuarios, incluido Donald Triunfo adaptado usando variantes de la misma etiqueta . Pero todavía no sabemos mucho acerca de cómo Twitter decidió hacer esas cosas en primer lugar, o cómo evalúa y aprende de las formas en que los usuarios reaccionan a la moderación.

¿Qué acciones tomaron estas empresas? ¿Cómo funcionan sus equipos de moderación? ¿Cuál es el proceso para tomar decisiones?

A medida que las empresas de redes sociales suspendieron cuentas y etiquetaron y eliminaron publicaciones, muchos investigadores, organizaciones de la sociedad civil y periodistas se esforzaron por comprender sus decisiones. La falta de transparencia sobre esas decisiones y procesos significa que, para muchos, los resultados electorales terminan con un asterisco este año, tal como lo hicieron en 2016.

¿Qué acciones tomaron estas empresas? ¿Cómo funcionan sus equipos de moderación? ¿Cuál es el proceso para tomar decisiones? En los últimos años, las empresas de plataformas crearon grandes grupos de trabajo dedicados a eliminar la información errónea sobre las elecciones y etiquetar las declaraciones anticipadas de victoria. sarah roberts , profesor de UCLA, ha escrito sobre el trabajo invisible de los moderadores de contenido de la plataforma como una industria en la sombra, un laberinto de contratistas y reglas complejas de las que el público sabe poco. ¿Por qué no sabemos más?

En la niebla postelectoral, las redes sociales se han convertido en el terreno para una guerra de bajo nivel en nuestra seguridad cognitiva, con campañas de desinformación y proliferando teorías de conspiración. Cuando el negocio de la transmisión de noticias desempeñó el papel de guardián de la información, fue cargado de obligaciones de interés público como compartir información oportuna, local y relevante. Las empresas de redes sociales han heredado una posición similar en la sociedad, pero no han asumido las mismas responsabilidades. Esta situación ha cargado los cañones de reclamos de parcialidad y censura en la forma en que moderaron el contenido relacionado con las elecciones.

Asumir los costos

En octubre, yo se unió a un panel de expertos sobre desinformación, conspiración e infodemia para el Comité Permanente de Inteligencia de la Cámara de Representantes. Estaba flanqueado por Cindy Otis, exanalista de la CIA; Nina Jankowicz, becaria de desinformación en el Centro Wilson; y Melanie Smith, jefa de análisis de Graphika.

Mientras preparaba mi testimonio, Facebook estaba luchando para hacer frente a QAnon, un movimiento social militarizado que estaba siendo monitoreado por su departamento de organizaciones peligrosas y condenado por la Cámara en un proyecto de ley bipartidista . mi equipo ha estado investigando QAnon durante años . Esta teoría de la conspiración se ha convertido en un tema favorito entre los investigadores de la desinformación debido a todas las formas en que se ha mantenido extensible, adaptable y resistente frente a los esfuerzos de las empresas de plataformas para ponerla en cuarentena y eliminarla.

QAnon también se ha convertido en un problema para el Congreso, porque ya no se trata de personas que participan en un extraño juego en línea: ha tocado tierra como un tornado en la vida de los políticos, que ahora son el blanco de campañas de acoso que cruzan desde el fiebre sueños de conspiradores a la violencia . Además, ha sucedido rápidamente y de nuevas maneras. Las teorías de la conspiración suelen tardar años en difundirse en la sociedad, con la promoción de figuras políticas, mediáticas y religiosas clave. Las redes sociales han acelerado este proceso a través de formas cada vez mayores de entrega de contenido. Los seguidores de QAnon no solo comentan las últimas noticias; lo doblan a su voluntad .

Centré mi testimonio en los muchos daños no identificados causados ​​por la incapacidad de las empresas de redes sociales para evitar que la información errónea sature sus servicios. Los periodistas, los profesionales médicos y de salud pública, los líderes de la sociedad civil y los administradores de la ciudad, como los funcionarios encargados de hacer cumplir la ley y las elecciones, están soportando el costo de la desinformación a gran escala y la carga de abordar sus efectos. Muchas personas pasan de puntillas por los temas políticos cuando conversan con amigos y familiares, pero a medida que la desinformación sobre las protestas comenzó a movilizar a los vigilantes blancos y la desinformación médica llevó a la gente a restar importancia a la pandemia, diferentes sectores profesionales asumieron nuevos roles importantes como defensores de la verdad .

Tomemos como ejemplo a los profesionales médicos y de salud pública, que han tenido que desarrollar recursos para mitigar la desinformación médica sobre el covid-19. Los médicos intentan convertirse en personas influyentes en línea para corregir consejos falsos y afirmaciones falsas de curas milagrosas, lo que les quita tiempo para brindar atención o desarrollar tratamientos. Mientras tanto, muchas salas de redacción se adaptaron a la normalización de la información errónea en las redes sociales desarrollando un ritmo de información errónea, desacreditando teorías de conspiración o afirmaciones de noticias falsas que podrían afectar a sus lectores. Pero esos recursos se gastarían mucho mejor en sostener el periodismo en lugar de actuar esencialmente como moderadores de contenido de terceros.

Historia relacionada

Gracias por publicar: Lecciones de fumar para regular las redes sociales Exejecutivos de Facebook admiten que usaron el libro de jugadas de la industria tabacalera para productos adictivos. Quizás también se pueda usar para deshacer el daño.

Las organizaciones de la sociedad civil también se han visto obligadas a gastar recursos en monitorear la información errónea y proteger su base de campañas dirigidas. Desinformación racializada es una táctica experimentada de operaciones de influencia nacionales y extranjeras: las campañas se hacen pasar por comunidades de color o usan el racismo para impulsar la polarización en temas de cuña. Brandi Collins-Dexter testificó sobre estos temas en una audiencia del Congreso en junio, destacando cómo las empresas de tecnología se esconden detrás de los llamados para proteger la libertad de expresión a toda costa sin hacer lo suficiente para proteger a las comunidades negras que son atacadas diariamente en las redes sociales con información médica errónea, discurso de odio, incitación y acoso.

funcionarios electorales , el personal encargado de hacer cumplir la ley y los socorristas están en seria desventaja al intentar hacer su trabajo mientras los rumores y las teorías de conspiración se difunden en línea. Ahora, las fuerzas del orden se preparan para la violencia en los lugares de votación.

Un camino para mejorar

Cuando la información errónea se propaga del mundo digital al físico, puede redirigir los recursos públicos y amenazar la seguridad de las personas. Esta es la razón por la que las empresas de redes sociales deben tomarse el tema tan en serio como su deseo de obtener ganancias.

Pero necesitan un camino para mejorar. Sección 230 de la Ley de Comunicaciones y Decencia faculta a las empresas de redes sociales para mejorar la moderación del contenido, pero los políticos han amenazado con eliminar estas protecciones para que puedan continuar con sus propias campañas de propaganda. A lo largo de la audiencia de octubre, se cernía el espectro de una nueva agencia que podría auditar independientemente las violaciones de los derechos civiles, examinar cuestiones de privacidad de datos y evaluar las externalidades de mercado de esta industria sobre otros sectores.

Como argumenté durante la audiencia, el enorme alcance de las redes sociales en todo el mundo significa que es importante que la regulación no comience con el desmantelamiento de la Sección 230 hasta que se establezca una nueva política.

Hasta entonces, necesitamos más transparencia. La desinformación no se trata únicamente de los hechos; se trata de quién puede decir cuáles son los hechos. Las decisiones justas de moderación de contenido son clave para la responsabilidad pública.

En lugar de aferrarse a la tecnostalgia durante un tiempo en que no era tan malo, a veces vale la pena preguntarse qué se necesitaría para desinventar las redes sociales, de modo que podamos trazar el rumbo de la web que queremos: una web que promueva la democracia, conocimiento, cuidado y equidad. De lo contrario, cada decisión inexplicable de las empresas de tecnología sobre el acceso a la información se convierte potencialmente en alimento para conspiradores y, lo que es peor, en la base para extralimitarse en la política gubernamental.

esconder