Cómo una ciudad espera que el monitoreo del lenguaje pueda ayudarla a derrotar el odio

Una foto de postal de Chattanooga, Tennessee, con el logo de Hatebase en la parte inferior Estefanía Arnett

Casi 180.000 personas viven en Chattanooga, la cuarta ciudad más grande de Tennessee. Famosa por su paisaje y su estilo de vida al aire libre, la ciudad se encuentra a orillas del río Tennessee, al pie de las Montañas Apalaches. En 2010, fue la primera ciudad de EE. UU. en implementar internet gigabit. The New York Times lo llamó la joya por descubrir de Tennessee.

El 26 de julio de 2015, Chattanooga pasó a ser conocido por algo completamente diferente. Muhammad Youssef Abdulazeez emprendió una ola de asesinatos y disparó a siete personas en dos instalaciones militares estadounidenses. Cuatro de ellos, todos infantes de marina, murieron en el acto. Más tarde, el FBI concluyó que el tirador de 24 años se había radicalizado a sí mismo rastreando la propaganda de Al-Qaeda en línea mientras su vida se salía de control.

Chattanooga tiene una población musulmana pequeña y unida. A raíz del ataque, aparecieron en línea comentarios enojados y racistas. Varios políticos, incluido Donald Trump, entonces candidato presidencial republicano, aprovechó los disparos con fines de campaña s. Los residentes musulmanes de la ciudad temían ataques de venganza .

La situación solo ha empeorado desde entonces. Los crímenes de odio aumentan a nivel nacional, según el fbi , y Tennessee ocupa el noveno lugar entre todos los estados de EE. UU. por el número total de tales delitos. Mientras tanto, Chattanooga registró más incidentes por motivos religiosos que cualquier otra ciudad de Tennessee en 2017. El mes pasado, la ciudad lanzó una iniciativa para abordar el problema haciendo que los residentes denunciar incitación al odio en línea Nació . Es la primera ciudad de EE. UU. en comenzar a registrar información sobre tales incidentes de esta manera. La esperanza es que este sea un paso importante para hacer de la ciudad un lugar más unificado y tolerante para vivir.

Primeros pasos

El gobierno de Chattanooga ahora tiene un formulario en linea para que las personas completen si ven o experimentan discursos de odio, ya sea en persona o en línea. Se tarda unos segundos en completarlo. Solo tiene que explicar cuál era el término, dónde se usó, si se trataba de usted o de otra persona, cómo definiría el término y en qué idioma estaba. Es un proceso anónimo. . No se recopilan datos sobre la persona que informa los términos.

Todos los datos enviados al formulario de Chattanooga (los términos específicos utilizados, dónde y con qué frecuencia) van instantáneamente a base de odio , una empresa con sede en Toronto que surgió de Sentinel Project, una organización canadiense sin fines de lucro. Hatebase ha creado la base de datos más grande del mundo de palabras que incitan al odio en más de 200 países. Estos incluyen insultos racistas, términos homofóbicos, frases sexistas y otras formas de discurso despectivo dirigido a un grupo en particular. Está financiado por el trabajo de la empresa con clientes comerciales, pero es gratuito para cualquier organismo del gobierno local que decida utilizarlo.

Una vez que Hatebase tiene los datos, se clasifican y anotan automáticamente. Estas anotaciones pueden explicar los múltiples significados de los términos utilizados, por ejemplo, o su nivel de ofensa. Los datos resultantes también se pueden mostrar en un tablero para facilitar que los funcionarios de la ciudad visualicen el problema.

Caza de patrones

Una vez que se hayan recopilado suficientes datos (muy probablemente dentro de unos meses), la ciudad usará el sistema de Hatebase para monitorear las tendencias en el uso del discurso de odio en Chattanooga y ver si hay algún patrón entre las palabras usadas contra grupos particulares y las posteriores. delitos de odio. A menudo, la violencia contra un grupo en particular es precedida por un aumento en el uso de lenguaje abusivo y deshumanizador contra ese grupo. El Proyecto Sentinel ya ha utilizado con éxito este tipo de control del lenguaje como sistema de alerta temprana por el conflicto étnico armado en Kenia, Uganda, Birmania e Irak.

El contexto en Chattanooga es diferente, pero el objetivo es el mismo: rastrear el discurso de odio y cortarlo de raíz antes de que se convierta en violencia. Tener todos estos datos en un solo lugar le permite a la ciudad identificar instantáneamente áreas específicas de tensión entre comunidades, destacando términos odiosos que aumentan en frecuencia y dónde se usan.

La asociación de Chattanooga con Hatebase también está diseñada para lidiar con un problema persistente para la ciudad: informes deficientes e inconsistentes sobre discursos de odio a las fuerzas del orden público, lo que ha dificultado identificar problemas recurrentes. Hayes espera que hacer que sea rápido y anónimo denunciar el discurso de odio, y evitar la necesidad de que los grupos marginados hablen con la policía (en quien no siempre confían), cambie eso. También debería decirles qué insultos en particular se repiten y si hay puntos calientes en la ciudad, y potencialmente incluso proporcionar un indicador temprano de violencia potencial.

Los funcionarios de Chattanooga planean usar los datos para informar las políticas que produce en respuesta. Por ejemplo, podrían aumentar las medidas de seguridad en las mezquitas o iglesias locales, establecer programas para reunir a grupos o abrir centros comunitarios, dice Hayes: se trata de empatía y mitigar el aislamiento, y desarrollar vínculos sociales entre comunidades.

Los incidentes aislados de incitación al odio pueden ser pequeños por sí solos, pero pueden convertirse en un problema mucho mayor, dice Neil Johnson, profesor de física en la Universidad George Washington que estudia patrones de incitación al odio. Esta iniciativa es fantástica, dice. Se basa en datos, lo cual es crucial, no se basa solo en anécdotas. Pero tienes que concentrarte en ir más allá del individuo al grupo de odio más amplio. Y tenemos que contrarrestar estas narrativas, no solo cerrarlas.

El plan tiene inconvenientes. No incluye ningún monitoreo proactivo de las publicaciones públicas en las redes sociales, lo que sería controvertido pero útil para cualquiera que intente controlar el odio racial y cómo se extiende a los incidentes del mundo real. Otorga a los ciudadanos locales la responsabilidad de denunciar si ven o escuchan discursos de odio. Es tan útil como la gente lo hace, reconoce Hayes.

Dicho esto, la gran mayoría de las ciudades no monitorean el discurso de odio en absoluto, según Timothy Quinn, cofundador de Hatebase. Si quieren crear políticas para abordar las divisiones entre comunidades, todo lo que pueden hacer es adivinar.

esconder