Activistas de derechos humanos quieren usar IA para ayudar a probar crímenes de guerra en los tribunales

VFrame

En 2015, alarmada por la escalada de la guerra civil en Yemen, Arabia Saudita lideró una campaña aérea contra el país para derrotar lo que consideraba un ascenso amenazante del poder chiíta. La intervención, lanzada con otros ocho estados árabes mayoritariamente sunitas, estaba destinada a durar solo unas pocas semanas, dijeron funcionarios saudíes. Casi cinco años después, todavía no se ha detenido.

Según algunas estimaciones, desde entonces la coalición ha llevado a cabo más de 20.000 ataques aéreos, muchos de los cuales han matado a civiles yemeníes y destruido sus propiedades, presuntamente en violación directa del derecho internacional. Desde entonces, las organizaciones de derechos humanos han tratado de documentar tales crímenes de guerra en un esfuerzo por detenerlos mediante desafíos legales. Pero el patrón oro, la verificación sobre el terreno por parte de periodistas y activistas, suele ser demasiado peligroso para ser posible. En cambio, las organizaciones recurrieron cada vez más a fotos y videos móviles de colaboración colectiva para comprender el conflicto, y comenzaron a enviarlos a los tribunales para complementar la evidencia de los testigos oculares.

Pero a medida que ha proliferado la documentación digital de escenas de guerra, el tiempo que lleva analizarla se ha disparado. Las imágenes perturbadoras también pueden traumatizar a los investigadores que deben revisar y ver las imágenes. Ahora Una iniciativa que pronto será un desafío en el sistema judicial del Reino Unido está probando una alternativa de aprendizaje automático. Podría modelar una forma de hacer que la evidencia de colaboración abierta sea más accesible y ayudar a las organizaciones de derechos humanos a acceder a fuentes de información más ricas.

La iniciativa, dirigida por la Universidad de Swansea en el Reino Unido junto con varios grupos de derechos humanos, es parte de un esfuerzo continuo para monitorear los presuntos crímenes de guerra que ocurren en Yemen y crear una mayor responsabilidad legal a su alrededor. En 2017, la plataforma Yemeni Archive comenzó a compilar una base de datos de videos y fotos que documentan los abusos. El contenido se recopiló de miles de fuentes, incluidas presentaciones de periodistas y civiles, así como videos de código abierto de plataformas de redes sociales como YouTube y Facebook, y se conservó en una cadena de bloques para que no pudieran manipularse sin ser detectados.

Junto con Global Legal Action Network (GLAN), una organización sin fines de lucro que desafía legalmente a los estados y otros actores poderosos por violaciones de los derechos humanos, los investigadores comenzaron a recopilar evidencia de violaciones específicas de los derechos humanos en un base de datos separada y montar casos legales en varios tribunales nacionales e internacionales. Si las cosas pasan por los procesos de rendición de cuentas en los tribunales, no es suficiente demostrar que esto sucedió, dice Yvonne McDermott Rees, profesora de la Universidad de Swansea y líder de la iniciativa. Tienes que decir, 'Bueno, por eso es un crimen de guerra'. Eso podría ser 'Usaste un arma que es ilegal', o en el caso de un ataque aéreo, 'Esto tuvo como objetivo a civiles' o 'Esto fue un ataque desproporcionado.

Una representación 3D de un BLU-63.

VFRAME

En este caso, los socios se centran en una munición en racimo fabricada en EE. UU., la BLU-63. El uso y la venta de municiones en racimo, armas explosivas que lanzan explosivos más pequeños al impactar, están prohibidos en 108 países, incluido el Reino Unido. Si los socios pudieran probar en un tribunal del Reino Unido que en efecto habían sido utilizados para cometer crímenes de guerra, podría usarse como parte de la creciente evidencia de que la coalición liderada por Arabia Saudita tiene un historial de violaciones del derecho internacional y defender el caso. Reino Unido para dejar de vender armas a Arabia Saudita o presentar cargos penales contra las personas involucradas en las ventas.

Entonces decidieron desarrollar un sistema de aprendizaje automático para detectar todas las instancias del BLU-63 en la base de datos. Pero las imágenes de BLU-63 son raras precisamente porque son ilegales, lo que dejó al equipo con pocos datos del mundo real para entrenar su sistema. Como remedio, el equipo creó un conjunto de datos sintéticos mediante la reconstrucción de modelos 3D del BLU-63 en una simulación.

Usando los pocos ejemplos anteriores que tenían, incluida una foto de la munición conservada por el Museo Imperial de la Guerra, los socios trabajaron con Adam Harvey, un investigador de visión por computadora, para crear las reconstrucciones. Comenzando con un modelo base, Harvey agregó texturas fotorrealistas, diferentes tipos de daños y varias calcomanías. Luego procesó los resultados bajo varias condiciones de iluminación y en varios entornos para crear cientos de imágenes fijas que imitaban cómo se podría encontrar la munición en la naturaleza. También creó datos sintéticos de cosas que podrían confundirse con la munición, como una pelota de béisbol verde, para reducir la tasa de falsos positivos.

Si bien Harvey todavía está generando más ejemplos de capacitación (él estima que necesitará más de 2000), el sistema existente ya funciona bien: expertos humanos verificaron que más del 90 % de los videos y fotos que recupera de la base de datos contienen BLU. -63 s. Ahora está creando un conjunto de datos de validación más realista mediante la impresión en 3D y pintando modelos de las municiones para que parezcan reales, y luego grabándolos en video y fotografiándolos para ver qué tan bien funciona su sistema de detección. Una vez que el sistema esté completamente probado, el equipo planea ejecutarlo en todo el Archivo Yemení, que contiene 5.900 millones de fotogramas de video. Según la estimación de Harvey, una persona tardaría 2.750 días las 24 horas del día en analizar tanta información. Por el contrario, el sistema de aprendizaje automático tardaría aproximadamente 30 días en un escritorio normal.

La imagen real que se muestra en el análisis en la parte superior del artículo.

VFRAME

Los expertos humanos todavía tendrían que verificar las imágenes después de que el sistema las filtre, pero la ganancia en eficiencia cambia el juego para las organizaciones de derechos humanos que buscan presentar desafíos en los tribunales. No es raro que estas organizaciones almacenen cantidades masivas de videos de testigos presenciales. Amnistía Internacional, por ejemplo, tiene del orden de 1 terabyte de imágenes que documentan posibles violaciones en Myanmar, dice McDermott Rees. Las técnicas de aprendizaje automático pueden permitirles rastrear estos archivos y demostrar el patrón de violaciones de los derechos humanos a una escala que antes era inviable, lo que dificulta mucho más que los tribunales nieguen la evidencia.

Cuando observa, por ejemplo, la orientación de hospitales, tener un video que muestre que un hospital es objetivo es fuerte; es un caso, dice Jeff Deutch, investigador principal de Siria Archive, un grupo de derechos humanos responsable de lanzar Yemeni Archive. Pero si puede mostrar cientos de videos de cientos de incidentes de hospitales atacados, puede ver que esto es realmente una estrategia de guerra deliberada. Cuando las cosas se ven como deliberadas, se vuelve más posible identificar la intención. Y la intención podría ser algo útil para casos legales en términos de responsabilidad por crímenes de guerra.

Mientras los colaboradores de Yemen se preparan para presentar su caso, la evidencia a esta escala será particularmente relevante. La coalición de ataques aéreos liderada por Arabia Saudita ya ha culpabilidad negada en denuncias anteriores de crímenes de guerra, que el gobierno del Reino Unido reconoce como registro oficial. Un tribunal del Reino Unido también desestimó un caso anterior que presentó una organización diferente para evitar que el gobierno vendiera armas a Arabia Saudita, porque consideró que la evidencia del video de código abierto no era lo suficientemente convincente. Aunque un tribunal diferente luego se retractó de algunas de estas críticas en la apelación, los colaboradores esperan que la mayor cantidad de evidencia evite cualquier disputa esta vez. Los casos que utilizan videos de código abierto en un contexto sirio han resultado previamente en condenas, dice McDermott Rees.

Esta iniciativa no es la primera en utilizar el aprendizaje automático para filtrar evidencia en un contexto de derechos humanos. El sistema E-Lamp de la Universidad Carnegie Mellon, se desarrolló una caja de herramientas de análisis de video para el trabajo de derechos humanos para analizar los archivos de la guerra en Siria. Harvey también trabajó anteriormente con algunos de sus colaboradores actuales para identificar las municiones que se utilizan en Siria. El esfuerzo de Yemen, sin embargo, será uno de los primeros en estar involucrado en un caso judicial. Podría sentar un precedente para otras organizaciones de derechos humanos.

Aunque este es un campo emergente, es una gran oportunidad, dice Sam Gregory, director del programa de derechos humanos sin fines de lucro Witness y copresidente del grupo de trabajo de Partnership on AI sobre influencia social y social. [Se trata] también de nivelar el campo de juego en el acceso a la IA y la utilización de la IA para convertir tanto la evidencia de los testigos presenciales como las imágenes filmadas por los perpetradores en justicia.

Correcciones: El BLU-63 es fabricado por los EE. UU., no por el Reino Unido. El caso anterior desestimado por el tribunal del Reino Unido también fue presentado por una organización diferente, no por GLAN. Jeff Deutch no fundó directamente el Archivo Yemení, pero es el investigador principal del Archivo Sirio, que fundó el Archivo Yemení.

esconder