211service.com
Las falsificaciones profundas tienen solución, pero no olvide que las falsificaciones superficiales ya están generalizadas
jeremy portje
La industria de la tecnología tiene una oportunidad única para abordar los deepfakes, el problema del audio y video falsos creados con inteligencia artificial, antes de que se conviertan en un problema generalizado, según el activista de derechos humanos Sam Gregory.
Pero, advierte, las grandes empresas aún están muy lejos de abordar el problema generalizado y más dañino de la desinformación falsa más cruda y superficial.
Gregory es gerente de programa en Testigo , que se centra en el uso del video en derechos humanos, ya sea por parte de activistas y víctimas para exponer abusos, o por parte de regímenes autoritarios para reprimir la disidencia. Hablando el lunes ante una audiencia en EmTech Digital, un evento organizado por MIT Technology Review, dijo que los deepfakes que estamos viendo actualmente son la calma antes de la tormenta.
Los medios sintéticos maliciosos aún no están muy extendidos en el uso, las herramientas aún no se han vuelto móviles, no se han producido, dijo Gregory. Este momento, sugirió, presenta una oportunidad inusual para que los creadores de los deepfakes establezcan formas de combatirlos antes de que los malos actores puedan implementar ampliamente la tecnología.
Podemos ser proactivos y pragmáticos al abordar esta amenaza para la esfera pública y nuestro ecosistema de información, dijo. Podemos prepararnos, no entrar en pánico.
Si bien los deepfakes pueden estar un poco por delante de la corriente principal, sin embargo, ya existe una avalancha problemática de información errónea que aún no se ha resuelto. La información falsa hoy en día generalmente no usa IA o tecnología compleja. Más bien, los trucos simples como etiquetar incorrectamente el contenido para desacreditar a los activistas o difundir información falsa pueden ser devastadoramente efectivos, y en ocasiones incluso pueden resultar en una violencia mortal, como sucedió en Myanmar.
Por estas 'falsificaciones superficiales' me refiero a las decenas de miles de videos que circulan con intenciones maliciosas en todo el mundo en este momento, creados no con inteligencia artificial sofisticada, sino que a menudo simplemente se vuelven a etiquetar y volver a cargar, afirmando que un evento en un lugar acaba de ocurrir en otro, dijo Gregory. .
Por ejemplo, dijo, un video de una persona quemada viva ha sido reutilizado y reatribuido a actores en Costa de Marfil, Sudán del Sur, Kenia y Birmania, cada vez incitando a la violencia.
Otra amenaza fue la creciente idea de que no podemos confiar en nada de lo que vemos, que en la mayoría de los casos es simplemente falso, dijo Gregory. La difusión de esta idea es una bendición para los autoritarios y totalitarios de todo el mundo.
Una narrativa alarmista solo realza los peligros reales que enfrentamos: la negación plausible y el colapso de la confianza, agregó.
Mark Latonero, líder de derechos humanos en Datos y Sociedad , un instituto sin fines de lucro dedicado a las aplicaciones de datos, estuvo de acuerdo en que las empresas de tecnología deberían hacer más para abordar estos problemas. Si bien Microsoft, Google, Twitter y otros tienen empleados enfocados en los derechos humanos, dijo, había mucho más que deberían hacer antes de implementar tecnologías, no después.
Ahora es realmente el momento para que las empresas, los investigadores y otros construyan estas conexiones muy sólidas con la sociedad civil y las diferentes oficinas de país donde sus productos podrían lanzarse, dijo. Comprometerse con las personas más cercanas a los problemas en estos países. Construya esas alianzas ahora. Cuando algo sale mal, y lo hará, podemos comenzar a tener la base para la colaboración y el intercambio de conocimientos.