Tres amenazas planteadas por deepfakes que la tecnología no resolverá

Captura de pantalla del video deepfake de Putin Revisión de tecnología del MIT

Imagínese esto: finalmente existe un detector de falsificación profunda perfectamente preciso. Instantáneamente agrega una gran etiqueta roja DEEPFAKE a cada video que ha sido manipulado con IA, sin importar qué tan perfectamente realista pueda parecer el video.

Eso puede sonar como lo que necesitamos para luchar contra las falsificaciones profundas, lo que a la gente le preocupa que podría traer el final de la verdad y el muerte de la democracia . Los videos manipulados perfectamente reales podrían estar aquí en tan solo seis meses. , que sugiere que la campaña para las elecciones presidenciales de EE. UU. de 2020 podría convertirse en un campo de batalla de videos falsos: Donald Trump admitiendo acuerdos corruptos con Rusia, Elizabeth Warren abogando por una prohibición total de las armas, Kamala Harris menospreciando a los blancos.

Los tecnólogos han respondido con más tecnología. El El gobierno de los Estados Unidos ha financiado un proyecto sobre la ciencia forense de los medios. Facebook y Microsoft anunciaron recientemente una desafío de detección de deepfakes, y Google lanzó una base de datos gigante de deepfakes para luchar contra los deepfakes. Pero si bien la técnica de crear deepfakes es nueva, gran parte del daño real que representan (desinformación y acoso) no lo es, según Britt Paris, investigadora de la información en la Universidad de Rutgers y coautora de un artículo. informe reciente de datos y sociedad en falsificaciones profundas. Un detector de deepfake perfectamente preciso no puede abordar esos daños. Esta es la razón por.

1) Problema: los detectores de deepfake no pueden decirnos qué debe y qué no debe eliminarse

¿Recuerdas ese video ralentizado de Nancy Pelosi? Eso no fue un deepfake. Todavía difundía falsedades, y Facebook decidió no eliminarlo. Un detector de falsificación profunda no habría ayudado con ese juicio. Cuanto más te acercas al uso automatizado, más probable es que tengas inexactitudes o censura, dice Kate Klonick, profesora de la Universidad de St. John y experta en gobernanza de plataformas. Definir sátira, definir noticias falsas, definir ficción: todas estas son grandes preguntas filosóficas.

Idea: Mejor moderación

La sociedad tiene que resolver estos problemas. Hasta entonces, una solución podría ser otorgar más poder a aquellos que son capaces de tomar decisiones: los moderadores de contenido humano. Con ese fin, se les podría pagar más a los moderadores, recibir una mejor capacitación y ser valorados como una parte importante para mantener un Internet seguro. dice Sarah T. Roberts, experta en información de la UCLA. Equipos especializados de moderadores examinados podrían juzgar el contexto de un video, verificarlo y decidir si debe permanecer en una plataforma. Es posible que no tengan la respuesta perfecta para ese video de Pelosi, pero aún tendrían una idea del impacto social y político de una variedad de falsificaciones profundas y sus objetivos. Podrían decir que parodia de deepfakes de Nicolas Cage están bien y porno falso no es.

¿Alguien más que podría estar calificado para juzgar un deepfake? La víctima de uno. Las empresas deberían facilitar la denuncia de acoso con deepfakes, dice Danielle Citron, experta en derecho cibernético de la Universidad de Boston. Todos los usuarios deben ser educados sobre sus derechos, y los pasos para informar deben ser obvios y accesibles, no ocultos en una política de privacidad.

2) Problema: Es posible que la tecnología antifalsificación profunda no ayude a las personas que más necesitan protección

La historia ha demostrado que la nueva tecnología se usa contra grupos marginados, como mujeres, personas de color, personas LGBT y activistas, antes de que se convierta en una amenaza generalizada, dice Paris. En la década de 1990, por ejemplo, ya había toscas imágenes retocadas con Photoshop de cabezas de mujeres en los cuerpos de actrices de películas para adultos. A la gente en el poder no le importaba lo suficiente como para hacer algo al respecto. Si hubiéramos prestado atención al problema de la explotación sexual de las mujeres sin su consentimiento en ese momento, habríamos estado en una posición mucho mejor para enfrentarlo social, legal y culturalmente ahora, dice Mary Anne Franks, experta en derecho de la Universidad. de miami

La historia se repite. Los investigadores dicen que el mayor riesgo de las falsificaciones profundas no es que cambien las elecciones, sino que están acostumbrados a intimidar ciudadanos privados.

Idea: No construyas nada sin consultar a los más afectados

Hable con las personas que son más vulnerables a las falsificaciones profundas, dice Sam Gregory, director de programas de Witness, una organización sin fines de lucro que estudia los medios sintéticos. Incluso si el objetivo es crear un detector de falsificaciones profundas, hay muchas cuestiones sociales involucradas. ¿Estará disponible para personas en otros países? ¿Estará capacitado para detectar fakes políticos o violencia de género y sexual? Una vez que se establece la infraestructura, son realmente las personas y las poblaciones marginadas las que quedan excluidas, porque no tienen la agencia para cambiar esa infraestructura, dice Gregory.

3) Problema: la detección de deepfake es demasiado tarde para ayudar a las víctimas

Con los deepfakes, hay pocos recursos reales después de que se publica el video o el audio, dice Franks, académico de la Universidad de Miami.

Las leyes existentes son inadecuadas. Las leyes que castigan el intercambio de información privada legítima, como registros médicos, no se aplican a videos falsos pero dañinos. Las leyes contra la suplantación de identidad son extrañamente limitadas, dice Franks: se enfocan en hacer que sea ilegal hacerse pasar por un médico o un funcionario del gobierno. Las leyes de difamación solo abordan las representaciones falsas que retratan al sujeto de manera negativa, pero Franks dice que también deberíamos preocuparnos por las falsificaciones profundas que retratan falsamente a las personas de manera positiva.

Idea: Nuevas leyes

Texas aprobó recientemente un proyecto de ley para prohibir las falsificaciones profundas . A Proyecto de ley deepfake de California aprobada en ambas cámaras y ahora espera la firma del gobernador Gavin Newsom. Mientras tanto, la representante Yvette Clarke, congresista estadounidense de Nueva York, presentó recientemente una legislación federal denominada Ley de responsabilidad de DEEPFAKES . Obligaría a las empresas de redes sociales a crear mejores herramientas de detección en sus plataformas y permitiría castigar o encarcelar a las personas que publican falsificaciones maliciosas.

Por su parte, Franks y Citron están trabajando en un proyecto de ley federal para criminalizar los deepfakes maliciosos, a los que denominan falsificaciones digitales. Para su forma de pensar, una falsificación digital es algo que una persona razonable pensaría que es real. También debe ser probable que cause daño a una persona en particular o al orden público, por ejemplo, si un video muestra falsamente a una persona musulmana cometiendo un delito.

Para que cualquier ley de este tipo funcione en los EE. UU., idealmente sería a nivel federal, no a nivel estatal. Debido a una ley llamada Sección 230, las empresas de plataformas no son legalmente responsables de alojar contenido dañino de terceros a menos que viole la ley penal federal. Si publicar videos dañinos se convirtiera en un delito, no solo disuadiría a las personas de publicarlos; las plataformas como Facebook tendrían que trabajar más duro para mantenerlos alejados. Estas empresas no podrían plantear la Sección 230 en defensa, dice Franks. Tendrían cualquier cantidad de defensas, pero esa vía particular hacia ellos estaría bloqueada.

esconder