211service.com
Facebook acaba de lanzar una base de datos de 100.000 deepfakes para enseñar a la IA cómo detectarlos
Deepfakes ha tocado la fibra sensible tanto del público como de los investigadores. Hay algo excepcionalmente inquietante en estas imágenes generadas por IA de personas que parecen decir o hacer algo que no dijeron.
Con herramientas para hacer deepfakes ahora ampliamente disponibles y relativamente fáciles de usar, a muchos también les preocupa que se utilicen para difundir información errónea peligrosa. A los políticos se les puede poner en la boca las palabras de otras personas o hacerlos participar en situaciones en las que no participaron, por ejemplo.
Ese es el miedo, al menos. Para el ojo humano, la verdad es que las falsificaciones aún son relativamente fáciles de detectar. y de acuerdo a un informe de la firma de ciberseguridad DeepTrace Labs en octubre de 2019, siendo los más completos hasta la fecha, no se han utilizado en ninguna campaña de desinformación. Sin embargo, el mismo informe también encontró que la cantidad de deepfakes publicados en línea estaba creciendo rápidamente, con alrededor de 15,000 apareciendo en los siete meses anteriores. Ese número será mucho mayor ahora.
A las empresas de redes sociales les preocupa que los deepfakes pronto puedan inundar sus sitios. Pero detectarlos automáticamente es difícil. Para abordar el problema, Facebook quiere usar IA para ayudar a luchar contra las falsificaciones generadas por IA. Para entrenar a las IA para detectar videos manipulados, está lanzando el mayor conjunto de datos de deepfakes: más de 100 000 clips producidos con 3426 actores y una variedad de técnicas existentes de intercambio de rostros.
Deepfakes actualmente no son un gran problema, dice el CTO de Facebook, Mike Schroepfer. Pero la lección que aprendí de la manera más difícil en los últimos dos años es que no me tomen con los pies planos. Quiero estar realmente preparado para muchas cosas malas que nunca suceden y no al revés.
Facebook también ha anunciado el ganador de su Desafío de detección de Deepfake , en el que 2.114 participantes enviaron alrededor de 35.000 modelos entrenados en su conjunto de datos. El mejor modelo, desarrollado por Selim Seferbekov, un ingeniero de aprendizaje automático de la firma de mapeo Mapbox, pudo detectar si un video era falso con un 65% de precisión cuando se probó en un conjunto de 10,000 clips nunca antes vistos, incluida una combinación de videos nuevos. generados por Facebook y los existentes tomados de internet.
Para hacer las cosas más difíciles, el conjunto de entrenamiento y el conjunto de prueba incluyen videos que pueden confundir a un sistema de detección, como personas que dan tutoriales de maquillaje y videos que han sido modificados pegando texto y formas sobre las caras de los oradores, cambiando la resolución o orientación y frenándolos.
En lugar de aprender técnicas forenses, como buscar huellas dactilares digitales en los píxeles de un video dejado por el proceso de generación de deepfake, las cinco entradas principales parecen haber aprendido a detectar cuándo algo parecía mal, como lo haría un humano.
Para hacer esto, todos los ganadores utilizaron un nuevo tipo de red neuronal convolucional (CNN) desarrollada por investigadores de Google el año pasado, llamada EfficientNets. Las CNN se usan comúnmente para analizar imágenes y son buenas para detectar rostros o reconocer objetos. Sin embargo, mejorar su precisión más allá de cierto punto puede requerir un ajuste fino ad hoc. EfficientNets proporciona una forma más estructurada de ajuste, lo que facilita el desarrollo de modelos más precisos. Pero exactamente qué es lo que las hace superar a otras redes neuronales en esta tarea no está claro, dice Seferbekov.
Facebook no planea utilizar ninguno de los modelos ganadores en su sitio. Por un lado, el 65% de precisión aún no es lo suficientemente bueno para ser útil. Algunos modelos lograron más del 80 % de precisión con los datos de entrenamiento, pero esto disminuyó cuando se comparó con clips invisibles. Generalizar a nuevos videos, que pueden incluir diferentes caras intercambiadas usando diferentes técnicas, es la parte más difícil del desafío, dice Seferbekov.
Piensa que una forma de mejorar la detección sería centrarse en las transiciones entre fotogramas de vídeo, rastreándolas a lo largo del tiempo. Incluso los deepfakes de muy alta calidad tienen algunos parpadeos entre fotogramas, dice Seferbekov. Los humanos son buenos para detectar estas inconsistencias, especialmente en imágenes de rostros. Pero la detección automática de estos defectos reveladores requerirá datos de entrenamiento más grandes y variados y mucha más potencia informática. Seferbekov intentó rastrear estas transiciones de cuadros, pero no pudo. La CPU fue un verdadero cuello de botella allí, dice.
Facebook sugiere que la detección de deepfakes también se puede mejorar mediante el uso de técnicas que van más allá del análisis de una imagen o video en sí, como la evaluación de su contexto o procedencia.
Sam Gregory, que dirige Witness, un proyecto que apoya a los activistas de derechos humanos en el uso de tecnologías de video, agradece la inversión de las plataformas de redes sociales en la detección de falsificación profunda. Witness es miembro de Partnership on AI, que asesoró a Facebook sobre su conjunto de datos. Gregory está de acuerdo con Schroepfer en que vale la pena prepararse para lo peor. No hemos tenido los apocalipsis deepfake, pero estas herramientas son una adición muy desagradable a la violencia de género y la desinformación, dice. Por ejemplo, el informe de DeepTrace Labs encontró que el 96% de los deepfakes eran pornografía no consentida, en el que las caras de otras personas se pegan sobre las de los artistas en clips pornográficos.
Cuando millones de personas pueden crear y compartir videos, confiar en lo que vemos es más importante que nunca. Las fake news corren como la pólvora por Facebook, y la mera posibilidad de deepfakes siembra la duda, haciéndonos es más probable que cuestionen imágenes genuinas así como falso.
Además, la detección automática pronto puede ser nuestra única opción. En el futuro veremos deepfakes que los humanos no pueden distinguir, dice Seferbekov.