Hacer herramientas deepfake no tiene por qué ser irresponsable. Así es cómo.

Un ejemplo difundido por Facebook de dos mujeres haciendo café: una es una falsificación profunda. Facebook

Las tecnologías de medios sintéticos, conocidas popularmente como deepfakes, tienen un potencial real de impacto positivo. La síntesis de voz, por ejemplo, nos permitirá hablar en cientos de idiomas con nuestra propia voz. La síntesis de video puede ayudarnos a simular accidentes de autos sin conductor para evitar errores en el futuro. Y la síntesis de texto puede acelerar nuestra capacidad para escribir tanto programas como prosa.

Pero estos avances pueden tener un costo gigantesco si no tenemos cuidado: las mismas tecnologías subyacentes también pueden permitir el engaño con ramificaciones globales.

Afortunadamente, podemos hacer realidad la promesa de la tecnología y mitigar su peligro. Solo tomará un poco de trabajo duro.

Lo que estoy discutiendo aquí pretende ser un llamado a la acción para hacer ese trabajo, y una guía para apoyar a aquellos de nosotros que creamos dicha tecnología, ya sea que estemos haciendo investigaciones innovadoras, desarrollando nuevos productos o simplemente creando productos abiertos. sistemas de fuente para la diversión. Esto también es para aquellos que invierten o financian dicho trabajo, los periodistas que podrían ayudar a garantizar que los creadores de tecnología tomen en serio sus impactos y los amigos o familiares de quienes crean esta tecnología.

Ya no podemos ausentarnos de la responsabilidad diciendo que no hay nada que podamos hacer si la gente hace un mal uso de nuestras herramientas. Porque hay cosas que podemos hacer; es solo que a menudo no nos molestamos. Otro argumento, esta tecnología se fabricará de todos modos, no es del todo falso, pero el cómo y el cuándo son importantes y pueden cambiar como resultado de nuestras elecciones. (Para obtener más información sobre esto, incluidos algunos modelos de amenazas, consulte nuestro papel completo , especialmente la Sección 2 sobre lo que conduce al daño). Finalmente, no podemos escondernos detrás del trillado reconocimiento de que siempre ha habido engaño mientras ignoramos las diferencias significativas en grado e impacto.

Los costos de la tecnología deepfake no son solo teóricos. Vídeos sintéticos de intercambio de caras acosar a los periodistas para que guarden silencio ; Las voces sintéticas se utilizan para grandes transacciones fraudulentas , y las caras sintéticas tienen supuestamente apoyó el espionaje . Todo eso a pesar de los desafíos actuales de usar software de calidad beta pirateado. Los obstáculos para el uso de medios sintéticos aún son demasiado altos para que la tecnología sea atractiva para la mayoría de los actores maliciosos, pero a medida que pasa de versiones beta con errores a las manos de miles de millones de personas, tenemos la responsabilidad de evitar peor de los casos escenarios haciendo lo más difícil posible el uso de deepfakes para el mal. ¿Cómo?

Enfoque 1: Limitar quién puede usar una herramienta... y cómo

Hay varias cosas que podemos hacer para que el uso malicioso sea mucho menos probable. Un enfoque obvio, simple y efectivo es examinar cuidadosamente aquellos que pueden usar una herramienta. Esto es lo que les gusta a las empresas síntesis están haciendo, esencialmente, trabajando solo con clientes empresariales examinados.

Una alternativa es restringir el uso : para limitar lo que los usuarios pueden sintetizar o manipular. Por ejemplo, es posible crear herramientas para garantizar que solo se puedan manipular determinadas voces o rostros seleccionados previamente. Esto es lo que humano , por ejemplo, está haciendo, proporcionando un conjunto limitado de movimientos que la persona en un video generado puede hacer.

Sin embargo, es posible que no sean una opción para muchos sistemas. Entonces, ¿qué más se puede hacer?

Enfoque 2: desalentar el uso malicioso

Para las herramientas de medios sintéticos que son generales y pueden estar ampliamente disponibles, todavía hay muchas formas posibles de reducir el uso malicioso. Aquí hay unos ejemplos.

• Divulgación clara: Solicite que los medios sintetizados se indiquen claramente como tales, en particular el material que podría usarse para inducir a error. Las herramientas pueden respaldar esto al incluir avisos visuales o audibles claros en los archivos de salida, como advertencias visibles o divulgaciones habladas. Como mínimo, los metadatos deben indicar cómo se sintetizaron o manipularon los medios.
• Protección del consentimiento: Requerir el consentimiento de los suplantados. La herramienta de clonación de voz Ave lira requiere que los usuarios hablen frases particulares para modelar su voz. Esto hace que sea más difícil hacerse pasar por alguien sin consentimiento, lo que sería muy posible si simplemente generara voces utilizando cualquier conjunto de datos proporcionado. Esto, por supuesto, solo se aplica a las herramientas que permiten la suplantación de identidad.
• Facilidad de detección: Asegúrese de que los medios sintetizados no sean excesivamente difíciles de detectar; mantener actualizadas las herramientas del detector; colabore con aquellos que trabajan en la detección para mantenerlos al tanto de los nuevos desarrollos.
• Marcas de agua ocultas: Incruste el contexto sobre la síntesis, o incluso los medios originales, a través de marcas de agua sólidas, utilizando métodos que sean accesibles para cualquier persona con las herramientas adecuadas y mediante enfoques que sean secretos y difíciles de eliminar. (Por ejemplo, Modulate.ai marca de agua el audio que genera, mientras que productos como imatag y sus equivalentes de código abierto permiten la marca de agua para las imágenes).
• Registros de uso: Almacene información sobre el uso y los resultados de los medios de manera que los investigadores y periodistas puedan acceder para identificar si, por ejemplo, un video probablemente se sintetizó con una herramienta en particular. Esto podría incluir el almacenamiento de marcas de tiempo de síntesis con un hash robusto o incrustación de medios.
• Restricciones de uso: Proporcione y haga cumplir términos de uso contractuales que prohíban y penalicen acciones no deseadas, como intentar eliminar divulgaciones o marcas de agua, o violar el consentimiento de otras personas. Una versión más fuerte de este enfoque implica elaborar explícitamente los usos permitidos de la tecnología o los productos resultantes.

No todas estas estrategias son aplicables a todos los sistemas. Algunos pueden tener sus riesgos y ninguno es perfecto o suficiente por sí solo. Todos ellos forman parte de una defensa en profundidad, donde más es más. Incluso si tenemos una investigación de antecedentes o restricciones, estos enfoques aún hacen que un sistema sea más sólido contra los adversarios. Y aunque seguir estas reglas podría funcionar mejor para los sistemas de software como servicio, que se entregan sin revelar ningún código fuente, aún podrían proporcionar algún valor para las herramientas y modelos de código abierto: muchos malos actores no tendrán la capacidad técnica para obtener en torno a estas medidas de protección. ( el papel completo explora cuándo publicar el código fuente en primer lugar).

Apoyo a las herramientas éticas de falsificación profunda

Hacer un trabajo adicional para proteger a las personas de daños puede ser difícil de justificar en el competitivo entorno empresarial actual, hasta que ocurre una catástrofe irreversible. Entonces, ¿cómo ayudamos a garantizar que estos enfoques se implementen antes de que sea demasiado tarde? Aquí hay cuatro cosas que los financiadores, los gobiernos, los periodistas y el público pueden hacer ahora para apoyar a quienes fabrican herramientas éticas de medios sintéticos.

Haz que hacer lo correcto sea fácil

Eso significa que debemos invertir en investigación en todas estas áreas para que tengamos herramientas de código abierto, bien financiadas y ampliamente disponibles para implementar estos enfoques. La historia de la seguridad de la información muestra que cuando se pueden usar herramientas de código abierto fáciles de usar para mantener las cosas seguras, muchas más cosas terminan siendo seguras. La misma lógica se aplica aquí: como mínimo, necesitamos con urgencia facilitar el suministro de metadatos de divulgación, marcas de agua y registros estandarizados. También necesitamos investigación para explorar si es factible integrar la detectabilidad en modelos entrenados antes de la distribución. Sin este tipo de infraestructura e investigación, veremos muchas nuevas herramientas bien intencionadas que se utilizan de manera terrible.

Fomentar la experiencia en la mitigación del mal uso

Al igual que en la privacidad y la seguridad, debemos apoyar a las comunidades centradas en fortalecer los sistemas y abordar a los malos actores, y las empresas deben pagar a las personas para que hagan este trabajo, ya sea como consultores o internamente.

Evite financiar, construir y distribuir herramientas irresponsables

Si una empresa o herramienta no intenta al menos reducir la posibilidad de uso indebido, los financiadores y desarrolladores no deberían apoyarla. Los fabricantes de herramientas que no implementan las mejores prácticas enumeradas anteriormente deben tener muy buenas razones, y las tiendas de aplicaciones deberían exigirlas de forma predeterminada.

Crear normas responsabilizando a las personas

Si son negligentes, deberíamos denunciarlos, incluso si son nuestros socios, compañeros de trabajo, amigos o familiares. Podemos crear normas éticas elogiando a quienes hacen lo correcto y empujando a quienes no lo hacen a hacerlo mejor.

Las organizaciones que avanzan en la tecnología deepfake, como Nvidia, Adobe, Facebook y Google, deberían invertir mucho en todo lo anterior. Los capitalistas de riesgo y las fundaciones también deberían hacer su parte para apoyar este trabajo y ser cuidadosos a quién apoyan.

Esta es solo una porción de un conjunto mucho más amplio de esfuerzos que se necesitan y, en muchos casos, pueden ganarnos solo un poco más de tiempo. Eso significa que es imperativo garantizar que las plataformas y los formuladores de políticas utilicen ese tiempo de manera inteligente para hacer que nuestro ecosistema de información sea más resistente.

Nuestro pasado está plagado de personas que desearían haber introducido sus inventos con más cuidado, y solo tenemos un futuro. No lo arruinemos.

—Aviv Ovadya es el fundador de la Proyecto de tecnología reflexiva y becaria no residente en la Alianza para Asegurar la Democracia del German Marshall Fund. Vea el documento completo sobre la mitigación de los impactos negativos de la investigación de medios sintéticos, en coautoría con Jess Whittlestone, aquí .

esconder