Apple defiende su nueva tecnología contra el abuso infantil contra preocupaciones de privacidad

Foto de Rebecca Harris en Unsplash





Apple se ha jactado de algunos anuncios icónicos durante los 45 años de historia de la compañía, desde el famoso Anuncio del Super Bowl de 1984 para Mac a la empresa combativa campaña publicitaria 2019 prometiendo que lo que sucede en tu iPhone se queda en tu iPhone.

El jueves, Apple anunció nuevas tecnologías para detectar material de abuso sexual infantil (CSAM, por sus siglas en inglés) directamente en los iPhones y, de repente, parece que lo que hay en su iPhone ya no siempre permanece ahí. Las controvertidas características nuevas atacan el corazón de las preocupaciones sobre la privacidad, la vigilancia y los delitos tecnológicos.

Apple dice que estas nuevas características preservan la privacidad mientras combaten el abuso infantil. Sin embargo, para los críticos, la pregunta más importante no es qué podría hacer la tecnología hoy; se trata de lo que podría llegar a ser mañana.



¿Permitirá la nueva tecnología de escaneo de Apple una vigilancia aún más amplia en todo el mundo? ¿Comenzarán los gobiernos a exigir que Apple busque todo tipo de contenido prohibido en los iPhones de sus países?

Apple dice que la nueva herramienta de detección, llamada NeuralHash, puede identificar imágenes de abuso infantil almacenadas en un iPhone sin descifrar la imagen. La compañía también dice que ha implementado múltiples controles para reducir la posibilidad de errores antes de que las imágenes se pasen al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) y luego a las fuerzas del orden. (Por ejemplo, el escáner debe detectar varias imágenes en lugar de solo una). La función se implementará en los Estados Unidos este año.

Google, Microsoft, Dropbox y otros grandes servicios en la nube ya escanean el material almacenado en sus servidores en busca de material de abuso infantil, por lo que la premisa general no es nueva. La diferencia aquí es que algunos de los escaneos de Apple se realizarán en el propio iPhone, y Apple argumenta que esta es la característica definitoria a favor de la privacidad de la nueva tecnología.

En una sesión informativa con periodistas el viernes, Apple dijo que mientras otros servicios en la nube escanean casi todo lo que cargan sus usuarios, el escaneo en el dispositivo de Apple está destinado a enviar solo un hash ilegible a la empresa, un código que identifica imágenes que representan abuso infantil basado en una base de datos mantenida por NCMEC en lugar de Apple.

Apple también ha señalado que la función se aplica solo a las personas que cargan fotos en iCloud (las cargas automáticas son la configuración predeterminada en los iPhone, pero pueden ser discapacitado ). Las cuentas de iCloud actualmente no están encriptadas, por lo que las fuerzas del orden ya pueden examinarlas.



Entonces, ¿por qué Apple no hace lo que hacen otras grandes empresas tecnológicas y escanea las imágenes cuando se suben a la nube en lugar de cuando todavía están en el teléfono de alguien? ¿Por qué crear un nuevo y complejo conjunto de tecnologías cuando simplemente podría sacar la tecnología existente del estante?

El próximo movimiento de Apple

Hay una enorme cantidad que no sabemos sobre lo que Apple está haciendo ahora y lo que vendrá después. Una teoría popular es que el anuncio de esta semana será el primero de varios movimientos en los próximos meses.

El marketing de Apple se ha jactado de la privacidad durante años. El iPhone fue uno de los primeros dispositivos personales en cifrarse automáticamente. iMessage es una de las aplicaciones de mensajería más populares con cifrado de extremo a extremo. Pero muchos clientes de Apple hacen una copia de seguridad automática de todo en sus cuentas de iCloud, y iCloud nunca se ha cifrado. Entonces, incluso en 2019, ese famoso anuncio de privacidad de iPhone podría haber usado un pequeño asterisco.



Durante años, los gobiernos han ejercido una enorme presión sobre todas las empresas tecnológicas, incluida Apple, para que permitan a las fuerzas del orden un acceso especial a datos cifrados para evitar lo que consideran el más atroz de los delitos. El abuso infantil siempre está en la parte superior de esa lista, seguido de cerca por el terrorismo. La aceptación pública del cifrado por parte de Apple ha dificultado el trabajo de algunos policías, pero también ha dificultado algunos tipos de vigilancia y abuso de poder.

La gran laguna siempre ha sido iCloud. Los policías tienen que trabajar duro para llegar directamente a los iPhones , pero si la mayoría de los datos ya están en una cuenta de iCloud sin cifrar, una orden judicial será suficiente.

Historia relacionada

Los piratas informáticos están encontrando formas de esconderse dentro del jardín amurallado de Apple

El enfoque de seguridad bloqueado del iPhone se está extendiendo, pero los piratas informáticos avanzados han descubierto que las barreras más altas son excelentes para evitar la captura.

Tras el anuncio de esta semana, algunos expertos creen que Apple pronto anunciará que iCloud estará encriptado. Si iCloud está encriptado pero la empresa aún puede identificar material de abuso infantil, pasar evidencia a las fuerzas del orden y suspender al infractor, eso puede aliviar parte de la presión política sobre los ejecutivos de Apple.

no aliviaría todo la presión: la mayoría de los mismos gobiernos que quieren que Apple haga más sobre el abuso infantil también quieren más acción sobre el contenido relacionado con el terrorismo y otros delitos. Pero el abuso infantil es un problema real y considerable en el que las grandes empresas tecnológicas han fallado en su mayoría hasta la fecha.

El enfoque de Apple preserva la privacidad mejor que cualquier otro que yo conozca, dice David Forsyth, presidente del departamento de informática de la Universidad de Illinois Urbana-Champaign, quien revisó el sistema de Apple. En mi opinión, este sistema probablemente aumentará significativamente la probabilidad de que se encuentre a las personas que poseen o trafican con [CSAM]; esto debería ayudar a proteger a los niños. Los usuarios inofensivos deben experimentar una pérdida de privacidad mínima o nula, porque los derivados visuales se revelan solo si hay suficientes coincidencias con las imágenes de MASI, y solo para las imágenes que coinciden con las imágenes de MANI conocidas. La precisión del sistema de comparación, combinada con el umbral, hace que sea muy poco probable que se revelen imágenes que no son imágenes conocidas de CSAM.

¿Qué pasa con WhatsApp?

Todas las grandes empresas de tecnología se enfrentan a la horrible realidad del material de abuso infantil en su plataforma. Ninguno lo ha abordado como Apple.

Al igual que iMessage, WhatsApp es una plataforma de mensajería encriptada de extremo a extremo con miles de millones de usuarios. Como cualquier plataforma de ese tamaño, enfrentan un gran problema de abuso.

Leí la información que Apple publicó ayer y estoy preocupado, jefe de WhatsApp Will Cathcart tuiteó el viernes. Creo que este es un enfoque equivocado y un revés para la privacidad de las personas en todo el mundo. La gente ha preguntado si adoptaremos este sistema para WhatsApp. La respuesta es no.

WhatsApp incluye capacidades de denuncia para que cualquier usuario pueda denunciar contenido abusivo a WhatsApp. Si bien las capacidades están lejos de ser perfectas, WhatsApp reportó más de 400 000 casos al NCMEC el año pasado.

Este es un sistema de vigilancia construido y operado por Apple que podría usarse muy fácilmente para escanear contenido privado en busca de cualquier cosa que ellos o un gobierno decidan que quiere controlar, dijo Cathcart en sus tweets. Los países donde se venden iPhones tendrán diferentes definiciones sobre lo que es aceptable. ¿Se utilizará este sistema en China? ¿Qué contenido considerarán ilegal allí y cómo lo sabremos? ¿Cómo gestionarán las solicitudes de los gobiernos de todo el mundo para agregar otros tipos de contenido a la lista para escanear?

En su sesión informativa con los periodistas, Apple enfatizó que esta nueva tecnología de escaneo solo se estaba lanzando en los Estados Unidos hasta el momento. Pero la compañía continuó argumentando que tiene un historial de lucha por la privacidad y espera seguir haciéndolo. De esa manera, gran parte de esto se reduce a confiar en Apple.

La compañía argumentó que los nuevos sistemas no pueden ser objeto de apropiación indebida fácilmente por acción del gobierno, y enfatizó repetidamente que optar por no participar era tan fácil como desactivar la copia de seguridad de iCloud.

A pesar de ser una de las plataformas de mensajería más populares del mundo, iMessage ha sido criticado durante mucho tiempo por carecer del tipo de capacidades de informes que ahora son comunes en las redes sociales de Internet. Como resultado, Apple históricamente ha informado una pequeña fracción de los casos al NCMEC que hacen las empresas como Facebook.

En lugar de adoptar esa solución, Apple ha creado algo completamente diferente, y los resultados finales son una pregunta abierta y preocupante para los halcones de la privacidad. Para otros, es un cambio radical bienvenido.

La protección ampliada de Apple para los niños cambia las reglas del juego, dijo John Clark, presidente del NCMEC, en un comunicado. La realidad es que la privacidad y la protección infantil pueden coexistir.

Altas estacas

Un optimista diría que habilitar el cifrado completo de las cuentas de iCloud y al mismo tiempo detectar material de abuso infantil es una victoria tanto contra el abuso como contra la privacidad, y tal vez incluso un movimiento político hábil que embota la retórica contra el cifrado de los funcionarios estadounidenses, europeos, indios y chinos.

Un realista se preocuparía por lo que viene después de los países más poderosos del mundo. Es una garantía virtual de que Apple recibirá, y probablemente ya haya recibido, llamadas de las ciudades capitales a medida que los funcionarios del gobierno comiencen a imaginar las posibilidades de vigilancia de esta tecnología de escaneo. La presión política es una cosa, la regulación y el control autoritario son otra. Pero esa amenaza no es nueva ni específica de este sistema. como empresa con un historial de compromiso silencioso pero rentable con China , Apple tiene mucho trabajo por hacer para persuadir a los usuarios de su capacidad para resistir a los gobiernos draconianos.

Todo lo anterior puede ser cierto. Lo que viene a continuación definirá en última instancia la nueva tecnología de Apple. Si los gobiernos usan esta característica como arma para ampliar la vigilancia, entonces la compañía claramente no está cumpliendo con sus promesas de privacidad.

esconder