Los escenarios de Black Mirror que están llevando a algunos expertos a pedir más secreto sobre la IA

Santiago Zavala

AI podría reiniciar industrias y hacer que la economía sea más productiva; ya está infundiendo muchos de los productos que usamos a diario. Pero un nuevo informe de más de 20 investigadores de las universidades de Oxford y Cambridge, IA abierta , y el Fundación Frontera Electrónica advierte que la misma tecnología crea nuevas oportunidades para delincuentes, operadores políticos y gobiernos opresivos, tanto que es posible que algunas investigaciones de IA deban mantenerse en secreto.

Incluido en el informe, El uso malicioso de la inteligencia artificial: previsión, prevención y mitigación , son cuatro viñetas distópicas que involucran inteligencia artificial que parecen sacadas directamente del programa de ciencia ficción de Netflix Espejo negro .

Escenario 1: la estafa de phishing más inteligente

Una administradora del sistema de seguridad robótica de un edificio pasa parte de su tiempo en Facebook durante la jornada laboral. Allí ve un anuncio de maquetas de trenes y descarga un folleto. Sin que ella lo sepa, el folleto está infectado con malware; los estafadores usaron IA para descubrir, a partir de los detalles que ella publicó públicamente, que es una entusiasta de los trenes a escala y diseñaron el folleto solo para ella. Cuando lo abre, permite a los piratas informáticos espiar su máquina y obtener su nombre de usuario y contraseña para el sistema de seguridad del edificio, lo que les permite controlarlo.

Escenario 2: La epidemia de malware

Un grupo de piratas informáticos de Europa del Este toma una técnica de aprendizaje automático que normalmente se usa para defender los sistemas informáticos y la adapta para crear una pieza de malware más tenaz y perniciosa. El programa utiliza técnicas similares a las que se encuentran en el Go-playing AI AlphaGo para generar continuamente nuevos exploits. Las computadoras bien mantenidas siguen siendo inmunes, pero los sistemas más antiguos y los dispositivos inteligentes están infectados. Millones de personas se ven obligadas a pagar un rescate de 300 euros (en Bitcoin, naturalmente) para recuperar sus máquinas. Para empeorar las cosas, los intentos de contrarrestar el malware utilizando otro exploit terminan bloqueando muchos de los sistemas inteligentes que se suponía que debían salvar.

Escenario 3: El robot asesino

Un robot de limpieza se infiltra en el Ministerio de Finanzas de Alemania mezclándose con máquinas legítimas que regresan al edificio después de un turno al aire libre. Al día siguiente, el robot realiza tareas de limpieza de rutina, identifica a la ministra de finanzas mediante reconocimiento facial, se acerca a ella y detona una bomba oculta mortal. Los investigadores rastrean al robot asesino hasta una tienda de suministros de oficina en Potsdam, donde fue adquirido con dinero en efectivo, y el rastro se enfría.

Escenario 4: Un Gran Hermano más grande

Un hombre está furioso por los ataques cibernéticos desenfrenados y la aparente incapacidad del gobierno para actuar. Inspirado por las noticias, está cada vez más decidido a hacer algo: escribir publicaciones en línea sobre los peligros, ordenar materiales para hacer carteles de protesta e incluso comprar algunas bombas de humo, que planea usar después de dar un discurso en un parque local. Al día siguiente, los policías se presentan en su oficina y le informan que su sistema predictivo de interrupción civil lo ha identificado como una amenaza potencial. Se va esposado.

Estos cinco escenarios ilustran solo algunos de los riesgos que prevén los autores del estudio. Aquí están algunos de los otros:

• botnets que usan IA para simular el comportamiento de un vasto grupo de usuarios humanos de Internet, lanzando ataques DDoS en sitios web mientras engañan al software diseñado para detectar y bloquear dichos ataques
• operaciones de estafa a gran escala que identifican a las víctimas potenciales en línea por camiones, utilizando IA para detectar personas con riqueza
• informes de noticias convincentes hechos de videos e imágenes generados por IA que parecen auténticos pero completamente falsos
• ataques de enjambres de drones que controla una sola persona, utilizando una IA para gestionar un gran número de máquinas semiautónomas
• sistemas que automatizan el trabajo pesado de la delincuencia, por ejemplo, negociar pagos de rescate con personas después de infectar sus computadoras con malware, para permitir estafas a gran escala

El estudio es menos seguro de cómo contrarrestar tales amenazas. Recomienda más investigación y debate sobre los riesgos de la IA y sugiere que los investigadores de IA necesitan un código de ética sólido. Pero también dice que deberían explorar formas de restringir la información potencialmente peligrosa, de la misma manera que a veces se controla la investigación de otras tecnologías de doble uso con potencial armamentístico.

La IA presenta un problema particularmente espinoso porque sus técnicas y herramientas ya están muy extendidas, son fáciles de difundir y cada vez más fáciles de usar, a diferencia, por ejemplo, del material fisible o los patógenos mortales, que son relativamente difíciles de producir y, por lo tanto, fáciles de controlar. Aún así, existen precedentes para restringir este tipo de conocimiento. Por ejemplo, después del intento fallido del gobierno de EE. UU. de imponer el secreto a la investigación criptográfica en la década de 1980, muchos investigadores adoptó un sistema voluntario de presentar documentos a la Agencia de Seguridad Nacional para su investigación.

Jack Clark, director de políticas de OpenAI y uno de los autores del informe, reconoce que adoptar el secreto podría ser complicado. Siempre hay una línea increíblemente fina para caminar, dice.

Aparentemente, algunos investigadores de IA agradecerían un enfoque más cauteloso. Tomas Dietterich , un profesor de la Universidad Estatal de Oregón que ha advertido antes sobre el potencial criminal de la IA, señala que los autores del informe no incluyen a expertos en seguridad informática ni a nadie como Google, Microsoft y Apple. El informe parece haber sido escrito por forasteros bien intencionados como yo en lugar de personas comprometidas en la lucha contra el ciberdelito a diario, dice.

esconder