211service.com
Ex jefe de seguridad de Facebook: pedirle a Big Tech que vigile el discurso de odio es un camino peligroso
Josh Edelson | Cortesía de la Universidad de Stanford
Hasta hace unas semanas, Alex Stamos era el jefe de seguridad de Facebook. Lideró la búsqueda de desinformación política rusa en la plataforma después de las elecciones estadounidenses de 2016. Ahora en la Universidad de Stanford, anunció recientemente la creación del Observatorio de Internet de Stanford, un proyecto para abordar el discurso de odio, la propaganda y la manipulación al reunir a investigadores académicos, científicos sociales, legisladores y los mismos gigantes tecnológicos.
Como muchas personas, Stamos cree que las plataformas tecnológicas como Facebook y Google tienen demasiado poder. Pero él no está de acuerdo con las llamadas para separarlos. Y argumenta que las mismas personas que dicen que Facebook y Google son demasiado poderosos les están dando más poder al insistir en que hagan más para controlar el discurso y la propaganda de odio.
Ese es un camino peligroso, advierte. Si los países democráticos obligan a las empresas tecnológicas a imponer límites a la libertad de expresión, también lo harán las autocráticas. En poco tiempo, la tecnología permitirá la moderación en tiempo real y a velocidad de máquina de todo lo que decimos en línea. Al intentar controlar a Big Tech, corremos el riesgo de crear Big Brother. Entonces, ¿cuál es la solución? Hablé con Stamos en su oficina de Stanford para averiguarlo. (La entrevista ha sido condensada y editada para mayor claridad).
Dijiste recientemente que ya es demasiado tarde para salvar las elecciones intermedias de 2018 de la interferencia extranjera. ¿Quién tiene la culpa de dejar que eso suceda, dado todo lo que aprendimos en 2016?
Tres cosas sucedieron en 2016. Hubo una campaña de desinformación y propaganda por parte de la Agencia de Investigación de Internet [de Rusia] y grupos relacionados. Hubo una campaña de filtraciones donde el GRU [inteligencia militar rusa] irrumpió en el correo electrónico del DNC [Comité Nacional Demócrata] y luego plantó historias [en los medios]. Y hubo una penetración exploratoria de los sistemas electorales de 21 estados.
El primer problema ha tenido la mayor parte del trabajo [hecho en él] porque cae completamente dentro de la responsabilidad de las plataformas. Han definido qué es un anuncio político y qué es un anuncio temático, crearon transparencia en los anuncios, definieron qué es una coordinación inapropiada y comenzaron a hacer cumplir esas reglas.
Los rusos pudieron enviar a su equipo B para piratear el DNC. No estoy seguro de que la gente esté lista para el equipo A'.
En la campaña de pirateo y filtración de GRU, ha sucedido muy poco. Ha habido mejoras en la seguridad en el DNC. Espero que la mayoría de las campañas estén siendo más cuidadosas. Pero no parece haber una mejora general de la seguridad entre las campañas y los candidatos. Los rusos pudieron enviar a su equipo B para piratear el DNC. No estoy seguro de que la gente esté lista para el equipo A.
En el tercero no hemos hecho casi nada. Todavía tienes 10.000 autoridades electorales [en los EE. UU.] organizando elecciones. Tenemos varios estados sin respaldo en papel [para las boletas]. Hay demasiadas autoridades responsables de su propia seguridad para que podamos asegurar [las elecciones] sin que el gobierno federal proporcione una gran cantidad de recursos. Ahí es donde creo que tenemos algunas de las mayores vulnerabilidades.
Entonces, ¿el problema de la desinformación/propaganda está mayormente resuelto?
En una sociedad libre, nunca eliminarás ese problema. Creo que lo más importante [en EE. UU.] es la transparencia publicitaria. Con o sin interferencia extranjera, los partidos, las campañas, los PAC [comités de acción política] aquí en los EE. UU. están repartiendo el electorado en pequeños cubos, y eso es algo malo. La transparencia es un buen comienzo.
El próximo paso que necesitamos es una legislación federal para poner un límite a la orientación de los anuncios. Hay miles de empresas en el ecosistema publicitario de Internet. Facebook, Google y Twitter son los únicos que han hecho algo, porque han recibido la mayor cobertura de prensa y la mayor presión de los políticos. Entonces, sin legislación, solo vamos a empujar a todos los atacantes a la larga cola de la publicidad, a compañías que no tienen equipos dedicados que buscan grupos de desinformación rusos.
Facebook ha sido criticado por la interferencia política rusa tanto en EE. UU. como en otros países. el genocidio en myanmar , y un monton de otras cosas. ¿Crees que Facebook ha captado completamente el alcance de su influencia y su responsabilidad?
Creo que la compañía ciertamente entiende su impacto. Lo difícil es resolverlo. El noventa por ciento de los usuarios de Facebook viven fuera de los Estados Unidos. Bastante más de la mitad vive en países no libres o en democracias sin protección para la expresión. Uno de los problemas es encontrar soluciones en estos países que no vayan inmediatamente a un lugar muy oscuro [es decir, la censura].
“Creo que [Facebook] ciertamente entiende su impacto. La parte difícil es resolverlo.
Otro es averiguar en qué problemas poner los recursos de ingeniería detrás. No importa cuán grande sea una empresa, solo hay una cierta cantidad de problemas que puede abordar. Uno de los problemas que han tenido las empresas es que están en un modo de extinción de incendios en el que saltan de emergencia en emergencia.
Entonces, a medida que contratan personal, eso mejora, pero también necesitamos una discusión externa más informada sobre las cosas en las que queremos que se centren las empresas: cuáles son los problemas que absolutamente deben resolverse y cuáles no. Mencionaste un montón de problemas que en realidad son muy diferentes, pero la gente los confunde todos juntos.
¿Crees que las empresas tecnológicas tienen demasiado poder? ¿Debería obligarse a Facebook a deshacerse de Instagram y WhatsApp, por ejemplo?
Si la gente antimonopolio cree que es apropiado forzar la desinversión de plataformas individuales, eso depende de ellos. No creo que eso resuelva estos problemas o los empeore. Lo que empeoraría las cosas es dividir productos específicos. Diez WhatsApp es peor que un WhatsApp, y diez Facebook es peor que un Facebook, porque pierdes las economías de escala [y] la capacidad de tener equipos bien equipados que sean expertos en este tipo de abuso [discurso de odio, propaganda, etc. .].
La verdad es que las grandes empresas han sido las que respondieron. Todo el mundo está ignorando a las pequeñas empresas porque no son buenos titulares. Facebook ha hecho más que la gran mayoría de otras empresas.
¿Cómo se regula en un mundo en el que la tecnología avanza tan rápido mientras que la regulación se mueve tan lentamente? ¿Cómo debería una sociedad establecer límites sensatos sobre lo que hacen las empresas tecnológicas?
Pero en este momento, la sociedad no está pidiendo límites en lo que hacen. Es pedir que las empresas tecnológicas hagan más . Y creo que ese es un camino peligroso. En todos los problemas que mencionó (desinformación rusa, Myanmar), lo que les está diciendo a estas empresas es: Queremos que tengan más poder para controlar lo que otras personas dicen y hacen.
'Dentro de cinco o diez años podría haber… moderación en tiempo real y a velocidad de máquina de todo lo que decimos en línea'.
Eso es muy peligroso, especialmente con el auge del aprendizaje automático. Dentro de cinco o diez años, podría haber sistemas de aprendizaje automático que entiendan los lenguajes humanos tan bien como los humanos. Podríamos terminar con una moderación en tiempo real a velocidad de máquina de todo lo que decimos en línea. Entonces, los poderes que otorgamos a las empresas tecnológicas en este momento son los poderes que esas máquinas tendrán en cinco años.
¿Cuál es el problema básico que el Observatorio de Internet de Stanford está tratando de resolver?
No existe un campo académico específico que estudie el mal uso de la tecnología, fuera de las fallas altamente técnicas. Los departamentos de informática investigan nuevos tipos de exploits, nuevos tipos de errores, soluciones criptográficas esotéricas, pero no se puede obtener un doctorado estudiando la intimidación y el acoso y las soluciones técnicas para ellos. Es posible que haya politólogos que estudien el impacto de las redes sociales en la democracia y personas del departamento de psicología que estudien el impacto del uso de Instagram en adolescentes con tendencias suicidas, pero carecen de las habilidades técnicas y la infraestructura.
Por lo tanto, el Observatorio de Internet de Stanford será un programa permanente, integrado por científicos de datos, ingenieros de software, investigadores y analistas que entienden cómo interactuar con las plataformas tecnológicas y cómo realizar análisis de datos a gran escala. Ese grupo puede luego brindar servicios a grupos académicos de todo el mundo y hacer su propia investigación. Entonces podemos catalizar el trabajo que probablemente no sucedería porque no cae claramente en ninguna esfera académica.
¿Cuáles son algunas de las soluciones en las que está trabajando?
Si observa 2016, lo que ve son fallas de inteligencia entre el gobierno de los EE. UU. [y] los gobiernos aliados, y entre esos gobiernos y las plataformas tecnológicas. Necesitamos pensar en las responsabilidades de estos diferentes grupos y cómo se alinea el hecho de que las empresas tecnológicas actúan de manera casi gubernamental. ¿Qué tipo de controles deberían tener y en qué punto comienza y termina su responsabilidad? Estamos trabajando en recomendaciones para el Congreso para el próximo año.
También estamos desarrollando la capacidad para monitorear el uso de desinformación en varias elecciones. Nuestro objetivo es tener eso en funcionamiento para las elecciones indias y europeas del próximo año.
Los demócratas inevitablemente serán más receptivos que los republicanos a este tipo de soluciones. ¿Cómo se hace esto no partidista?
La idea de que la interferencia electoral solo ayuda a los republicanos es una locura. El libro de jugadas ruso está ahí fuera. Las debilidades de nuestro sistema han quedado demostradas. Les hemos señalado a nuestros adversarios que pueden interferir en nuestra elección y no haremos nada para castigar realmente eso.
'Mi mensaje para los republicanos es: 'Solucionemos este problema antes de que tengan que tener su propio 2016''.
Así que espero que otros adversarios se involucren en futuras elecciones. China, Irán, Corea del Norte: la idea de que todos estos países van a apoyar a los republicanos es ridícula. Así que mi mensaje para los republicanos es: solucionemos este problema antes de que tengan que tener su propio 2016.
Esta discusión debe pasar más allá de Trump. Los republicanos terminan con un congelamiento de cerebro si insinúas que Trump no fue elegido de manera justa y honesta. Entonces, solo tenemos que hablar sobre las vulnerabilidades y el posible impacto que tiene en 2020. Cuando hablo en privado con los republicanos, son mucho más receptivos a esto.
Un problema relacionado es la falta de alfabetización tecnológica entre los políticos. ¿Cómo solucionas eso?
Estas personas generalmente tienen empleados bastante inteligentes, pero la mayoría de los empleados no han trabajado en tecnología. Entonces, debemos incentivar a las personas que han trabajado en tecnología para que trabajen en DC. Hay ejemplos como chris soghoian [un activista tecnológico, que ahora trabaja para el senador Ron Wyden] donde los técnicos van al Congreso y tienen un gran impacto individualmente.
Y va en ambos sentidos. Necesitamos enseñar a los informáticos sobre historia y ética, y necesitamos enseñar a los estudiantes de artes liberales sobre los fundamentos de la tecnología para que tengan la capacidad de ser influyentes. La capacidad de hablar con los nerds de una manera que respeten es enormemente poderosa, y eso es algo que falta en el Congreso en este momento.