La economía de atención de Big Tech se puede reformar. Así es cómo.

Sra. Tecnología | Getty

Esta semana, una turba violenta montó el mayor ataque contra el Capitolio, la sede de la democracia estadounidense, en más de 200 años, impulsada por la falsa creencia de que las elecciones presidenciales habían sido robadas. El autor principal de esa afirmación fue el presidente Donald Trump, pero la disposición de la mafia a creer que era en gran parte producto de la economía de la atención que ha creado la tecnología moderna.

Los feeds de noticias en Facebook o Twitter funcionan con un modelo comercial de mercantilizar la atención de miles de millones de personas por día, clasificando tweets, publicaciones y grupos para determinar cuál obtiene la mayor participación (clics, vistas y acciones), lo que se vuelve más emocional. reacciones Estas plataformas de atención mercantilizadoras han deformado la psique colectiva. Han llevado a visiones más estrechas y locas del mundo.

Nota: Este ensayo es un extracto adaptado de Lo nuevo posible: visiones de nuestro mundo más allá de la crisis , a ser publicado el 26 de enero de 2021 por Cascade Books.

Los algoritmos de recomendación de YouTube, que determinan el 70 % del tiempo de visualización diario para miles de millones de personas, sugieren lo que deberían ser videos similares, pero en realidad llevan a los espectadores a contenido más extremo, más negativo o más conspirativo porque eso es lo que los mantiene en sus pantallas por más tiempo. Durante años, YouTube recomendó thinspiration (videos que promueven la anorexia) a las adolescentes que veían videos sobre dietas. Y cuando la gente miraba videos científicos del alunizaje de la NASA, YouTube recomendaba videos sobre la teoría de la conspiración de la Tierra plana. Hizo esto cientos de millones de veces. Las fuentes de noticias y los sistemas de recomendación como este han creado una espiral descendente de negatividad y paranoia, desvinculando lentamente la percepción de la realidad de miles de millones de personas de la realidad misma.

Historia relacionada

Cómo una mentira de Internet sobre la invasión del Capitolio se convirtió en una teoría de conspiración instantánea Las afirmaciones falsas de que la invasión del Congreso fue un montaje se difundieron a un ritmo vertiginoso, gracias a los activistas, los medios de comunicación y los políticos republicanos.

Ver la realidad con claridad y veracidad es fundamental para nuestra capacidad de hacer cualquier cosa. Al monetizar y mercantilizar la atención, hemos vendido nuestra capacidad de ver problemas y promulgar soluciones colectivas. Esto no es nuevo. Casi cada vez que permitimos que los sistemas de soporte vital de nuestro planeta o sociedad se mercantilicen, se generan otras fallas. Cuando mercantiliza la política con anuncios microdirigidos optimizados por IA, elimina la integridad de la política. Cuando mercantilizas los alimentos, pierdes el contacto con el ciclo de vida que hace que la agricultura sea sostenible. Cuando mercantiliza la educación en fuentes digitales de contenido, pierde la interrelación del desarrollo humano, la confianza, el cuidado y la autoridad docente. Cuando mercantilizas el amor convirtiendo a las personas en cartas de juego en Tinder, cortas el complejo baile que implica forjar nuevas relaciones. Y cuando mercantilizas la comunicación en fragmentos de publicaciones e hilos de comentarios en Facebook, eliminas el contexto, los matices y el respeto. En todos estos casos, los sistemas extractivos erosionan lentamente los cimientos de una sociedad saludable y un planeta saludable.

Sistemas de cambio para proteger la atención

EO Wilson, el célebre biólogo, propuso que los humanos deberían controlar solo la mitad de la Tierra, y que el resto debería quedarse en paz. Imagine algo similar para la economía de la atención. Podemos y debemos decir que queremos proteger la atención humana, incluso si eso sacrifica una parte de las ganancias de Apple, Google, Facebook y otras grandes corporaciones tecnológicas.

Los bloqueadores de anuncios en dispositivos digitales son un ejemplo interesante de lo que podría convertirse en un cambio estructural en el mundo digital. ¿Son los bloqueadores de anuncios un derecho humano? Si todos pudieran bloquear los anuncios en Facebook, Google y los sitios web, Internet no podría financiarse a sí mismo y la economía publicitaria perdería grandes cantidades de ingresos. ¿Ese resultado niega el derecho? ¿Tu atención es un derecho? ¿Eres dueño? ¿Deberíamos ponerle precio? Vender órganos humanos o personas esclavizadas puede satisfacer una demanda y generar ganancias, pero decimos que estos artículos no pertenecen al mercado. Al igual que los seres humanos y sus órganos, ¿debería ser la atención humana algo que el dinero no puede comprar?

¿Tu atención es un derecho? ¿Eres dueño? ¿Deberíamos ponerle precio? Al igual que los seres humanos y sus órganos, ¿debería ser la atención humana algo que el dinero no puede comprar?

La pandemia de covid-19, el movimiento Black Lives Matter, el cambio climático y otras crisis ecológicas han hecho que cada vez más personas se den cuenta de lo rotos que están nuestros sistemas económicos y sociales. Pero no estamos llegando a las raíces de estas crisis interconectadas. Estamos cayendo en intervenciones que se sienten como la respuesta correcta, pero en cambio son trampas que mantienen subrepticiamente el status quo. Las prácticas policiales ligeramente mejores y las cámaras corporales no previenen la mala conducta policial. Comprar un Prius o un Tesla no es suficiente para reducir realmente los niveles de carbono en la atmósfera. Reemplazar las pajitas de plástico por otras biodegradables no va a salvar los océanos. El movimiento de Instagram para ocultar la cantidad de Me gusta no está transformando los problemas de salud mental de los adolescentes, cuando el servicio se basa en la comparación social constante y el secuestro sistémico del impulso humano de conexión. Necesitamos una reforma sistémica mucho más profunda. Necesitamos cambiar las instituciones para que sirvan al interés público de manera acorde con la naturaleza y la escala de los desafíos que enfrentamos.

En el Center for Humane Technology, una cosa que hicimos fue convencer a Apple, Google y Facebook de que adoptaran, al menos en parte, la misión de Time Well Spent, incluso si iba en contra de sus intereses económicos. Este fue un movimiento que lanzamos a través de amplias campañas públicas de concientización y defensa en los medios, y ganó credibilidad entre los diseñadores de tecnología, los padres preocupados y los estudiantes. Pidió cambiar los incentivos del mundo digital de una carrera por el tiempo dedicado a las pantallas y aplicaciones a una carrera hacia la cima para ayudar a las personas a pasar bien el tiempo. Ha llevado a un cambio real para miles de millones de personas. Apple, por ejemplo, presentó funciones de Screen Time en mayo de 2018 que ahora se envían con todos los iPhones, iPads y otros dispositivos. Además de mostrar a todos los usuarios cuánto tiempo pasan en su teléfono, Screen Time ofrece un tablero de controles parentales y límites de tiempo de aplicaciones que muestran a los padres cuánto tiempo pasan sus hijos en línea (y qué están haciendo). Google lanzó su similar Bienestar Digital iniciativa al mismo tiempo. Incluye otras funciones que sugerimos, como facilitar la desconexión antes de acostarse y limitar las notificaciones. En la misma línea, YouTube introdujo las notificaciones de tomar un descanso.

Estos cambios muestran que las empresas están dispuestas a hacer sacrificios, incluso en el ámbito de miles de millones de dólares. Sin embargo, todavía no hemos cambiado la lógica central de estas corporaciones. Que una empresa haga algo en contra de su interés económico es una cosa; hacer algo en contra del ADN de su propósito y metas es algo completamente diferente.

Trabajando hacia la acción colectiva

Necesitamos una reforma sistémica profunda que haga que las corporaciones de tecnología sirvan al interés público ante todo. Tenemos que pensar en grande sobre cuánto cambio sistémico podría ser posible y cómo aprovechar la voluntad colectiva de la gente.

Historia relacionada

Los evangélicos están buscando respuestas en línea. En su lugar, están encontrando a QAnon. Cómo el creciente movimiento pro-Trump se aprovecha de los feligreses para difundir sus teorías de conspiración.

Recientemente en el Centro de Tecnología Humana entrevistamos a Christiana Figueres, exsecretaria ejecutiva de la Convención de las Naciones Unidas sobre el Cambio Climático (2010–2016) , para nuestro podcast Your Undivided Attention. Ella fue responsable de la diplomacia colaborativa que condujo al Acuerdo de París, y aprendimos cómo pudo hacer esto: lograr que 195 países diferentes, contra viento y marea, hicieran resoluciones compartidas de buena fe para abordar el cambio climático. Figueres inicialmente no creía que fuera posible lograr que tantos países estuvieran de acuerdo, pero se dio cuenta de que organizar con éxito la Convención de París significaba que ella misma tendría que cambiar. Ella Tenía que creer genuinamente que era posible lograr que los países se comprometieran con la acción climática. Fue así como pudo luego enfocarse en lograr que los países participantes creyeran en la posibilidad de abordar también el cambio climático. Donde las negociaciones climáticas internacionales anteriores habían fracasado, los esfuerzos de Figueres unieron a las naciones para acordar financiamiento, nuevas tecnologías y otras herramientas para mantener el aumento de la temperatura global por debajo de 2 o, mejor aún, 1,5 °C.

En el caso de la industria tecnológica, tenemos una ventaja en el sentido de que no necesitamos convencer a cientos de países o millones de personas. Menos de 10 personas manejan la infraestructura digital más poderosa del siglo XXI: las llamadas empresas FAANG, que comprenden Facebook, Amazon, Apple, Netflix y Alphabet (anteriormente Google). Si esas personas se reunieran y acordaran que maximizar las ganancias de los accionistas ya no es el objetivo común, la infraestructura digital podría ser diferente. Si Christiana Figueres pudiera lograr un consenso entre 195 naciones, podríamos considerar la posibilidad de hacerlo con 10 CEO tecnológicos.

Una nueva economía de la tecnología humana

Varios principios económicos deben cambiar para que la tecnología se alinee con la humanidad y el planeta. Uno de ellos es el paradigma del crecimiento. Simplemente no puedes llevar a cabo una lógica de crecimiento infinito en un sustrato finito. El impulso por el crecimiento económico infinito está conduciendo a una crisis ecológica planetaria. Para las empresas de tecnología, perseguir el crecimiento infinito de la atención humana extraída conduce a una crisis similar de conciencia global y bienestar social. Necesitamos cambiar a una economía de atención posterior al crecimiento que coloque la salud mental y el bienestar en el centro de nuestros resultados deseados.

Varios principios económicos deben cambiar para que la tecnología se alinee con la humanidad y el planeta.

Un pequeño indicio de este cambio se está produciendo en países como Nueva Zelanda y Escocia, donde organizaciones como Wellbeing Economy Alliance están trabajando para pasar de una economía que promueve el producto interno bruto (PIB) a una con estas prioridades alternativas. Los líderes se preguntan cómo el bienestar puede informar la comprensión pública de las políticas y opciones políticas, guiar las decisiones y convertirse en una nueva base para el pensamiento y la práctica económicos.

Otro cambio hacia una tecnología más humana requiere una gama más amplia de partes interesadas que puedan generar responsabilidad por el impacto social a largo plazo de nuestras acciones. En este momento, es posible que las grandes empresas de tecnología ganen dinero vendiendo porciones de atención falsas cada vez más delgadas, vendiendo clics falsos de fuentes de noticias falsas a anunciantes falsos. Estas empresas ganan dinero incluso si el enlace o el artículo conducen a un error flagrante y propagan información errónea. Este oportunismo degrada la ecología de la información al destruir nuestra capacidad de confiar en las fuentes de conocimiento o compartir creencias sobre lo que es verdad, lo que a su vez destruye nuestra capacidad para tomar buenas decisiones. El resultado es la polarización, la desinformación y la ruptura de la ciudadanía democrática. Necesitamos crear mecanismos que incentiven a los participantes en el mundo digital a considerar plazos más largos y el impacto más amplio que sus acciones están teniendo en la sociedad.

La voluntad humana juega aquí un papel importante. ¿Qué pasaría si los líderes detrás del modelo de distribución de ingresos de la App Store de Apple, que actúa como el banco central o la Reserva Federal de la economía de la atención, simplemente eligen distribuir los ingresos a los creadores de aplicaciones en función de los usuarios que compraron la mayor cantidad de bienes virtuales o pasaron la mayor parte del tiempo usando? la aplicación, pero ¿quién entre los creadores de aplicaciones cooperó mejor con otras aplicaciones en el teléfono para ayudar a todos los miembros de la sociedad a vivir más según sus valores?

En última instancia, se trata de establecer las reglas correctas. Es difícil para cualquier actor optimizar para el bienestar y la alineación con los valores de la sociedad cuando otros jugadores todavía compiten por recursos y poder finitos. Sin reglas ni barandillas, los actores más despiadados ganan. Por eso es necesaria la legislación y las políticas, junto con la voluntad colectiva de la gente para promulgarlas. La mayor meta-crisis es que los procesos democráticos para crear barandillas operan a un ritmo mucho más lento que la tasa de desarrollo tecnológico que se necesita para marcar la diferencia. La tecnología continuará avanzando más rápido de lo que las instituciones democráticas del siglo XX pueden comprender bien los daños. El sector de la tecnología en sí necesita unirse, en colaboración, y encontrar formas de operar para que los objetivos sociales compartidos se coloquen por encima de la hipercompetencia y la maximización de ganancias.

Finalmente, debemos reconocer el enorme poder asimétrico que las empresas de tecnología tienen sobre las personas y la sociedad. Nos conocen mejor que nosotros mismos. Cualquier estructura de poder asimétrica debe seguir el modelo fiduciario o de deber de cuidado ejemplificado por un buen maestro, terapeuta, médico o cuidador, es decir, debe trabajar al servicio de aquellos con menos poder. No debe operar con un modelo de negocio basado en la extracción. Los modelos comerciales actualizados para la tecnología deben ser generativos: deben tratarnos como el cliente y no como el producto, y alinearse con nuestros valores y humanidad más profundos.

Hacia ser humano

EO Wilson ha dicho: El problema de la humanidad es que tenemos emociones paleolíticas, instituciones medievales y tecnología divina. Necesitamos abrazar nuestras emociones paleolíticas en todas sus debilidades y vulnerabilidades fijas. Necesitamos actualizar nuestras instituciones para incorporar más sabiduría, prudencia y amor. Y necesitamos frenar el desarrollo de una tecnología divina cuyos poderes van más allá de nuestra capacidad para dirigir la dirección del barco en el que todos estamos.

El ámbito de lo que es posible continúa expandiéndose, pero está surgiendo simultáneamente con problemas globales exponencialmente desafiantes que requieren mejor información, liderazgo y acción. En lugar de aceptar una carrera hacia abajo que nos rebaje y nos divida, juntos podemos crear un panorama tecnológico que permita una carrera hacia la cima, una carrera que respalde nuestra interconexión, civismo y brillantez profunda. El cambio, creo, es humanamente posible.

Tristan Harris es cofundador y presidente del Center for Humane Technology.

esconder