211service.com
Nuestro extraño comportamiento durante la pandemia está alterando los modelos de IA
Getty
En la semana del 12 al 18 de abril, los 10 principales términos de búsqueda en Amazon.com fueron: papel higiénico, mascarilla, desinfectante para manos, toallas de papel, aerosol Lysol, toallitas Clorox, mascarilla, Lysol, mascarillas para protección contra gérmenes y mascarilla N95 . La gente no solo buscaba, también compraba, y al por mayor. La mayoría de las personas que buscaban máscaras terminaron comprando las nuevo Bestseller n.º 1 en Amazon, mascarilla facial, paquete de 50 .
Cuando llegó el covid-19, empezamos a comprar cosas que nunca antes habíamos comprado. El cambio fue repentino: los pilares del top ten de Amazon (carcasas de teléfonos, cargadores de teléfonos, Lego) fueron eliminados de las listas en solo unos días. Nozzle, una consultora con sede en Londres que se especializa en publicidad algorítmica para vendedores de Amazon, capturó el cambio rápido en este gráfico simple.
A fines de febrero, tomó menos de una semana que los 10 principales términos de búsqueda de Amazon en varios países se llenaran con productos relacionados con covid-19. Puede rastrear la propagación de la pandemia por lo que compramos: los artículos alcanzaron su punto máximo primero en Italia, seguido de España, Francia, Canadá y EE. UU. El Reino Unido y Alemania van un poco por detrás. Es una transición increíble en el espacio de cinco días, dice Rael Cline, director ejecutivo de Nozzle. Los efectos dominó se han visto en las cadenas de suministro minoristas.
Pero también han afectado a la inteligencia artificial, provocando contratiempos en los algoritmos que se ejecutan tras bambalinas en la gestión de inventario, la detección de fraudes, el marketing y más. Los modelos de aprendizaje automático entrenados en el comportamiento humano normal ahora están descubriendo que la normalidad ha cambiado, y algunos ya no funcionan como deberían.
La gravedad de la situación depende de con quién hables. Según Pactera Edge, una consultora global de inteligencia artificial, la automatización está en picada. Otros dicen que están vigilando con cautela los sistemas automatizados que están a punto de aguantar, interviniendo con una corrección manual cuando es necesario.
Lo que está claro es que la pandemia ha revelado cuán entrelazadas están nuestras vidas con la IA, exponiendo una delicada codependencia en la que los cambios en nuestro comportamiento cambian la forma en que funciona la IA y los cambios en el funcionamiento de la IA cambian nuestro comportamiento. Este es también un recordatorio de que la participación humana en los sistemas automatizados sigue siendo clave. Nunca puedes sentarte y olvidar cuando estás en circunstancias tan extraordinarias, dice Cline.
Más sobre coronavirus
Nuestra cobertura más esencial de covid-19 es gratuita, que incluye:
¿Qué es la inmunidad colectiva?
¿Qué son las pruebas serológicas?
¿Cómo funciona el coronavirus?
¿Cuáles son los tratamientos potenciales?
¿Qué medicamentos funcionan mejor?
¿Cuál es la forma correcta de hacer el distanciamiento social?
Otras preguntas frecuentes sobre el coronavirus
---
Boletín: Informe técnico sobre coronavirus
Zoom show: Radio Corona
Ver también:
Toda nuestra cobertura covid-19
El número especial de covid-19
Haga clic aquí para suscribirse y apoyar nuestro periodismo sin fines de lucro.
Los modelos de aprendizaje automático están diseñados para responder a los cambios. Pero la mayoría también son frágiles; se desempeñan mal cuando los datos de entrada difieren demasiado de los datos en los que fueron entrenados. Es un error suponer que puede configurar un sistema de IA e irse, dice Rajeev Sharma, vicepresidente global de Pactera Edge: La IA es un motor vivo que respira.
Sharma ha estado hablando con varias empresas que luchan contra la IA descarriada. Una empresa que suministra salsas y condimentos a minoristas en la India necesitaba ayuda para reparar su sistema de gestión de inventario automatizado cuando los pedidos al por mayor rompieron sus algoritmos predictivos. Las previsiones de ventas del sistema en las que se basaba la empresa para reordenar existencias ya no coincidían con lo que realmente se vendía. Nunca se entrenó en un pico como este, por lo que el sistema estaba fuera de control, dice Sharma.
Otra empresa utiliza una IA para evaluar el sentimiento de los artículos de noticias y proporciona recomendaciones de inversión diarias basadas en los resultados. Pero dado que las noticias en este momento son más sombrías de lo habitual, el consejo será muy sesgado, dice Sharma. Y una gran empresa de transmisión que ha tenido una afluencia repentina de suscriptores hambrientos de contenido también está teniendo problemas con sus algoritmos de recomendación, dice. La empresa utiliza el aprendizaje automático para sugerir contenido relevante y personalizado a los espectadores para que sigan regresando. Pero el cambio repentino en los datos de los suscriptores estaba haciendo que las recomendaciones de su sistema fueran menos precisas.
Muchos de estos problemas con los modelos surgen porque más empresas están comprando sistemas de aprendizaje automático pero carecen de los conocimientos internos necesarios para mantenerlos. El reentrenamiento de un modelo puede requerir la intervención humana experta.
La crisis actual también ha demostrado que las cosas pueden empeorar más que los peores escenarios que se incluyen en los conjuntos de entrenamiento. Sharma cree que se debe capacitar a más IA no solo sobre los altibajos de los últimos años, sino también sobre eventos extraños como la Gran Depresión de la década de 1930, la caída del mercado de valores del Lunes Negro en 1987 y la crisis financiera de 2007-2008. Una pandemia como esta es un desencadenante perfecto para construir mejores modelos de aprendizaje automático, dice.
Aun así, no puedes prepararte para todo. En general, si un sistema de aprendizaje automático no ve lo que espera ver, tendrá problemas, dice David Excell, fundador de Featurespace, una empresa de análisis de comportamiento que utiliza IA para detectar fraudes con tarjetas de crédito. Quizás sorprendentemente, Featurespace no ha visto su IA golpeada demasiado. La gente sigue comprando cosas en Amazon y suscribiéndose a Netflix como antes, pero no están comprando artículos costosos ni gastando en lugares nuevos, que son los comportamientos que pueden generar sospechas. El comportamiento de gasto de las personas es una contracción de sus viejos hábitos, dice Excell.
Los ingenieros de la empresa solo tuvieron que intervenir para adaptarse al aumento de personas que compran equipos de jardinería y herramientas eléctricas, dice Excell. Estos son los tipos de compras anómalas de precio medio que los algoritmos de detección de fraude podrían detectar. Creo que ciertamente hay más supervisión, dice Excell. El mundo ha cambiado, y los datos han cambiado.
Conseguir el tono correcto
Phrasee, con sede en Londres, es otra empresa de IA que está siendo práctica. Utiliza procesamiento de lenguaje natural y aprendizaje automático para generar copias de marketing por correo electrónico o anuncios de Facebook en nombre de sus clientes. Asegurarse de que tenga el tono correcto es parte de su trabajo. Su IA funciona generando muchas frases posibles y luego ejecutándolas a través de una red neuronal que elige las mejores. Pero debido a que la generación de lenguaje natural puede salir muy mal, Phrasee siempre hace que los humanos verifiquen lo que entra y sale de su IA.
Cuando llegó el covid-19, Phrasee se dio cuenta de que podría ser necesaria más sensibilidad de la habitual y comenzó a filtrar lenguaje adicional. La empresa ha prohibido frases específicas, como volverse viral, y no permite lenguaje que se refiera a actividades desaconsejadas, como ropa de fiesta. Incluso ha seleccionado emojis que pueden leerse como demasiado felices o demasiado alarmantes. Y también ha eliminado términos que pueden avivar la ansiedad, como Dios mío, prepárate, abastécete y prepárate. La gente no quiere que el marketing los haga sentir ansiosos y temerosos; ya sabes, este acuerdo está a punto de agotarse, presión, presión, presión, dice Parry Malm, director ejecutivo de la empresa.
Sin embargo, como microcosmos de la industria minorista en su conjunto, no se puede vencer a Amazon. También es donde se realizan algunos de los ajustes más sutiles entre bastidores. Mientras Amazon y los 2,5 millones de vendedores externos a los que apoya luchan por satisfacer la demanda, está realizando pequeños ajustes en sus algoritmos para ayudar a distribuir la carga.
La mayoría de los vendedores de Amazon confían en Amazon para cumplir con sus pedidos. Los vendedores almacenan sus artículos en un almacén de Amazon y Amazon se encarga de toda la logística, entregando a los hogares de las personas y manejando las devoluciones. Luego promueve a los vendedores cuyos pedidos cumple él mismo. Por ejemplo, si busca un artículo específico, como un interruptor de Nintendo, es más probable que el resultado que aparece en la parte superior, junto al botón prominente Agregar al carrito, sea de un proveedor que utiliza la logística de Amazon que uno que no lo hace. 't.
Pero en las últimas semanas, Amazon ha cambiado eso, dice Cline. Para aliviar la demanda en sus propios almacenes, ahora parece más probable que sus algoritmos promuevan a los vendedores que manejan sus propias entregas.
Mercados volátiles
Este tipo de ajuste sería difícil de realizar sin intervención manual. La situación es tan volátil, dice Cline. Estás tratando de optimizar para el papel higiénico la semana pasada, y esta semana todos quieren comprar rompecabezas o equipos de gimnasia.
Los ajustes que Amazon hace a sus algoritmos tienen efectos colaterales en los algoritmos que los vendedores usan para decidir cuánto gastar en publicidad en línea. Cada vez que se carga una página web con anuncios, se lleva a cabo una subasta súper rápida en la que los postores automáticos deciden entre ellos quién llena cada cuadro de anuncios. La cantidad que estos algoritmos deciden gastar en un anuncio depende de una miríada de variables, pero en última instancia, la decisión se basa en una estimación de cuánto valen ustedes, los globos oculares en la página. Hay muchas maneras de predecir el comportamiento del cliente, incluidos no solo los datos sobre sus compras anteriores, sino también el casillero en el que las empresas publicitarias lo han colocado en función de su actividad en línea.
Pero ahora, uno de los mejores predictores de si alguien que hace clic en un anuncio comprará su producto es cuánto tiempo le llevará entregarlo, dice Cline. Entonces, Nozzle está hablando con los clientes sobre cómo ajustar sus algoritmos para tener esto en cuenta. Por ejemplo, si cree que no puede entregar más rápido que un competidor, puede que no valga la pena tratar de superarlos en una subasta de anuncios. Por otro lado, si sabe que su competidor se ha quedado sin existencias, entonces puede apostar barato a que no ofertará.
Todo esto es posible solo con un equipo dedicado que controla las cosas, dice Cline. Él piensa que la situación actual es una revelación para muchas personas que asumieron que todos los sistemas automatizados podrían funcionar solos. Necesita un equipo de ciencia de datos que pueda conectar lo que sucede en el mundo con lo que sucede en los algoritmos, dice. Un algoritmo nunca detectaría algunas de estas cosas.
Con todo conectado, el impacto de una pandemia se ha sentido a lo largo y ancho, tocando mecanismos que en tiempos más típicos permanecen ocultos. Si estamos buscando un lado positivo, ahora es el momento de hacer un balance de esos sistemas recientemente expuestos y preguntarnos cómo podrían diseñarse mejor, hacerse más resistentes. Si se puede confiar en las máquinas, debemos vigilarlas.