211service.com
DeepMind pregunta cómo la IA ayudó a convertir Internet en una cámara de eco
SRA. TECNOLOGÍA | FOTOS: YOUTUBE Sra. Tecnología | Fotos: YouTube
Una de las aplicaciones más comunes del aprendizaje automático en la actualidad son los algoritmos de recomendación. Netflix y YouTube los usan para promocionar nuevos programas y videos; Google y Facebook los utilizan para clasificar el contenido en los resultados de búsqueda y en las noticias. Si bien estos algoritmos ofrecen una gran comodidad, tienen algunos efectos secundarios no deseados. Probablemente hayas oído hablar de ellos antes: burbujas de filtro y cámaras de eco.
La preocupación por estos efectos no es nueva. En 2011, Eli Pariser, ahora director ejecutivo de Upworthy, advirtió sobre las burbujas de filtros en el escenario de TED. Incluso antes de eso, en su libro Republic.com , el profesor de derecho de Harvard, Cass Sunstein, predijo con precisión un efecto de polarización grupal, impulsado por el auge de Internet, que en última instancia desafiaría una democracia saludable. Facebook no existiría hasta dentro de tres años.
Ambas ideas se popularizaron rápidamente después de las elecciones estadounidenses de 2016, lo que dio lugar a una oleada de investigaciones relevantes. Ahora, la propia subsidiaria de inteligencia artificial de Google, DeepMind, se suma al cuerpo de becas. (¿Mejor tarde que nunca, cierto?)
En un papel nuevo , los investigadores analizaron cómo diferentes algoritmos de recomendación pueden acelerar o ralentizar ambos fenómenos, que los investigadores definen por separado. Las cámaras de eco, dicen, refuerzan los intereses de los usuarios a través de la exposición repetida a contenido similar. Las burbujas de filtro, en comparación, reducen el alcance del contenido al que están expuestos los usuarios. Ambos son ejemplos en el lenguaje académico de bucles de retroalimentación degenerados. Un mayor nivel de degeneración, en este caso, se refiere a una burbuja de filtro más fuerte o un efecto de cámara de eco.
Ejecutaron simulaciones de cinco algoritmos de recomendación diferentes, que otorgaron diferentes grados de prioridad a la predicción precisa de lo que el usuario estaba interesado en la promoción aleatoria de contenido nuevo. Descubrieron que los algoritmos que priorizaban más la precisión conducían a una degeneración del sistema mucho más rápida. En otras palabras, la mejor manera de combatir las burbujas de filtro o las cámaras de eco es diseñar los algoritmos para que sean más exploratorios, mostrándole cosas que es menos seguro que capten su interés. También puede ayudar ampliar el conjunto general de información del que se extraen las recomendaciones.
Joseph A. Konstan, profesor de ciencias de la computación en la Universidad de Minnesota, quien anteriormente dirigió investigar sobre burbujas de filtro, dice que los resultados del análisis de DeepMind no son sorprendentes. Hace tiempo que los investigadores comprenden la tensión entre la predicción precisa y la exploración efectiva en los sistemas de recomendación, dice.
A pesar de que estudios anteriores muestran que los usuarios tolerarán niveles más bajos de precisión para obtener el beneficio de diversas recomendaciones, los desarrolladores todavía tienen un desincentivo para diseñar sus algoritmos de esa manera. Siempre es más fácil 'tener razón' recomendando opciones seguras, dice Konstan.
Konstan también critica el estudio de DeepMind por abordar las burbujas de filtro y las cámaras de eco como simulaciones de aprendizaje automático en lugar de sistemas interactivos que involucran a humanos, una limitación que también señalaron los investigadores. Siempre me preocupa el trabajo que se limita a estudios de simulación (o análisis de datos fuera de línea), dice. Las personas son complejas. Por un lado, sabemos que valoran la diversidad, pero por otro lado también sabemos que si estiramos demasiado las recomendaciones, hasta el punto en que los usuarios sientan que no somos confiables, podemos perder a los usuarios por completo.
Corrección: El titular se actualizó para reflejar mejor el alcance de la investigación.