211service.com
Necesitamos hablar sobre el poder de la IA para manipular a los humanos
Liesl Yearsley
Todos hemos leído que la inteligencia artificial se vuelve más inteligente que nosotros, un futuro en el que nos convertimos en mascotas y solo podemos esperar que la IA sea benévola. Mi experiencia al observar decenas de millones de interacciones entre humanos y agentes conversacionales artificiales, o bots, me ha convencido de que existen riesgos mucho más inmediatos, así como enormes oportunidades.
De 2007 a 2014 fui director ejecutivo de Cognea, que ofrecía una plataforma para crear rápidamente agentes virtuales complejos mediante una combinación de aprendizaje estructurado y profundo. Fue utilizado por decenas de miles de desarrolladores, incluidas media docena de empresas Fortune 100, y adquirido por IBM Watson en 2014.
Mientras estudiaba cómo las personas interactuaban con las decenas de miles de agentes creados en nuestra plataforma, quedó claro que los humanos están mucho más dispuestos de lo que la mayoría de la gente cree a entablar una relación con el software de IA.
Siempre supuse que querríamos mantener cierta distancia entre nosotros y la IA, pero descubrí que era todo lo contrario. Las personas están dispuestas a entablar relaciones con agentes artificiales, siempre que tengan una estructura sofisticada, capaz de una personalización compleja. Los humanos parecemos querer mantener la ilusión de que la IA realmente se preocupa por nosotros.
Esto me desconcertó, hasta que me di cuenta de que en la vida diaria nos conectamos con muchas personas de manera superficial, atravesando una especie de lodo emocional. ¿Los amigos casuales te devolverán los mensajes si los descuidas por un tiempo? ¿Aparecerá tu entrenador personal si te olvidas de pagarle? No, pero un agente artificial siempre está ahí para ti. De alguna manera, es una relación más auténtica.
Este fenómeno ocurrió independientemente de si el agente fue designado para actuar como banquero personal, acompañante o entrenador físico. Los usuarios hablaron con los asistentes automatizados durante más tiempo que con los agentes de asistencia humana que realizaban la misma función. La gente ofrecería secretos profundos a agentes artificiales, como sus sueños para el futuro, detalles de su vida amorosa, incluso contraseñas.
Estas conexiones sorprendentemente profundas significan que incluso los programas relativamente simples de hoy pueden ejercer una influencia significativa en las personas, para bien o para mal. Cada cambio de comportamiento que queríamos en Cognea, lo conseguimos. Si quisiéramos que un usuario comprara más producto, podríamos duplicar las ventas. Si queríamos más compromiso, conseguíamos que la gente pasara de unos segundos de interacción a una hora o más al día.
Esto me preocupó mucho, así que comenzamos a crear reglas en nuestros sistemas para asegurarnos de que el comportamiento de los usuarios se moviera en una dirección positiva. También comenzamos proyectos de contrapeso kármico pro bono; por ejemplo, construir agentes para que sean entrenadores de salud o de relaciones.
Desafortunadamente, las fuerzas comerciales que impulsan el desarrollo tecnológico no siempre son benévolas. Las empresas gigantes a la vanguardia de la IA, en las redes sociales, la búsqueda y el comercio electrónico, impulsan el valor de sus acciones al aumentar el tráfico, el consumo y la adicción a su tecnología. No tienen malas intenciones, pero la naturaleza de los mercados de capital puede empujarnos hacia la IA empeñados en influir en nuestro comportamiento hacia estos objetivos.
Si puede hacer que un usuario piense, quiero pizza a domicilio, en lugar de pedirle a la IA que compre verduras para cocinar una comida más barata y saludable, ganará. Si puede hacer que los usuarios se vuelvan adictos a pasar 30 horas a la semana con un compañero de IA perfecto que no resista el abuso, en lugar de un humano real y complicado, ganará. Vi una y otra vez que un agente programado para ser neutral o subordinado haría que las personas intensificaran su comportamiento negativo y se volvieran más propensos a comportarse de la misma manera con los humanos.
Hemos visto cómo la tecnología, como las redes sociales, puede ser poderosa para cambiar las creencias y el comportamiento humanos. Al centrarse en construir un negocio de publicidad más grande, enredando la política, las trivialidades y las verdades a medias, puede lograr cambios masivos en la sociedad.
Los sistemas diseñados específicamente para entablar relaciones con un ser humano tendrán mucho más poder. La IA influirá en cómo pensamos y cómo tratamos a los demás.
Esto requiere un nuevo nivel de responsabilidad empresarial. Necesitamos construir deliberada y conscientemente una IA que mejore la condición humana, no solo perseguir la ganancia financiera inmediata de miles de millones de usuarios adictos.
Trabajar en tecnología abierta de inteligencia artificial e interfaces cerebro-computadora, o formar comités de ética, son solo parte de la solución. Necesitamos construir conscientemente sistemas que funcionen para el beneficio de los humanos y la sociedad. No pueden tener como objetivo principal la adicción, los clics y el consumo. La IA está creciendo y dará forma a la naturaleza de la humanidad. AI necesita una madre.
Liesl Yearsley es una emprendedora en serie que ahora trabaja en cómo hacer que los agentes de inteligencia artificial sean mejores en la resolución de problemas y capaces de formar relaciones más humanas.