Los investigadores de IA quieren estudiar la IA de la misma manera que los científicos sociales estudian a los humanos

Una ilustración conceptual de un investigador que estudia IA Tsjisse Talsma

Se ha derramado mucha tinta sobre la naturaleza de caja negra de los sistemas de IA, y cómo nos incomoda que a menudo no podamos entender por qué toman las decisiones que toman. Dado que los algoritmos han llegado a mediar en todo, desde nuestras interacciones sociales y culturales hasta las económicas y políticas, los científicos informáticos han intentado responder a las crecientes demandas de su explicabilidad mediante el desarrollo de métodos técnicos para comprender sus comportamientos.

Pero un grupo de investigadores de la academia y la industria ahora argumentan que no necesitamos penetrar en estas cajas negras para comprender y, por lo tanto, controlar su efecto en nuestras vidas. Después de todo, estas no son las primeras cajas negras inescrutables con las que nos encontramos.

Hemos desarrollado métodos científicos para estudiar cajas negras durante cientos de años, pero estos métodos se han aplicado principalmente a [seres vivos] hasta este momento, dice Nick Obradovich, investigador del MIT Media Lab y coautor de un nuevo papel publicado la semana pasada en Naturaleza . Podemos aprovechar muchas de las mismas herramientas para estudiar los nuevos sistemas de IA de caja negra.

Los autores del artículo, un grupo diverso de investigadores de la industria y la academia, proponen crear una nueva disciplina académica llamada comportamiento de la máquina. Se acerca al estudio de los sistemas de IA de la misma manera que siempre hemos estudiado animales y humanos: a través de la observación empírica y la experimentación.

De esta manera, un conductista de máquinas es para un informático lo que un científico social es para un neurocientífico. El primero busca comprender cómo se comporta un agente, ya sea artificial o biológico, en su hábitat, cuando coexiste en grupos y cuando interactúa con otros agentes inteligentes. Este último busca diseccionar la mecánica de toma de decisiones detrás de esos comportamientos.

Estamos viendo el surgimiento de máquinas con agencia, máquinas que son actores que toman decisiones y toman acciones de forma autónoma, dijo Iyad Rahwan, otro investigador de Media Lab y autor principal del artículo, en un artículo. entrada en el blog que acompaña a la publicación. Por lo tanto, deben estudiarse como una nueva clase de actores con sus propios patrones de comportamiento y ecología.

Esto no significa sugerir que los sistemas de IA hayan desarrollado algún tipo de libre albedrío. (Ciertamente no lo han hecho; son solo modelos matemáticos glorificados). Pero está destinado a dejar de ver los sistemas de IA como herramientas pasivas que pueden evaluarse únicamente a través de su arquitectura técnica, rendimiento y capacidades. En su lugar, deben ser considerados como actores activos que cambian e influyen en sus entornos y en las personas y máquinas que los rodean.

Entonces, ¿cómo sería esto? Un conductista de máquinas podría cuestionar, por ejemplo, el impacto de los asistentes de voz en el desarrollo de la personalidad de un niño. O podrían examinar cómo los algoritmos de citas en línea han cambiado la forma en que las personas se conocen y se enamoran. En última instancia, estudiarían las propiedades emergentes que surgen de muchos humanos y máquinas que coexisten y colaboran juntos.

Todos somos un sistema gigante humano-máquina, dice Obradovich. Necesitamos reconocer eso y comenzar a estudiarlo de esa manera.

Es importante tener en cuenta que la mayoría de estas ideas no son nuevas. Los especialistas en robótica, por ejemplo, han estudiado durante mucho tiempo la interacción humano-computadora. Y el campo de la ciencia, la tecnología y la sociedad tienen lo que se conoce como la teoría del actor-red, un marco para describir todo en los mundos social y natural, tanto humanos como algoritmos, como actores que de alguna manera se relacionan entre sí. Pero en su mayor parte, cada uno de estos esfuerzos se ha aislado en disciplinas separadas. Reunirlos bajo un mismo paraguas ayuda a alinear sus objetivos, formalizar un lenguaje común y fomentar colaboraciones interdisciplinarias. Nos ayudará a encontrarnos, dice Obradovich.

A pesar de estar en una disciplina distinta de los investigadores de IA, los especialistas en comportamiento de máquinas aún deberían trabajar en estrecha colaboración con ellos. A medida que estos últimos descubren nuevas formas en que los sistemas de IA se comportan y afectan a las personas, los primeros pueden aplicar esos aprendizajes en los diseños del sistema. Cuanto más pueda aprovechar cada disciplina la experiencia de la otra, más podrá garantizar que los agentes artificiales beneficien a los humanos en lugar de dañarlos.

Necesitamos la experiencia de científicos de todas las disciplinas conductuales y computacionales, dice Obradovich. Averiguar cómo vivir con las máquinas es un problema demasiado grande para que lo resuelva una sola disciplina.

esconder