¿Qué pueden aprender los expertos en IA del budismo? Un nuevo enfoque de la ética del aprendizaje automático tiene como objetivo averiguarlo

Categoría: Inteligencia artificial Al corriente 15 de diciembre

Los rápidos avances en IA han generado una serie de iniciativas recientes que tienen como objetivo convencer a los ingenieros, programadores y otros para que prioricen las consideraciones éticas en su trabajo, pero casi todas se han originado en países occidentales ricos. Un esfuerzo de la gran asociación de ingeniería IEEE ahora está tratando de cambiar eso, con su propia propuesta de ética de IA que dice será una colaboración global y multilingüe.

Solo en los últimos dos años, se han lanzado una serie de nuevos esfuerzos para explorar la ética en la IA, incluida la organización sin fines de lucro OpenAI respaldada por Elon Musk, la alianza corporativa Partnership on AI, el centro de investigación de ética de la IA de la Universidad Carnegie Mellon y la investigación de Ética y Sociedad. unidad en la subsidiaria de inteligencia artificial de Google, DeepMind.

Pero la mayoría de estos proyectos tienen su sede en los EE. UU. o el Reino Unido, están dirigidos por un pequeño grupo de investigadores y publican actualizaciones solo en inglés, lo que podría limitar su capacidad para fomentar la IA que beneficia a toda la humanidad, no solo a los países desarrollados.

Desde 2016, un grupo llamado the Iniciativa global IEEE para consideraciones éticas en inteligencia artificial y sistemas autónomos ha estado escribiendo un documento llamado Diseño alineado éticamente que recomienda pautas sociales y políticas para tecnologías como chatbots y robots domésticos. Esta semana, el grupo dio a conocer una versión actualizada del documento que integra comentarios de personas en el este de Asia, América Latina, Medio Oriente y otras regiones.

Muchos de esos comentarios provinieron de miembros que la iniciativa reclutó de Brasil, China, Irán, Israel, Japón, Corea, México, la Federación Rusa y Tailandia este año. El grupo ahora cuenta con unas 250 personas en todo el mundo y continúa creciendo, según el presidente del comité ejecutivo, Raja Chatila.

Estos miembros internacionales tradujeron partes del documento a sus idiomas nativos para que pudiera distribuirse ampliamente en sus países, y presentaron informes sobre el estado de la ética de la IA en sus regiones al comité ejecutivo de la iniciativa.

Para diversificar aún más los puntos de vista, la iniciativa creó un comité de ética clásico para identificar sistemas de valores no occidentales, como el budismo o el confucianismo, que podrían incorporarse a las pautas éticas del documento. El grupo también solicitó comentarios de organizaciones de divulgación, como AI4Todos , que enseñan a las mujeres y a las personas de color sobre la IA.

Aún no está claro cómo la iniciativa fusionará estas diferentes tradiciones y puntos de vista (la versión final no se publicará hasta 2019), pero el grupo tiene algunas ideas preliminares. Citar la creencia budista de que nada existe de forma aislada podría recordar a los diseñadores de IA que son responsables de los sistemas que crean, por ejemplo. De manera similar, enseñar a los desarrolladores sobre la tradición filosófica subsahariana Ubuntu, que enfatiza el valor de la comunidad, podría impulsarlos a trabajar en estrecha colaboración tanto con especialistas en ética como con el público objetivo para determinar si sus necesidades están identificadas y satisfechas, según la última versión de la documento.

A pesar de su seriedad, no hay garantía de que la empresa produzca resultados. Al igual que otras pautas de ética de IA en proceso, Ethically Aligned Design solo hace recomendaciones; no tiene manera de hacer cumplir sus sugerencias. Pero la creciente conciencia sobre las formas en que la IA puede discriminar a los usuarios si los diseñadores no tienen en cuenta la diversidad, y las crecientes demandas de responsabilidad de los consumidores, apuntan al valor de pensar globalmente al formular principios éticos para la IA.