211service.com
El CEO de Microsoft pide una IA responsable, ignora los algoritmos que ya gobiernan nuestras vidas
El CEO de Microsoft, Satya Nadella, está preocupado por el poder que la inteligencia artificial ejercerá sobre nuestras vidas. en una publicación en Pizarra ayer aconsejó a la industria informática que empieza a pensar ahora en cómo diseñar software inteligente para respetar nuestra humanidad .
La industria tecnológica no debería dictar los valores y las virtudes de este futuro, escribió.
Nadella pidió responsabilidad algorítmica para que los humanos puedan deshacer el daño no deseado. Dijo que el software inteligente debe diseñarse de manera que nos permita inspeccionar su funcionamiento y evitar que discrimine a ciertas personas o use datos privados de manera desagradable.
Microsoft CEO Satya Nadella.
Estas son preocupaciones nobles y racionales, pero de las que los líderes tecnológicos deberían haber estado hablando hace algún tiempo. Existe amplia evidencia de que los algoritmos y el software que dan forma a la vida diaria ya pueden estar marcados por sesgos preocupantes.
Los estudios de la Comisión Federal de Comercio han encontrado señales de que Los prejuicios raciales y económicos denunciados en tiempos anteriores a Internet ahora están reapareciendo. en los sistemas que impulsan anuncios dirigidos y otros servicios en línea. En Wisconsin se está dando una pelea sobre por qué el funcionamiento de un sistema que trata de predecir si un delincuente reincidirá— y se utiliza para determinar las penas de cárcel—debe mantenerse en secreto.
Justo hoy, la ACLU presentó una demanda contra el gobierno de los EE. UU. en nombre de los investigadores con un plan para buscar discriminación racial en anuncios de empleo y vivienda en línea . No pueden llevarlo a cabo debido a las restricciones en las leyes federales de piratería y la forma en que las empresas de tecnología escriben sus términos y condiciones.
Está claro que algunos de los problemas que Nadella dice que podría crear la futura inteligencia artificial ya están aquí. La investigadora de Microsoft, Kate Crawford, resumió muy bien la raíz del sesgo algorítmico en un artículo reciente. Nueva York Veces artículo de opinión, escribir ese software ya puede estar exacerbando la desigualdad en el lugar de trabajo , en casa y en nuestros sistemas legales y judiciales.
Nadella concluye su publicación prospectiva sobre inteligencia artificial diciendo: El próximo paso más crítico en nuestra búsqueda de A.I. es acordar un marco ético y empático para su diseño. ¿Qué mejor manera de estar preparado para el futuro dominado por la IA que comenzar a trabajar ahora para aplicar un marco ético y empático al software tonto que ya nos rodea?
(Lee mas: Pizarra , Vicio , Ars Technica , New York Times )