211service.com
Google nombra un consejo de inteligencia artificial para evitar la controversia, pero resulta controvertido
jeremy puerto
Desarrollar y comercializar inteligencia artificial ha demostrado ser un campo minado ético para empresas como Google. La compañía ha visto cómo se acusaba a sus algoritmos de perpetuar los prejuicios raciales y de género y de impulsar los esfuerzos para construir armas autónomas.
El gigante de las búsquedas ahora espera que un equipo de filósofos, ingenieros y expertos en políticas lo ayuden a sortear los riesgos morales que presenta la inteligencia artificial sin escándalos de prensa, protestas de empleados o problemas legales.
Kent Walker, vicepresidente sénior de asuntos globales y director legal de Google, anunció la creación de un nuevo organismo independiente para revisar las prácticas de IA de la empresa en EmTech Digital, una conferencia de IA en San Francisco organizada por MIT Technology Review.
Walker dijo que el grupo, conocido como Consejo Asesor Externo de Tecnología Avanzada (ATEAC), revisaría los proyectos y planes de la empresa y produciría informes para ayudar a determinar si alguno de ellos contraviene los propios principios de IA de la empresa. El consejo no tendrá una agenda establecida, dijo Walker, y no tendría el poder de vetar los proyectos por sí mismo. Pero dijo que los informes del grupo nos ayudarán a mantenernos honestos.
La primera ATEAC contará con un filósofo, un economista, un experto en políticas públicas y varios investigadores en ciencia de datos, aprendizaje automático y robótica. Varios de los elegidos investigan activamente temas como el sesgo algorítmico. La lista completa es la siguiente: Alessandro Acquisti, bubacarr bah, De Kai, Dyan Gibbens, Juana Bryson, Kay Coles James, Luciano Floridi , y Guillermo José Burns .
Pero corresponde a las empresas de tecnología demostrar que son sinceras acerca de las preocupaciones éticas. El anuncio ya ha provocado una reacción violenta de algunos expertos en inteligencia artificial que cuestionan la inclusión de Gibbens y James.
El primero es el fundador y director ejecutivo de una empresa de drones, una elección que parece sorda después de que Google enfrentó una reacción violenta de los empleados y una tormenta de prensa negativa por su participación en Maven, un proyecto para suministrar inteligencia artificial en la nube a la Fuerza Aérea de EE. UU. para el análisis. de imágenes de drones. Las consecuencias llevaron a Google a anunciar un conjunto de principios de IA en primer lugar. Este último es el presidente del grupo de expertos conservador The Heritage Foundation, que ha impulsado una agenda anti-LGBTQ y cuya organización ha difundido información errónea sobre el cambio climático, entre otras cosas.
El controvertido anuncio se produce en medio de una serie de escándalos que Google y otras grandes empresas tecnológicas han enfrentado en relación con el desarrollo y uso de la inteligencia artificial. Por ejemplo, los algoritmos utilizados para Reconocimiento facial y filtrado de solicitantes de empleo se ha demostrado que exhiben prejuicios raciales.
Walker dijo en el escenario que Google ya examina cuidadosamente sus proyectos de IA. Señaló que la compañía ha optado por no suministrar tecnología de reconocimiento facial por temor a que pueda ser utilizada indebidamente. En otro caso, dijo que la compañía había optado por lanzar un algoritmo de IA de lectura de labios a pesar de las preocupaciones de que podría usarse para la vigilancia, porque se consideró que los beneficios potenciales superaban los riesgos.
En EmTech, Walker reconoció que el consejo necesitaría considerar los riesgos emergentes de la IA e identificó la desinformación y la manipulación de videos impulsada por la IA como preocupaciones particulares. ¿Cómo detectamos esto en nuestras plataformas? Estamos trabajando muy duro en esto, dijo. Somos un motor de búsqueda, no un motor de verdad.