211service.com
Los peligros de Tech-Bro AI
Tabitha Goldstaub, cofundadora de CogniciónX , que ayuda a las empresas a implementar IA, dice que es necesario diversificar el campo para asegurarse de que los productos realmente funcionen bien. 24 de octubre de 2017
Miguel Porlan
Si piensas en la inteligencia artificial y los componentes centrales de lo que hace una IA, tienes el hecho de que se le ha dado un objetivo y luego encontrará la manera de alcanzar ese objetivo. Entonces, a menudo es muy poco transparente en cuanto a cómo alcanzó ese objetivo. Si está incorporando en una máquina algún sesgo inconsciente, es posible que no sepa que está allí; la salida podría ser perjudicial para las mujeres y es muy difícil averiguar exactamente por qué sucedió eso.
En la tecnología tradicional, puedes ver [lo que ha sucedido]: mujeres mueren en accidentes automovilísticos porque los maniquíes de prueba de choque tenían la forma de un hombre en lugar de la forma de una mujer. [Con la IA podría haber] situaciones similares de vida o muerte, en ensayos de drogas o en vehículos autónomos y cosas por el estilo.
Esta historia fue parte de nuestra edición de noviembre de 2017
- Ver el resto del número
- Suscribir
Hay algunos ejemplos de [sesgo de género en la IA actual]: Anuncios de Google que muestran anuncios de [trabajo] de mayores ingresos para hombres que para mujeres . Podemos plantear la hipótesis de otros tipos de situaciones que sucederían: ¿qué pasaría si las mujeres no pudieran obtener préstamos, hipotecas o seguros?
No tengo una visión distópica de la IA. No veo robots asesinos. Estoy mucho más centrado en las aplicaciones limitadas, y creo que si observa cada una de esas aplicaciones limitadas, existe la posibilidad de que afecte negativamente a las mujeres. No creo que la inteligencia artificial sea el problema aquí; es el problema adicional en lugar de la causa. Estamos hablando del riesgo de que nuestro sexismo inconsciente o nuestro racismo inconsciente se filtren en las máquinas que estamos construyendo.
¿Cómo hacemos que cualquiera que esté construyendo IA piense en estas cosas? Necesitamos que los consumidores exijan una IA ética. No hay suficientes personas que vean esto como algo más que una simple cuestión de género; este es un problema real y fundamental del producto.
— como se lo dijo a Rachel Metz