Google Photos todavía tiene un problema con los gorilas

Categoría: Inteligencia artificial Al corriente 11 de enero

En 2015, Google generó críticas cuando su sistema de reconocimiento de imágenes Photos etiquetaron erróneamente a una mujer negra como un gorila —pero dos años después, el problema aún no se soluciona adecuadamente. En cambio, Google ha censurado las etiquetas de imágenes relacionadas con muchos primates.

Qué hay de nuevo: cableado probado Google Photos de nuevo con un montón de fotos de animales. El software podría identificar criaturas desde pandas hasta caniches con facilidad. ¿Pero imágenes de gorilas, chimpancés y chimpancés? Nunca fueron etiquetados. cableado confirmó con Google que esas etiquetas están censuradas.

Pero: Algunos de los otros sistemas de visión por computadora de Google, como Cloud Vision, pudieron etiquetar correctamente fotos de gorilas y proporcionar respuestas a los usuarios. Eso sugiere que la eliminación de la etiqueta es un movimiento de relaciones públicas vergonzoso específico de la plataforma.

Más grande que la censura: El sesgo humano existe en conjuntos de datos en todas partes, lo que refleja las facetas de la humanidad que preferimos que las máquinas no aprendan. Pero reducir y eliminar ese sesgo requerirá mucho más trabajo que simplemente incluir etiquetas en la lista negra.