Cinco preguntas que puede usar para acabar con la exageración de la IA

Una ilustración abstracta que muestra los números del 1 al 5 y los signos de interrogación Sra. tecnología

Hace dos semanas, los Emiratos Árabes Unidos organizaron Ai Everything, su primera gran conferencia de IA y una de las conferencias de aplicaciones de IA más grandes del mundo. El evento fue un testimonio impresionante de la amplitud de las industrias en las que las empresas ahora utilizan el aprendizaje automático. También sirvió como un importante recordatorio de cómo el mundo de los negocios puede ofuscar y exagerar las capacidades de la tecnología.

En respuesta, me gustaría resumir brevemente las cinco preguntas que suelo utilizar para evaluar la calidad y la validez de la tecnología de una empresa:

1. ¿Cuál es el problema que está tratando de resolver?

Siempre empiezo con el enunciado del problema. ¿Qué dice la empresa que está tratando de hacer? ¿Vale la pena el aprendizaje automático? Tal vez estemos hablando con Affectiva, que está creando una tecnología de reconocimiento de emociones para rastrear y analizar con precisión el estado de ánimo de las personas. Conceptualmente, este es un problema de reconocimiento de patrones y, por lo tanto, sería uno que el aprendizaje automático podría abordar (consulte: ¿Qué es el aprendizaje automático?). También sería muy difícil abordarlo a través de otros medios porque es demasiado complejo para programarlo en un conjunto de reglas.

2. ¿Cómo aborda la empresa ese problema con el aprendizaje automático?

Ahora que tenemos una comprensión conceptual del problema, queremos saber cómo la empresa lo abordará. Una empresa de reconocimiento de emociones podría adoptar muchos enfoques para construir su producto. Podría entrenar un sistema de visión por computadora para que coincida con patrones en las expresiones faciales de las personas o entrenar un sistema de audio para que coincida con patrones en el tono de voz de las personas. Aquí, queremos averiguar cómo la empresa reformuló su declaración del problema en un problema de aprendizaje automático y determinar qué datos necesitaría ingresar en sus algoritmos.

Historia relacionada

Historia relacionada

La definición de inteligencia artificial está en constante evolución y el término a menudo se altera, por lo que estamos aquí para ayudar.

3. ¿Cómo obtiene la empresa sus datos de capacitación?

Una vez que conocemos el tipo de datos que necesita la empresa, queremos saber cómo la empresa los adquiere. La mayoría de las aplicaciones de IA utilizan aprendizaje automático supervisado, que requiere datos etiquetados limpios y de alta calidad. ¿Quién está etiquetando los datos? Y si las etiquetas capturan algo subjetivo como las emociones, ¿siguen un estándar científico? En el caso de Affectiva, aprendería que la empresa recopila datos de audio y video voluntariamente de los usuarios y emplea especialistas capacitados para etiquetar los datos de una manera rigurosamente consistente. Conocer los detalles de esta parte de la tubería también lo ayuda a identificar cualquier fuente potencial de recopilación de datos o sesgo de etiquetado (consulte: Así es como realmente ocurre el sesgo de IA).

4. ¿La empresa cuenta con procesos para auditar sus productos?

Ahora debemos examinar si la empresa prueba sus productos. ¿Qué tan precisos son sus algoritmos? ¿Son auditados por sesgo? ¿Con qué frecuencia reevalúa sus algoritmos para asegurarse de que siguen funcionando a la par? Si la empresa aún no tiene algoritmos que alcancen la precisión o la equidad deseadas, ¿qué planes tiene para asegurarse de que lo harán antes de la implementación?

5. ¿Debería la empresa utilizar el aprendizaje automático para resolver este problema?

Esto es más un juicio. Incluso si un problema poder ser resuelto con el aprendizaje automático, es importante preguntarse si deberían ser. El hecho de que pueda crear una plataforma de reconocimiento de emociones que alcance al menos un 80 % de precisión en diferentes razas y géneros no significa que no se abusará de ella. ¿Los beneficios de tener esta tecnología disponible superan las posibles violaciones de derechos humanos de la vigilancia emocional? ¿Y la empresa cuenta con mecanismos para mitigar los posibles impactos negativos?

En mi opinión, una empresa con un producto de aprendizaje automático de calidad debe marcar todas las casillas: debe abordar un problema adecuado para el aprendizaje automático, tener procesos sólidos de adquisición y auditoría de datos, tener algoritmos de alta precisión o un plan para mejorarlos, y estar lidiando de frente con cuestiones éticas. A menudo, las empresas pasan las primeras cuatro pruebas pero no la última. Para mí, esa es una gran bandera roja. Demuestra que la compañía no está pensando de manera holística sobre cómo su tecnología puede afectar la vida de las personas y tiene una alta probabilidad de sacar un Facebook más adelante. Si es un ejecutivo que busca soluciones de aprendizaje automático para su empresa, esto debería advertirle que no debe asociarse con un proveedor en particular.

Esta historia apareció originalmente en nuestro boletín de inteligencia artificial nominado por Webby, The Algorithm. Para recibir más historias como esta directamente en su bandeja de entrada, regístrese aquí. Es gratis.

esconder