211service.com
Más allá del ciclo de exageración de la IA: la confianza y el futuro de la IA
Proporcionado por Matiz
No hay escasez de promesas cuando se trata de IA. Algunos dicen que resolverá todos los problemas, mientras que otros advierten que provocará el fin del mundo tal como lo conocemos. Ambas posiciones aparecen regularmente en las tramas de Hollywood como Westworld, negro carbón, informe minoritario, Ella, y ex machina . Esas historias son convincentes porque requieren que nosotros, como creadores y consumidores de tecnología de IA, decidamos si confiamos en un sistema de IA o, más precisamente, si confiamos en lo que hace el sistema con la información que se le ha proporcionado.
Este contenido fue producido por Nuance. No fue escrito por el equipo editorial de MIT Technology Review.
Joe Petro es CTO en Nuance.
Esas historias también brindan una lección importante para aquellos de nosotros que pasamos nuestros días diseñando y creando aplicaciones de IA: la confianza es un factor crítico para determinar el éxito de una aplicación de IA. ¿Quién quiere interactuar con un sistema en el que no confía?
La caja negra y la comprensión de las incógnitas
Incluso como una tecnología incipiente, la IA es increíblemente compleja y poderosa, brinda beneficios al realizar cálculos y detectar patrones en grandes conjuntos de datos con velocidad y eficiencia. Pero ese poder, combinado con las percepciones de caja negra de la IA y su apetito por los datos del usuario, introduce muchas variables, incógnitas y posibles consecuencias no deseadas. Oculto dentro de las aplicaciones prácticas de la IA está el hecho de que la confianza puede tener un efecto profundo en la percepción del sistema por parte del usuario, así como en las empresas asociadas, proveedores y marcas que llevan estas aplicaciones al mercado.
Avances como la nube omnipresente y el poder computacional perimetral hacen que la IA sea más capaz y eficaz, al mismo tiempo que facilita y acelera la creación y la implementación de aplicaciones. Históricamente, la atención se ha centrado en el desarrollo de software y el diseño de la experiencia del usuario. Pero ya no se trata simplemente de diseñar un sistema que resuelva x . Es nuestra responsabilidad crear una experiencia atractiva, personalizada, sin fricciones y confiable para cada usuario.
La IA tiene hambre de datos: sepa con qué la está alimentando
La capacidad de hacer esto con éxito depende en gran medida de los datos del usuario. El rendimiento del sistema, la confiabilidad y la confianza del usuario en el resultado del modelo de IA se ven afectados tanto por la calidad del diseño del modelo como por los datos que ingresan. Los datos son el combustible que impulsa el motor de IA que convierte virtualmente la energía potencial de los datos del usuario en energía cinética en forma de información procesable y resultados inteligentes. Así como llenar un auto de carreras de Fórmula 1 con combustible pobre o contaminado disminuiría el rendimiento y la capacidad del conductor para competir, un sistema de IA entrenado con datos incorrectos o inadecuados puede producir resultados inexactos o impredecibles que dañan la confianza del usuario. Una vez rota, la confianza es difícil de recuperar. Es por eso que las prácticas rigurosas de administración de datos por parte de los desarrolladores y proveedores de IA son fundamentales para construir modelos de IA efectivos, así como para crear aceptación, satisfacción y retención de clientes.
La administración responsable de datos establece una cadena de confianza que se extiende desde los consumidores hasta las empresas que recopilan datos de usuarios y aquellos de nosotros que construimos sistemas impulsados por IA. Es nuestra responsabilidad conocer y comprender las leyes y políticas de privacidad y considerar la seguridad y el cumplimiento durante la fase de diseño principal. Debemos tener un conocimiento profundo de cómo se utilizan los datos y quién tiene acceso a ellos. También necesitamos detectar y eliminar sesgos ocultos en los datos a través de pruebas exhaustivas.
Tratar los datos del usuario como 'código fuente' propietario
Tratar los datos de los usuarios como propiedad intelectual sensible (IP). Es el código fuente patentado que se utiliza para crear modelos de IA que resuelven problemas específicos, crean experiencias personalizadas y logran los resultados deseados. Estos datos se derivan de interacciones personales del usuario, como conversaciones entre consumidores y agentes de llamadas, médicos y pacientes, y bancos y clientes. Es sensible porque crea perfiles de usuario digitales íntimos y muy detallados basados en información privada financiera, de salud, biométrica y de otro tipo.
Los datos de los usuarios deben protegerse y usarse con el mismo cuidado que cualquier otra propiedad intelectual, especialmente para los sistemas de inteligencia artificial en industrias altamente reguladas, como la atención médica y los servicios financieros. Los médicos utilizan voz de IA, comprensión del lenguaje natural y agentes virtuales conversacionales creados con datos de salud del paciente para documentar la atención y el acceso. orientación diagnóstica en tiempo real . En los servicios bancarios y financieros, los sistemas de IA procesan millones de transacciones de clientes y utilizan la huella de voz biométrica, el movimiento de los ojos y los datos de comportamiento (por ejemplo, qué tan rápido escribe, las palabras que usa, con qué mano desliza el dedo) para detectar posibles fraudes o autenticar las identidades de los usuarios .
Tanto los proveedores de atención médica como las empresas están creando su propia puerta de entrada digital de marca que brinda experiencias de usuario eficientes y personalizadas a través de SMS, web, teléfono, video, aplicaciones y otros canales. Los consumidores también están optando por interacciones digitales en tiempo real que ahorran tiempo. Las organizaciones comerciales y de atención de la salud desean legítimamente controlar y salvaguardar las relaciones y los datos de sus pacientes y clientes en cada método de compromiso digital para crear conciencia de marca, interacciones personalizadas y lealtad.
Todos los proveedores y desarrolladores de IA no solo deben ser conscientes de la naturaleza inherentemente sensible de los datos de los usuarios, sino también de la necesidad de operar con altos estándares éticos para construir y mantener la cadena de confianza requerida.
Aquí hay preguntas clave a considerar:
¿Quién tiene acceso a los datos? Tenga una política clara y transparente que incluya protecciones estrictas, como limitar el acceso a ciertos tipos de datos y prohibir la reventa o el intercambio con terceros. Las mismas políticas deberían aplicarse a los proveedores de nube u otros socios de desarrollo.
¿Dónde se almacenan los datos y durante cuánto tiempo? Pregunte dónde residen los datos (nube, borde, dispositivo) y cuánto tiempo se conservarán. La implementación del Reglamento General de Protección de Datos de la Unión Europea, la Ley de Privacidad del Consumidor de California y la perspectiva de protecciones de privacidad estatales y federales adicionales deberían hacer que las prácticas de almacenamiento y retención de datos sean lo más importante durante el desarrollo de la IA.
¿Cómo se definen y comparten los beneficios? Las aplicaciones de IA también deben probarse con diversos conjuntos de datos para reflejar las aplicaciones del mundo real previstas, eliminar el sesgo no intencional y garantizar resultados confiables.
¿Cómo se manifiestan los datos dentro del sistema? Comprender cómo fluirán los datos a través del sistema. ¿Se accede a los datos confidenciales y se procesan esencialmente mediante una red neuronal como una serie de 0 y 1, o se almacenan en su forma original con información médica o de identificación personal? Establezca y siga las políticas de retención y eliminación de datos adecuadas para cada tipo de datos confidenciales.
¿Quién puede obtener valor comercial de los datos del usuario? Considere las consecuencias potenciales del intercambio de datos para fines fuera del alcance o la fuente original de los datos. Tenga en cuenta posibles fusiones y adquisiciones, posibles productos de seguimiento y otros factores.
¿El sistema es seguro y compatible? Diseñe y construya para la privacidad y la seguridad primero. Considere cómo la transparencia, el consentimiento del usuario y el rendimiento del sistema podrían verse afectados a lo largo del ciclo de vida del producto o servicio.
La realidad de la IA en acción
Las aplicaciones biométricas ayudan a prevenir el fraude y simplifican la autenticación. El sistema biométrico de voz VoiceID de HSBC ha evitó con éxito el robo de casi 400 millones de libras esterlinas (alrededor de $ 493 millones) por estafadores telefónicos en el Reino Unido. Compara la huella de voz de una persona con miles de características de voz individuales en un registro de voz establecido para confirmar la identidad de un usuario. Otras empresas utilizan la biometría de voz para validar las identidades de los empleados de los centros de llamadas remotos antes de que puedan acceder a sistemas y datos propietarios. La necesidad de tales medidas está creciendo a medida que los consumidores realizan más interacciones digitales y telefónicas.
Las aplicaciones inteligentes brindan un servicio al cliente seguro, personalizado y digital primero. Una empresa global de telecomunicaciones está utilizando IA conversacional para crear experiencias de cliente consistentes, seguras y personalizadas en su amplia y diversa cartera de marcas. Dado que los clientes interactúan cada vez más a través de los canales digitales, la empresa buscó socios tecnológicos para ampliar su propia experiencia interna y, al mismo tiempo, asegurarse de mantener el control de sus datos al implementar un asistente virtual para el servicio al cliente.
Uno de los tres minoristas principales utiliza tecnología de asistente virtual con voz para permitir que los compradores carguen fotos de artículos que han visto sin conexión y luego presenta artículos para que consideren comprar en función de esas imágenes.
Las aplicaciones clínicas impulsadas por IA ambiental mejoran las experiencias de atención médica y alivian el agotamiento de los médicos. EmergeOrtho en Carolina del Norte está utilizando Nuance Experiencia Dragon Ambient (DAX) para transformar la forma en que sus prácticas ortopédicas en todo el estado pueden interactuar con los pacientes y documentar la atención. La aplicación de telesalud de inteligencia clínica ambiental captura con precisión cada interacción médico-paciente en la sala de examen o en una llamada de telesalud, luego actualiza automáticamente el registro de salud del paciente. Los pacientes tienen toda la atención del médico mientras simplifican el papeleo electrónico que causa el agotamiento que los médicos deben completar para recibir el pago por brindar atención.
Los sistemas de diagnóstico por imágenes impulsados por IA garantizan que los pacientes reciban la atención de seguimiento necesaria. Los radiólogos de varios hospitales utilizan inteligencia artificial y procesamiento de lenguaje natural para identificar y extraer automáticamente recomendaciones para exámenes de seguimiento de sospechas de cáncer y otras enfermedades vistas en radiografías y otras imágenes. La misma tecnología puede ayudar a gestionar una oleada de imágenes atrasadas y de seguimiento a medida que disminuyen las restricciones de covid-19, lo que permite a los proveedores programar procedimientos, comenzar la recuperación de ingresos y mantener la atención del paciente.
A medida que se acelera la transformación digital, debemos resolver los desafíos que enfrentamos hoy mientras nos preparamos para una gran cantidad de oportunidades futuras. En el centro de ese esfuerzo se encuentra el compromiso de generar confianza y administración de datos en nuestras organizaciones y proyectos de desarrollo de IA.