211service.com
'IA confiable' es un marco para ayudar a administrar el riesgo único
'IA confiable' es un marco para ayudar a administrar el riesgo único
Proporcionado por El Instituto de IA de Deloitte
La tecnología de inteligencia artificial (IA) continúa avanzando a pasos agigantados y se está convirtiendo rápidamente en un disruptor potencial y un facilitador esencial para casi todas las empresas en todas las industrias. En esta etapa, una de las barreras para el despliegue generalizado de IA ya no es la tecnología en sí misma; más bien, es un conjunto de desafíos que, irónicamente, son mucho más humanos: ética, gobernanza y valores humanos.
Irfan Saif es director de Deloitte Risk and Financial Advisory. Beena Ammanath es directora general de Deloitte Consulting LLP.
A medida que la IA se expande en casi todos los aspectos de la vida moderna, los riesgos de que la IA se comporte mal aumentan exponencialmente, hasta el punto en que esos riesgos pueden convertirse literalmente en una cuestión de vida o muerte. Los ejemplos del mundo real de la IA que salió mal incluyen sistemas que discriminan a las personas en función de su raza, edad o género y sistemas de redes sociales que sin darse cuenta difunden rumores y desinformación y más.
Peor aún, estos ejemplos son solo la punta del iceberg. A medida que la IA se implemente a mayor escala, es probable que los riesgos asociados solo aumenten, lo que podría tener graves consecuencias para la sociedad en general e incluso mayores consecuencias para las empresas responsables. Desde una perspectiva comercial, estas posibles consecuencias incluyen todo, desde demandas, multas regulatorias y clientes enojados hasta vergüenza, daño a la reputación y destrucción del valor para los accionistas.
Sin embargo, ahora que la IA se está convirtiendo en una capacidad comercial requerida, no solo agradable, las empresas ya no tienen la opción de evitar los riesgos únicos de la IA simplemente evitando la IA por completo. En su lugar, deben aprender a identificar y gestionar los riesgos de la IA de manera eficaz. Para lograr el potencial de la colaboración entre humanos y máquinas, las organizaciones deben comunicar un plan para la IA que se adopte y se hable desde la sala de correo hasta la sala de juntas. Al contar con un marco ético, las organizaciones crean un lenguaje común mediante el cual articular la confianza y ayudar a garantizar la integridad de los datos entre todas las partes interesadas internas y externas. Tener un marco y una lente comunes para aplicar el gobierno y la gestión de los riesgos asociados con la IA de manera consistente en toda la empresa puede permitir una adopción más rápida y consistente de la IA.
El marco de IA confiable
Para abordar mejor los desafíos relacionados con la ética y la gobernanza de la IA, es útil aprovechar un marco. El marco de IA confiable de Deloitte presenta seis dimensiones clave que, cuando se consideran colectivamente en las fases de diseño, desarrollo, implementación y operación de la implementación del sistema de IA, pueden ayudar a salvaguardar la ética y construir una estrategia de IA confiable.
El marco de IA confiable está diseñado para ayudar a las empresas a identificar y mitigar los riesgos potenciales relacionados con la ética de la IA en cada etapa del ciclo de vida de la IA. Aquí hay una mirada más cercana a cada una de las seis dimensiones del marco.
El marco de IA confiable
1. Justo, no sesgado
La IA confiable debe diseñarse y capacitarse para seguir un proceso justo y consistente y tomar decisiones justas. También debe incluir controles internos y externos para reducir el sesgo discriminatorio.
El sesgo es un desafío continuo para los humanos y la sociedad, no solo para la IA. Sin embargo, el desafío es aún mayor para la IA porque carece de una comprensión matizada de los estándares sociales, sin mencionar la extraordinaria inteligencia general requerida para lograr el sentido común, lo que puede conducir a decisiones que son técnicamente correctas pero socialmente inaceptables. La IA aprende de los conjuntos de datos utilizados para entrenarla, y si esos conjuntos de datos contienen sesgos del mundo real, los sistemas de IA pueden aprender, amplificar y propagar ese sesgo a velocidad y escala digital.
Por ejemplo, un sistema de inteligencia artificial que decide sobre la marcha dónde colocar anuncios de empleo en línea podría orientar injustamente los anuncios de empleos mejor pagados a los visitantes masculinos de un sitio web porque los datos del mundo real muestran que los hombres generalmente ganan más que las mujeres. De manera similar, una empresa de servicios financieros que utiliza IA para evaluar las solicitudes de hipotecas podría encontrar que su algoritmo discrimina injustamente a las personas en función de factores que no son socialmente aceptables, como la raza, el género o la edad. En ambos casos, la empresa responsable de la IA podría enfrentar consecuencias significativas, incluidas multas regulatorias y daños a la reputación.
Para evitar problemas relacionados con la imparcialidad y el sesgo, las empresas primero deben determinar qué constituye imparcialidad. Esto puede ser mucho más difícil de lo que parece, ya que para cualquier tema dado generalmente no existe una definición única de justo en la que todas las personas estén de acuerdo. Las empresas también deben buscar activamente sesgos en sus algoritmos y datos, haciendo los ajustes necesarios e implementando controles para ayudar a garantizar que no surjan sesgos adicionales de forma inesperada. Cuando se detecta un sesgo, debe entenderse y luego mitigarse a través de procesos establecidos para resolver el problema y recuperar la confianza del cliente.
La IA ya no puede tratarse como una caja negra que recibe entradas y genera salidas sin una comprensión clara de lo que sucede dentro.
2. Transparente y explicable
Para que la IA sea confiable, todos los participantes tienen derecho a comprender cómo se utilizan sus datos y cómo la IA toma decisiones. Los algoritmos, atributos y correlaciones de la IA deben estar abiertos a inspección, y sus decisiones deben ser completamente explicables.
A medida que las decisiones y los procesos que dependen de la IA aumentan tanto en número como en importancia, la IA ya no puede tratarse como una caja negra que recibe entradas y genera salidas sin una comprensión clara de lo que sucede en su interior.
Por ejemplo, los minoristas en línea que usan IA para hacer recomendaciones de productos a los clientes están bajo presión para explicar sus algoritmos y cómo se toman las decisiones de recomendación. De manera similar, el sistema judicial de EE. UU. enfrenta una controversia constante sobre el uso de sistemas de IA opacos para informar las decisiones de sentencias penales.
Los temas importantes a considerar en esta área incluyen identificar los casos de uso de IA para los cuales la transparencia y la explicabilidad son particularmente importantes, y luego comprender qué datos se están utilizando y cómo se toman las decisiones para esos casos de uso. Además, con respecto a la transparencia, existe una presión creciente para informar explícitamente a las personas cuando interactúan con la IA, en lugar de que la IA se haga pasar por una persona real.
3. Responsable y responsable
Los sistemas de IA confiables deben incluir políticas que establezcan claramente quién es responsable de su producción. Culpar a la tecnología en sí misma por las malas decisiones y los errores de cálculo simplemente no es suficiente, ni para las personas perjudicadas, ni mucho menos para los reguladores gubernamentales. Este es un tema clave que probablemente solo se volverá más importante a medida que la IA se utilice para una gama cada vez mayor de aplicaciones cada vez más críticas, como el diagnóstico de enfermedades, la gestión de patrimonio y la conducción autónoma.
Por ejemplo, si un vehículo sin conductor provoca una colisión, ¿quién es responsable de los daños? ¿El conductor? ¿El dueño del vehículo? ¿El fabricante? ¿Los programadores de IA? ¿El CEO?
Del mismo modo, considere el ejemplo de una empresa de inversión que utiliza una plataforma automatizada impulsada por IA para operar en nombre de sus clientes. Si un cliente invierte los ahorros de toda su vida a través de la empresa y luego pierde todo debido a algoritmos deficientes, debe existir un mecanismo para identificar quién es responsable del problema y quién es responsable de corregir las cosas.
Los factores clave a considerar incluyen qué leyes y regulaciones podrían determinar la responsabilidad legal y si los sistemas de inteligencia artificial son auditables y están cubiertos por las leyes de denunciantes existentes. Además, ¿cómo se comunicarán los problemas al público ya los reguladores, y qué consecuencias enfrentarán las partes responsables?
4. Robusto y fiable
Para que la IA logre una adopción generalizada, debe ser al menos tan robusta y confiable como los sistemas, procesos y personas tradicionales que está aumentando o reemplazando.
Para que la IA se considere confiable, debe estar disponible cuando se supone que debe estar disponible y debe generar resultados consistentes y confiables, realizando tareas correctamente en condiciones menos que ideales y cuando se encuentran con situaciones y datos inesperados. La IA confiable debe escalar bien, manteniéndose robusta y confiable a medida que su impacto se expande y crece. Y si falla, debe fallar de una manera predecible y esperada.
Considere el ejemplo de una empresa de atención médica que utiliza IA para identificar anomalías en los escáneres cerebrales y prescribir el tratamiento adecuado. Para ser confiable, es absolutamente esencial que los algoritmos de inteligencia artificial produzcan resultados consistentes y confiables, ya que las vidas podrían estar en juego.
Las empresas deben considerar y abordar todo tipo de riesgos (externos, físicos, digitales) y luego comunicar esos riesgos a los usuarios.
Para lograr una IA sólida y confiable, las empresas deben asegurarse de que sus algoritmos de IA produzcan los resultados correctos para cada nuevo conjunto de datos. También necesitan procesos establecidos para manejar problemas e inconsistencias cuando surjan. El factor humano es un elemento crítico aquí: comprender cómo el aporte humano afecta la confiabilidad; determinar quiénes son las personas adecuadas para proporcionar información; y garantizar que esas personas estén debidamente equipadas y capacitadas, en particular con respecto a los prejuicios y la ética.
5. Respetuoso con la privacidad
La privacidad es un tema crítico para todos los tipos de sistemas de datos, pero es especialmente crítico para la IA, ya que los conocimientos sofisticados generados por los sistemas de IA a menudo provienen de datos que son más detallados y personales. La IA confiable debe cumplir con las regulaciones de datos y solo usar los datos para los fines establecidos y acordados.
El problema de la privacidad de la IA a menudo se extiende más allá de los propios muros de una empresa. Por ejemplo, la privacidad de los datos de audio capturados por los asistentes de IA ha estado en los titulares recientemente, y han surgido controversias sobre la medida en que los proveedores y socios de una empresa tienen acceso a los datos, y si los datos deben compartirse con las fuerzas del orden.
Las empresas necesitan saber qué datos de los clientes se recopilan y por qué, y si los datos se utilizan de la forma en que los clientes los entendieron y aceptaron. Además, los clientes deben tener el nivel requerido de control sobre sus datos, incluida la capacidad de optar en o optar por no de que se compartan sus datos. Y si los clientes tienen preocupaciones sobre la privacidad de los datos, necesitan una vía para expresar esas preocupaciones.
6. Seguro y protegido
Para ser confiable, la IA debe estar protegida de los riesgos de seguridad cibernética que pueden provocar daños físicos y/o digitales. Si bien la seguridad y la protección son claramente importantes para todos los sistemas informáticos, son especialmente cruciales para la IA debido al papel y el impacto cada vez mayores de la IA en las actividades del mundo real.
Por ejemplo, si se piratea un sistema financiero basado en IA, el resultado podría ser un daño a la reputación y la pérdida de dinero o datos. Esas son consecuencias graves, por supuesto. Sin embargo, no son tan graves como las posibles consecuencias de que un vehículo impulsado por IA sea pirateado, lo que podría poner en riesgo la vida de las personas.
Otro ejemplo del riesgo de ciberseguridad de la IA es una reciente violación de datos que involucra a millones de registros de huellas dactilares y reconocimiento facial . Esta violación fue particularmente grave porque involucró los datos biométricos de las personas, que son permanentes y no se pueden alterar (a diferencia de una contraseña robada u otro tipo de datos estándar que se pueden cambiar rápida y fácilmente para limitar el daño).
Para ayudar a garantizar la seguridad de sus sistemas de IA, las empresas deben considerar y abordar minuciosamente todo tipo de riesgos (externos, físicos y digitales, entre muchos otros) y luego comunicar esos riesgos a los usuarios. Aunque los riesgos externos tienden a recibir la mayor atención, los riesgos internos, como el fraude, pueden ser igual de graves. Para cada caso de uso de IA, las empresas deben evaluar si los beneficios potenciales superan suficientemente los riesgos asociados.
IA en la que puedes confiar
La ética de la IA está emergiendo como el mayor desafío para el progreso continuo de la IA y el despliegue generalizado, y es un desafío que las empresas ya no pueden ignorar ahora que la IA se está convirtiendo en una capacidad comercial esencial. El marco de IA confiable ofrece una forma estructurada y completa de pensar sobre la ética de la IA, ayudando a las empresas a diseñar, desarrollar, implementar y operar los sistemas de IA que necesitan. puede confiar.
Para más información visite www.deloitte.com/us/trustai .