La guía de Big Tech para hablar sobre la ética de la IA

Andrea Daquino

Los investigadores de IA a menudo dicen que el buen aprendizaje automático es más un arte que una ciencia. Lo mismo podría decirse de las relaciones públicas efectivas. Selección de las palabras adecuadas para dar un tono positivo o reformular la conversación sobre la IA es una tarea delicada: si se hace bien, puede fortalecer la imagen de la marca, pero si se hace mal, puede desencadenar una reacción aún mayor.

Los gigantes tecnológicos lo sabrían. En los últimos años, han tenido que aprender este arte rápidamente, ya que han enfrentado una creciente desconfianza pública en sus acciones y una intensificación de las críticas sobre su investigación y tecnologías de IA.

Ahora han desarrollado un nuevo vocabulario para usar cuando quieren asegurarle al público que se preocupan profundamente por desarrollar la IA de manera responsable, pero quieren asegurarse de que no invitan a un escrutinio excesivo. Aquí hay una guía de información privilegiada para decodificar su lenguaje y desafiar las suposiciones y los valores incorporados.

responsabilidad (n) - El acto de responsabilizar a otra persona por las consecuencias cuando falla su sistema de IA.

exactitud (n) - Corrección técnica. La medida más importante del éxito en la evaluación del rendimiento de un modelo de IA. Ver validación .

adversario (n) - Un ingeniero solitario capaz de interrumpir su poderoso sistema de IA generador de ingresos. Ver robustez , seguridad .

alineación (n) - El desafío de diseñar sistemas de IA que hagan lo que les decimos y valoren lo que nosotros valoramos. Deliberadamente abstracto. Evite usar ejemplos reales de consecuencias dañinas no deseadas. Ver seguridad .

inteligencia general artificial (frase) - Un hipotético dios de la IA eso probablemente esté muy lejos en el futuro, pero también es inminente. Puede ser realmente bueno o realmente malo, lo que sea más útil desde el punto de vista retórico. Obviamente estás construyendo el bueno. Que es caro. Por lo tanto, necesita más dinero. Ver riesgos a largo plazo .

auditoría (n) - Una revisión que le paga a otra persona para que haga de su empresa o sistema de IA para que parezca más transparente sin necesidad de cambiar nada. Ver evaluación de impacto .

aumentar (v) - Incrementar la productividad de los trabajadores de cuello blanco. Efecto secundario: automatizar los trabajos de cuello azul. Triste pero inevitable.

beneficioso (adj) - Un descriptor general para lo que está tratando de construir. Convenientemente mal definido. Ver valor .

por diseño (ph) - Como en equidad por diseño o rendición de cuentas por diseño. Una frase para señalar que estás pensando mucho en las cosas importantes desde el principio.

cumplimiento (n) - El acto de seguir la ley. Todo lo que no es ilegal vale.

etiquetadoras de datos (ph) - Las personas que supuestamente existen detrás de la interfaz Mechanical Turk de Amazon para hacer el trabajo de limpieza de datos por poco dinero. No estoy seguro de quiénes son. Nunca los conocí.

democratizar (v) - Escalar una tecnología a toda costa. Una justificación para concentrar recursos. Ver escala .

diversidad, equidad e inclusión (ph) - El acto de contratar ingenieros e investigadores de grupos marginados para poder exhibirlos ante el público. Si desafían el statu quo, despedirlos .

eficiencia (n) - El uso de menos datos, memoria, personal o energía para construir un sistema de IA.

junta de ética (ph) - Un grupo de asesores sin poder real, convocados para crear la apariencia de que su empresa está escuchando activamente. Ejemplos: Junta de ética de IA de Google (cancelado), Junta de Supervisión de Facebook (todavía en pie).

principios éticos (ph) - Un conjunto de perogrulladas utilizadas para señalar sus buenas intenciones. Manténgalo de alto nivel. Cuanto más vago sea el lenguaje, mejor. Ver IA responsable .

explicable (adj): para describir un sistema de IA que usted, el desarrollador y el usuario pueden entender. Mucho más difícil de lograr para las personas en las que se usa. Probablemente no valga la pena el esfuerzo. Ver interpretable .

justicia (n) - Un complicado noción de imparcialidad se utiliza para describir algoritmos imparciales. Se puede definir en docenas de formas según su preferencia.

para siempre (ph) - Como en AI para bien o datos para bien . Una iniciativa completamente tangencial a tu core business que te ayuda a generar buena publicidad.

previsión (n) - La capacidad de mirar hacia el futuro. Básicamente imposible: por lo tanto, una explicación perfectamente razonable de por qué no puede eliminar las consecuencias no deseadas de su sistema de IA.

marco de referencia (n) - Un conjunto de pautas para la toma de decisiones. Una buena manera de parecer reflexivo y mesurado mientras se retrasa la toma de decisiones real.

generalizable (adj) - El signo de un buen modelo de IA. Uno que continúa trabajando bajo condiciones cambiantes. Ver mundo real .

gobernancia (n) - Burocracia.

diseño centrado en el ser humano (ph): un proceso que implica el uso de personas para imaginar lo que un usuario promedio podría querer de su sistema de IA. Puede implicar solicitar comentarios de usuarios reales. Solo si hay tiempo. Ver partes interesadas .

humano en el bucle (ph) - Cualquier persona que sea parte de un sistema de IA. Las responsabilidades van desde falsificar las capacidades del sistema para evitar las acusaciones de automatización.

evaluación de impacto (ph) - Una revisión que usted mismo hace de su empresa o sistema de IA para mostrar su disposición a considerar sus desventajas sin cambiar nada. Ver auditoría .

interpretable (adj) – Descripción de un sistema de IA cuyo cálculo usted, el desarrollador, puede seguir paso a paso para comprender cómo llegó a su respuesta. En realidad, probablemente solo sea una regresión lineal. La IA suena mejor.

integridad (n) - Problemas que socavan el rendimiento técnico de su modelo o la capacidad de escalar de su empresa. No debe confundirse con cuestiones que son malas para la sociedad. No debe confundirse con la honestidad.

interdisciplinario (adj) – Término utilizado para cualquier equipo o proyecto que involucre a personas que no codifican: investigadores de usuarios, gerentes de productos, filósofos morales. Especialmente los filósofos morales.

riesgos a largo plazo (n) - Cosas malas que podrían tener efectos catastróficos en un futuro lejano. Probablemente nunca suceda, pero es más importante estudiarlo y evitarlo que los daños inmediatos de los sistemas de IA existentes.

socios (n) - Otros grupos de élite que comparten su visión del mundo y pueden trabajar con usted para mantener el statu quo. Ver partes interesadas .

compromiso de privacidad (ph) - El noble sacrificio del control individual sobre la información personal por beneficios grupales como los avances en el cuidado de la salud impulsados ​​por IA, que también resultan ser muy rentables.

Progreso (n) - Avance científico y tecnológico. Un bien inherente.

mundo real (ph) - Lo opuesto al mundo simulado. Un entorno físico dinámico lleno de sorpresas inesperadas que los modelos de IA están entrenados para sobrevivir. No debe confundirse con los humanos y la sociedad.

regulación (n) - lo que pides transferir la responsabilidad de mitigar la IA dañina a los formuladores de políticas. No debe confundirse con políticas que obstaculizarían su crecimiento.

IA responsable (n)- Un apodo para cualquier trabajo en su empresa que podría interpretarse por el público como un esfuerzo sincero para mitigar los daños de sus sistemas de IA.

robustez (n) - La capacidad de un modelo de IA para funcionar de manera consistente y precisa bajo intentos nefastos de alimentarlo con datos corruptos .

seguridad (n)- El desafío de construir sistemas de IA que no se desvíen de las intenciones del diseñador. No debe confundirse con la construcción de sistemas de IA que no fallan. Ver alineación .

escala (n)- El estado final de facto que cualquier buen sistema de IA debería esforzarse por lograr.

seguridad (n) - El acto de proteger datos valiosos o confidenciales y modelos de IA para que no sean violados por malos actores. Ver adversario .

partes interesadas (n) - Accionistas, reguladores, usuarios. La gente en el poder que quieres mantener feliz.

transparencia (n) - Revelar sus datos y código. Malo para la información privada y sensible. Así realmente difícil; francamente, incluso imposible. No debe confundirse con una comunicación clara sobre cómo funciona realmente su sistema.

digno de confianza (adj) - Una evaluación de un sistema de IA que se puede fabricar con suficiente publicidad coordinada.

renta básica universal (ph) - La idea de que pagarles a todos un salario fijo resolverá la agitación económica masiva causada cuando la automatización conduce a la pérdida generalizada de empleos. Popularizado por el candidato presidencial de 2020 Andrew Yang. Ver redistribución de la riqueza .

validación (n) - El proceso de probar un modelo de IA con datos distintos a los datos con los que se entrenó, para comprobar que sigue siendo preciso.

valor (n) - Un beneficio intangible brindado a sus usuarios que le genera mucho dinero.

valores (n) - Los tienes. Recuerda a la gente.

redistribución de la riqueza (ph) - Una idea útil para colgar alrededor cuando la gente te escudriña por usar demasiados recursos y ganar demasiado dinero. ¿Cómo funcionaría la redistribución de la riqueza? Renta básica universal, por supuesto. Tampoco es algo que puedas descubrir por ti mismo. Requeriría regulación. Ver regulación .

retener la publicación (ph) - El acto benévolo de elegir no abrir su código porque podría caer en manos de un mal actor. Mejor limitar el acceso a los socios quien se lo puede permitir.

esconder