Cinco formas de hacer de la IA una mayor fuerza para el bien en 2021

Un globo está atado a un peso de metal. Un par de tijeras están cortando la cuerda que lo sujeta en su lugar. Getty

Hace un año, sin saber lo que traería el 2020, yo reflejado en el momento crucial en el que se encontraba la comunidad de IA. El año anterior, 2018, había visto una serie de fallas automatizadas de alto perfil, como accidentes automovilísticos y herramientas de contratación discriminatorias . En 2019, el campo respondió hablando más que nunca sobre la ética de la IA. Pero hablar, dije, no era suficiente. Necesitábamos tomar acciones tangibles. Dos meses después, el coronavirus cerró el mundo.

En nuestra nueva realidad socialmente distanciada y remota en todo, estas conversaciones sobre los daños algorítmicos de repente llegaron a un punto crítico. Sistemas que habían estado al margen, como Algoritmos de escaneo facial de HireVue y herramientas de vigilancia del lugar de trabajo , se estaban convirtiendo en la corriente principal. Otros, como herramientas para monitorear y evaluar a los estudiantes , giraban en tiempo real. En agosto, después un fracaso espectacular del gobierno del Reino Unido para reemplazar los exámenes presenciales con un algoritmo para las admisiones universitarias, cientos de estudiantes se reunieron en Londres para gritar, ¡A la mierda el algoritmo! Este se está convirtiendo en el grito de batalla de 2020, tuiteó Deb Raji, investigadora de rendición de cuentas de AI, cuando un manifestante de Stanford gritó de nuevo en respuesta a una debacle diferente unos meses después.

Al mismo tiempo, hubo más acción. En una gran victoria, Amazon, Microsoft e IBM prohibieron o suspendieron su venta de reconocimiento facial a las fuerzas del orden, después de que el asesinato de George Floyd provocara protestas mundiales contra la brutalidad policial. Fue la culminación de dos años de lucha por investigadores y activistas de derechos civiles para demostrar los efectos ineficaces y discriminatorios de las tecnologías de las empresas. Otro cambio fue pequeño pero notable: por primera vez, NeurIPS, una de las conferencias de investigación de IA más destacadas, exigió a los investigadores que presentar una declaración de ética con sus papeles.

Así que aquí estamos a principios de 2021, con más atención pública y regulatoria sobre la influencia de la IA que nunca. Mi resolución de Año Nuevo: Hagamos que cuente. Aquí hay cinco esperanzas que tengo para la IA en el próximo año.

Reducir la influencia corporativa en la investigación.

Los gigantes tecnológicos tienen un control desproporcionado sobre la dirección de la investigación de IA. Esto ha cambiado la dirección del campo en su conjunto hacia cada vez más grandes datos y grandes modelos, con varias consecuencias. Explota el impacto climático de los avances de la IA, impide que los laboratorios con recursos limitados participen en el campo y conduce a una investigación científica más perezosa al ignorar la gama de otros enfoques posibles. Como Google Se revela la expulsión de Timnit Gebru , los gigantes tecnológicos limitarán fácilmente la capacidad de investigar también otras consecuencias.

Pero gran parte de la influencia empresarial se reduce al dinero ya la falta de financiación alternativa. Como escribí el año pasado en mi perfil de OpenAI , el laboratorio inicialmente buscó depender solo de donantes independientes y adinerados. La apuesta resultó insostenible y, cuatro años después, OpenAI firmó un acuerdo de inversión con Microsoft. Mi esperanza es que veamos más gobiernos entrar en este vacío para proporcionar opciones de financiación no relacionadas con la defensa para los investigadores. No será una solución perfecta, pero será un comienzo. Los gobiernos están en deuda con el público, no con el resultado final.

Reenfocarse en la comprensión del sentido común

La abrumadora atención en los modelos más grandes y peores ha eclipsado uno de los objetivos centrales de la investigación de la IA: crear maquinas inteligentes que no solo coinciden con patrones, sino que realmente entienden el significado. Si bien la influencia corporativa es un importante contribuyente a esta tendencia, también hay otros culpables. Las conferencias de investigación y las publicaciones revisadas por pares ponen un gran énfasis en lograr resultados de vanguardia. Pero el estado del arte es a menudo mal medido por las pruebas que se puede superar con más datos y modelos más grandes.

Historia relacionada

Leímos el artículo que obligó a Timnit Gebru a salir de Google. Esto es lo que dice.

El investigador estrella de ética de la empresa destacó los riesgos de los grandes modelos de lenguaje, que son clave para el negocio de Google.

No es que los modelos a gran escala nunca puedan alcanzar la comprensión del sentido común. Esa es todavía una pregunta abierta. Pero hay otras vías de investigación que merecen una mayor inversión. Algunos expertos han apostado por IA neurosimbólica , que combina el aprendizaje profundo con sistemas de conocimiento simbólico. Otros están experimentando con técnicas más probabilísticas que utilizan muchos menos datos, inspirados en la capacidad de un niño humano para aprender de muy pocos ejemplos.

En 2021, espero que el campo realinee sus incentivos para priorizar la comprensión sobre la predicción. Esto no solo podría conducir a sistemas técnicamente más sólidos, sino que las mejoras también tendrían importantes implicaciones sociales. La susceptibilidad de los actuales sistemas de aprendizaje profundo a ser engañados, por ejemplo, socava la seguridad de autos sin conductor y plantea peligrosas posibilidades para armas autónomas . La incapacidad de los sistemas para distinguir entre correlación y causalidad también está en la raíz de discriminación algorítmica .

Empoderar a los investigadores marginados

Si los algoritmos codifican los valores y las perspectivas de sus creadores, una amplia muestra representativa de la humanidad debería estar presente en la mesa cuando se desarrollen. No vi mejor evidencia de esto que en diciembre de 2019, cuando asistí a NeurIPS. Ese año, con un número récord de mujeres y oradores y asistentes de minorías, pude sentir el tenor de los procedimientos. cambio tangible . Hubo más conversaciones que nunca sobre cómo lidiar con la influencia de la IA en la sociedad.

En ese momento elogié a la comunidad por su progreso. Pero El trato de Google a Gebru , una de las pocas mujeres negras prominentes en la industria, mostró cuánto queda por recorrer. La diversidad en números no tiene sentido si esas personas no están capacitadas para llevar su experiencia vivida a su trabajo. Sin embargo, soy optimista de que la marea está cambiando. El punto álgido marcado por el despido de Gebru se convirtió en un momento crítico de reflexión para la industria. Espero que este impulso conduzca a un cambio sistémico duradero.

Centrar las perspectivas de las comunidades afectadas

También hay otro grupo para traer a la mesa. Una de las tendencias más emocionantes del año pasado fue la aparición de aprendizaje automático participativo . Es una provocación reinventar el proceso de desarrollo de la IA para incluir a aquellos que finalmente quedan sujetos a los algoritmos.

En julio, el taller de la primera conferencia dedicado a este enfoque recopiló una amplia gama de ideas sobre cómo podría ser. Las sugerencias incluyeron nuevos procedimientos de gobierno para solicitar comentarios de la comunidad; nuevos métodos de auditoría de modelos para informar e involucrar al público; y rediseños propuestos de los sistemas de IA para dar a los usuarios más control de su configuración.

Mi esperanza para 2021 es ver más de estas ideas exploradas y adoptadas en serio. Facebook ya está comenzando: si continúa permitiendo que su junta de supervisión externa realice cambios vinculantes en las políticas de moderación de contenido de la plataforma, la estructura de gobierno podría convertirse en un mecanismo de retroalimentación digno de emular.

Codificar las barandillas en la regulación

Hasta ahora, los esfuerzos de base han liderado el movimiento para mitigar los daños algorítmicos y responsabilizar a los gigantes tecnológicos. Pero dependerá de los reguladores nacionales e internacionales establecer barandillas más permanentes. La buena noticia es que los legisladores de todo el mundo han estado observando y están en medio de la redacción de leyes. En los Estados Unidos, los miembros del Congreso ya han introducido proyectos de ley para abordar el reconocimiento facial, el sesgo de la IA y las falsificaciones profundas. Varios de ellos también envió una carta a Google en diciembre expresando su intención de continuar con esta regulación.

Entonces, mi última esperanza para 2021 es que veamos aprobar algunos de estos proyectos de ley. Es hora de codificar lo que hemos aprendido en los últimos años y alejarnos de la ficción de la autorregulación.

esconder