211service.com
Cómo se ha transformado la informática
Jeanette Wing cree que la IA confiable y el razonamiento causal pueden ayudar a la sociedad a resolver problemas del mundo real. Pero no será fácil.
27 de octubre de 2021
Pedro Garritano
Es hora de que comencemos a fijarnos en los datos para resolver nuestros problemas, dice uno de los principales expertos mundiales en ciencia de datos.
En 2006, Jeannette Wing, entonces jefa del departamento de informática de la Universidad Carnegie Mellon, publicó un influyente ensayo titulado pensamiento computacional, argumentando que todos se beneficiarían del uso de las herramientas conceptuales de la informática para resolver problemas en todas las áreas del esfuerzo humano.
Esta historia fue parte de nuestra edición de noviembre de 2021
- Ver el resto del número
- Suscribir
Wing nunca tuvo la intención de estudiar informática. A mediados de la década de 1970, ingresó al MIT para estudiar ingeniería eléctrica, inspirada por su padre, profesor en ese campo. Cuando descubrió su interés por la informática, lo llamó para preguntarle si era una moda pasajera. Después de todo, el campo ni siquiera tenía libros de texto. Él le aseguró que no lo era. Wing cambió de carrera y nunca miró hacia atrás.
Anteriormente vicepresidente corporativo de Microsoft Research y ahora vicepresidente ejecutivo de investigación en la Universidad de Columbia, Wing es líder en la promoción de la ciencia de datos en múltiples disciplinas.
anil ananthaswamy le preguntó recientemente a Wing sobre su ambiciosa agenda para promover una IA confiable, una de 10 retos de investigación ella se identifica en su intento de hacer que los sistemas de IA sean más justos y menos sesgados.
P: ¿Diría que hay una transformación en marcha en la forma en que se realizan los cálculos?
R: Absolutamente. La Ley de Moore nos llevó muy lejos. Sabíamos que íbamos a tocar el techo para la Ley de Moore, [así que] la computación paralela cobró prominencia. Pero el cambio de fase fue la computación en la nube. Los sistemas de archivos distribuidos originales eran una especie de computación en la nube infantil, donde sus archivos no eran locales para su máquina; estaban en otro lugar en el servidor. La computación en la nube toma eso y lo amplifica aún más, donde los datos no están cerca de usted; la computadora no está cerca de usted.
El siguiente turno es sobre datos. Durante mucho tiempo, nos obsesionamos con los ciclos, haciendo que las cosas funcionaran más rápido: los procesadores, las CPU, las GPU y más servidores paralelos. Ignoramos la parte de datos. Ahora tenemos que fijarnos en los datos.
P: Ese es el dominio de la ciencia de datos. ¿Cómo lo definirías? ¿Cuáles son los desafíos de usar los datos?
A: Tengo una definición muy sucinta. La ciencia de datos es el estudio de extraer valor de los datos.
No puede simplemente darme un montón de datos sin procesar y presiono un botón y sale el valor. Comienza con la recopilación, el procesamiento, el almacenamiento, la gestión, el análisis y la visualización de los datos, y luego con la interpretación de los resultados. Yo lo llamo el ciclo de vida de los datos. Cada paso en ese ciclo es mucho trabajo.
P: Cuando utiliza big data, a menudo surgen preocupaciones sobre la privacidad, la seguridad, la equidad y el sesgo. ¿Cómo se abordan estos problemas, especialmente en IA?
A: Tengo esta nueva agenda de investigación que estoy promoviendo. Lo llamo IA confiable, inspirado por las décadas de progreso que hicimos en la computación confiable. Por confiabilidad, generalmente nos referimos a seguridad, confiabilidad, disponibilidad, privacidad y facilidad de uso. En las últimas dos décadas, hemos progresado mucho. Tenemos métodos formales que pueden asegurar la corrección de una pieza de código; contamos con protocolos de seguridad que aumentan la seguridad de un sistema en particular. Y tenemos ciertas nociones de privacidad que están formalizadas.
La IA confiable sube la apuesta de dos maneras. De repente, estamos hablando de robustez y equidad; robustez significa que si perturbas la entrada, la salida no se perturba mucho. Y estamos hablando de la interpretabilidad. Estas son cosas de las que nunca solíamos hablar cuando hablábamos de informática.
[Además,] los sistemas de IA son de naturaleza probabilística. Los sistemas informáticos del pasado son básicamente máquinas deterministas: están encendidos o apagados, verdadero o falso, sí o no, 0 o 1 . Los resultados de nuestros sistemas de IA son básicamente probabilidades. Si le digo que su radiografía dice que tiene cáncer, es con, digamos, 0.75 de probabilidad de que esa pequeña mancha blanca que vi sea maligna.
Así que ahora tenemos que vivir en este mundo de probabilidades. Desde un punto de vista matemático, utiliza lógica probabilística y aporta muchas estadísticas y razonamiento estocástico, etc. Como científico informático, no estás capacitado para pensar de esa manera. Entonces, los sistemas de IA realmente han complicado nuestro razonamiento formal sobre estos sistemas.
P: La IA confiable es una de las 10 retos de investigación identificó para los científicos de datos. La causalidad parece ser otra grande.
R: Creo que la causalidad es la próxima frontera para la IA y el aprendizaje automático. En este momento, los algoritmos y modelos de aprendizaje automático son buenos para encontrar patrones, correlaciones y asociaciones. Pero no pueden decirnos: ¿Esto causó eso? O si tuviera que hacer esto, ¿qué pasaría? Y entonces, hay otra área completa de actividad sobre la inferencia causal y el razonamiento causal en informática. La comunidad estadística ha estado analizando la causalidad durante décadas. A veces se molestan un poco con la comunidad informática por pensar que es una idea nueva. Así que quiero dar crédito a la comunidad estadística por sus contribuciones fundamentales a la causalidad. La combinación de big data y razonamiento causal realmente puede hacer avanzar el campo.
P: ¿Está entusiasmado con lo que la ciencia de datos puede lograr?
A: Todos se vuelven locos con la ciencia de datos, porque ven que sus campos se transforman mediante el uso de métodos de ciencia de datos en los datos digitales que ahora están generando, produciendo, recopilando, etc. Es un momento muy emocionante.