211service.com
La IA es real ahora: una conversación con Sophie Vandebroek
Por qué nunca habrá otro invierno de IA y qué están haciendo IBM y MIT juntos para garantizarlo.
28 de febrero de 2019
Patrocinado por trazo oscuro
Más veces que casi cualquier otro campo de innovación, la inteligencia artificial ha capeado ciclos recurrentes de esperanza exagerada, seguidos de decepción, pesimismo y recortes de fondos. Pero Sophie Vandebroek, vicepresidenta de asociaciones tecnológicas emergentes de IBM, cree que los inviernos de IA son realmente cosa del pasado, gracias a las enormes cantidades de potencia informática y datos disponibles ahora para entrenar redes neuronales.
En este episodio, Vandebroek comparte ejemplos de aplicaciones del mundo real habilitadas por este cambio, desde el reconocimiento de imágenes hasta los chatbots. Y describe la misión del nuevo MIT-IBM Watson AI Lab, una colaboración de 10 años y 240 millones de dólares entre investigadores de IBM y profesores y estudiantes del MIT para centrarse en los avances fundamentales que harán que la IA sea más útil y fiable en todos los sectores, desde el sanitario hasta el finanzas a la seguridad.
Este episodio es presentado por Darktrace, el líder mundial en tecnología de IA para ciberdefensa. Darktrace tiene su sede en San Francisco y Cambridge, Reino Unido, y cuenta con casi 2500 clientes en todo el mundo que utilizan su software para detectar y responder a las ciberamenazas a sus empresas, usuarios y dispositivos. Darktrace ha creado una innovadora tecnología de aprendizaje automático que puede detectar actividades inusuales utilizando un enfoque modelado en el sistema inmunitario humano. En la segunda mitad del programa, la directora ejecutiva de Darktrace, Nicole Eagan, explica cómo funciona la tecnología de Darktrace y por qué las empresas deben incorporar nuevas defensas a la carrera armamentista cibernética actual.
MOSTRAR NOTAS Y ENLACES
Laboratorio de inteligencia artificial MIT-IBM Watson
TRANSCRIPCIÓN COMPLETA
Elizabeth Bramson-Boudreau: De MIT Technology Review, soy Elizabeth Bramson-Boudreau, y esto es Business Lab, el programa que ayuda a los líderes empresariales a dar sentido a las nuevas tecnologías que salen del laboratorio y llegan al mercado. Este episodio es presentado por Darktrace, el líder mundial en tecnología de IA para ciberdefensa. Más adelante en el programa hablaré con la directora ejecutiva de Darktrace, Nicole Eagan. Nos mostrará cómo los avances en IA y aprendizaje automático nos brindan un nuevo conjunto de formas de defendernos contra piratas informáticos y ciberdelincuentes.
Elizabeth: Pero nuestro primer invitado proviene de uno de los centros más nuevos para la investigación de IA, el MIT-IBM Watson AI .Lab, a solo un par de cuadras de nuestras oficinas aquí en Cambridge, Massachusetts. Es el lugar de más de 50 nuevos proyectos que involucran a investigadores de IBM y profesores del MIT, todos ellos destinados a promover las tecnologías fundamentales detrás de la inteligencia artificial. Y aquí para hablar con nosotros está uno de los arquitectos de ese esfuerzo, la Dra. Sophie Vandebroek.
Elizabeth: Sophie es actualmente la vicepresidenta de asociaciones tecnológicas emergentes de IBM y es conocida en la industria informática por su distinguida trayectoria impulsando la innovación, no solo en IBM sino también en Xerox, donde pasó más de una década como directora de tecnología en Xerox. Fue directora de PARC Inc., el famoso laboratorio antes conocido como Xerox PARC. En 2011 fue incluida en el Salón de la Fama de Mujeres en Tecnología. De acuerdo con los temas del laboratorio de IA de IBM Watson del MIT, comenzamos hablando sobre cómo está evolucionando la IA y por qué está transformando las empresas de una manera que la mayoría de los ejecutivos recién comienzan a comprender.
Elizabeth: Sophie, gracias por venir aquí a hablar con nosotros y bienvenida.
Sofía Vandebroek: Oh, es un gran placer estar aquí. He sido un ávido lector de su diario, así que estoy muy feliz de participar en el podcast.
Elizabeth : Espero que pueda hablar no solo conmigo sino también con las personas que escuchan este podcast sobre hacia dónde se dirige la IA y la etapa en la que nos encontramos en el desarrollo de la IA. Sé que mucha gente habla de cómo la IA ha estado a punto de transformar el trabajo, solo para que esas esperanzas se desvanezcan. ¿Podríamos estar en otra de estas situaciones en las que se desvanece, o es diferente ahora?
Sophie: Es muy diferente ahora que la IA es real. Y sí, la palabra inteligencia artificial se acuñó hace casi 70 años. Son tantas décadas después. ¿Entonces qué pasó? ¿Por qué no era real entonces y por qué lo es ahora? Hay dos razones principales por las que es real ahora. Y es tanto por las leyes exponenciales. La primera es la Ley de Moore que todos conocemos y amamos muy bien. El transistor, el transistor básico se inventó en los años 50. En 1975 había 1000 transistores en un chip de un centímetro cuadrado. Hoy hay 10 mil millones de transistores en un chip de un centímetro cuadrado que IBM desarrolla hoy, y ese poder de cómputo ha resultado en los dispositivos móviles que tenemos en nuestros bolsillos, la última computadora de alto rendimiento, la Summit, esa computadora IBM que Oak Ridge National Lab adquirido recientemente. Hace 200 petaflops, que son 200 mil billones de cálculos por segundo. Quiero decir, súper rápido.
Sophie: Así que tenemos un volumen, me refiero a una gran cantidad de poder de cómputo, que es fundamental para que la IA sea real. Además de la segunda ley, que es la Ley de Metcalfe. Bob Metcalfe, que también formó parte de la comunidad de Boston durante mucho tiempo, estuvo en Xerox PARC y, como saben, antes de unirme a IBM estuve algunas décadas en Xerox trabajando en estrecha colaboración con el equipo de PARC, cuando inventó Ethernet. Y la Ethernet conectada... el valor de la Ethernet, el valor de una red es proporcional a 2 elevado a n con n, el número de dispositivos en la red. Y eso se llama Ley de Metcalfe, y no solo se refiere a Ethernet, sino obviamente a la World Wide Web, a las redes sociales, y ha creado muchas empresas muy valiosas que todos conocemos hoy.
Sophie: Pero además ha creado este enorme volumen de datos, ¿no? Y así, los datos en la web junto con los datos digitales estructurados que muchas empresas tienen hoy, muchas empresas han comenzado a digitalizar todos sus procesos de trabajo junto con todos los datos provienen de sensores con Internet de las cosas y sensores y fabricación y cámaras, omnipresentes cámaras, etc. Hay una gran cantidad de datos, de hecho aumentó exponencialmente durante la última década o más ahora. Y así ocurrieron los 'inviernos de IA' porque, de hecho, no había el poder de cómputo y no había los datos para entrenar estas redes neuronales. Y hoy tenemos el poder de cómputo. Tenemos los datos. Y se ha avanzado mucho en las redes neuronales en los últimos cinco años, ya que, por primera vez en 2012, se trataba de una red neuronal de aprendizaje profundo que se ejecutaba en una unidad de procesamiento gráfico, una GPU, que para el primera vez ganó un concurso de reconocimiento de imágenes. Y, de hecho, es en estas áreas estrechas donde la IA tiene una calidad sobrehumana y una supervelocidad. Y por estas razones, estos dos exponenciales, la IA es real. Y, de hecho, diría que la inteligencia artificial en sí está ahora al comienzo de una curva exponencial, que estamos creando nuevos conocimientos exponencialmente rápidos que las personas, sin importar en qué industria se encuentren, pueden usar para tomar decisiones rápidas y en tiempo real. Además, puede acelerar el proceso de descubrimiento en la investigación y el desarrollo de las ciencias de la vida en general. Entonces se está usando. Y tiene realmente la capacidad de impactar en múltiples campos.
Elizabeth: Esa es una gran explicación de lo que realmente ha permitido este cambio y por qué la IA es un tema tan omnipresente para los líderes empresariales de hoy. ¿Qué permite, qué permite la IA a las empresas que podría haber sido difícil o incluso imposible de hacer hace una década?
Sophie: Sí, así ha sido, permite a las empresas aumentar tanto su eficacia como su eficiencia desde el punto de vista del resultado final, desde el punto de vista de la rentabilidad. Pero también les permite crear modelos comerciales completamente nuevos y nuevas oportunidades de ingresos. Permítanme dar un ejemplo de la primera. Por ejemplo, los agentes virtuales que encajan en esta categoría de IA estrecha que acabamos de pasar, estamos en la fase de IA amplia hoy y podemos hablar de eso antes de llegar a la inteligencia artificial general. Pero los agentes virtuales o los chatbots que muchos de nosotros conocemos y con los que interactuamos hoy en día como parte de los servidores de los clientes, simplemente no existían hace una década. Todo lo hacían los agentes del centro de llamadas que tenían que aprovechar grandes bases de datos para obtener las respuestas a sus preguntas, etcétera. Bueno, hoy en día, la mayor parte de eso, los agentes virtuales pueden hacerlo de una manera muy eficaz y eficiente. De hecho, algunos de estos agentes virtuales hoy en día evaluarán muy rápidamente si eres extrovertido o introvertido y ajustarán su lenguaje de acuerdo a tu estilo.
Sophie: También automatización. por ejemplo, si conduce su automóvil a través de una cabina de peaje hoy, es un reconocimiento y lectura de matrículas totalmente automático, de modo que dentro de los procesos de back-end, en realidad se le cobra por conducir a través de las cabinas de peaje. Una vez más, la mayoría de estos procesos se realizaban manualmente en el pasado. Se tomarían fotografías de las matrículas, se enviarían a la India para ser procesadas, y luego cuatro de cada cinco personas, si su matrícula se ingresa en el sistema, entonces se le facturaría. Estos son todos estos procesos transaccionales, rutinarios, muy limitados y muy específicos que están automatizados hoy en día.
Elizabeth: Todo esto suena fantástico. Y como líder empresarial, puedo pensar que sabe por qué no querría ver mayores eficiencias. Pero, ¿hay cosas en las que quizás deba pensar en torno a los riesgos de las herramientas basadas en el aprendizaje automático?
Sophie: Sí, definitivamente hay riesgos. Y muchas empresas: en IBM es lo más importante. Estamos creando las herramientas y capacidades como parte de IBM OpenScale o tenemos otros conjuntos de herramientas que destacaré. Uno de ellos es ayudar a las empresas a hacer frente al riesgo. También está empezando a ser una prioridad para las juntas directivas y los directores de las empresas, para asegurarse de que se aborden estos riesgos relacionados con el despliegue y la adopción de la inteligencia artificial como parte de la organización. Permítanme resaltar algunos. El número uno es asegurarse de que los algoritmos, los algoritmos de IA, sean justos, que el resultado del algoritmo de IA, ya que la IA ayuda a los humanos a tomar decisiones, que las decisiones sean justas y éticas y no sesgadas. Así que acabamos de lanzar, código abierto, cualquiera puede ayudarnos a mejorarlo, por lo que IBM investiga el kit de herramientas AI Fairness 360 de código abierto, donde puede extraer su algoritmo y luego se verifica en busca de todo tipo de sesgos. Hoy revisamos el sesgo de género, el sesgo de edad, el sesgo de raza, cosas como el sesgo de código postal. Algunas de las razones del sesgo es que el conjunto de datos con el que se entrena el argumento, y especialmente en las empresas, las empresas no tienen grandes volúmenes de datos como en el mundo del consumidor, donde podría haber una gran cantidad de imágenes de gatos. entrenar un algoritmo de imagen para reconocer un gato. Las empresas en las que una empresa, digamos un hospital, una escuela o una empresa, tiene una cantidad limitada de datos para entrenar los algoritmos, por lo que es posible que los datos no tengan suficiente diversidad e inclusión dentro del conjunto de datos, de modo que, de hecho, los algoritmos se convierten en tendencioso.
Sophie: Un ejemplo, por ejemplo, es que los departamentos de recursos humanos están comenzando a usar IA para ayudar a obtener nuevos empleados. Entonces, si su fuente de desarrolladores de software aprovecha un algoritmo de IA que podría entrenarse con sus datos, el algoritmo aprenderá que la mayoría de los desarrolladores de software son hombres, porque eso es lo que contrató en el pasado. Entonces, el riesgo es que los algoritmos recomienden que su próxima contratación, mirando todos los currículos, podrían recomendar proporcionalmente más hombres que mujeres para trabajos de ingeniería de software. Todos sabemos que el género es irrelevante para un ingeniero de software. Da la casualidad de que los datos históricos estaban sesgados dentro de los datos. Entonces, las herramientas recomendarán tener un conjunto de datos más diverso.
Elizabeth: Bien, ¿cuáles son algunos de los otros riesgos?
Sophie: Bueno. Los otros riesgos son, es más, quiero decir que los algoritmos de hoy, especialmente el aprendizaje profundo y las redes neuronales, son como cajas negras, ¿verdad? Entonces, el riesgo es que el algoritmo le dará una respuesta. Sí, obtiene un préstamo, o no, no obtiene un préstamo, o sí, tiene cáncer de piel porque la IA es más estrecha que los humanos para identificar el cáncer de piel. Pero no puede explicar. No explica por qué o cómo llegó a esa respuesta. Y entonces la explicabilidad es muy importante. Entonces ese es un riesgo, que en tu negocio no puedas explicar cómo se lograron ciertas respuestas. Y de hecho en la Unión Europea, con el RGPD, el Reglamento General de Protección de Datos, es un requisito. Las empresas ni siquiera pueden usar IA si no puede explicarse a sí misma. Todo tiene que poder ser explicado.
Elizabeth: Cuéntenos un poco sobre el MIT-IBM Watson Lab y su misión.
Sophie: Sí. Gracias por la pregunta. Esta es una asociación muy emocionante entre la investigación de IBM y el MIT que establecimos hace poco más de un año. Entonces, es un compromiso de $ 240 millones por parte de IBM durante 10 años y es un laboratorio único, un laboratorio de colaboración entre la universidad y la industria, en el mundo. No existe otro de este tipo. De hecho, el decano de ingeniería del MIT, Anantha [Chandrakasan] y yo, comenzamos a pensar en el verano de 2017, creo que fue...
Sophie: Me dijiste que todo sucedió bastante rápido.
Elizabeth: Ocurrió en tres semanas. Tal vez cuatro semanas si tuviera si incluyo el almuerzo que Anantha y yo tuvimos antes de que nuestro vicepresidente senior hablara con el presidente del MIT un lunes por la mañana y tres semanas después, un viernes, se firmó el contrato. Y así es, de hecho, la visión era crear este laboratorio conjunto de alrededor de 100 investigadores, y los investigadores incluían investigadores de IBM, profesores del MIT y estudiantes, y celebramos el primer aniversario en septiembre. El pasado mes de septiembre de 2018. Y, de hecho, tenemos 49 proyectos conjuntos que están activos hoy, con unas 100 personas o el equivalente a 100 personas en esos proyectos. Y realmente lo son, son proyectos de investigación y no de tecnología aplicada. Realmente queríamos asegurarnos de que esos 50 proyectos aborden los problemas más difíciles de la IA. Y están haciendo exactamente eso.
Sophie: Así que hay cuatro pilares. Definimos cuatro pilares. Uno tiene que ver con los algoritmos básicos de IA y ahí es exactamente donde estamos abordando estos problemas difíciles como la IA que puede explicarse a sí misma. O aprender de los datos pequeños, diferentes metodologías para aprender de los datos pequeños, como los hospitales tienen un conjunto pequeño de pacientes pero un conjunto pequeño de datos.
Elizabeth: Para abordar el problema que mencionó anteriormente sobre cómo en el lado empresarial no hay, a menudo no hay suficientes datos para entrenar realmente los algoritmos.
Sophie: No de la forma en que se hizo en el pasado a la derecha en la fase estrecha de IA. Ahora estamos en esta fase de IA amplia donde los sistemas tendrán que aprender de los datos pequeños. Así que varios de los proyectos en el laboratorio de IA de MIT-IBM Watson también están asociados con eso.
Sophie: El segundo pilar es aplicar la IA a las industrias. Y hoy estamos analizando tres industrias: atención médica y ciencias de la vida, porque la unidad de negocios Watson Health de IBM tiene su sede aquí en Cambridge, Massachusetts. La IA aplicada a la industria también es seguridad, aplicada a los negocios de seguridad. Y, por supuesto, la seguridad es relevante para todas las industrias. Y luego, la tercera industria en la que nos enfocamos es la de los servicios financieros, es decir, las finanzas y la economía. Así que ese es un segundo pilar. Hay cuatro pilares en el MIT-IBM Watson AI Lab.
Sophie: El tercero es, lo llamamos la física de la IA. ¿Cuáles son los desafíos de hardware para realizar un entrenamiento eficiente y eficaz en las nubes y en el perímetro? Y luego, la cuarta categoría, que me entusiasma mucho, es una categoría que llamamos prosperidad habilitada por IA o prosperidad compartida habilitada por IA. Se trata nuevamente de ver estos desafíos de cómo crear sistemas de IA y que tengan valores verdaderamente morales que puedan tomar decisiones éticas. Cuál es el futuro de los trabajos por ejemplo, es un proyecto que tenemos en esa categoría. Y sí, estos son los cuatro pilares: algoritmos básicos de IA, física de la IA, IA para las industrias y prosperidad habilitada por la IA. Y ahora que celebramos nuestro primer aniversario, acabamos de acordar entre MIT e IBM que abriremos nuestras puertas para que otras grandes empresas que estén realmente interesadas en estar a la vanguardia de la investigación en inteligencia artificial se unan a nuestro laboratorio. Así que eso es en lo que estamos trabajando a continuación.
Elizabeth: Dos áreas en las que en MIT Technology Review dedicamos mucho tiempo a informar son las criptomonedas o blockchain y la computación cuántica. Realmente me gustaría escuchar lo que todos ustedes están haciendo en esas áreas. Y tal vez podamos comenzar con criptografía. Y supongo que la pregunta que tengo es y ¿cómo pensamos en blockchain como algo más que una curiosidad y en realidad algo que es confiable y estable y que puede mejorar el contexto comercial en el que se usa?
Sophie: Sí, dijiste la palabra correcta allí. Así que todo se trata de confianza. Cuando en IBM, cuando hablamos de blockchain, de hecho blockchain, se llevó a cabo una gran cantidad de investigación en blockchain durante varios años en los laboratorios de investigación, e IBM creó un negocio ahora hace aproximadamente dos años y medio, una unidad de negocios de blockchain. Veo tres tipos de áreas en las que se usa blockchain hoy en día o donde hay muchos prototipos experimentando. De hecho, uno está en criptomonedas como Bitcoin. Y así es como la mayoría de la gente conoce blockchain, piensan en Bitcoin. Y esa es toda un área de criptomonedas. En IBM no nos interesan las criptomonedas, porque a nuestros clientes no les interesan las criptomonedas. Estamos interesados en la plataforma blockchain subyacente. Y, de hecho, gran parte de la plataforma subyacente ha sido de código abierto en Hyperledger, administrada por Linux Foundation, e IBM ha contribuido significativamente al código y continuaremos haciéndolo. El siguiente es tener blockchain, esta plataforma subyacente, que se usa en cadenas de valor para rastrear bienes valiosos o bienes digitales valiosos a medida que van desde donde se originan hasta donde se usan. Y puedo dar algunos ejemplos. Y la tercera área en la que es valioso, especialmente en la industria de servicios financieros, es en torno a la identidad digital. Y puedo dar algunos ejemplos allí. Pero lo que les interesa a las empresas es poder crear transacciones confiables entre socios que, de forma inherente, podrían no conocerse entre sí, como pequeñas o grandes empresas, distribuidores o agricultores.
Sophie: Y así creando la confianza de forma distribuida. Entonces, las redes blockchain que hemos creado con nuestros clientes son redes privadas. No están abiertos para que todos se unan. son privados Es una red solo autorizada. Uno de los primeros ejemplos que hicimos, que comenzó hace muchos, muchos años y ahora está en funcionamiento, es una red de cadena de bloques para la seguridad alimentaria que creamos con Walmart. Walmart fue un miembro pilar de esta red de cadenas de bloques y muchos de los proveedores de Walmart están en la red. Y ahí está rastreando la comida desde la granja hasta la mesa. Y especialmente la intención aquí es que si se trata de un brote de E. coli o cualquier otro problema de seguridad alimentaria...
Elizabeth: Lechuga romana.
Sophie: Sí, lechuga romana. Quiero decir, sucede todo el tiempo. Sabíamos que el brote estaba en algún lugar de California, pero todo, incluida la lechuga, lo que sea, cultivado aquí en Massachusetts, fue retirado del estante. Eso es lo que sucede hoy. Lleva mucho tiempo rastrear dónde ocurrió un brote. Pero si rastrea todos sus productos a través de la cadena de bloques en dos minutos o más rápido, puede rastrear rápidamente de dónde vino esta lechuga en particular. Luego, aún debe ingresar y ver en qué punto de la cadena, desde la granja hasta la tienda y la mesa, la E. coli realmente contaminó los alimentos. Pero eso es más fácil que averiguar primero de dónde vino. Correcto.
Elizabeth: Estupendo. Bueno, absolutamente maravilloso saber de ti y tener la oportunidad de hablar contigo de nuevo. Y es genial tener el laboratorio a la vuelta de la esquina. Es una instalación maravillosa y es bueno tenerte en el vecindario. Así que gracias.
Sophie: Oh muchas gracias. Fue mi gran placer.
Elizabeth: Este episodio es presentado por Darktrace, el líder mundial en tecnología cibernética de inteligencia artificial. Darktrace tiene su sede en San Francisco en Cambridge, Inglaterra. Tiene alrededor de 2500 clientes en todo el mundo que usan su software para detectar y responder a las ciberamenazas a sus empresas, usuarios y dispositivos. Darktrace ha creado una innovadora tecnología de aprendizaje automático que puede detectar actividades inusuales. Para obtener más información sobre cómo funciona, hablé con la directora ejecutiva de la empresa, Nicole Eagan.
Elizabeth: Es bueno poder hablar.
Nicole Eagan: No hay problema.
Elizabeth: Aprecio que hagas esto. En Darktrace, compara su marca de ciberseguridad con el sistema inmunitario humano. Y espero que puedas explicarnos qué quieres decir con eso.
nicole: Entonces, lo que realmente estaba sucediendo es que creo que la industria de la seguridad estaba obsesionada con tratar de mantener alejados a los malos. Y lo que llegamos a reconocer es que, muchas veces, los atacantes muy sofisticados, como los estados nacionales, ingresarán a cualquier red que deseen. Así que decidimos darle la vuelta al problema y suponer que los malos estaban dentro o que iban a poder entrar. Eso nos llevó a esta idea de basar nuestra inteligencia artificial en los principios del sistema inmunológico humano. Entonces, si piensas en el sistema inmunológico del cuerpo humano, tiene un sentido innato de sí mismo que le permite saber lo que no es y tener una respuesta muy precisa y rápida. Así es exactamente como funciona nuestra inteligencia artificial. Está integrado dentro de cada una de las empresas de nuestros clientes y es solo aprender un sentido de sí mismo, lo que es normal. Lo que llamamos el 'patrón de vida' de cada usuario y dispositivo conectado a esa red. Y eso nos permite ser capaces de encontrar cosas fuera de lo común y, literalmente, detener los ataques o neutralizarlos en seco.
Elizabeth: ¿Y cómo ve que en general, de manera más general, cambien los ataques cibernéticos en estos días, ya sea que provengan de estados nacionales o de delincuentes cibernéticos individuales?
nicole: Hace poco me reuní con un director de seguridad de uno de nuestros clientes y creo que lo describió de una manera excelente. Dijo Solo piense, hay un equipo en otro lugar del mundo y el trabajo de tiempo completo de ese equipo es pensar en cómo robar su propiedad intelectual o de alguna manera obtener información de usted. Y eso es realmente a lo que se enfrentan las empresas, y la razón de ello es el tipo de carrera armamentista cibernética en la que estamos acostumbrados a que los gobiernos luchen contra los gobiernos; mientras eso todavía ocurre, ahora tenemos esta dimensión completamente nueva en la que los estados nacionales son en realidad posiblemente atacando a las empresas. Y eso significa que ese campo de batalla digital realmente ha cambiado y eso es algo contra lo que la mayoría de las corporaciones realmente no han tenido que defenderse en el pasado. Ahora complique y combine eso con el hecho de que estos estados nacionales en muchos casos también pueden organizarse con una red global de ciberdelincuencia muy fuerte. Y ese tipo de cooperación entre esas entidades también es una especie de nueva dimensión. Eso es a lo que se enfrentan las empresas, que es bastante nuevo y novedoso en comparación con los ataques de hace cinco o diez años.
Elizabeth: Bueno. Entonces, cuando se trata de lo que hace Darktrace, ¿está utilizando inteligencia artificial para detectar ataques, para defenderse de ataques o ambos?
nicole: Esa es una excelente pregunta. Sabes, creo que en algunos casos las empresas usan inteligencia artificial simplemente para automatizar procesos humanos. Así por ejemplo cada empresa suele tener un centro de operaciones de seguridad. Vas a tener una cantidad de analistas de amenazas y respondedores de incidentes allí. Y hay un enfoque que dice bien, ¿por qué no simplemente sacar la IA y aprender de los pasos que toman en lo que se llama el Libro de jugadas para responder a las infracciones y automatizarlo? Y eso puede darle un poco de ganancia en eficiencia. Pero al mismo tiempo no va a cambiar las reglas del juego. La otra cosa para la que he visto que se usa la IA es básicamente analizar todos los ataques históricos que han ocurrido en otras personas, en otras compañías, y tratar de usar eso como un indicador de amenazas futuras. Ahora, si bien suena muy interesante y práctico, en realidad parece tener fallas fundamentales, y eso se debe a que los ataques cambian muy rápidamente. De hecho, en muchos casos, solo hay nuevas cepas de ataques en los que se cambia una sola línea de código, y ahora lo que se llama las firmas ya no coinciden. Entonces, en nuestro caso, estamos utilizando numerosos tipos de aprendizaje no supervisado, supervisado y profundo para poder no solo encontrar los ataques, sino que la inteligencia artificial sepa cómo investigar el ataque. Y también lo más importante, cómo actuar realmente. Y eso es muy raro. De hecho, no hay ninguna otra empresa que utilice IA para tomar medidas.
Elizabeth: Correcto. Así que estás haciendo ambas cosas, entonces. Estás detectando y tomando medidas.
nicole: Realmente estamos usando la IA para detectar, investigar y tomar medidas. Y esa última parte, tomar la acción, es realmente difícil y realmente interesante. Es genial porque puede responder a los ataques muy rápidamente; de hecho, en promedio, puede responder en menos de dos segundos a un ataque. Y cuando estos ataques se mueven a la velocidad de una máquina, eso es absolutamente crítico. Pero la otra cosa que sí encontramos, desde una perspectiva práctica, es que a las personas en la organización de seguridad les toma tiempo, tal vez esta es la primera vez que trabajan con inteligencia artificial y están siendo aumentadas, les toma algo de tiempo. para realmente construir esa confianza. Así que en realidad hemos creado una capacidad completamente nueva para que pueda hacer recomendaciones. ¿Qué pasa si la IA recomienda qué acción tomaría y un ser humano lo confirma? Y una vez que los humanos comienzan a ver, wow, está haciendo la recomendación correcta cada vez, crean una confianza y la ponen en lo que llamamos modo activo. Así que creo que después de haber hecho esto ahora en los últimos cinco años en casi 2500 empresas, nos hemos vuelto muy buenos en la comprensión de lo que se necesita para construir esa relación de confianza, pero también nuestros algoritmos se han vuelto realmente fuertes e inteligentes para responder a estos ataques en tiempo real.
Elizabeth: Entonces, a medida que la defensa mejora, ¿no es justo decir que los ataques también mejorarán, tal vez usando IA para luchar contra la defensa cibernética orientada u organizada por IA?
nicole: Tiene toda la razón, aunque es un poco temprano y solo hemos visto indicios de que puede ir en esa dirección, y hemos visto cosas como ataques de comportamiento donde la IA podría aprender, en realidad, su estilo y modo de comunicación. que utiliza digamos un correo electrónico. Ha sido una especie de aprendizaje automático algo básico en esta etapa. Pero esperamos que haya una nueva categoría de ataque llamada IA ofensiva. Y eso significa que los atacantes comenzarán a utilizar varias formas de aprendizaje automático, IA y, finalmente, aprendizaje profundo como parte de los ataques. Eso cambiará toda esta industria de la noche a la mañana. Y creo que, en general, eso es algo que muchos ejecutivos probablemente aún no han contemplado.
Elizabeth: Correcto. Entonces, es muy interesante, porque mientras hablaba sobre la forma en que Darktrace hace un balance de lo que es la 'actividad normal' en una red, se me ocurre que podría haber otros casos de uso para esa información o esa percepción. Y me pregunto si más allá de la ciberseguridad, si ha pensado en observar la actividad normal para ayudar con otro tipo de cosas, como el cumplimiento normativo o la gestión de riesgos, cosas así.
nicole: Absolutamente. Creo que lo que ha sido interesante es que hemos creado un conjunto de datos realmente único en nombre de nuestros clientes. Entonces, cada uno de ellos que usa Darktrace para la seguridad hoy en día en realidad tiene una inteligencia artificial integrada que está aprendiendo el sentido de sí mismo y está continuamente aprendiendo y actualizándose. Y ese es un conjunto de datos que se puede usar para otras cosas. Podría ser utilizado para el cumplimiento normativo. De hecho, tenemos algunos clientes de Darktrace que nos utilizan hoy en día para cumplir con HIPAA y HITRUST en el cuidado de la salud, o con cosas como DFS, que son las regulaciones del estado de Nueva York para los servicios financieros. Así que ya vemos indicadores tempranos de cómo se pueden aprovechar estos modelos de inteligencia artificial y ese conjunto de datos único. Creo que un caso de uso realmente interesante son las fusiones y adquisiciones. Tenemos algunas empresas que nos utilizan en las fases de diligencia debida para fusiones y adquisiciones para obtener una mayor visibilidad del entorno del activo objetivo. Y hoy lo están usando para ver si tal vez podría haber un competidor o un estado nacional dentro de esa red que podría estar tratando de robar propiedad intelectual, por ejemplo. Pero hay tipos mucho más amplios de diligencia debida de fusiones y adquisiciones para los que podría usarse. Y, finalmente, tenemos algunos clientes que también nos usan para cumplir con la privacidad de datos como GDPR, al ver qué tráfico podría entrar y salir de Europa. Absolutamente, creo que aunque hoy en día solo estamos desbloqueando el poder de ese conjunto de datos y nuestros modelos de inteligencia artificial para la seguridad cibernética, podríamos tomar una decisión en el futuro para ayudar a los clientes a usar otras claves para desbloquearlo y ofrecer un valor adicional.
Elizabeth: Y hacer cosas diferentes con esa información. Sí, es fascinante. Nicole, muchas gracias por hablar conmigo sobre esto.
nicole: Muchas gracias, Isabel.
Elizabeth: Eso es todo por este episodio de Business Lab. Soy su anfitriona Elizabeth Bramson-Boudreau. Soy CEO y editor de MIT Technology Review. Fuimos fundados en 1899 en el Instituto Tecnológico de Massachusetts. Puede encontrarnos impresos, en la web, en docenas de eventos en vivo cada año y ahora, en forma de audio. Para obtener más información sobre la revista y el programa, consulte nuestro sitio web en TechnologyReview.com. Nuestro programa está disponible dondequiera que obtenga sus podcasts. Si disfrutó de este episodio, esperamos que se tome un momento para calificarnos y comentarnos en Apple Podcasts. Business Lab es una producción de MIT Technology Review. El productor es Wade Roush con la ayuda editorial de Mindy Blodgett. Un agradecimiento especial a nuestras invitadas Sophie Vandebroek y Nicole Eagan. Y gracias a nuestro patrocinador Darktrace, el líder mundial en tecnología de IA para ciberdefensa. Gracias por escuchar. Volveremos pronto con un nuevo episodio.