Estos espeluznantes humanos falsos anuncian una nueva era en la IA

Cortesía de Datagen

Puedes ver la leve barba que se le forma en el labio superior, las arrugas en la frente, las imperfecciones en la piel. No es una persona real, pero está destinado a imitar a uno, al igual que los cientos de miles de otros creados por Datagen, una compañía que vende humanos falsos y simulados.

Estos humanos no son avatares de juegos ni personajes animados para películas. Son datos sintéticos diseñados para alimentar el creciente apetito por los algoritmos de aprendizaje profundo. Empresas como Datagen ofrecen una alternativa convincente al proceso costoso y lento de recopilar datos del mundo real. Lo harán por usted: cómo lo desee, cuando lo desee y a un precio relativamente bajo.

Para generar sus humanos sintéticos, Gen de datos primero escanea humanos reales. Se asocia con proveedores que pagan a las personas para que entren en escáneres gigantes de cuerpo completo que capturan cada detalle, desde el iris hasta la textura de la piel y la curvatura de los dedos. Luego, la startup toma los datos sin procesar y los bombea a través de una serie de algoritmos, que desarrollan representaciones en 3D del cuerpo, la cara, los ojos y las manos de una persona.

La compañía, con sede en Israel, dice que ya está trabajando con cuatro grandes gigantes tecnológicos de EE. UU., aunque no revelará cuáles en el registro. Su competidor más cercano, IA de síntesis , también ofrece humanos digitales bajo demanda. Otras empresas generan datos para ser utilizados en Finanzas , seguro , y cuidado de la salud . Hay tantos empresas de datos sintéticos ya que hay tipos de datos.

Antes vistos como menos deseables que los datos reales, algunos ven ahora los datos sintéticos como una panacea. Los datos reales son confusos y están plagados de sesgos. Las nuevas regulaciones de privacidad de datos dificultan la recopilación. Por el contrario, los datos sintéticos son prístinos y se pueden utilizar para crear conjuntos de datos más diversos. Puede producir rostros perfectamente etiquetados, por ejemplo, de diferentes edades, formas y etnias para crear un sistema de detección de rostros que funcione en todas las poblaciones.

Pero los datos sintéticos tienen sus limitaciones. Si no refleja la realidad, podría terminar produciendo una IA aún peor que los datos desordenados y sesgados del mundo real, o simplemente podría heredar los mismos problemas. Lo que no quiero hacer es dar el visto bueno a este paradigma y decir: 'Oh, esto resolverá tantos problemas', dice Cathy O'Neil, científica de datos y fundadora de la firma de auditoría algorítmica ORCAA. Porque también ignorará muchas cosas.

Realista, no real

El aprendizaje profundo siempre se ha centrado en los datos. Pero en los últimos años, la comunidad de IA ha aprendido que bien Los datos son más importantes que grande datos . Incluso pequeñas cantidades de datos correctamente etiquetados pueden hacer más para mejorar el rendimiento de un sistema de IA que 10 veces la cantidad de datos no seleccionados, o incluso un algoritmo más avanzado.

Eso cambia la forma en que las empresas deben enfocar el desarrollo de sus modelos de IA, dice el CEO y cofundador de Datagen, Ofir Chakon. Hoy, comienzan adquiriendo la mayor cantidad de datos posible y luego modifican y ajustan sus algoritmos para un mejor rendimiento. En cambio, deberían estar haciendo lo contrario: usar el mismo algoritmo mientras mejoran la composición de sus datos.

Datagen también genera muebles falsos y ambientes interiores para poner en contexto a sus humanos falsos.

GEN DE DATOS

Pero recopilar datos del mundo real para realizar este tipo de experimentación iterativa es demasiado costoso y requiere mucho tiempo. Aquí es donde entra Datagen. Con un generador de datos sintéticos, los equipos pueden crear y probar docenas de nuevos conjuntos de datos al día para identificar cuál maximiza el rendimiento de un modelo.

Para garantizar el realismo de sus datos, Datagen brinda a sus proveedores instrucciones detalladas sobre cuántas personas escanear en cada rango de edad, rango de IMC y etnia, así como una lista establecida de acciones que deben realizar, como caminar por una habitación o bebiendo un refresco. Los proveedores envían imágenes estáticas de alta fidelidad y datos de captura de movimiento de esas acciones. Los algoritmos de Datagen luego expanden estos datos en cientos de miles de combinaciones. A veces, los datos sintetizados se vuelven a comprobar. Los rostros falsos se comparan con rostros reales, por ejemplo, para ver si parecen realistas.

Datagen ahora está generando expresiones faciales para monitorear el estado de alerta del conductor en autos inteligentes, movimientos corporales para rastrear a los clientes en tiendas sin cajeros y movimientos de iris y manos para mejorar las capacidades de seguimiento de ojos y manos de los auriculares VR. La compañía dice que sus datos ya se han utilizado para desarrollar sistemas de visión por computadora que sirven a decenas de millones de usuarios.

No son solo los humanos sintéticos los que se fabrican en masa. clics de entrada es una startup que utiliza IA sintética para realizar inspecciones automáticas de vehículos. Usando un software de diseño, recrea todas las marcas y modelos de automóviles que su IA necesita reconocer y luego los renderiza con diferentes colores, daños y deformaciones bajo diferentes condiciones de iluminación, contra diferentes fondos. Esto permite que la empresa actualice su IA cuando los fabricantes de automóviles sacan nuevos modelos y ayuda a evitar violaciones de la privacidad de los datos en países donde las matrículas se consideran información privada y, por lo tanto, no pueden estar presentes en las fotos utilizadas para entrenar la IA.

Click-Ins renderiza autos de diferentes marcas y modelos contra varios fondos.

CLIC-INS

Mostly.ai trabaja con compañías financieras, de telecomunicaciones y de seguros para proporcionar hojas de cálculo de datos de clientes falsos que permiten a las empresas compartir su base de datos de clientes con proveedores externos de manera legal. La anonimización puede reducir la riqueza de un conjunto de datos y aun así no proteger adecuadamente la privacidad de las personas. Pero los datos sintéticos se pueden usar para generar conjuntos de datos falsos detallados que comparten las mismas propiedades estadísticas que los datos reales de una empresa. También se puede usar para simular datos que la empresa aún no tiene, incluida una población de clientes más diversa o escenarios como actividad fraudulenta.

Los defensores de los datos sintéticos dicen que también pueden ayudar a evaluar la IA. En un papel reciente publicado en una conferencia de IA, Suchi Saria, profesora asociada de aprendizaje automático y atención médica en la Universidad Johns Hopkins, y sus coautores demostraron cómo las técnicas de generación de datos podrían usarse para extrapolar diferentes poblaciones de pacientes a partir de un solo conjunto de datos. Esto podría ser útil si, por ejemplo, una empresa solo tuviera datos de la población más joven de la ciudad de Nueva York, pero quisiera comprender cómo funciona su IA en una población que envejece y tiene una mayor prevalencia de diabetes. Ahora está iniciando su propia empresa, Bayesian Health, que utilizará esta técnica para ayudar a probar los sistemas médicos de IA.

Los límites de fingir

Pero, ¿los datos sintéticos están sobrevalorados?

Cuando se trata de privacidad, el hecho de que los datos sean 'sintéticos' y no se correspondan directamente con los datos de usuarios reales no significa que no codifiquen información confidencial sobre personas reales, dice Aaron Roth, profesor de informática y ciencias de la información en la Universidad de Pennsylvania. Se ha demostrado que algunas técnicas de generación de datos reproducen fielmente las imágenes o el texto que se encuentran en los datos de entrenamiento, por ejemplo, mientras que otras son vulnerables a los ataques que los hacen regurgitar por completo esos datos.

Esto podría estar bien para una empresa como Datagen, cuyos datos sintéticos no pretenden ocultar la identidad de las personas que dieron su consentimiento para ser escaneados. Pero sería una mala noticia para las empresas que ofrecen su solución como una forma de proteger la información confidencial financiera o de los pacientes.

Historia relacionada

El año en que los deepfakes se generalizaron En 2020, los medios sintéticos de IA comenzaron a alejarse de los rincones más oscuros de Internet.

La investigación sugiere que la combinación de dos técnicas de datos sintéticos en particular—privacidad diferencial y redes adversarias generativas — puede producir las protecciones de privacidad más sólidas, dice Bernease Herman, científico de datos del Instituto eScience de la Universidad de Washington. Pero a los escépticos les preocupa que este matiz pueda perderse en la jerga de marketing de los proveedores de datos sintéticos, que no siempre se comunicarán sobre las técnicas que están utilizando.

Mientras tanto, poca evidencia sugiere que los datos sintéticos puedan mitigar efectivamente el sesgo de los sistemas de IA. Por un lado, la extrapolación de nuevos datos de un conjunto de datos existente que está sesgado no necesariamente produce datos que sean más representativos. Los datos sin procesar de Datagen, por ejemplo, contienen proporcionalmente menos minorías étnicas, lo que significa que utiliza menos puntos de datos reales para generar humanos falsos de esos grupos. Si bien el proceso de generación no es del todo una conjetura, es más probable que esos humanos falsos se aparten de la realidad. Si sus rostros con tonos de piel más oscuros no son aproximaciones particularmente buenas de los rostros, entonces en realidad no está resolviendo el problema, dice O'Neil.

Por otro lado, los conjuntos de datos perfectamente equilibrados no se traducen automáticamente en sistemas de inteligencia artificial perfectamente justos, dice Christo Wilson, profesor asociado de informática en la Universidad Northeastern. Si un prestamista de tarjetas de crédito estuviera tratando de desarrollar un algoritmo de inteligencia artificial para calificar a los prestatarios potenciales, no eliminaría toda posible discriminación simplemente representando a las personas blancas y negras en sus datos. La discriminación aún podría colarse a través de las diferencias entre los solicitantes blancos y negros.

Para complicar aún más las cosas, las primeras investigaciones muestran que, en algunos casos, es posible que ni siquiera sea posible lograr tanto privacidad y IA justa con datos sintéticos. En un papel reciente publicado en una conferencia de IA, investigadores de la Universidad de Toronto y el Vector Institute intentaron hacerlo con radiografías de tórax. Descubrieron que no podían crear un sistema médico de inteligencia artificial preciso cuando intentaron crear un conjunto de datos sintéticos diversos a través de la combinación de privacidad diferencial y redes antagónicas generativas.

Nada de esto significa que no se deban utilizar datos sintéticos. De hecho, bien puede convertirse en una necesidad. A medida que los reguladores enfrentan la necesidad de probar los sistemas de inteligencia artificial para el cumplimiento legal, podría ser el único enfoque que les brinde la flexibilidad que necesitan para generar datos de prueba específicos y bajo demanda, dice O'Neil. Pero eso hace que las preguntas sobre sus limitaciones sean aún más importantes para estudiar y responder ahora.

Es probable que los datos sintéticos mejoren con el tiempo, dice, pero no por accidente.

esconder