Si los chatbots van a mejorar, es posible que deban ofenderte

Categoría: Inteligencia artificial Al corriente Feb 22

Las IA han mejorado para mantener una conversación, pero las empresas de tecnología desconfían de implementarlas por temor a las pesadillas de relaciones públicas.

Mejores robots: El New York Times dice Los avances recientes de la IA ayudaron a Microsoft y Facebook a crear una nueva generación de chatbots que eligen cuidadosamente cómo conversar. Microsoft, por ejemplo, creó uno que elige la oración que suena más humana de un grupo de contendientes para crear respuestas precisas y familiares.

Pero: Al igual que el robot Tay desastrosamente racista de Microsoft, todavía salen mal. Facebook dice que 1 de cada 1000 declaraciones de sus chatbots pueden ser racistas, agresivas o generalmente no deseadas. Eso es casi inevitable cuando están entrenados con datos limitados, porque es probable que haya texto desagradable en las conversaciones en línea que se usan como conjuntos de entrenamiento.

Por qué importa: Si los bots van a seguir mejorando, deben estar frente a usuarios reales. Pero las firmas de tecnología temen desastres de relaciones públicas si el software dice algo incorrecto. Es posible que debamos aceptar más los errores si queremos que los bots mejoren.