211service.com
Titanes tecnológicos unen fuerzas para evitar que la IA se comporte mal
Cuando se trata de vigilar la inteligencia artificial, los líderes tecnológicos creen que hay seguridad en los números.
Una nueva organización llamada Asociación sobre inteligencia artificial en beneficio de las personas y la sociedad buscará fomentar el diálogo público y crear pautas para desarrollar IA para que los sistemas no se comporten mal. Las empresas involucradas incluyen a Google y su subsidiaria DeepMind, Facebook, Amazon, Microsoft e IBM. La asociación se basa en ocho principios, incluida la idea de que la IA debería beneficiar a la mayor cantidad de personas posible; que el público debe participar en su desarrollo; que la investigación debe realizarse de manera abierta; y que los sistemas de IA deberían ser capaces de explicar su razonamiento.
El hecho de que rivales tan feroces se unan de esta manera muestra cuán importante creen las empresas que es evitar la preocupación pública y la especulación sobre los posibles impactos de la IA. Todas estas empresas están obteniendo enormes beneficios de los avances en IA y no desean que su industria esté sujeta a una estricta regulación gubernamental, lo que podría retrasar o alterar el progreso de la tecnología en un momento crítico de su evolución. Pero al mismo tiempo, los rápidos avances recientes han generado preocupaciones sobre el potencial de los sistemas de IA para discriminar, poner en desventaja y desplazar a las personas.
Todos compartimos el deber de hacer avanzar el campo de una manera reflexiva, positiva y, lo que es más importante, ética, dice Mustafa Suleyman, cofundador de Google DeepMind y copresidente interino de la organización. Los impactos positivos de la IA dependerán no solo de la calidad de nuestros algoritmos, sino también del nivel de compromiso público, de transparencia y de debate ético que tenga lugar a su alrededor.
La IA está avanzando a una velocidad tan vertiginosa que existen preocupaciones legítimas acerca de que se implemente de manera que tenga efectos no deseados o no deseados. Por ejemplo, un sistema de aprendizaje automático diseñado para identificar enfermedades que recibe datos sesgados podría discriminar a ciertas personas. Las empresas involucradas en la asociación reconocen que podría surgir una reacción violenta en respuesta a tales efectos.
La IA es una tecnología increíblemente importante para Amazon, dice Rolf Herbrich, director de aprendizaje automático del gigante del comercio electrónico. [Y] el mayor activo en la experiencia del cliente es la confianza del cliente.
No está claro precisamente cómo la organización se relacionará con el público o con aquellos que desarrollan IA. No buscará tanto hacer cumplir sus pautas como liderar una discusión abierta, según Suleyman.
También existen preocupaciones legítimas sobre el potencial de la IA y las tecnologías relacionadas, como la robótica, para desplazar a las personas y aumentar la desigualdad (ver Cómo la tecnología está destruyendo empleos). Pero el progreso reciente ha llevado a algunas advertencias más extravagantes y futuristas sobre el potencial de la IA para representar una amenaza existencial para la humanidad (ver Nuestro miedo a la inteligencia artificial). Una preocupación entre los tecnólogos es que estas advertencias podrían provocar protestas públicas injustificadas e inspirar regulaciones gubernamentales innecesarias.
Con toda la hipérbole sobre la IA en los últimos dos a cuatro años, existe la preocupación de que en esa cámara de eco de ansiedad, el gobierno mismo esté mal informado, dice Eric Horvitz, director gerente de Microsoft Research y el otro copresidente de la organización.
El gobierno ha mostrado interés en garantizar que la inteligencia artificial no tenga consecuencias no deseadas, coordinando una serie de talleres este año tuvo como objetivo explorar sus efectos potenciales.
Algunos acertijos éticos relacionados con la IA serán más complejos de resolver que otros. Por ejemplo, puede resultar difícil diseñar sistemas que tengan en cuenta diferentes perspectivas éticas. Esta cuestión se ha planteado, en gran parte de forma teórica, en relación con la comportamiento de los coches autónomos . Cómo hacer que los sistemas de IA sean más transparentes y responsables también es una pregunta abierta, y una que en sí misma puede requerir avances en la tecnología (consulte el Problema del lenguaje de la IA).
La idea de la asociación surgió en un evento coordinado en Nueva York este enero por Facebook para discutir cuestiones éticas relacionadas con la IA. Otras compañías y organizaciones involucradas en el desarrollo de IA, como Apple y el Instituto Allen para la Inteligencia Artificial, han discutido involucrarse en el esfuerzo de alguna manera, dicen los miembros fundadores.
Oren Etzioni, director ejecutivo del Instituto Allen para la Inteligencia Artificial, dice que será importante que la organización aborde el tema de cómo la IA puede eliminar puestos de trabajo. Y agrega que el mayor desafío puede ser encontrar una manera para que los competidores trabajen juntos de manera efectiva. Estas son algunas de las principales empresas de alta tecnología del mundo, dice. Necesitarán trabajar juntos aquí.