Los algoritmos perceptivos están luchando para detectar más contenido tóxico de la web

Categoría: Sin categorizar Al corriente 20 de diciembre

Una nueva competencia podría ayudar a limpiar Internet. Kaggle, un sitio que permite a las organizaciones realizar competencias de ciencia de datos, acaba de revelar su último proyecto, que pide a los competidores que construyan IA que detecten comentarios tóxicos .

Se pide a los competidores que construyan un sistema que pueda abordar diferentes tipos de toxicidad como amenazas, obscenidades, insultos y odio basado en la identidad. Respaldando a la competencia está Jigsaw, una parte de Alphabet, que ejecuta una iniciativa de investigación llamada Conversation AI para mejorar el discurso en línea. Para ganar el premio de $ 35,000 en Kaggle, una entrada deberá superar los resultados de un sistema creado por Jigsaw, llamado Perspective API. Desde su lanzamiento el martes, 199 equipos se han unido a la competencia.

Sin duda, a Internet le vendría bien más y mejores herramientas para limpiar las amenazas y el discurso de odio. Facebook, YouTube y Twitter han tenido problemas para vigilar dicho contenido en el pasado, y la mayoría de las grandes empresas tecnológicas insisten en que la IA puede ayudarlas a limpiarlo en el futuro. Pero ninguno de ellos ha dado en el clavo todavía, y los gobiernos no están contentos con los fracasos para eliminar rápidamente el discurso de odio.

Sin embargo, las grandes empresas tecnológicas lo están intentando. Facebook lanzó una herramienta llamada Deeptext en 2016 para detectar sentimientos en los comentarios con el fin de eliminar el contenido inapropiado. Se baja sobre 66,000 comentarios una semana pero todavía tiene miles de personas monitoreando feeds. Twitter, mientras tanto, anunciado esta semana que prohibirá las cuentas que envíen tweets y mensajes amenazantes.

Quizás la competencia de Kaggle finalmente ayude a resolver el problema.