El video de Logan Paul es una advertencia para las plataformas que esperan que la IA las salve del contenido ofensivo

Categoría: Política tecnológica Al corriente 03 de enero

La estrella de YouTube Logan Paul (si no está familiarizado, tiene 15 millón suscriptores) subió un video en la plataforma durante el fin de semana en el que apareció haciendo bromas frente a un cuerpo colgado de un árbol durante una visita a un bosque en Japón donde se sabe que las personas se suicidan. El metraje acumuló más de seis millones de visitas antes de que Paul lo eliminara.

Por qué importa: El video de Paul fue no atrapado por cualquiera de los filtros humanos o de software de YouTube, lo que lo convierte en un excelente ejemplo de contenido que nunca debería haberse permitido en una amplia distribución pero que, sin embargo, eludió los sistemas de inteligencia artificial de última generación. Lo que es obsceno es haber mostrado e irrespetado el cuerpo de una víctima suicida, Tarleton Gillespie, investigador principal de Microsoft Research, dijo zumbido . Este es el tipo de sutileza contextual y ética que las herramientas automatizadas probablemente nunca podrán aproximar.

Avanzando: El incidente muestra que, a pesar de los esfuerzos de Facebook y YouTube para usar IA para combatir el contenido objetable, el problema de la moderación del contenido no se resolverá aplicando un poco de software.