Insólito error: YouTube cerró el canal de ajedrez más popular del mundo por “racista”
- Video | Así fue como un robot con IA convenció a otros de abandonar su trabajo
- Cómo iniciar mejor las mañanas, respuestas según la IA
Los algoritmos siguen tomando determinaciones extrañas y uno de sus más insólitos descaches ocurrió con ‘Agadmator’s Chess Channel’, la cuenta de YouTube sobre ajedrez más popular con más de un millón de suscriptores.
Al parecer, la plataforma bloqueó el canal por violar las pautas de la comunidad y el uso de lenguaje racista durante una transmisión en vivo cuando se escuchó la frase “blanco destruye al negro”.
La inmerecida sanción fue por contenido “dañino y peligroso”, curiosamente mientras hablaba el campeón mundial de ajedrez, Antonio Radic, con un “maestro del deporte ciencia”, Hikaru Nakamura.
Los expertos sospechan que fue el uso de palabras como “negro” y “blanco” lo que confundió los filtros de IA de YouTube.
Descubrieron que el 80% de los videos de ajedrez que fueron marcados por incitación al odio en realidad tenían términos como “negro”, “blanco”, “ataque” y “amenaza”.
El injusto bloqueo de la plataforma le dio la vuelta al mundo casi un año después de que sucedió, y la propia cuenta de Agadmator en Twitter ironizó al respecto.
“Ha pasado casi un año y solo ahora la historia llega a los portales de noticias de todo el mundo. Otra prueba de que el ajedrez ahora es genial”, escribió.
Last year my chess podcast with Hikaru Nakamura was taken down by Youtube because their algorithm recognized it as hate speech (white destroys black etc). Almost a year has passed and only now story hits the news portals worldwide. Another proof that chess is now cool 🙃
— agadmator (@agadmator) February 23, 2021
“No sabemos qué herramientas usa YouTube, pero si se basan en la IA para detectar el lenguaje racista, este tipo de accidente puede ocurrir”, aceptó Ashiqur KhudaBukhsh, científico informático del Instituto de Tecnologías del Lenguaje de Carnegie Melon en conversación con el diario The Independent.
Para verificar si fue el uso de términos como blanco y negro lo que llevó a la suspensión del canal de Youtube, KhudaBukhsh realizó con su equipo unas pruebas con clasificadores de voz.
Estos programas de inteligencia artificial, que están desarrollados para detectar el discurso de odio, fueron probados en más de 680.000 comentarios de cinco populares canales de ajedrez de YouTube.
Y en efecto, se encontró que el 82% de los comentarios marcados en un conjunto de muestra no incluían ningún lenguaje racista obvio o discurso de odio, pero palabras como “negro” y “blanco” parecían haber activado los filtros.