Twitch, el servicio de retransmisión en directo que se dirige principalmente a los jugadores, ha aumentado su popularidad desde que fue adquirido por Amazon en 2014, pero la toxicidad en la plataforma también ha aumentado. Esta semana, Twitch ha dado un paso importante para controlar su función de “chat”, similar a la de los aplausos, y va más allá del enfoque habitual basado en el diccionario para marcar el lenguaje inapropiado o abusivo.
El “lanzamiento el martes de una nueva bandera de “evasión de baneos llegó con una sorprendente cantidad de fanfarria, y pone a Twitch en posición de hacer lo que muchas otras plataformas no harán. La compañía no sólo está prestando atención a la generación de cuentas de “títeres”, sino que se compromete a aplastarlas.
Ataques a la red de distribución
Prácticamente cualquier plataforma online moderna se enfrenta al mismo problema: Los usuarios pueden unirse, ver y comentar contenidos con poco más que una dirección de correo electrónico. Si quieres decir cosas desagradables sobre ELENBYTE a través de Internet, por ejemplo, podrías crear una tonelada de cuentas nuevas en varios sitios en cuestión de minutos. Tu auténtico mini-mob anti-Elenbyte requiere poco más que una serie de direcciones de correo electrónico gratuitas. Si un servicio requiere alguna forma de autenticación de dos factores, podrías simplemente adjuntar dispositivos físicos de repuesto o crear números de teléfono adicionales.
En términos menos hipotéticos, los creadores de Twitch llevan tiempo lidiando con este problema de “turba de odio”, que alcanzó su máxima intensidad después de que Twitch “añadiera una categoría “LGBTQIA+. Los usuarios abusivos cargaban con láseres hiperfocalizados de discursos de odio, normalmente dirigidos a creadores más pequeños que podían ser descubiertos en el directorio de categorías de Twitch. Como expliqué en septiembre:
Aunque Twitch incluye herramientas integradas para bloquear o marcar los mensajes que activan un diccionario lleno de términos vulgares y odiosos, muchos de los mayores perpetradores del movimiento de odio han recurrido a sus propias herramientas de peinado del diccionario.
Estas herramientas permiten a los perpetradores evadir las herramientas básicas de moderación porque construyen palabras usando caracteres no latinos, y pueden generar miles de facsímiles de difamaciones notorias mezclando y emparejando caracteres, para que se parezcan lo suficiente a la palabra original. Su poder para el odio y el fanatismo se dispara gracias al contexto que convierte palabras posiblemente inocentes en insultos dirigidos, según el grupo marginado al que se dirijan.
Sin embargo, la lucha contra estos ataques a nivel de diccionario no es tan sencilla. Como le dirá cualquier usuario de las redes sociales, el contexto es importante, especialmente a medida que el lenguaje evoluciona y los acosadores y abusadores cooptan frases aparentemente inocentes para atacar y difamar a las comunidades marginadas.
Sospechas del lado del servidor
La bandera de “evasión de baneos” de Twitch tiene un enfoque diferente. Utiliza la información del lado del servidor de Twitch sobre la generación de cuentas para determinar si una cuenta recién generada parece provenir de alguien que rompió los términos de servicio del sitio y luego creó otra cuenta. Si la cuenta está marcada, el usuario en cuestión no notará nada diferente, pero los streamers y sus moderadores verán los mensajes de ese usuario aterrizar en un silo especial de moderación de “evasión de baneos”. Esta práctica se conoce generalmente como “shadowbanning”, ya que los mensajes parecen funcionar bien para la persona baneada, pero nadie más en el feed del chat los ve.
Si la cuenta fue moderada por error o el streamer no ve ningún problema con los mensajes del usuario marcado, el usuario marcado puede ser desbaneado y devuelto al chat público. De lo contrario, el canal puede expulsar/prohibir al usuario marcado o dejar la cuenta en la sombra. (Twitch también ofrece una versión más suave de este indicador que deja intactas las habilidades de chat del usuario, pero da a los moderadores un aviso de que una cuenta parece sospechosa).
La medida parece dividir la diferencia entre cerrar inmediatamente las cuentas sospechosas y dejarlas vagar libremente y sin control por las colinas y valles de Twitch. Y sigue a una nueva opción, que se lanzó a finales de septiembre, para los canales individuales. Los anfitriones pueden elegir restringir las funciones de chat a los usuarios que hayan verificado su número de teléfono y/o hayan estado en directo en Twitch durante un determinado tiempo.
Twitch está admitiendo esencialmente algo que los sitios de medios sociales obsesionados con el “compromiso” se resisten a afrontar: Las cuentas falsas existen y pueden envenenar las plataformas en las que se crean. Esta idea tiende a ir en contra de las métricas que los operadores de los sitios web adoran mostrar cuando buscan socios publicitarios; los sitios de medios sociales preferirían no añadir asteriscos a ningún recuento de “usuarios activos mensuales” a la hora de determinar las tarifas publicitarias.
Más información sobre el aprendizaje automático
Esto significa que Twitch ha invitado oficialmente a la rendición de cuentas y al escrutinio sobre el tema en adelante. También es un método inteligente para atacar el comportamiento problemático en un sitio que admite idiomas y regiones de todo el mundo. Sin embargo, para que aparezcan las banderas de evasión de baneos, las cuentas deben ser llamadas o baneadas, y eso significa que la vaga promesa de Twitch de “desarrollar más herramientas para prevenir el odio, el acoso y la evasión de baneos” probablemente requerirá mucho trabajo adicional, moderación y supervisión.
El anuncio del martes de Twitch incluye una vaga descripción de la utilización de “aprendizaje automático” para evaluar si una cuenta es “sospechosa”, aunque la plataforma no aclara qué conjuntos de datos está sondeando para tomar una determinación. ¿Busca Twitch direcciones IP específicas? ¿Rastros de uso de VPN? ¿Sesiones de navegación de incógnito? ¿Cookies que un acosador descuidado no ha borrado? ¿Frases de chat específicas utilizadas en las primeras horas de la creación de la cuenta? No está claro qué conjuntos de datos masivos está escaneando Twitch para localizar cuentas no auténticas.
Como respuesta a nuestras preguntas sobre este sistema, un portavoz de Twitch ofreció la siguiente declaración: “La herramienta está impulsada por un modelo de aprendizaje automático que tiene en cuenta una serie de señales -incluyendo, pero no limitándose a, el comportamiento del usuario y las características de la cuenta- y compara esos datos con los de las cuentas previamente prohibidas en el canal de un creador para evaluar la probabilidad de que la cuenta esté evadiendo un baneo previo a nivel de canal.”
[content-egg module=Youtube template=custom/simple]Lo más visto del mes en: Juegos
Alberto Berrios
Escribo sobre productos relacionados con el audio desde pequeños altavoces inalámbricos hasta grandes sistemas Hi-Fi. No comparo estos productos con otros, sino que muestro los puntos fuertes y débiles de cada dispositivo separado. Si quieres saber si un determinado producto merece la pena, ¡consulta una de mis reseñas antes de hacer la compra! Gracias por leer, hasta la próxima.
