Twitter podría reducir la incitación al odio con avisos de suspensión, según un estudio

Desde su lanzamiento en 2006, Twitter se ha convertido en un gigantesco evento de networking, un lugar de reunión en un bar, un generador de memes y un centro de conversación casual, todo en uno. Pero por cada actualización de noticias oportuna y comentario ingenioso de 280 palabras, encontrarás una publicación violenta y odiosa.

Entre el grupo de expertos que elaboran estrategias para desarmar el lado oscuro de Twitter, un equipo de la Universidad de Nueva York llevó a cabo un experimento para comprobar si advertir a las cuentas de que el discurso de odio provocará su suspensión es una técnica funcional. Resulta que podría ser bastante eficaz.

Tras estudiar a más de 4.300 usuarios de Twitter y 600.000 tuits, los científicos descubrieron que advertir a las cuentas de tales consecuencias “puede reducir significativamente su lenguaje de odio durante una semana”. Esa disminución era aún más evidente cuando las advertencias se formulaban de forma amable.

Es de esperar que el trabajo del equipo, publicado el lunes en la revista Perspectives on Politics, ayude a hacer frente a los contenidos racistas, viciosos y abusivos que contaminan las redes sociales.

“Abundan los debates sobre la eficacia de las suspensiones de cuentas en las redes sociales y las prohibiciones a los usuarios abusivos, pero sabemos poco sobre el impacto de advertir a un usuario de la suspensión de una cuenta o de las suspensiones directas para reducir el discurso de odio”, dijo en un comunicado Mustafa Mikdat Yildirim, candidato a doctor de la NYU y autor principal del trabajo.

“Aunque el impacto de las advertencias es temporal, la investigación proporciona, sin embargo, un camino potencial para las plataformas que buscan reducir el uso de lenguaje de odio por parte de los usuarios.”

Estas advertencias, observó Mikdat Yildirim, ni siquiera tienen que venir del propio Twitter. La proporción de tuits que contenían expresiones de odio por usuario se redujo entre un 10% y un 20% incluso cuando la advertencia procedía de una cuenta estándar de Twitter con sólo 100 seguidores, una “cuenta” creada por el equipo con fines experimentales.

“Sospechamos, además, que se trata de estimaciones conservadoras, en el sentido de que aumentar el número de seguidores que tenía nuestra cuenta podría conducir a efectos aún mayores… por no hablar de lo que haría un aviso oficial de Twitter”, escriben en el artículo.

Llegados a este punto, es posible que te preguntes: ¿Por qué molestarse en “advertir” a los autores de discursos de odio cuando podemos simplemente librarnos de ellos en Twitter? Intuitivamente, una suspensión inmediata debería lograr el mismo efecto, si no más fuerte.

¿Por qué no prohibir la incitación al odio lo antes posible?

Aunque la incitación al odio en Internet existe desde hace décadas, se ha intensificado en los últimos años, especialmente hacia las minorías. La violencia física como resultado de tal negatividad también ha experimentado un pico. Esto incluye tragedias como tiroteos masivos y linchamientos.

Pero hay pruebas que demuestran que la eliminación de cuentas sin previo aviso puede no ser la forma de combatir el asunto.

Como ejemplo, el documento señala los notorios y erróneos tuits del expresidente Donald Trump tras las elecciones presidenciales de 2020 en Estados Unidos. Consistían en desinformación electoral como calificar los resultados de fraudulentos y elogiar a los alborotadores que asaltaron el Capitolio el 6 de enero de 2021. Su cuenta fue rápidamente suspendida.

Twitter dijo que la suspensión se debía “al riesgo de una mayor incitación a la violencia”, pero el problema fue que Trump intentó más tarde acceder a otras formas de publicar en línea, como tuitear a través de la cuenta oficial @Potus. “Incluso cuando las prohibiciones reducen el comportamiento desviado no deseado dentro de una plataforma, podrían fracasar a la hora de reducir el comportamiento desviado general dentro de la esfera online”, dice el documento.

En contraste con los bloqueos o suspensiones rápidas, Mikdat Yildirim y sus colegas investigadores afirman que las advertencias de suspensión de cuentas podrían frenar el problema a largo plazo, ya que los usuarios tratarán de proteger su cuenta en lugar de irse a otro sitio como último recurso.

Pruebas experimentales de las señales de advertencia

El experimento del equipo tuvo varios pasos. Como primer punto, crearon seis cuentas de Twitter con nombres como @basic_person_12, @hate_suspension y @warner_on_hate.

A continuación, descargaron 600.000 tuits del 21 de julio de 2020 que se publicaron la semana anterior para identificar las cuentas susceptibles de ser suspendidas en el transcurso del estudio. Este período vio un aumento en el discurso de odio contra las comunidades asiáticas y negras, dicen los investigadores, debido a la reacción de COVID-19 y el movimiento Black Lives Matter.

Al examinar esos tuits, el equipo seleccionó los que utilizaban lenguaje de odio según un diccionario esbozado por un investigador en 2017 y aisló los creados después del 1 de enero de 2020. Razonaron que las cuentas más nuevas tienen más probabilidades de ser suspendidas: más de 50 de esas cuentas fueron, de hecho, suspendidas.

Anticipándose a esas suspensiones, los investigadores reunieron de antemano 27 de las listas de seguidores de esas cuentas. Después de filtrar un poco más, los investigadores terminaron con 4.327 tuiteros para estudiar. “Limitamos nuestra población participante a las personas que habían utilizado previamente un lenguaje odioso en Twitter y seguían a alguien que realmente acababa de ser suspendido”, aclaran en el artículo.

A continuación, el equipo envió avisos de diferentes niveles de cortesía -el más cortés de los cuales creen que creó un aire de “legitimidad”- desde cada cuenta a los candidatos divididos en seis grupos. Un grupo de control no recibió ningún mensaje.

La legitimidad, según ellos, era importante porque “para transmitir eficazmente un mensaje de advertencia a su destinatario, el mensaje tiene que hacer que éste sea consciente de las consecuencias de su comportamiento y también hacerle creer que estas consecuencias se administrarán”, escriben.

En última instancia, el método condujo a una reducción de la proporción de mensajes de odio en un 10% en el caso de las advertencias contundentes, como “Si sigues utilizando el discurso del odio, podrías perder tus mensajes, amigos y seguidores, y no recuperar tu cuenta” y en un 15% a 20% con advertencias más respetuosas, que incluían sentimientos como “Entiendo que tienes todo el derecho a expresarte, pero por favor, ten en cuenta que utilizar el discurso del odio puede hacer que te suspendan.”

Pero no es tan sencillo.

Aun así, el equipo de investigación señala que “no llegamos a recomendar de forma inequívoca que Twitter se limite a implantar el sistema que hemos probado sin más estudios debido a dos importantes advertencias.”

Como primer punto, dicen que un mensaje de una gran empresa como Twitter podría crear una reacción en contra de la manera en que las cuentas más pequeñas del estudio no lo hicieron. En segundo lugar, Twitter no tendría la ventaja de la ambigüedad en los mensajes de suspensión. No pueden decir realmente “podrías” perder tu cuenta. Por lo tanto, necesitarían una regla general.

Y con cualquier regla general, podría haber usuarios acusados injustamente.

“Sería importante sopesar el daño incremental que un programa de advertencia de este tipo podría suponer para un usuario incorrectamente suspendido”, escribe el equipo.

Aunque el impacto principal de las advertencias del equipo se desmaterializó aproximadamente un mes después y hay un par de vías aún por explorar, siguen insistiendo en que esta técnica podría ser una opción defendible para mitigar el discurso violento, racista y abusivo que sigue poniendo en peligro a la comunidad de Twitter.

[content-egg module=Youtube template=custom/simple]

Lo más visto del mes en Redes Sociales