Expertos de Twitter: no podemos proteger a los usuarios del trolling bajo Musk

Los conocedores de Twitter le dijeron a la BBC que la compañía ya no puede proteger a los usuarios del trolling, la desinformación coordinada por el estado y la explotación sexual infantil, luego de despidos y cambios bajo el propietario Elon Musk.

Datos académicos exclusivos y testimonios de usuarios de Twitter respaldan sus acusaciones, lo que sugiere que el odio está prosperando bajo el liderazgo de Musk, con trolls envalentonados, acoso intensificándose y un aumento en las cuentas que siguen perfiles misóginos y abusivos.

Empleados y ex empleados de la compañía le dijeron a BBC Panorama que las funciones destinadas a proteger a los usuarios de Twitter del trolling y el acoso están resultando difíciles de mantener, en medio de lo que describen como un ambiente de trabajo caótico en el que Musk es seguido por guardaespaldas en todo momento. He hablado con docenas, y varios de ellos quedaron registrados por primera vez.

La ex jefa de diseño de contenido dice que todos los miembros de su equipo, que creó medidas de seguridad como botones de empuje, han sido despedidos. Más tarde renunció. Una investigación interna de Twitter sugiere que esas medidas de seguridad redujeron el trolling en un 60%. Un ingeniero que trabaja para Twitter me dijo que "nadie se ocupa" de este tipo de trabajo ahora, comparando la plataforma con un edificio que parece estar bien desde fuera, pero que por dentro está "en llamas".

Twitter no ha respondido a la solicitud de comentarios de la BBC.

Mi investigación también revela:

El abuso en Twitter no es nada nuevo para mí: soy un reportero que comparte allí mi cobertura de desinformación, conspiraciones y odio. Pero durante la mayor parte del año pasado noté que disminuyó constantemente en todos los sitios de redes sociales. Y luego, en noviembre, me di cuenta de que la situación había vuelto a empeorar en Twitter.

Resulta que tenía razón. Un equipo del Centro Internacional para Periodistas y la Universidad de Sheffield ha estado rastreando el odio que recibo, y sus datos revelaron que el abuso dirigido a mí en Twitter se había más que triplicado desde que Musk asumió el cargo, en comparación con el mismo período del año. antes.

Todos los sitios de redes sociales han estado bajo presión para abordar el odio en línea y el contenido dañino, pero dicen que están tomando medidas para abordarlo. Medidas que ya no parecen estar entre las prioridades de Twitter.

En San Francisco, donde se encuentra la sede de Twitter, me propuse buscar respuestas. Qué mejor lugar para conseguirlos que un ingeniero, responsable del código informático que hace que Twitter funcione. Como todavía trabaja allí, nos pidió que ocultáramos su identidad, así que lo llamaremos Sam.

"Para alguien que está dentro, es como un edificio donde todas las piezas están en llamas", reveló.

"Cuando lo miras desde fuera, la fachada se ve bien, pero puedo ver que nada funciona. Todas las tuberías están rotas, todos los grifos, todo".

Dice que el caos ha sido creado por la enorme alteración en la dotación de personal. Al menos la mitad de la fuerza laboral de Twitter ha sido despedida o elegida para irse desde que Musk la compró. Ahora la gente de otros equipos tiene que cambiar su enfoque, afirma.

"Una persona totalmente nueva, sin experiencia, hace lo que antes hacían más de 20 personas", dice Sam. "Eso deja espacio para muchos más riesgos, muchas más posibilidades de que las cosas salgan mal".

Dice que las características anteriores todavía existen, pero quienes las diseñaron y mantuvieron se han ido; cree que ahora no están tripulados.

"Hay tantas cosas rotas y nadie se ocupa de ellas, que se ve este comportamiento inconsistente", me dice.

El nivel de desorden, en su opinión, se debe a que Musk no confía en los empleados de Twitter. Describe cómo trajo ingenieros de su otra empresa, el fabricante de automóviles eléctricos Tesla, y les pidió que evaluaran el código de los ingenieros durante unos días antes de decidir a quién despedir. Un código como ese tardaría "meses" en entenderse, me dice.

Cree que esta falta de confianza se ve traicionada por el nivel de seguridad del que se rodea Musk.

"Dondequiera que vaya en la oficina, hay al menos dos guardaespaldas: guardaespaldas muy corpulentos y altos, al estilo de las películas de Hollywood. Incluso cuando [va] al baño", me dice.

Piensa que para Musk se trata de dinero. Dice que todo el personal de limpieza y catering fue despedido, y que Musk incluso intentó vender las plantas de oficinas a los empleados.

Lisa Jennings Young, ex jefa de diseño de contenidos de Twitter, fue una de las personas que se especializó en introducir funciones diseñadas para proteger a los usuarios del odio. Twitter era un semillero de trolling mucho antes de que Musk asumiera el control, pero ella dice que su equipo había logrado grandes avances para limitar esto. Una investigación interna de Twitter, vista por la BBC, parece respaldar esto.

"No fue nada perfecto, pero lo intentábamos y mejorábamos las cosas todo el tiempo", dice. Es la primera vez que habla públicamente de su experiencia desde que se fue después de la toma de posesión de Musk.

El equipo de Jennings Young trabajó en varias características nuevas, incluido el modo de seguridad, que puede bloquear automáticamente cuentas abusivas. También diseñaron etiquetas aplicadas a tweets engañosos y algo llamado "empujón de respuesta dañina". El "empujón" alerta a los usuarios antes de que envíen un tweet en el que la tecnología de inteligencia artificial haya detectado palabras desencadenantes o lenguaje dañino.

La propia investigación de Twitter, vista por la BBC, parece mostrar que el "empujón" y otras herramientas de seguridad son efectivas.

"En general, el 60% de los usuarios eliminaron o editaron su respuesta cuando se les dio la oportunidad mediante el empujón", dice. "Pero lo que fue más interesante es que después de que le dimos un codazo a la gente una vez, en el futuro redactaron un 11% menos de respuestas dañinas".

Estas medidas de seguridad se estaban implementando en el momento en que mi abuso en Twitter parecía reducirse, según datos recopilados por la Universidad de Sheffield y el Centro Internacional para Periodistas. Es imposible correlacionar directamente ambas cosas, pero teniendo en cuenta lo que nos dice la evidencia sobre la eficacia de estas medidas, es posible establecer un vínculo.

Pero después de que Musk se hizo cargo de la empresa de redes sociales a finales de octubre de 2022, todo el equipo de Lisa fue despedido y ella misma decidió irse a finales de noviembre. Le pregunté a Jennings Young qué pasó con funciones como el dañino empujón de respuesta.

"No hay nadie allí para trabajar en eso en este momento", me dijo. No tiene idea de qué ha pasado con los proyectos que estaba haciendo.

Entonces intentamos un experimento.

Ella sugirió un tweet que hubiera esperado que provocara un empujón. "Los empleados de Twitter son unos perdedores vagos, saltan del puente Golden Gate y mueren". Lo compartí en un perfil privado en respuesta a uno de sus tweets, pero para sorpresa de Jennings Young, no se envió ningún empujón. Se recogió otro tweet con lenguaje ofensivo que compartimos, pero Lisa dice que el empujón debería haber captado un mensaje deseando la muerte a un usuario, no solo malas palabras. Como Sam había predicho, no parecía estar funcionando como estaba diseñado.

Durante esta investigación, recibí mensajes de muchas personas que me contaron cómo el odio que reciben en Twitter ha aumentado desde que Musk asumió el cargo, compartiendo ejemplos de racismo, antisemitismo y misoginia.

Ellie Wilson, que vive en Glasgow, fue violada mientras estaba en la universidad y comenzó a publicar sobre esa experiencia en las redes sociales el verano pasado. En ese momento, recibió una respuesta de apoyo en Twitter.

Pero cuando tuiteó sobre su atacante en enero después de que éste fuera sentenciado, fue objeto de una ola de mensajes de odio. Recibió respuestas abusivas y misóginas; algunos incluso le dijeron que merecía ser violada.

"Lo que encuentro más difícil es la gente que dice que no fui violada o que esto no sucedió y que estoy mintiendo. Es como un trauma secundario", me dijo la señora Wilson.

Su número de seguidores en Twitter era menor antes de la toma de posesión, pero cuando miré las cuentas que la atacaban con odio esta vez, noté que los perfiles de los trolls se habían vuelto más activos desde la toma de posesión, lo que sugiere que habían sido suspendidos anteriormente y recientemente reincorporados.

Algunas de las cuentas incluso se habían creado en el momento de la toma de posesión de Musk. Parecían dedicados a enviar odio, sin fotos de perfil ni rasgos identificativos. Varios siguen e interactúan con contenido de cuentas populares que han sido acusadas de promover la misoginia y el odio, restablecidas en Twitter después de que Musk decidiera restaurar miles de cuentas suspendidas, incluida la del controvertido influencer Andrew Tate.

"Al permitirles a esas personas una plataforma, les estás empoderando. Y estás diciendo: 'Esto está bien, puedes hacerlo'".

Varias de las cuentas también estaban dirigidas a otras sobrevivientes de violaciones con las que está en contacto.

Andrew Tate no respondió a la solicitud de comentarios de la BBC.

Una nueva investigación del Instituto para el Diálogo Estratégico, un grupo de expertos del Reino Unido que investiga la desinformación y el odio, se hace eco de lo que he descubierto sobre las cuentas de trolls dirigidas a Ellie.

Muestra que se han creado decenas de miles de nuevas cuentas desde que Musk asumió el cargo, a las que inmediatamente siguieron perfiles conocidos abusivos y misóginos, un 69% más que antes de que él estuviera a cargo.

La investigación sugiere que estas redes abusivas ahora están creciendo y que la adquisición de Musk ha creado un "entorno permisivo" para la creación y el uso de este tipo de cuentas.

La tormenta de Twitter de Elon Musk

Panorama investiga cómo la propiedad de Elon Musk está transformando una de las plataformas de redes sociales más influyentes del mundo.

Míralo en BBC One a las 20:00 GMT del lunes 6 de marzo

Las principales prioridades de Musk desde la adquisición -según sus tuits- son hacer que la empresa de redes sociales sea rentable y defender la libertad de expresión.

En diciembre de 2022, publicó documentos internos llamados "Archivos Twitter" para explicar por qué creía que la empresa no había aplicado de manera justa sus políticas de moderación y suspensión bajo el antiguo liderazgo.

Pero aquellos que han estado en el interior sienten que Musk ha usado esto para quitarle prioridad a la protección de los usuarios contra daños. Incluso el contenido peligroso contra el que ha presionado, incluido el abuso sexual infantil y las redes de las llamadas cuentas de bots diseñadas deliberadamente para engañar, no se está abordando como antes, dicen.

No son sólo los trolls individuales contra los que Twitter ha tratado de protegerse anteriormente, sino también las llamadas "operaciones de influencia": campañas sancionadas por el Estado que buscan socavar la democracia y atacar a disidentes y periodistas.

Ray Serrato trabajó en un equipo especializado en abordar estas operaciones. Se fue en noviembre porque sintió que no había una visión clara para proteger a los usuarios bajo el nuevo liderazgo. Dice que su equipo identificaría actividades sospechosas como esta "diariamente". Ahora su equipo ha sido "diezmado" y existe en una "capacidad minimizada".

"Twitter podría haber sido el refugio donde los periodistas saldrían y harían oír su voz y criticarían al gobierno. Pero no estoy seguro de que ese siga siendo el caso".

"Hay varios expertos clave que ya no están en ese equipo que habría cubierto regiones especiales, o actores de amenazas, desde Rusia hasta China", me dice.

Otro informante, a quien llamamos Rory, también está muy preocupado por esa pérdida de experiencia y cómo parece estar socavando una prioridad de Musk: impedir que los pedófilos utilicen Twitter para preparar a las víctimas y compartir enlaces a abusos. Rory trabajó hasta hace muy poco como parte de un equipo que lucha contra la explotación sexual infantil [ESI].

Su equipo identificaría cuentas que compartieran contenido abusivo sobre niños, trasladando lo peor a las autoridades. Antes de la adquisición, ese contenido era un gran problema, afirma, y ​​ya temía que no tuvieran suficiente personal.

"Todos los días se podría identificar ese tipo de material", afirma.

Pero su equipo se redujo poco después de la adquisición, dice, de 20 personas a unas seis o siete. En su opinión, son muy pocos para mantener la carga de trabajo.

Rory dice que, antes de irse, ni Musk ni ningún otro miembro de la nueva dirección se pusieron en contacto con él y su antiguo equipo, quienes tenían años de experiencia en esta área.

"No se puede hacerse cargo de una empresa y de repente creer que se tiene conocimiento... para lidiar con [la explotación sexual infantil] sin contar con los expertos", dice.

Twitter dice que eliminó 400.000 cuentas sólo en un mes para ayudar a "hacer Twitter más seguro". Pero a Rory le preocupa que ahora haya menos personas con el conocimiento necesario para escalar efectivamente las preocupaciones sobre este contenido ante las autoridades.

"Se pueden suspender cientos de miles de cuentas en un mes. Pero si la notificación de ese contenido [a las autoridades] ha disminuido, entonces realmente no significa nada, y la mayoría de los usuarios a quienes se les suspendieron las cuentas Simplemente configuraría una nueva cuenta de todos modos".

Agrega que los usuarios infractores pueden simplemente crear nuevas cuentas, en un momento en que los perfiles suspendidos son bienvenidos nuevamente en Twitter.

Quería preguntarle a Elon Musk sobre la adquisición, su visión de Twitter y cómo cree que se está desarrollando en la realidad. Intenté contactarlo por correo electrónico, tweets e incluso una "encuesta" en Twitter. Esta no fue una encuesta real, pero Musk ha utilizado estos votos para tomar decisiones sobre el futuro de Twitter y esperaba que llamara su atención. Más de 40.000 usuarios votaron y el 89% dijo que Musk debería hacerme una entrevista. No tuve respuesta.

Twitter y Musk aún no han respondido formalmente a la investigación de BBC Panorama.

Me dijeron que todo el equipo de comunicaciones de Twitter renunció o fue despedido. Las políticas de Twitter, disponibles públicamente en línea, dicen que "defender y respetar la voz del usuario" sigue siendo uno de sus "valores fundamentales".

Sin embargo, Musk tuiteó sobre nuestro artículo después de su publicación, diciendo: "Perdón por hacer que Twitter dejara de ser un paraíso nutritivo para convertirse en un lugar que tiene... trolls".

¿Le han afectado los problemas planteados en esta historia? Comparta sus experiencias enviando un correo electrónico a [email protected].

Incluya un número de contacto si está dispuesto a hablar con un periodista de la BBC. También puedes ponerte en contacto de las siguientes maneras:

Si está leyendo esta página y no puede ver el formulario, deberá visitar la versión móvil del sitio web de la BBC para enviar su pregunta o comentario o puede enviarnos un correo electrónico a [email protected]. Incluya su nombre, edad y ubicación con cualquier envío.

Twitter supuestamente despide a 200 empleados más

Musk dice que "no hay más remedio" que recortar personal en Twitter