Publicado en MIT Technology Review
https://www.technologyreview.es//s/13578/historia-de-la-cientifica-que-lo-arriesgo-todo-para-denunciar-facebook
Sophie Zhang descubrió que docenas de países explotaban un tipo de abuso que permitía a los políticos engañar a la sociedad y ganar el poder. A pesar de sus avisos y esfuerzos para erradicarlo, la compañía no hizo prácticamente nada y acabó despidiéndola. Pero ella sabía que no podía quedarse callada
- por Karen Hao | traducido por Ana Milutinovic
- 09 Agosto, 2021
La primera vez que el mundo oyó hablar de Sophie Zhang fue en septiembre de 2020, cuando BuzzFeed News obtuvo y publicó los puntos más destacados de una versión abreviada de su informe de salida de Facebook, de casi 8.000 palabras.
Antes de su cese, Zhang trabajaba en Facebook como científica de datos de bajo nivel. Pero se obsesionó por una tarea que consideraba más importante: encontrar y eliminar cuentas falsas y me gusta que se utilizaban para influir en las elecciones a nivel mundial.
Su informe reveló que había identificado docenas de países, incluidos India, México, Afganistán y Corea del Sur, donde este tipo de abuso permitía a los políticos engañar a la sociedad y ganar el poder. También reveló lo poco que había hecho la empresa para mitigar el problema, a pesar de sus repetidos esfuerzos por llamar la atención de los directivos.
En su informe, escribió: "Sé que ya tengo las manos manchadas de sangre".
En la víspera de su salida, Zhang todavía tenía dudas sobre si escribir el informe. Peo eso pudo ser su última oportunidad de crear suficiente presión interna sobre los directivos de Facebook para que empezaran a tomar los problemas en serio. Antes de escribirlo, había rechazado una indemnización de casi 64.000 dólares (53.931 euros) que habría implicado un acuerdo de despido sin la posibilidad de descrédito. Zhang quería conservar la libertad de hablar críticamente sobre la empresa.
Pero quedaban solo dos meses antes de las elecciones estadounidenses de 2020, y a le molestaba la idea de que su informe pudiera erosionar la confianza del público en el proceso electoral si se divulgaba prematuramente a la prensa. Zhang admite: "Estaba aterrorizada de convertirme de alguna manera en el James Comey de 2020", refiriéndose al exdirector del FBI que, días antes de las elecciones de 2016, le dijo al Congreso de EE. UU. que la agencia había reabierto la investigación sobre el uso de un servidor de correo electrónico privado por parte de Hillary Clinton. Clinton culpó a Comey por su derrota en las elecciones.
Para gran alivio de Zhang, eso no sucedió. Y después de las elecciones, procedió con su plan original. En abril, presentó dos artículos a The Guardian con su rostro, su nombre y con documentación aún más detallada sobre la manipulación política que había descubierto y la negligencia de Facebook al lidiar con ella.
Su testimonio proporcionó pruebas concretas para respaldar lo que los críticos de la empresa llevaban asegurando durante mucho tiempo: que Facebook facilitaba la interferencia electoral y que, a menos que dicha actividad perjudicase los intereses comerciales de la empresa, no se molestaba en solucionar el problema.
El portavoz de Facebook, Joe Osborne, negó con vehemencia estas afirmaciones en un comunicado: "En las innumerables entrevistas con la prensa que la Sra. Zhang ha hecho desde que dejó Facebook, hemos estado fundamentalmente en desacuerdo con la descripción de nuestras prioridades y esfuerzos para erradicar el abuso en nuestra plataforma. Perseguimos agresivamente el abuso en todo el mundo y tenemos equipos especializados dedicados a este trabajo. Como resultado, ya hemos eliminado más de 150 redes de comportamiento no auténtico coordinado... Nuestra prioridad es combatir el comportamiento no auténtico coordinado".
Al hacerlo todo público y evitando el anonimato, Zhang asumió el riesgo de enfrentarse a posibles acciones judiciales por parte de la empresa, de dañar sus perspectivas de carrera en el futuro y tal vez incluso de sufrir represalias de los políticos que Zhang expuso en el proceso. "Lo que hizo fue muy valiente", opina la periodista de The Guardian que publicó sus revelaciones, Julia Carrie Wong.
Después de casi un año sin responder a preguntas personales, Zhang ya está lista para contar su historia. Quiere que la gente comprenda cómo se involucró tanto en tratar de proteger la democracia en todo el mundo y por qué tenía ese interés tan profundo. También está cansada de estar en el armario como mujer transgénero, un aspecto central de su identidad que tiene que ver con sus acciones en Facebook y con las posteriores a su salida de la empresa.
Su historia revela que el hecho de que sepamos tanto sobre cómo Facebook permite la interferencia electoral a nivel mundial actualmente es cuestión de pura suerte. Zhang no fue solo la única persona que luchó contra esta forma de manipulación política, sino que, ni siquiera era su trabajo. Había descubierto el problema gracias a una confluencia única de habilidades y pasión, y lo asumió, motivada por un extraordinario sentido de responsabilidad moral.
Para los reguladores de todo el mundo que están pensando cómo controlar a la empresa, esto debería ser una llamada de atención.
Zhang nunca planeó estar en esta posición ya que es profundamente introvertida y odia ser el centro de atención. Se unió a Facebook en 2018 después de no poder aguantar más la presión económica de vivir con un contrato de trabajo a tiempo parcial en el Área de la Bahía (EE. UU.). Cuando recibió la oferta, fue sincera con su reclutador: no creía que la empresa estuviera mejorando el mundo, pero se iba a unir a ella para ayudar a arreglarla.
Zhang recuerda: "Me respondieron: 'Le sorprendería saber cuánta gente en Facebook dice lo mismo'".
Era más fácil decirlo que hacerlo. Como muchas personas recién contratadas, empezó a trabajar en Facebook sin ser asignada a un equipo específico. Quería trabajar en la integridad de las elecciones, para buscar formas de mitigar el abuso de la plataforma relacionado con las elecciones, pero sus habilidades no coincidían con las vacantes. En vez de eso, se conformó con un nuevo equipo que abordaba la participación falsa.
La participación falsa se refiere a los me gusta, a las acciones de compartir y comentar compradas o generadas de manera no auténtica en la plataforma. El nuevo equipo se centró de manera más específica en la llamada "actividad no auténtica programada": los falsos me gusta y publicaciones compartidas producidas por bots automatizados que se utilizan para aumentar la popularidad de alguien.
En la gran mayoría de estos casos, la gente simplemente obtenía me gusta por vanidad. Pero medio año después, Zhang intuyó que los políticos podrían hacer lo mismo para incrementar su influencia y el alcance en la plataforma. No tardó mucho en encontrar ejemplos en Brasil e India, donde se estaban preparando para las elecciones generales.
En el proceso de búsqueda de actividad programada, también encontró algo mucho más preocupante. El administrador de la página de Facebook del presidente de Honduras, Juan Orlando Hernández, había creado cientos de páginas con nombres falsos e imágenes de perfil con aspecto de usuarios reales, y las utilizaba para inundar las publicaciones del presidente con me gusta y comentarios y para compartirlas. (Facebook prohíbe a los usuarios crear varios perfiles, pero no aplica la misma restricción a las páginas, que generalmente están pensadas para empresas y personas públicas).
Esa actividad no contaba como programada, pero el efecto era el mismo. No solo podía engañar al observador casual haciéndole creer que Hernández era más querido y popular de lo que realmente era, sino que también colocaba sus publicaciones más arriba en las noticias que recibía la gente. Para un político cuya victoria en las reelecciones de 2017 se creyó fraudulenta, el descaro y las consecuencias eran alarmantes.
"Todos coincidían en que era terrible. Pero nadie pudo ponerse de acuerdo en quién debería asumir la responsabilidad ni tampoco sobre qué habría que hacer".
Pero cuando Zhang expuso el problema, recibió una respuesta de indiferencia. El equipo que se ocupaba de la integridad y gestionaba el abuso de y en las páginas de Facebook, no bloqueaba la creación masiva de páginas para parecerse usuarios. El equipo de integridad del suministro de noticias, que trataba de mejorar la calidad de lo que aparecía en el suministro de noticias de los usuarios, no iba a eliminar los me gusta y los comentarios falsos de la consideración del algoritmo de clasificación. Zhang recuerda: "Todos coincidían en que era terrible. Pero nadie pudo ponerse de acuerdo en quién debería asumir la responsabilidad ni tampoco sobre qué habría que hacer".
Después de la presión de Zhang que duró un año, finalmente se eliminó la red de las páginas falsas. Unos meses más tarde, Facebook creó una nueva "política de comportamiento no auténtico" para prohibir las páginas falsas que se hacían pasar por usuarios. Pero este cambio de política no abordó el problema más fundamental: a nadie se le pedía que la cumpliera.
Entonces Zhang tomó la iniciativa. Cuando no trabajaba para eliminar los me gusta de la vanidad, revisaba diligentemente los flujos de datos, buscando el uso de páginas falsas, cuentas falsas y otras formas de actividad falsa coordinada en las páginas de los políticos. Encontró numerosos casos en docenas de países, el más atroz en Azerbaiyán, donde la técnica de las páginas falsas se utilizaba para acosar a la oposición.
Pero encontrar y señalar los nuevos casos no fue suficiente. Descubrió que, para eliminar las redes de páginas o las cuentas falsas, tenía que presionar persistentemente a los equipos relevantes. En los países donde tal actividad representaba algo de riesgo de relaciones públicas para la empresa, la aplicación solía posponerse repetidamente. (Facebook niega esta afirmación). La responsabilidad le pesaba mucho a Zhang. ¿Era más importante insistir en un caso en Bolivia, con una población de 11,6 millones, o en Rajasthan, India, con cerca de los 70 millones?
Luego, en el otoño de 2019, estalló la protesta civil mortal en Bolivia, que duró varias semanas, después de que los ciudadanos impugnaran los resultados de sus elecciones presidenciales. Solo unas semanas antes, Zhang había quitado la prioridad a este país para atender lo que parecían casos más urgentes. La noticia la llenó de culpa. Desde un punto de vista razonable, sabía que no había forma de contar con una conexión directa entre su decisión y los acontecimientos. La participación falsa había sido tan escasa que el efecto probablemente fue insignificante. Pero a nivel psicológico y emocional, no importaba. Y admite: "Fue entonces cuando empecé a perder el sueño".
Aunque otros podrían haber optado por dejar un trabajo tan exigente o tal vez eximirse de la responsabilidad como una manera de afrontar la situación, Zhang se esforzó aún más, a un gran coste personal, en su intento de corregir el mal sin ayuda.
Durante el año transcurrido entre los acontecimientos en Bolivia y su despido, su enorme esfuerzo provocó que su salud empezara a empeorar. Zhang ya sufría de ansiedad y depresión, pero su estado se ha vuelto peligrosamente más grave. Era una voraz lectora de noticias internacionales, pero ya no podía distanciarse de la agitación política en otros países. La presión la alejó de sus amigos y seres queridos. Se aislaba cada vez más y rompió con su novia. Aumentó su ansiedad y su medicación antidepresiva hasta que su dosis se multiplicó por seis.
Para Zhang, la explicación de por qué le importaba tanto todo eso tiene que ver con su identidad. Creció en Ann Arbor (EE. UU.), hija de padres que habían inmigrado de China continental. Desde pequeña, estuvo sujeta a altos estándares académicos y demostró ser una erudita precoz. A los seis o siete años, leyó un libro de introducción a la física y se sintió fascinada por los componentes básicos del universo. Su pasión la llevaría a estudiar cosmología en la Universidad de Michigan (EE. UU.), donde publicó dos trabajos de investigación, uno como autora única.
Su mentor de pregrado, Dragan Huterer, recuerda: "Era increíblemente inteligente. Puede que sea la alumna de pregrado más inteligente con la que he trabajado. Yo diría que estaba más avanzada que los estudiantes de posgrado".
Pero su infancia también estuvo marcada por un trauma severo. Desde los cinco años, comenzó a darse cuenta de que era diferente. Leyó un libro infantil sobre un niño cuyos amigos le dijeron que si lograba besar su propio codo se convertiría en una niña. Y admite: "Pasé mucho tiempo intentando besarme el codo".
Hizo todo lo posible por ocultarlo, sabiendo que sus padres no tolerarían su identidad transgénero. Pero recuerda vívidamente el momento en el que su padre se enteró. Era primavera de octavo grado. Acababa de llover. Y ella estaba escondida por el miedo en el baño, contemplando la posibilidad de saltar por la ventana, mientras su padre derribaba la puerta.
Finalmente, optó por no saltar y dejar que él la golpeara hasta sangrar, confiesa: "Al final, decidí que yo era la persona que se quedaba en situaciones imperfectas para intentar arreglarlas". Al día siguiente, se puso una camisa de manga larga para cubrir los moratones y preparó una excusa en caso de que algún profesor se diera cuenta. Nadie lo hizo, recuerda.
(Cuando fue contactado por correo electrónico, el padre de Zhang negó las acusaciones, y respondió: "Me entristece que ella alegue que la golpeé cuando era niña después de descubrir su identidad transgénero, es completamente falso". Pero varias personas que conocen a Zhang desde instituto hasta el día de hoy han corroborado su relato sobre el comportamiento abusivo y violento de su padre).
"Renunciar a esa gente y abandonarla sería una traición a la propia esencia de mi identidad".
En la universidad, decidió hacer la transición, después de lo cual su padre ha renegado de ella. Pero pronto descubrió que al final ser percibida correctamente como mujer tenía sus propias consecuencias. "Sabía exactamente cómo me trataba la gente cuando pensaba que era un chico. Fue muy diferente", explica.
Después de ser aceptada en los mejores programas de doctorado en física, decidió ir a la Universidad de Princeton (EE. UU.). Durante la orientación, la persona que realizaba el recorrido por el taller de máquinas la señalaba repetidamente frente al grupo con suposiciones falsas de que no era competente. "Fue mi presentación oficial a Princeton, y muy apropiada", admite.
A partir de ahí, el sexismo solo empeoró. Casi de inmediato, un estudiante de posgrado comenzó a perseguirla y acosarla sexualmente. Para hacer frente a eso, eligió a un asesor de tesis en el departamento de Biofísica, lo que le permitió escapar de su acosador realizando una investigación en otro edificio. El problema era que en realidad no estaba interesada en la biofísica. Y por esta u otras razones, iba perdiendo lentamente su interés por la física.
Tres años después, profundamente infeliz, decidió dejar el programa, aunque no sin denunciar al final el acoso a la universidad. Zhang recuerda: "Me decían: 'Es tu palabra contra la suya'. Probablemente ya pueda adivinar por qué documenté extensamente todo lo que le di a Julia. No quería estar en otra situación de 'él dijo / ella dijo'", refiriéndose a Julia Carrie Wong de The Guardian.
(El portavoz de Princeton aclaró que no podía comentar situaciones individuales, pero declaró el compromiso de la universidad de "proporcionar un entorno educativo y de trabajo inclusivo y acogedor. Princeton intenta apoyar a cualquier miembro de la comunidad del campus que haya experimentado alguna conducta sexual inapropiada, incluido acoso".)
En su informe, Zhang escribió: "Lo que estas experiencias tienen en común es el hecho de que he experimentado caer repetidamente por las grietas de la responsabilidad. Nunca recibí el apoyo que necesitaba de las figuras de autoridad... En cada caso, cumplieron con su deber, pero fallaron en cuanto al espíritu, y yo pagué el precio de sus decisiones. Quizás por eso pueda entender por qué desde el principio todo esto era tan personal para mí, por qué luché tan duro para evitar que la gente de Honduras y Azerbaiyán se deslizara por esas grietas. Renunciar a esa gente y abandonarla sería una traición a la propia esencia de mi identidad".
Fue en el inicio de su declive físico y mental en el otoño de 2019 cuando Zhang empezó a pensar si debía hacerlo todo público. Quería dar a los sistemas oficiales de Facebook la oportunidad de funcionar. Pero le preocupaba ser un solo punto de falla. Pensó: "¿Qué pasaría si me atropellara un autobús al día siguiente?". Necesitaba que alguien más tuviera acceso a la misma información.
Coincidió que justo entonces recibió un correo electrónico de una periodista. Wong, que en aquel tiempo era periodista sénior de tecnología en The Guardian, había estado enviando mensajes a los empleados de Facebook buscando nuevas fuentes. Zhang aprovechó la oportunidad y acordó reunirse con ella para una conversación extraoficial. Ese día, dejó su teléfono y ordenador de la empresa en la casa de una antigua compañera de piso como medida de precaución, sabiendo que Facebook tenía la capacidad de rastrear su ubicación. Cuando regresó, parecía un poco aliviada, según recuerda la compañera de piso Ness Io Kain: "Se notaba que se sentía como si hubiera logrado algo, bastante silencioso, pero definitivamente palpable".
Por un momento, las cosas en Facebook parecían avanzar. Zhang vio el cambio de política y el derribo de la red falsa del presidente hondureño como un impulso hacia adelante. La llamaban continuamente para ayudar a gestionar las emergencias y la elogiaban por su trabajo, asegurándola que era valioso e importante.
Pero, a pesar de sus repetidos intentos de presionar por más recursos, los directivos tenían diferentes prioridades. También rechazaron sus sugerencias de una solución más sostenible, como suspender o sancionar a los políticos reincidentes. Se enfrentó a una manguera de fuego interminable: las redes de manipulación que ella derribaba volvían rápidamente, a menudo solo unas horas o días después. Recuerda: "Me sentía cada vez más como si estuviera intentando vaciar el océano con un colador".
"Nunca he odiado más mi autismo que cuando me uní a Facebook".
Luego, en enero de 2020, la situación cambió. Tanto su jefe como el jefe de su jefe le dijeron que detuviera su trabajo político y que se dedicara solo a sus tareas asignadas. Si no lo hacía, sus servicios en la empresa ya no serían necesarios, recuerda que le dijo el jefe de su jefe. Pero, sin contar con un equipo para continuar su trabajo, Zhang siguió haciéndolo en secreto.
A medida que la presión aumentaba y su salud empeoraba, Zhang se dio cuenta de que al final tendría que irse. Elaboró un plan para salir de la empresa después de las elecciones estadounidenses, considerándolo el último acontecimiento y el más importante con el que tenía que lidiar. Pero la dirección de la empresa tenía otros planes. En agosto, le informaron que la iban a despedir por mal desempeño.
En su último día en el trabajo, horas después de publicar internamente su informe, Facebook lo eliminó (aunque luego volvieron a publicar una versión editada después de la ira generalizada de los empleados). Pocas horas más tarde, una persona de recursos humanos la llamó y le pidió que también eliminara una copia protegida con contraseña que había publicado en su sitio web personal. Zhang intentó negociar: lo haría si volvían a publicar la versión interna. Al día siguiente, en cambio, recibió un aviso de su servidor de alojamiento de que había eliminado todo su sitio web después de una queja de Facebook. Unos días después de eso, su dominio también fue eliminado.
Incluso después de todo lo que Facebook la hizo pasar, Zhang se culpa a sí misma por defecto. En su informe, pidió perdón a sus colegas por cualquier problema que pudiera haberles causado y por dejarlos sin haber logrado algo más. En un Reddit AMA meses después, se disculpó con los ciudadanos de diferentes países por no haber actuado lo suficientemente rápido y por no haber logrado una solución a largo plazo.
Zhang, que parece un trastorno del espectro autista, se pregunta qué pudo haber conseguido si no lo fuera. Y admite: "No tengo el don de persuadir ni convencer. Si hubiera nacido con esa lengua plateada, tal vez podía haber hecho cambios. Nunca he odiado más mi autismo que cuando me uní a Facebook".
Cuando se preparaba para hacerlo todo público, Zhang hizo un último sacrificio: ocultar su identidad transgénero, no por temor al acoso, sino a que eso distrajera la atención que merece su mensaje. En Estados Unidos los derechos de las personas transgénero están muy politizados y Zhang no quería que la protección de la democracia se convirtiera en un tema partidista. En el extranjero, donde algunos países consideran que ser transgénero es un delito punible con prisión o incluso con la muerte, no quería que la gente dejara de escuchar su mensaje por eso.
Eso estaba en consonancia con un sacrificio que había hecho en repetidas ocasiones al controlar la interferencia electoral a nivel mundial. Zhang trataba a todos los políticos por igual, incluso cuando el hecho de eliminar la actividad falsa de uno en Azerbaiyán inevitablemente impulsó a un oponente que fomentaba la homofobia. Con un profundo suspiro, admite: "Hice todo lo que pude para proteger la democracia y el estado de derecho a nivel mundial para las personas, independientemente de si creían que yo era humana. Pero no creo que nadie deba tener que tomar esa decisión".
La noche en la que se publicaron los artículos en The Guardian, esperaba ansiosa la reacción del público, preocupada por si sería capaz de manejar la atención de los medios de comunicación. Su novia Lisa Danz, con quien Zhang volvió después de dejar Facebook, recuerda: "Creo que en realidad se sorprendió de lo buena que era dando entrevistas. Descubrió que cuando se trataba de material que conocía muy bien y solo le hacían preguntas al respecto, era capaz de responder a ellas".
El impacto finalmente no alcanzó lo que Zhang imaginaba. Varios medios de comunicación en EE.UU. hicieron reportajes de seguimiento, al igual que otros extranjeros de los países afectados por la actividad de manipulación. Pero hasta donde sabe, no logró lo que esperaba: un escándalo de relaciones públicas lo suficientemente grande como para que Facebook por fin priorizara el trabajo que Zhang dejó atrás.
Facebook de nuevo cuestiona las declaraciones de Zhang, afirmando que el equipo de participación falsa ha continuado con el traba
erbaiyán todavía sigue activa. "Está claro que no han tenido éxito", resalta.
No obstante, no se arrepiente de su decisión de hacerlo todo público. Afirma: "Yo era la única en este puesto de responsabilidad desde el principio, y alguien tenía que asumir la responsabilidad y hacer todo lo posible para proteger a las personas".
Sin perder el ritmo, ha contado las consecuencias que otros han sufrido por enfrentarse a los poderosos en los países más hostiles: periodistas asesinados por investigar la corrupción gubernamental, manifestantes abatidos por dejar constancia de su disidencia. Y concluye: "En comparación con ellos, lo mío no es gran cosa".
No hay comentarios:
Publicar un comentario