Trust and Safety Head di Twitter abbandona il protocollo per i capricci di Elon Musk

0
50

Un giorno in cui centinaia di dipendenti di Twitter Inc stavano discutendo se dimettersi, Ella Irwin si è presentata con un discorso di incoraggiamento. Elon Musk le aveva offerto una promozione sul campo di battaglia per gestire la fiducia e la sicurezza, la divisione incaricata di limitare i post dannosi sulla rete.

Era mezzogiorno e mezzo del 17 novembre. I dipendenti di Twitter avevano poco più di un'ora per decidere se cliccare “sì” su un modulo che Musk aveva inviato, chiedendo loro di dichiararsi disposti a svolgere il proprio lavoro in modalità “hardcore”, o smettere. Irwin ha incoraggiato il team a rimanere e trovare un modo per lavorare con Musk, secondo tre persone che hanno partecipato alla riunione presso la sede di San Francisco. Sebbene i suoi metodi non fossero convenzionali, ha affermato, i dipendenti dovevano adattarsi e supportare il modo in cui voleva guidare l'azienda.

Alcuni membri dello staff hanno avuto un grosso problema con la sua presentazione: il modo in cui Musk voleva guidare andava direttamente contro le politiche e le procedure che Twitter aveva impiegato anni a perfezionare, uno sforzo per creare fiducia con il pubblico e ribaltare la sua reputazione di esporre gli utenti a tossici esperienze. Le buffonate di Musk avevano già spaventato i principali inserzionisti e portato a molestie online per gli ex dirigenti di Twitter. Gran parte del restante staff di fiducia e sicurezza sperava principalmente di fargli cambiare idea o proteggere Twitter da lui, secondo persone a conoscenza della questione, ma non Irwin.

Irwin è diventato il principale esecutore dei capricci di Musk, anche quando va contro i protocolli stabiliti per il lavoro sui contenuti dei social media che Twitter e i suoi colleghi hanno perfezionato negli ultimi dieci anni, secondo più di una dozzina di dipendenti attuali ed ex. Musk ha premiato la lealtà di Irwin, fidandosi di lei per spiegare le mosse di Twitter al pubblico in tweet e articoli di notizie.

Storie per soli abbonatiVisualizza tutto

Intervista a K Arun Prakash: 'Il mio stile è evidenziare la composizione e…

Al checkpoint internazionale, il sistema online aiuta i veicoli attraversano il mare…

Gli esperti affermano che la svendita delle azioni del Gruppo Adani potrebbe non influire sul mercato, ma approfondisce…

Delhi Confidential: Lok Sabha Speaker vuole che i parlamentari imparino lezioni da Pad…Applica il codice promozionale di Capodanno SD25 Irwin è diventato il capo esecutore dei capricci di Musk, anche quando va contro i protocolli stabiliti. (Immagine: Reuters)

Da quando Musk ha preso il timone di Twitter, Irwin lo ha aiutato a rompere le convenzioni su come Twitter gestisce la politica degli account utente. Twitter ha lanciato, poi bruscamente revocato, una politica che vietava la promozione di account su altri social network. La società ha temporaneamente sospeso i giornalisti che coprono Musk e Twitter, rimosso le principali politiche di disinformazione e bandito gli attivisti di sinistra perché Musk voleva farlo. E l'accesso a documenti e strumenti interni è stato concesso a scrittori esterni selezionati da Musk per supportare una narrazione – contestata da ex membri dello staff – che prima di intervenire, Twitter era servile nei confronti dell'intelligence statunitense e delle agenzie sanitarie federali.

“Quasi tutte le persone che sanno come costruire sistemi di sicurezza su Twitter hanno lasciato l'azienda, e quelli che sono ancora lì sembrano non voler o non essere in grado di dire al proprio capo che le cose che sta chiedendo loro di fare sono pericolose o violano le leggi legali di Twitter impegni”, ha affermato Laura Edelson, scienziata informatica della New York University che studia comunicazione politica online.

In una risposta via e-mail a una richiesta di intervista, Irwin, 47 anni, ha affermato di non poter parlare per gli altri, ma crede che ci siano “molte persone su Twitter che capiscono come costruire sistemi di sicurezza e lavorano quotidianamente su questi sistemi”.

Pubblicità

Essere il capo della fiducia e della sicurezza su Twitter è stato a lungo un lavoro cruciale e attentamente esaminato, dato il potenziale impatto che quella persona ha sul discorso su una delle piattaforme più influenti del mondo. I leader precedenti sono stati incaricati di prendere decisioni complicate e controverse, incluso quando vietare gli account quando superano una linea, sia mettendo a repentaglio la salute pubblica nel mezzo di una pandemia, sia minacciando la sicurezza delle elezioni democratiche in tutto il mondo. Le decisioni di Twitter vengono spesso successivamente vagliate da politici e autorità di regolamentazione, quindi in genere vengono prese con un'attenta documentazione che indica specifiche giustificazioni politiche per l'azione, affermano i dipendenti attuali ed ex.

Ma ora, la documentazione interna mostra un processo decisionale che equivale a poco più di direttive unilaterali emesse dal nuovo proprietario di Twitter. Alla fine di novembre, un account appartenente all'attivista di sinistra Chad Loder è stato bandito dalla piattaforma. Nel sistema interno di Twitter, una nota diceva: “Sospensione: richiesta diretta da Elon Musk”, secondo uno screenshot visualizzato da Bloomberg. L'11 dicembre, Jack Sweeney, il creatore di un bot che traccia l'aereo privato di Musk, ha pubblicato uno screenshot che mostrava Irwin aveva inviato un messaggio Slack invitando i dipendenti a limitare la visibilità all'account del bot di Sweeney, @elonjet. Il 15 dicembre, quando Twitter ha sospeso importanti giornalisti che coprivano Twitter e Musk, l'azione è stata accompagnata da una nota interna: “direzione di Ella”.

Twitter aveva un gruppo chiamato Global Escalations Team che poteva essere un controllo del potere ai vertici dell'azienda, prevalendo sui dirigenti in base alla politica esistente. I dipendenti affermano che il gruppo si è piegato e Irwin e Musk non possono più essere sfidati attraverso un processo formale. Nella sua risposta via e-mail, Irwin ha affermato che “non era affatto accurato”, rifiutandosi di approfondire.

Pubblicità

Tuttavia, questo mese Irwin ha confermato ulteriori tagli ai team che gestiscono la moderazione dei contenuti globali, l'incitamento all'odio, la politica di disinformazione, gli appelli globali e i media statali. Nove giorni dopo, due funzionari talebani hanno ottenuto brevemente l'accesso ai segni di spunta blu tramite Twitter Blue, il livello di abbonamento a pagamento della piattaforma. Il consorzio di ricerca sulla moderazione di Twitter, introdotto alla fine del 2021, è ora effettivamente defunto, senza responsabili del programma rimasti a supervisionare il lavoro. Dozzine di rapporti non ancora pubblicati, ma completati, che dettagliano le operazioni informative sulla piattaforma probabilmente non diventeranno mai pubblici, secondo quattro ex membri dello staff che hanno lavorato agli studi. (In un'e-mail, Irwin ha affermato di non essere a conoscenza dei rapporti e di non poter commentarli.)

“È come se Musk stesse prendendo tutte le norme sulle migliori pratiche di moderazione dei contenuti che la comunità di fiducia e sicurezza ha costruito negli ultimi dieci anni e stesse cercando di dar loro fuoco”, ha affermato Evelyn Douek, assistente professore alla Stanford Law School. “L'intera tendenza è stata quella di offrire agli utenti maggiore trasparenza, prevedibilità e giusto processo. Ciò che Musk sta facendo è come l'antitesi di questo.”

Yoel Roth, che ha guidato il team di fiducia e sicurezza dell'azienda quando Musk è subentrato alla fine di ottobre, era inizialmente ottimista sui piani del nuovo proprietario, secondo quattro persone a conoscenza della questione. A pochi giorni dall'inizio del suo mandato come CEO, Musk ha incontrato i leader di diversi gruppi per i diritti civili e ha affermato di voler formare un consiglio di moderazione dei contenuti di Twitter per riflettere su decisioni complicate, come se ripristinare l'account dell'ex presidente Donald Trump. Musk si è anche appoggiato a Roth, che era su Twitter da più di 7 anni, per la sua conoscenza istituzionale, e ha iniziato a considerarlo pubblicamente come il massimo dirigente che si occupa delle decisioni politiche di Twitter. Mentre altri dipartimenti di Twitter sono stati tagliati drasticamente, la fiducia e la sicurezza sotto Roth hanno perso meno di un quarto dei suoi dipendenti nel primo round di licenziamenti.

Ma in pochi giorni, è diventato chiaro a Roth che Musk avrebbe preso decisioni unilaterali sulle regole di Twitter e i cui account sarebbero stati reintegrati e banditi. Si è dimesso, affermando più tardi in un editoriale del New York Times che “un Twitter le cui politiche sono definite da un editto ha poco bisogno di una funzione di fiducia e sicurezza dedicata al suo sviluppo di principi”.

Alcuni critici di Twitter hanno festeggiato. La partenza di Roth, dato il suo ruolo in azienda durante decisioni controverse come il divieto di Trump nel 2021. Ma internamente, i dipendenti erano preoccupati che Musk sarebbe ora in grado di prendere decisioni senza alcun respingimento.

Pubblicità

Quel poco che sapevano di Irwin, che si era unito pochi mesi prima dell'acquisizione di Musk, non ispirava fiducia. Il suo background non era nella politica dei contenuti. Piuttosto, aveva supervisionato la divisione di Twitter gestendo problemi come abusi e spam. Prima di allora, ha ricoperto ruoli senior presso Twilio Inc. e Amazon.com Inc., dove si è concentrata sulla prevenzione di hack e abusi sul mercato e molto meno sul discorso degli utenti. Irwin ha conseguito la laurea in gestione aziendale presso la California Lutheran University nel 2000, quindi ha conseguito un master post-laurea nello stesso campo presso la Golden Gate University, laureandosi nel 2005, secondo il suo profilo LinkedIn.

Yusupha Jow, un responsabile tecnico che ha lavorato per Irwin a Twilio, ha affermato di essere altamente organizzata e implacabile sul lavoro, tratti che ha acquisito durante il suo periodo in Amazon. “Tutto ciò che faceva richiedeva un certo standard di eccellenza”, ha detto. Ma ha riconosciuto che il suo stile di gestione non sarebbe adatto a tutti. “Se sei eccessivamente sensibile, probabilmente vorrai ricalibrare.”

Pubblicità

Si è unita in un momento difficile per i team sanitari e politici di Twitter. Musk aveva passato mesi a criticare pubblicamente i dirigenti di Twitter, sostenendo che la società stava fuorviando il pubblico su quanti bot e account spam fossero inclusi nel calcolo di Twitter per gli utenti totali. Mentre Twitter si è difeso in sede legale in una rissa giudiziaria con Musk, il team che Irwin ha ereditato si è scontrato con la narrazione secondo cui il loro lavoro di supervisione di bot e spam era incompetente, ha affermato un ex dipendente, che ha rifiutato di essere nominato per discutere di questioni interne.

Irwin ha inviato al suo nuovo team un documento di più pagine consigliandolo su come lavorare al meglio con lei, inclusi dettagli sulla sua personalità e sul suo stile operativo preferito. Ha chiesto ai dipendenti di difendere i loro progetti in corso utilizzando un modello che ha ideato, eliminando i progetti che riteneva non valessero le risorse. Sebbene sia normale per i nuovi manager fare il punto sulla strategia del proprio team, l'approccio brusco di Irwin ha alienato alcuni, hanno detto i dipendenti. Il processo ha anche rallentato le cose poiché i team sono stati costretti ad attendere la sua approvazione per continuare a lavorare.

Pubblicità Leggi di più |Twitter taglia più personale che supervisiona la moderazione globale dei contenuti

Irwin, nella sua dichiarazione via e-mail, ha affermato di aver ucciso le iniziative perché “c'erano meno persone rispetto ai progetti desiderati da completare”.

Irwin e Roth si sono anche scontrati direttamente nei mesi prima che lasciasse l'azienda, secondo persone che hanno familiarità con la questione. Come parte della revisione dei progetti non necessari, ha ordinato una pausa del lavoro supervisionato da Roth che ha scansionato il social network alla ricerca di attori spam o persone che desideravano iniettare disinformazione nella piattaforma, come quelli che diffondono falsità favorevoli al Partito Comunista Cinese, secondo a quattro ex dipendenti. Roth, che era un pari laterale di Irwin, si è irritato per quello che vedeva come un superamento di Irwin in processi cruciali eseguiti dalla sua squadra, hanno detto le persone. Roth l'ha annullata, dicendo che era un lavoro essenziale, hanno detto. Irwin ha affermato di non ricordare “nessun conflitto specifico” che ha avuto con Roth e che i due “hanno lavorato molto bene insieme”.

L'attrito con Roth ha reso Irwin un improbabile successore. I suoi colleghi credevano che avesse lasciato l'azienda subito dopo l'acquisizione di Musk, quando stava tagliando i lavoratori non essenziali. Ma dopo che Roth si è dimesso, Musk ha chiesto a Irwin di tornare. Il suo primo giorno di ritorno in ufficio è stato il giorno del suo discorso di incoraggiamento. “Ho incoraggiato il team ad abbracciare il cambiamento e mantenere una mente aperta”, ha detto. “Non sono mai stato licenziato o disoccupato da Twitter.”

Ulteriori informazioni |Nuove accuse su Twitter: cos'è “Twitter Files 2.0”?

I dipendenti pensavano che sebbene fosse un'operatrice forte, non aveva il background nel lavoro sui contenuti per respingere le decisioni di Musk che potrebbero riverberarsi nella società e influenzare le informazioni a cui gli utenti sarebbero stati esposti su Twitter, secondo più persone che hanno familiarità con il situazione. Il progetto Twitter Files di Musk, che prevedeva la divulgazione di e-mail interne e documentazione a giornalisti esterni, è stato il suo primo test.

L'8 dicembre, lo scrittore Bari Weiss ha pubblicato un thread su Twitter che pretendeva di mostrare che i dipendenti dell'azienda avevano account e tweet segretamente inseriti nella lista nera; in realtà, i documenti che ha condiviso mostravano lavoratori che discutevano seriamente dello spirito delle loro politiche di moderazione dei contenuti. Weiss ha pubblicato immagini a cui hanno accesso solo dipendenti selezionati e che possono essere utilizzate per visualizzare i dettagli privati ​​del profilo di un utente. Le immagini contenevano l'identificatore “eirwin4903ZWlyd21u863”, rivelando che Irwin era la fonte aziendale del materiale.

Le immagini erano foto scattate dallo schermo di un computer, il che implica che Irwin avrebbe potuto essere seduto fianco a fianco con Weiss mentre visualizzava gli account degli utenti di Twitter, hanno detto persone che hanno familiarità con i sistemi. “Dal punto di vista della sicurezza, è orribile”, ha detto un ex dipendente. Sebbene Irwin abbia affermato di non aver mai concesso a Weiss l'accesso ai messaggi diretti delle persone, due persone hanno affermato che le immagini mostravano che Irwin vi aveva accesso durante il provisioning degli screenshot per Weiss.

Poiché Irwin dà la priorità al supporto di Musk, un ex dirigente dell'azienda ha affermato di ritenere che la piattaforma sia sulla buona strada per servire principalmente gli interessi dei già potenti e di coloro le cui ideologie si allineano con lui. (Fonte immagine: Reuters)

Diversi dipendenti hanno spiegato che, poiché Irwin non avrebbe utilizzato lo strumento nel suo lavoro precedente, potrebbe non sapere che il suo identificatore sarebbe stato visualizzato pubblicamente. Irwin dice che non è vero. “Ero molto consapevole (ma indifferente) che fosse lì”, ha scritto in un'e-mail.

È “bizzarro” per un responsabile della fiducia e della sicurezza condividere uno strumento interno con estranei, ha affermato Steve Weis, ingegnere presso la società di software Databricks che ha lavorato nei team di fiducia e sicurezza nei social network. “I dipendenti che utilizzano in modo improprio l'accesso interno in questo modo minano la fiducia stessa che un responsabile della fiducia e della sicurezza dovrebbe costruire”, ha affermato.

C'era un intero team di sicurezza delle informazioni dedicato a seguire i processi, controllare per cosa il personale utilizzava lo strumento e cercava in modo proattivo modelli di accesso insoliti, ha affermato un ex dipendente di Twitter di alto livello, un team che non esiste più perché i membri si sono dimessi o sono stati licenziati.

Altri documenti nei file di Twitter mostravano gli indirizzi e-mail ei nomi di giovani lavoratori coinvolti in decisioni di alto profilo, esponendoli ad attacchi e minacce pubbliche. Roth è dovuto fuggire da casa sua dopo che Musk lo ha attaccato online, secondo persone a conoscenza della questione.

A dicembre, Irwin ha continuato a sostenere Musk nel criticare il lavoro di Twitter da prima che subentrasse. Musk ha affermato che Twitter “si è rifiutato di agire contro lo sfruttamento dei minori per anni”, una dichiarazione contestata dal co-fondatore di Twitter Jack Dorsey. Irwin ha twittato: “Vorrei che fosse falso, ma la mia esperienza di quest'anno lo conferma.”

Due dipendenti che hanno lavorato alla sicurezza dei bambini su Twitter hanno affermato che il team era stato duramente colpito dall'attrito quando Irwin si è unito, ma affermare che si è rifiutato di agire sul problema era falso. Twitter era solito mantenere una mappa del mondo con puntine da disegno per le posizioni delle dozzine di bambini predatori che sono stati arrestati a seguito di suggerimenti informatici inviati dall'azienda.

Anche il National Center for Missing and Exploited Children, un centro di smistamento designato a livello federale per le immagini di abusi sessuali su minori online che collabora con le forze dell'ordine, ha confutato l'idea che Twitter non avesse preso provvedimenti sui contenuti di sfruttamento dei minori prima dell'acquisizione di Musk. “È stato scoraggiante vedere quella retorica perché avevamo rapporti con persone che si preoccupavano davvero dei problemi”, ha dichiarato Gavin Portnoy, un portavoce.

Nella sua e-mail, Irwin ha affermato di non aver mai affermato che nessun lavoro fosse stato fatto sulla questione, solo che era a corto di personale.

Poiché Irwin dà la priorità al supporto di Musk, un ex dirigente dell'azienda ha affermato di ritenere che la piattaforma sia sulla buona strada per servire principalmente gli interessi dei già potenti, e coloro le cui ideologie sono in linea con lui.

“Le politiche e le pratiche di Twitter nello spazio di fiducia e sicurezza sono state costruite attorno alla difesa dei diritti degli utenti di tutto il mondo, in particolare delle comunità più vulnerabili ed emarginate”, l'ex dirigente disse. “Dall'acquisizione, le uniche azioni dell'azienda sono state mettere a tacere i critici di Elon, esporre giornalisti e altri a danni e violare gli standard etici di base e le leggi sulla privacy.”