Twitter's Trust and Safety Head sloot het protocol af voor de grillen van Elon Musk

0
62

Op een dag dat honderden Twitter Inc-medewerkers aan het discussiëren waren over ontslag, kwam Ella Irwin opdagen met een peptalk. Elon Musk had haar een slagveldpromotie aangeboden om vertrouwen en veiligheid te beheren, de divisie die verantwoordelijk is voor het beperken van schadelijke berichten op het netwerk.

Het was half twaalf op 17 november. Twitter-medewerkers hadden iets meer dan een uur de tijd om te beslissen of ze “ja” wilden klikken op een formulier dat Musk had verzonden, waarin ze vroegen te verklaren dat ze bereid waren hun werk in “hardcore”-modus te doen. of stop ermee. Volgens drie mensen die de bijeenkomst op het hoofdkantoor in San Francisco bijwoonden, moedigde Irwin het team aan om te blijven en een manier te vinden om met Musk samen te werken. Hoewel zijn methoden onconventioneel waren, zei ze, moesten de werknemers de manier waarop hij het bedrijf wilde leiden aanpassen en ondersteunen.

Een deel van het personeel had een groot probleem met haar pitch: de manier waarop Musk leiding wilde geven, druiste regelrecht in tegen het beleid en de procedures die Twitter jarenlang had verfijnd, een poging om vertrouwen bij het publiek op te bouwen en zijn reputatie om gebruikers bloot te stellen aan giftige ervaringen. De capriolen van Musk hadden grote adverteerders al doen schrikken en leidden tot online intimidatie voor voormalige Twitter-managers. Een groot deel van het resterende vertrouwens- en veiligheidspersoneel hoopte in de eerste plaats van gedachten te veranderen of Twitter tegen hem te beschermen, volgens mensen die bekend zijn met de zaak – maar niet Irwin.

Volgens meer dan een dozijn huidige en voormalige werknemers is Irwin de belangrijkste uitvoerder geworden van de grillen van Musk, zelfs als het indruist tegen de vastgestelde protocollen voor werk op sociale media-inhoud die Twitter en zijn collega's de afgelopen tien jaar hebben verfijnd. Musk heeft Irwins loyaliteit beloond door erop te vertrouwen dat ze de stappen van Twitter aan het publiek zal uitleggen in tweets en nieuwsartikelen.

Alleen abonneeverhalenBekijk alles

Het interview met K Arun Prakash: 'Mijn stijl is om de compositie van een…

Bij internationaal controlepunt helpt online systeem voertuigen steken zee over…Experts zeggen dat de uitverkoop van aandelen Adani Group geen invloed heeft op de markt, maar verdiept…Delhi Vertrouwelijk: Lok Sabha Spreker wil dat parlementsleden lessen leren van Pad…Nieuwjaarspromotiecode SD25 toepassen Irwin is geworden de belangrijkste uitvoerder van Musk's grillen, zelfs als het tegen gevestigde protocollen indruist. (Afbeelding: Reuters)

Sinds Musk het roer van Twitter overnam, heeft Irwin hem geholpen conventies te doorbreken over hoe Twitter het gebruikersaccountbeleid beheert. Twitter heeft een beleid uitgerold – en vervolgens abrupt ingetrokken – dat de promotie van accounts op andere sociale netwerken verbiedt. Het bedrijf schorste tijdelijk journalisten die verslag deden van Musk en Twitter, verwijderde belangrijke desinformatiebeleidslijnen en verbood linkse activisten omdat Musk dat wilde. En toegang tot interne documenten en tools is verleend aan externe schrijvers die door Musk zijn uitgekozen ter ondersteuning van een verhaal – betwist door voormalige stafleden – dat Twitter, voordat hij tussenbeide kwam, dienstbaar was aan Amerikaanse inlichtingendiensten en federale gezondheidsinstanties.

“Bijna alle mensen die weten hoe ze veiligheidssystemen moeten bouwen bij Twitter hebben het bedrijf verlaten, en degenen die er nog steeds zijn, lijken niet bereid of niet in staat om hun baas te vertellen dat de dingen die hij van hen vraagt ​​gevaarlijk zijn of in strijd zijn met de wettelijke regels van Twitter. toezeggingen”, zegt Laura Edelson, een computerwetenschapper aan de New York University die online politieke communicatie bestudeert.

In een reactie per e-mail op een interviewverzoek zei de 47-jarige Irwin dat ze niet voor anderen kon spreken, maar ze gelooft dat er “veel mensen bij Twitter zijn die begrijpen hoe ze veiligheidssystemen moeten bouwen en dagelijks aan deze systemen moeten werken.”

Advertentie

Het hoofd van vertrouwen en veiligheid zijn bij Twitter is lange tijd een cruciale en nauwkeurig onderzochte taak geweest, gezien de potentiële impact die die persoon heeft op spraak op een van 's werelds meest invloedrijke platforms. Eerdere leiders hebben de taak gehad om gecompliceerde en controversiële beslissingen te nemen, onder meer wanneer accounts moeten worden geblokkeerd wanneer ze een grens overschrijden, hetzij door de volksgezondheid in gevaar te brengen tijdens een pandemie, hetzij door de veiligheid van democratische verkiezingen over de hele wereld in gevaar te brengen. De beslissingen van Twitter worden later vaak getoetst door politici en toezichthouders, en daarom worden ze doorgaans genomen met zorgvuldige documentatie die verwijst naar specifieke beleidsredenen voor de actie, zeggen de huidige en voormalige werknemers.

Maar nu blijkt uit interne documentatie dat het besluitvormingsproces niet veel meer is dan eenzijdige richtlijnen van de nieuwe eigenaar van Twitter. Eind november werd een account van de linkse activist Chad Loder van het platform verbannen. In het interne systeem van Twitter stond een notitie: “Opschorting: direct verzoek van Elon Musk”, volgens een screenshot bekeken door Bloomberg. Op 11 december plaatste Jack Sweeney, de maker van een bot die het privévliegtuig van Musk volgde, een screenshot waarop te zien was dat Irwin een Slack-bericht had gestuurd waarin hij werknemers opdroeg de zichtbaarheid van Sweeney's botaccount, @elonjet, te beperken. Op 15 december, toen Twitter prominente journalisten schorste die verslag deden van Twitter en Musk, ging de actie vergezeld van een interne opmerking: “richting van Ella.”

Twitter had vroeger een groep genaamd het Global Escalations Team die een controle op de macht aan de top van het bedrijf, het terzijde schuiven van leidinggevenden op basis van bestaand beleid. Medewerkers zeggen dat de groep is gefold en dat Irwin en Musk niet langer via een formeel proces kunnen worden uitgedaagd. In haar antwoord per e-mail zei Irwin dat dit “helemaal niet juist” was, en weigerde verder uit te werken.

Advertentie

Toch bevestigde Irwin deze maand nog meer bezuinigingen op teams die zich bezighielden met wereldwijde contentmoderatie, haatzaaiende uitingen, desinformatiebeleid, wereldwijde oproepen en staatsmedia. Negen dagen later kregen twee Taliban-functionarissen kort toegang tot blauwe vinkjes via Twitter Blue, het betaalde abonnementsniveau van het platform. Het moderatie-onderzoeksconsortium van Twitter, dat eind 2021 werd geïntroduceerd, is nu feitelijk ter ziele en er zijn geen programmamanagers meer over om toezicht te houden op het werk. Tientallen nog niet gepubliceerde – maar voltooide – rapporten over informatieoperaties op het platform zullen waarschijnlijk nooit openbaar worden, aldus vier voormalige stafleden die aan de onderzoeken hebben gewerkt. (In een e-mail zei Irwin dat ze niet op de hoogte was van de rapporten en er geen commentaar op kon geven.)

“Het is alsof Musk alle best practice-normen voor inhoudsmoderatie die de vertrouwens- en veiligheidsgemeenschap de afgelopen tien jaar heeft opgebouwd, overneemt en probeert ze in vuur en vlam te zetten”, zegt Evelyn Douek, een assistent-professor aan de Stanford Law School. “De hele trend is om gebruikers meer transparantie, voorspelbaarheid en een eerlijk proces te geven. Wat Musk aan het doen is, is als het tegenovergestelde hiervan.”

Yoel Roth, die het vertrouwens- en veiligheidsteam van het bedrijf leidde toen Musk het eind oktober overnam, was aanvankelijk optimistisch over de plannen van de nieuwe eigenaar, volgens vier mensen die bekend zijn met de zaak. Slechts enkele dagen na zijn ambtstermijn als CEO had Musk een ontmoeting met de leiders van verschillende burgerrechtengroepen en zei dat hij een Twitter-contentmoderatieraad wilde vormen om ingewikkelde beslissingen te overdenken, zoals het terughalen van het account van voormalig president Donald Trump. Musk leunde ook op Roth, die al meer dan 7 jaar bij Twitter werkte, vanwege zijn institutionele kennis, en begon hem publiekelijk voor te houden als de topman die zich bezighoudt met de beleidsbeslissingen van Twitter. Terwijl andere afdelingen bij Twitter drastisch werden geschrapt, verloor het vertrouwen en de veiligheid onder Roth minder dan een kwart van zijn werknemers in de eerste ronde van ontslagen.

Maar binnen enkele dagen werd het Roth duidelijk dat Musk eenzijdig beslissingen zou nemen over de regels van Twitter en wiens accounts zouden worden hersteld en verbannen. Hij nam ontslag en zei later in een opiniestuk in de New York Times dat “een Twitter waarvan het beleid wordt bepaald door een edict, weinig behoefte heeft aan een vertrouwens- en veiligheidsfunctie die zich toelegt op de principiële ontwikkeling ervan.”

Sommige Twitter-critici juichten het toe. Het vertrek van Roth, gezien zijn rol bij het bedrijf tijdens controversiële beslissingen zoals het verbod van Trump in 2021. Maar intern waren de werknemers bezorgd dat Musk nu beslissingen zou kunnen nemen zonder tegendruk.

Advertentie

Het weinige dat ze wisten van Irwin, die een paar maanden voor de overname door Musk was toegetreden, boezemde geen vertrouwen in. Haar achtergrond lag niet in het inhoudsbeleid. Integendeel, ze had toezicht gehouden op de afdeling van Twitter die zaken als misbruik en spam afhandelde. Daarvoor bekleedde ze senior functies bij Twilio Inc. en Amazon.com Inc., waar ze zich richtte op het voorkomen van hacks en marktmisbruik, en veel minder op spraak van gebruikers. Irwin behaalde in 2000 haar bachelor in bedrijfsbeheer aan de California Lutheran University en volgde vervolgens een postdoctorale master in hetzelfde vakgebied aan de Golden Gate University, waar ze in 2005 afstudeerde, volgens haar LinkedIn-profiel.

Yusupha Jow, een technisch manager die voor Irwin bij Twilio werkte, zei dat ze zeer georganiseerd en meedogenloos was op het werk, eigenschappen die ze oppikte tijdens haar tijd bij Amazon. “Alles wat ze deed vereiste een bepaalde standaard van uitmuntendheid,” zei hij. Maar hij erkende dat haar stijl van leidinggeven niet bij iedereen zou passen. “Als u overdreven gevoelig bent, wilt u waarschijnlijk opnieuw kalibreren.”

Advertentie

Ze trad toe op een moeilijk moment voor de gezondheids- en beleidsteams van Twitter. Musk had maandenlang publiekelijk Twitter-managers bekritiseerd, met het argument dat het bedrijf het publiek misleidde over hoeveel bot- en spamaccounts waren opgenomen in de berekening van Twitter voor het totale aantal gebruikers. Terwijl Twitter zichzelf verdedigde in juridische aanklachten in een rechtszaak met Musk, worstelde het team dat Irwin erfde met een verhaal dat hun werk als toezicht op bots en spam incompetent was, zei een voormalige werknemer, die weigerde genoemd te worden bij het bespreken van interne zaken.

Irwin stuurde haar nieuwe team een ​​document van meerdere pagina's waarin ze adviseerden hoe ze het beste met haar konden samenwerken, inclusief details over haar persoonlijkheid en geprefereerde manier van werken. Ze vroeg werknemers om hun lopende projecten te verdedigen met behulp van een sjabloon die ze had bedacht, waarbij ze projecten vermoordde die ze de middelen niet waard achtte. Hoewel het standaard is voor nieuwe managers om de strategie van hun team te inventariseren, vervreemdde de abrupte aanpak van Irwin sommigen, zeiden werknemers. Het proces vertraagde ook dingen omdat teams moesten wachten op haar goedkeuring om door te werken.

Advertentie Lees meer |Twitter schrapt meer personeel dat toezicht houdt op wereldwijde contentmoderatie

Irwin zei in haar e-mailverklaring dat ze initiatieven om zeep hielp omdat “er minder mensen waren dan gewenste projecten om te voltooien.”

Ook Irwin en Roth botsten in de maanden voordat hij het bedrijf verliet rechtstreeks met elkaar, aldus mensen die bekend zijn met de zaak. Als onderdeel van de beoordeling van onnodige projecten, gaf ze opdracht tot een werkpauze. Roth hield toezicht op het scannen van het sociale netwerk op spammy-acteurs of mensen die desinformatie op het platform wilden injecteren, zoals degenen die onwaarheden verspreiden die gunstig zijn voor de Chinese Communistische Partij, volgens aan vier oud-medewerkers. Roth, die een zijdelingse collega van Irwin was, was verontwaardigd over wat hij zag als een te grote reikwijdte van Irwin in cruciale processen die door zijn team werden uitgevoerd, zeiden de mensen. Roth negeerde haar en zei dat het essentieel werk was, zeiden ze. Irwin zei dat ze zich “enig specifiek conflict” met Roth niet kon herinneren en dat de twee “heel goed samenwerkten”.

De wrijving met Roth maakte van Irwin een onwaarschijnlijke opvolger. Haar collega's dachten dat ze het bedrijf had verlaten kort na de overname van Musk, toen hij niet-essentiële werknemers aan het schrappen was. Maar nadat Roth aftrad, vroeg Musk Irwin terug. Haar eerste dag op kantoor was de dag van haar peptalk. “Ik moedigde het team aan om verandering te omarmen en een open geest te houden”, zei ze. “Ik ben nooit ontslagen of werkloos bij Twitter.”

Lees meer |Nieuwe beschuldigingen op Twitter: Wat is 'Twitter Files 2.0'?

Werknemers dachten dat ze weliswaar een sterke telefoniste was, maar niet over de achtergrond in contentwerk beschikte om de beslissingen van Musk terug te dringen die zouden kunnen weerklinken in de samenleving en van invloed zouden kunnen zijn op de informatie waaraan gebruikers op Twitter zouden worden blootgesteld, volgens meerdere mensen die bekend zijn met de situatie. Het Twitter Files-project van Musk, waarbij interne e-mails en documentatie naar externe journalisten werden gelekt, was haar eerste test.

Op 8 december plaatste de schrijver Bari Weiss een Twitter-thread die beweerde te laten zien dat werknemers van het bedrijf heimelijk accounts en tweets op de zwarte lijst hadden gezet; in werkelijkheid lieten de documenten die ze deelde zien dat werknemers serieus debatteerden over de geest van hun beleid voor het modereren van inhoud. Weiss plaatste afbeeldingen waartoe alleen geselecteerde werknemers toegang hebben en die kunnen worden gebruikt om privégegevens van het profiel van een gebruiker te bekijken. De afbeeldingen bevatten de identifier “eirwin4903ZWlyd21u863” — onthullend dat Irwin de bedrijfsbron was voor het materiaal.

De afbeeldingen waren foto's genomen van een computerscherm, wat impliceert dat Irwin naast Weiss had kunnen zitten terwijl hij de accounts van Twitter-gebruikers bekeek, zeiden mensen die bekend waren met de systemen. “Vanuit veiligheidsoogpunt is het afschuwelijk”, zei een ex-werknemer. Hoewel Irwin zei dat ze Weiss nooit toegang had gegeven tot de directe berichten van mensen, zeiden twee mensen dat de afbeeldingen lieten zien dat Irwin toegang had tot hen terwijl ze de schermafbeeldingen voor Weiss inrichtte.

Terwijl Irwin prioriteit geeft aan het ondersteunen van Musk, zei een voormalige bedrijfsleider dat ze geloofden dat het platform op weg is om in de eerste plaats de belangen te dienen van de toch al machtige mensen, en degenen wier ideologieën overeenkomen met hem. (Bron afbeelding: Reuters)

Meerdere werknemers legden uit dat, aangezien Irwin de tool niet in haar vorige baan zou hebben gebruikt, ze misschien niet wist dat haar identificatiecode openbaar zou worden weergegeven. Irwin zegt dat dat niet waar is. “Ik was me er zeer van bewust (maar maakte me geen zorgen) dat het er was”, schreef ze in een e-mail.

Het is “bizar” voor een hoofd van vertrouwen en veiligheid om een ​​interne tool met buitenstaanders te delen, zei Steve Weis, een ingenieur bij het softwarebedrijf Databricks die in vertrouwens- en veiligheidsteams op sociale netwerken heeft gewerkt. “Werknemers die op deze manier interne toegang misbruiken, ondermijnen het vertrouwen dat een hoofd van vertrouwen en veiligheid geacht wordt op te bouwen”, zei hij.

Vroeger was er een heel informatiebeveiligingsteam dat zich toelegde op het volgen van processen, auditing waarvoor stafmedewerkers de tool gebruikten en proactief op zoek waren naar ongebruikelijke toegangspatronen, zei een voormalige Twitter-medewerker op hoog niveau – een team dat niet meer bestaat omdat leden zijn gestopt of zijn ontslagen.

Andere documenten in de Twitter-bestanden toonden de e-mailadressen en namen van junior werknemers die betrokken waren bij spraakmakende beslissingen, waardoor ze werden blootgesteld aan openbare aanvallen en bedreigingen. Roth moest zijn huis ontvluchten nadat Musk hem online had aangevallen, volgens mensen die bekend waren met de zaak.

In december bleef Irwin Musk steunen in zijn kritiek op het werk van Twitter van voordat hij het roer overnam. Musk zei dat Twitter “jarenlang weigerde actie te ondernemen tegen uitbuiting van kinderen”, een verklaring die mede-oprichter van Twitter, Jack Dorsey, betwistte. Irwin twitterde: “Ik wou dat dit niet waar was, maar mijn ervaring dit jaar ondersteunt dit.”

Twee werknemers die bij Twitter aan de veiligheid van kinderen werkten, zeiden dat het team hard was getroffen door uitputting tegen de tijd dat Irwin toetrad, maar om te zeggen dat het weigerde actie te ondernemen tegen het probleem was onjuist. Twitter hield vroeger een wereldkaart bij met punaises voor de locaties van de tientallen kinderroofdieren die werden gearresteerd als gevolg van cybertips die het bedrijf had verstrekt.

Het National Center for Missing and Exploited Children, een federaal aangewezen verrekenkantoor voor online beelden van seksueel misbruik van kinderen dat samenwerkt met wetshandhavingsinstanties, weerlegde ook het idee dat Twitter vóór de overname van Musk geen actie had ondernomen tegen uitbuiting van kinderen. “Het was ontmoedigend om die retoriek te zien, omdat we relaties hadden met mensen die echt om de problemen gaven”, zegt Gavin Portnoy, een woordvoerder.

In haar e-mail zei Irwin dat ze nooit beweerde dat er geen werk was er wordt gedaan aan de kwestie – alleen dat het onderbezet was.

Terwijl Irwin prioriteit geeft aan het ondersteunen van Musk, zei een voormalige bedrijfsleider dat ze geloofden dat het platform op weg is om in de eerste plaats de belangen te dienen van de toch al machtige, en degenen wiens ideologieën overeenkomen met hem.

“Twitter's beleid en praktijken op het gebied van vertrouwen en veiligheid zijn gebaseerd op het verdedigen van de rechten van gebruikers over de hele wereld, met name de meest kwetsbare en gemarginaliseerde gemeenschappen”, zei de voormalige uitvoerende macht gezegd. “Sinds de overname zijn de enige acties van het bedrijf geweest om critici van Elon het zwijgen op te leggen, journalisten en anderen bloot te stellen aan schade en fundamentele ethische normen en privacywetten te schenden.”