Twitters Trust and Safety Head tar bort protokollet för Elon Musks nycker

Sedan Musk tog rodret på Twitter har Irwin hjälpt honom att bryta konventioner i hur Twitter hanterar användarkontopolicy. Twitter rullade ut – och återkallade sedan plötsligt – en policy som förbjuder marknadsföring av konton på andra sociala nätverk. Företaget stängde tillfälligt av journalister som täcker Musk och Twitter, tog bort viktiga desinformationspolicyer och förbjöd vänsteraktivister eftersom Musk ville göra det. Och åtkomst till interna dokument och verktyg har beviljats ​​externa skribenter som handplockats av Musk för att stödja en berättelse – ifrågasatt av tidigare anställda – att innan han klev in var Twitter servil mot USA:s underrättelsetjänst och federala hälsomyndigheter.

“Nästan alla människor som vet hur man bygger säkerhetssystem på Twitter har lämnat företaget, och de som fortfarande är där verkar vara ovilliga eller oförmögna att berätta för sin chef att de saker han ber dem att göra är farliga eller bryter mot Twitters lagar. åtaganden”, säger Laura Edelson, datavetare vid New York University som studerar politisk kommunikation online.

I ett e-postsvar på en intervjuförfrågan sa Irwin, 47, att hon inte kunde tala för andra, men hon tror att det finns “många människor på Twitter som förstår hur man bygger säkerhetssystem och arbetar med dessa system dagligen.”

Annons

Att vara chef för förtroende och säkerhet på Twitter har länge varit ett avgörande och noggrant granskat jobb, med tanke på den potentiella inverkan den personen har på tal på en av världens mest inflytelserika plattformar. Tidigare ledare har fått i uppdrag att fatta komplicerade och kontroversiella beslut, inklusive när man ska förbjuda konton när de passerar en gräns, vare sig det är genom att äventyra folkhälsan mitt i en pandemi, eller genom att hota säkerheten för demokratiska val runt om i världen. Twitters beslut granskas ofta senare av politiker och tillsynsmyndigheter, och därför fattas de vanligtvis med noggrann dokumentation som pekar på specifika politiska motiveringar för åtgärden, säger nuvarande och tidigare anställda.

Men nu visar intern dokumentation en beslutsprocess som uppgår till lite mer än unilaterala direktiv utfärdade av Twitters nya ägare. I slutet av november förbjöds ett konto som tillhörde vänsteraktivisten Chad Loder från plattformen. I Twitters interna system läser en anteckning “Avstängning: direkt begäran från Elon Musk”, enligt en skärmdump som ses av Bloomberg. Den 11 december publicerade Jack Sweeney, skaparen av en bot som spårar Musks privata plan, en skärmdump som visar att Irwin hade skickat ett Slack-meddelande som uppmanade anställda att begränsa sikten till Sweeneys botkonto, @elonjet. Den 15 december, när Twitter stängde av framstående journalister som täckte Twitter och Musk, åtföljdes aktionen av en intern notis: “direction of Ella.”

Twitter brukade ha en grupp kallad Global Escalations Team som kunde vara en kontroll av makten i toppen av företaget, som åsidosätter chefer baserat på befintlig policy. Anställda säger att gruppen har lagt sig, och Irwin och Musk kan inte längre utmanas genom en formell process. I sitt e-postsvar sa Irwin att det var “inte alls korrekt”, och avböjde att utveckla det.

Annons

Ändå bekräftade Irwin denna månad fler nedskärningar för team som hanterar global innehållsmoderering, hatretorik, desinformationspolicy, globala överklaganden och statliga medier. Nio dagar senare fick två talibantjänstemän kort tillgång till blå bockar via Twitter Blue, plattformens betalda prenumerationsnivå. Twitters modereringsforskningskonsortium, som introducerades i slutet av 2021, är nu i praktiken nedlagd, utan några programledare kvar att övervaka arbetet. Dussintals ännu opublicerade – men färdigställda – rapporter som beskriver informationsoperationer på plattformen kommer sannolikt aldrig att bli offentliga, enligt fyra tidigare anställda som arbetade med studierna. (I ett e-postmeddelande sa Irwin att hon inte kände till rapporterna och att hon inte kunde kommentera dem.)

“Det är som att Musk tar alla normer för bästa praxis för innehållsmoderering som förtroende- och säkerhetsgemenskapen har byggt upp under det senaste decenniet och försöker sätta eld på dem”, säger Evelyn Douek, biträdande professor vid Stanford Law School. “Hela trenden har gått mot att ge användarna mer transparens, förutsägbarhet och korrekt process. Det Musk gör är som motsatsen till detta.”

Yoel Roth, som ledde företagets förtroende- och säkerhetsteam när Musk tog över i slutet av oktober, var initialt optimistisk om den nya ägarens planer, enligt fyra personer som är bekanta med saken. Bara några dagar in i sin tid som VD träffade Musk ledarna för flera medborgarrättsgrupper och sa att han ville bilda ett Twitter-innehållsmodereringsråd för att tänka igenom komplicerade beslut, som om han skulle ta tillbaka tidigare president Donald Trumps konto. Musk lutade sig också mot Roth, som hade varit på Twitter i mer än 7 år, för sin institutionella kunskap, och började hålla upp honom offentligt som den högsta chefen som hanterade Twitters policybeslut. Medan andra avdelningar på Twitter skärrades dramatiskt, förlorade förtroendet och säkerheten under Roth mindre än en fjärdedel av sina anställda i den första omgången av uppsägningar.

Men inom några dagar stod det klart för Roth att Musk ensidigt skulle fatta beslut om Twitters regler och vars konton skulle återställas och förbjudas. Han avgick, och sade senare i en New York Times-uttalande att “en Twitter vars policy definieras av edikt har föga behov av en förtroende- och säkerhetsfunktion dedikerad till dess principiella utveckling.”

Vissa Twitter-kritiker firade Roths avgång, med tanke på hans roll på företaget under kontroversiella beslut som Trumps förbud 2021. Men internt var de anställda oroliga för att Musk nu skulle kunna fatta beslut utan någon som helst förankring.

Annons

Det lilla de visste om Irwin, som hade gått med några månader före Musks övertagande, väckte inte förtroende. Hennes bakgrund var inte inom innehållspolicy. Snarare hade hon övervakat Twitters division som hanterade problem som missbruk och spam. Innan dess hade hon ledande roller på Twilio Inc. och Amazon.com Inc., där hon fokuserade på att förebygga hacks och marknadsmissbruk, och mycket mindre på användartal. Irwin tog sin kandidatexamen i företagsledning från California Lutheran University 2000, och tog sedan en masterexamen inom samma område vid Golden Gate University och tog examen 2005, enligt hennes LinkedIn-profil.

Yusupha Jow, en ingenjörschef som arbetade för Irwin på Twilio, sa att hon var mycket organiserad och obeveklig på jobbet, egenskaper hon fick under sin tid på Amazon. “Allt hon gjorde krävde en viss standard av excellens”, sa han. Men han erkände att hennes ledarstil inte skulle passa alla. “Om du är överkänslig vill du förmodligen kalibrera om.”

Annons

Hon gick med i en tuff tid för Twitters hälso- och policyteam. Musk hade tillbringat månader med att offentligt kritisera Twitter-chefer och hävdat att företaget vilseleder allmänheten om hur många bot- och spamkonton som inkluderades i Twitters beräkning för det totala antalet användare. Medan Twitter försvarade sig i juridiska anmälningar i en domstolsbråk med Musk, brottades teamet som Irwin ärvde med en berättelse om att deras arbete med att övervaka bots och spam var inkompetent, sa en tidigare anställd, som avböjde att bli namngiven och diskuterade interna frågor.

Irwin skickade ett flersidigt dokument till sitt nya team som gav dem råd om hur de bäst skulle arbeta med henne, inklusive detaljer om hennes personlighet och föredragna operationsstil. Hon bad anställda att försvara sina pågående projekt med hjälp av en mall som hon skapade, och dödade projekt som hon ansåg inte värda resurserna. Även om det är standard för nya chefer att inventera sitt teams strategi, har Irwins abrupta tillvägagångssätt främmande vissa, sa anställda. Processen saktade också ner saker eftersom team tvingades vänta på hennes godkännande för att fortsätta arbeta.

Annons Läs mer |Twitter minskar fler personal som övervakar global innehållsmoderering

Irwin sa i sitt e-postmeddelande att hon dödade initiativ eftersom “det var färre personer än vad det var önskade projekt att slutföra.”

Irwin och Roth slog också direkt till huvuden under månaderna innan han lämnade företaget, enligt personer som är bekanta med saken. Som en del av granskningen av onödiga projekt beordrade hon en paus i arbetet som Roth övervakade som genomsökte det sociala nätverket efter skämtaktörer eller personer som ville injicera desinformation i plattformen, till exempel de som spred falskheter som är gynnsamma för det kinesiska kommunistpartiet, enligt till fyra tidigare anställda. Roth, som var en lateral jämställd med Irwins, störtade sig på vad han såg som övergrepp av Irwin till avgörande processer som utfördes av hans team, sa folket. Roth åsidosatte henne och sa att det var viktigt arbete, sa de. Irwin sa att hon inte kunde komma ihåg “någon specifik konflikt” som hon hade med Roth och att de två “fungerade väldigt bra tillsammans.”

Friktionen med Roth gjorde Irwin till en osannolik efterträdare. Hennes kollegor trodde att hon hade lämnat företaget strax efter Musks övertagande, när han skar ned icke-nödvändiga arbetare. Men efter att Roth avgick bad Musk Irwin tillbaka. Hennes första dag tillbaka på kontoret var dagen för hennes peptalk. “Jag uppmuntrade teamet att anamma förändring och hålla ett öppet sinne,” sa hon. “Jag blev aldrig uppsagd eller arbetslös från Twitter.”

Läs mer |Nya anklagelser på Twitter: Vad är “Twitter Files 2.0”?

Anställda trodde att medan hon var en stark operatör, så hade hon inte bakgrunden i innehållsarbete för att trycka tillbaka på Musks beslut som skulle kunna ge efterklang i samhället och påverka vilken information användare skulle exponeras för på Twitter, enligt flera personer som är bekanta med situation. Musks Twitter Files-projekt – som innebar att läcka interna e-postmeddelanden och dokumentation till externa journalister – var hennes första test.

Den 8 december postade författaren Bari Weiss en Twitter-tråd som påstod sig visa att företagets anställda i hemlighet hade svartlistat konton och tweets; i verkligheten visade dokumenten hon delade arbetare som allvarligt diskuterade andan i deras policy för innehållsmoderering. Weiss lade upp bilder som bara utvalda anställda har tillgång till och som kan användas för att se privata detaljer om en användares profil. Bilderna innehöll identifieraren “eirwin4903ZWlyd21u863” – vilket avslöjar att Irwin var företagets källa för materialet.

Bilderna var foton tagna av en datorskärm, vilket antyder att Irwin kunde ha suttit sida vid sida med Weiss medan han tittade på Twitter-användares konton, sa personer som är bekanta med systemen. “Ur säkerhetssynpunkt är det fruktansvärt,” sa en före detta anställd. Även om Irwin sa att hon aldrig gav Weiss åtkomst till människors direktmeddelanden, men två personer sa att bilderna visade att Irwin hade tillgång till dem när han gjorde skärmdumparna åt Weiss.

När Irwin prioriterar att stödja Musk, sa en före detta företagsledare att de trodde att plattformen är på väg att i första hand tjäna de redan mäktigas intressen och de vars ideologier passar ihop. med honom. (Bildkälla: Reuters)

Flera anställda förklarade att eftersom Irwin inte skulle ha använt verktyget i sitt tidigare jobb, kanske hon inte visste att hennes identifierare skulle visas offentligt. Irwin säger att det inte är sant. “Jag var mycket medveten (men obekymrad) om att det var där”, skrev hon i ett mejl.

Det är “bisarrt” för en chef för förtroende och säkerhet att dela ett internt verktyg med utomstående, säger Steve Weis, ingenjör på mjukvaruföretaget Databricks som har arbetat i förtroende- och säkerhetsteam på sociala nätverk. “Anställda som missbrukar intern åtkomst på det här sättet undergräver själva det förtroende som en chef för förtroende och säkerhet är tänkt att bygga upp”, sa han.

Det brukade vara ett helt informationssäkerhetsteam dedikerat till att följa processer, revision vad personalen använde verktyget till och letade proaktivt efter ovanliga åtkomstmönster, sa en tidigare högnivåanställd på Twitter – ett team som inte längre existerar eftersom medlemmar antingen slutade eller fick sparken.

Andra dokument i Twitter-filerna visade e-postadresserna och namnen på yngre arbetare som var involverade i högprofilerade beslut, och exponerade dem för offentliga attacker och hot. Roth var tvungen att fly från sitt hem efter att Musk attackerat honom online, enligt personer som är bekanta med saken.

I december fortsatte Irwin att backa upp Musk i att kritisera Twitters arbete från innan han tog över. Musk sa att Twitter “vägrade att vidta åtgärder mot utnyttjande av barn i flera år”, ett uttalande som Twitter-medgrundaren Jack Dorsey ifrågasatte. Irwin twittrade: “Jag önskar att detta var falskt men min erfarenhet i år stöder detta.”

Två anställda som arbetade med barnsäkerhet på Twitter sa att teamet hade drabbats hårt av utmattning när Irwin gick med, men att säga att de vägrade vidta åtgärder på problemet var falskt. Twitter brukade upprätthålla en världskarta med kartnålar för platsen för de dussintals barnrovdjur som arresterades till följd av cybertips som företaget lämnat in.

National Center for Missing and Exploited Children, ett federalt utsett clearinghus för onlinebilder av sexuella övergrepp mot barn som arbetar med brottsbekämpande myndigheter, motbevisade också tanken att Twitter inte hade vidtagit åtgärder mot barnexploaterande innehåll innan Musks övertagande. “Det har varit nedslående att se den retoriken eftersom vi hade relationer med människor som verkligen, verkligen brydde sig om problemen”, säger Gavin Portnoy, talesman.

I sitt mejl sa Irwin att hon aldrig påstod att inget arbete var görs i frågan — bara att den var underbemannad.

När Irwin prioriterar att stödja Musk, sa en före detta företagsledare att de trodde att plattformen är på väg att i första hand tjäna de redan mäktigas intressen, och de vars ideologier stämmer överens med honom.

“Twitters policyer och praxis inom förtroende- och säkerhetsområdet byggdes kring att försvara rättigheterna för användare runt om i världen, särskilt de mest utsatta och marginaliserade samhällena,” den tidigare chefen sa. “Sedan förvärvet har företagets enda åtgärder varit att tysta kritiker av Elon, att utsätta journalister och andra för skada och att bryta mot grundläggande etiska standarder och integritetslagar.”