Trollen vreugde in het maken van “hilarische” valse namen, zodat websites proberen te filteren op bepaalde woorden voor nieuwe accounts. Wat als uw echte naam bevat een van deze woorden?
Natalie Weiner, een schrijver voor SB Nation, werd onlangs gefilterd door een dergelijk systeem.
dit is zonder twijfel het beste dat me ooit is overkomen pic.twitter.com/rnVkmhB2dy
— Natalie Weiner (@natalieweiner) 28 augustus 2018
De reacties getuigen van een zeer reëel probleem. Hier is Daniel Oberhaus, het schrijven van het Moederbord:
Snel, Weiner vermeldingen waren gevuld met honderden reacties van mensen die sympathiseerden met haar lot. “Ik krijg dit veel, verrassend,” zei Kyle Medick. James Kont “kent deze problemen” en Matt Cummings heeft meegemaakt”. Arun zei Dikshit algoritmische bias is uitgegroeid tot bijna een dagelijkse gebeurtenis. “Bij een van mijn taken was om een regel te maken op e-mail server te stoppen met mijn e-mails worden afgewezen als porno-spam,” zei Clark Aycock.
Deze sites zijn gewoon proberen om te voorkomen dat bepaalde woorden in de valse namen van steeds vaker op de site, maar de geautomatiseerde maatregelen uiteindelijk het maken van het leven moeilijker voor onschuldige mensen. Dat is een probleem.
Oberhaus schetst dat dit niet nieuw: way back in 1996 een AOL-filter verboden de gehele BRITSE stad van Scunthorpe van het aanmelden voor accounts omdat van een ingesloten four letter word. Ruim 20 jaar later, met veel vooruitgang in de AI, het probleem zich blijft voordoen.
Dit is frustrerend voor mensen. Mijn achternaam Pot heeft geactiveerd grappen uit de buurt van vreemden mijn hele leven. Dit is vervelend genoeg, dus ik kan alleen maar voorstellen hoe erg het moet zijn als de machines zijn toe te voegen door te weigeren te aanvaarden in uw werkelijke naam.