Snabblänkar
- Demokratiseringen av falska bilder
- AI-röster ger trovärdighet till video
- Bedragare av dejtingappar kastar bredare nät
- AI-video är på väg
- AI Kan även falska recensioner
- Saker kan bara bli bättre (värre)
Nyckelalternativ
- Bedragare blir mer kreativa med falska produkter och AI-genererade voiceovers för att fånga intet ont anande köpare.
- Dejtingappsbedragare använder AI-chatbots för att rikta in sig på offer; falska recensioner blir lättare med stora språkmodeller.
- När AI-tekniken förbättras blir det svårare att skilja verkligt innehåll från förfalskningar; alltid undersök innan du köper online.
Termen “bedrägeri” gäller allt från en sofistikerad riktad attack till en tvivelaktig pre-roll-annons på din favoritwebbplats för videostreaming. Den dåliga nyheten är att det blir lättare att konstruera dessa bedrägerier.
Demokratiseringen av falska bilder
Det finns en fin men ändå distinkt gräns mellan bluff och spam, men de två världarna överlappar regelbundet. Detta gäller särskilt när det kommer till onlineannonsering, oavsett om du surfar på webben eller rullar genom sociala medier. Annonsörer godkänner inte varje annons de visar, utan förlitar sig istället på användarrapporter för att sålla bort de dåliga skådespelarna.
Om du spenderar mycket tid online, rullar du förmodligen förbi otaliga tvivelaktiga annonser varje dag. Den kanske mest intressanta av dessa är de produkter som inte existerar och istället är tillverkningar antingen för hand eller med generativ AI som DALL-E eller Midjourney.
Att koppla in potentiella köpare med falska produkter är inget nytt, men en gång i tiden skulle du behöva visionen, lite Photoshop-kunskaper och en del fritid. Med ankomsten av text-till-bild-generatorer kan du spendera så lite eller så mycket tid du vill på att mata in uppmaningar till en bildgenerator tills du får de resultat du letar efter. Himlen är gränsen när det kommer till de typer av produkter du kan komma med.
I april 2024 rapporterade Snopes att ett stort antal “Cat’s Eye Dazzle” bedrägerier drabbade sociala medier som en storm. Bedrägeriet innebar att skapa falska blommor som ser ut som katter, för att locka in användare på sociala nätverk som Facebook. eBay-annonser dök upp för frön, medan andra “leverantörer” använde egenvärdiga shoppingportaler för att ta ut pengar.
För vissa är det omedelbart uppenbart att dessa blommor är AI-genererade förfalskningar. Andra liknande bedrägerier är inte lika långsökta. YouTube-kanalen Atomic Shrimp skapade en video som dokumenterar fenomenet och utforskar mer rimligt klingande listor för “true” blå rosor och solrosor, som ingendera finns.
Blommor som ser ut som katter och växter med omöjliga färger är bara två exempel på bedrägerier som verkar ha fångat hundratals om inte tusentals människor. Dessa bilder tog några sekunder att generera, och några till att lägga upp på Facebook.
AI-röster ger trovärdighet till video
Du är förmodligen väl medveten om framväxten av text-till-röst funktioner, med sociala plattformar som TikTok som gör det enkelt att skapa en voiceover som låter naturlig men också lätt att förstå. Vid det här laget har “TikTok-damen” Voice handlar lika mycket om TikToks varumärke som det är ett användbart verktyg för innehållsskapare.
Men AI-röster är så mycket mer än så. ChatGPT kan generera voiceovers om du betalar för premiumnivån, och tjänster som ElevenLabs har gratis nivåer tillgängliga. Jag har sett mindre YouTube-kanaler som drivs av kreatörer som inte är bekväma med att prata i kameran vända sig till AI-genererade röster. Detta kan vara jobbigt men är åtminstone grundat i goda avsikter.
Det viktigaste är att en voiceover ger trovärdighet till din video. För några år sedan skulle du behöva lägga tid och ansträngning eller pengar på att lägga till en voiceover till din video. Du skulle behöva utrustning och övning eller en anlitad röstskådespelare. Nu är det så enkelt som att skriva ett manus du är nöjd med och välja den röst du vill använda.
Detta gör bluffreklam för bli rik-snabb-system och dropshipped produkter desto mer trovärdiga. Om annonsen låter som den riktiga affären är du förmodligen benägen att lita mer på produkten. Människorna som kör dessa annonser vet detta, det är därför det har skett en explosion i denna praxis under det senaste året.
För närvarande är det inte så svårt att identifiera AI-genererad voiceover. Böjningar och uttal kan låta lite robotiskt, och den naturliga rytmen i mänskligt tal är inte riktigt där. Spänn fast dig, för dessa verktyg kommer bara att förbättras och så småningom kommer du inte att kunna se skillnad.
Dejtingappsbedragare kastar bredare nät
Det är en sak att bli lockad med falska produkter och en robotkommentar, men hur är det med en bluff som riktar sig personligen mot dig? Det är precis vad som händer inom online-dejtingutrymmet i massiv skala, tack vare kraften hos stora språkmodeller som kan prata som riktiga människor (nåja, tillräckligt nära).
Med hjälp av AI-drivna chatbots kan bedragare kasta ett brett nät för att fånga sina offer med hjälp av programvara som effektivt kan hålla nere en konversation tillräckligt länge för att fånga någons uppmärksamhet. Det finns några sätt som detta används, och alla känns invasiva.
Vissa använder chatbots för att skicka meddelanden till stora mängder människor och sedan följa upp i hopp om att träffa någon de verkligen gillar. I början av 2024 fanns det otaliga rapporter om en man som träffade sin fru med denna teknik. Oavsett om du tror det eller inte, finns det ett stort antal mobilappar och tjänster som lovar att chatta potentiella partners åt dig (mot en avgift, förstås).
Saker och ting tar en betydligt mer olycklig vändning när dessa verktyg används för att hitta mål för ekonomiska bedrägerier. Onlinebedragare har länge utnyttjat den grundläggande mänskliga önskan om sällskap i ett försök att få ut pengar från sina märken. Nu kan de sätta chatbotar att fungera för dem och ta över när de känner att det är nödvändigt.
Kombinera detta med en AI-bildgenerator som ger dig tillgång till så många ursprungliga vackra ansikten som du vill, och bedragare behöver inte ens stjäla någon annans profilbilder för dejting längre.
AI-video är på väg
Övertygande text-till-video är inte allmänt tillgängligt i skrivande stund, men med verktyg som OpenAI SORA vid horisonten kommer det att bli en kraft att räkna med. Med bara en uppmaning kan OpenAIs verktyg generera realistiska rörliga bilder (men om du tittar noga kan du upptäcka bristerna).
OpenAI Om inte mer, kommer AI-genererad video bara att förvärra problemen med annat AI-genererat innehåll. Genom att använda ständigt förbättrad artificiell intelligens är det inte svårt att föreställa sig en framtid där du kan skapa falska produktbilder, där video av den produkten används på relevanta platser av “real” personer och en voiceover för videon som du kan använda för att marknadsföra den.
Om du känner dig särskilt företagsam kan du sedan använda en stor språkmodell för att förbättra din produkts ställning…
AI kan även falska recensioner
Falska recensioner är inget nytt. Vi har alla sett dem och många av oss har fallit för dem (oavsett om vi vet det eller inte). Men fram till för bara några år sedan krävde falska recensioner en del ansträngning. Med tillkomsten av stora språkmodeller kan falska recensioner bokstavligen skriva sig själva i massiv skala.
Missbruket av stora språkmodeller för att generera recensioner och marknadsföra produkter eller företag är en sak, men tekniken fungerar åt båda hållen. Vad sägs om att använda den här tekniken för att skapa recensioner som orättvist kritiserar en konkurrerande produkt? Det har aldrig varit lättare att skapa en negativ screed, även om du måste kopiera och klistra in den själv.
Kombinera AI-genererade recensioner med mer traditionella borstningsbedrägerier och du’har fått trovärdigheten av ett “verifierat köp” etikett för att starta. I slutändan är det upp till plattformsinnehavare att bekämpa denna nya våg av vilseledande onlineinnehåll.
Saker kan bara bli bättre (sämre)
Dessa verktyg kommer att bli bättre med tiden, vilket gör det svårare att se verkligheten från det fantastiska. Du måste vara klok på tekniken om du vill ligga före bedragare. Om du förstår vad som är möjligt, är du bättre beväpnad att förstå vad som är verkligt och vad som inte är det.
Facebook är särskilt fullt av AI-genererade bilder, så att förstå hur man upptäcker AI-genererade förfalskningar är en värdefull färdighet. Du bör alltid vara försiktig med onlineannonser, oavsett om du ser dem på dina favoritwebbplatser eller ett socialt nätverk.
DALL-E < p> Gör alltid din research innan du köper något, oavsett om det är en teknik eller ett paket frön du såg på Facebook. Ironiskt nog kan du också fråga din favorit chatbot som kommer med sina påståenden.
Leave a Reply
You must be logged in to post a comment.