Varför Googles AI Scam Call Detection-funktion är en Game Changer

Snabblänkar

• Googles demo på scenen var fantastisk

• Potentiella nackdelar och missbruk

• Google måste säkerställa att funktionen inte är en sekretessmardröm

• Så, när kan vi få den här blufftekniken?

Nyckelalternativ

• Google presenterade en funktion för att upptäcka AI-bedrägerisamtal för att skydda användare från telefonbedrägerier i realtid.
• Funktionen, som drivs av Gemini Nano, varnar användare om potentiella bedrägerier under samtal.
• Oro för säkerhetsbrister, missbruk och falska resultat kan begränsa användningen av funktionen.

Googles senaste I/O 2024-konferens handlade om AI—företaget sa stolt “AI" 124 "ggr under hela dess keynote (ja, du läste rätt). Medan Mountain View-jätten visade upp massor av förbättringar av Gemini—sin familj av AI-modeller—fångade en funktion vårt öga för dess verkliga användbarhet: AI-driven bedrägerisamtal.

Låt oss inse det: telefonbedrägerier är jobbiga. Från irriterande robocall till lömska imitatorer som utger sig för att vara teknisk support eller din bank, dessa bedrägerier kan lura även de kunnigaste användarna. Googles nya funktion syftar till att ändra det genom att analysera samtal i realtid och ge dig en varning om något verkar misstänkt.

Googles demo på scenen var fantastisk

Dave Burke, Googles VP of Engineering, visade hur det fungerar under I/O-evenemanget (tidsstämplad video nedan). På scenen fick han ett samtal från någon som låtsades vara från en bank och bad honom flytta sina besparingar till ett nytt konto för säkerhets skull. Burkes telefon dök upp ett meddelande som sa: “Sannolikt bluff: Banker kommer aldrig att be dig att flytta dina pengar för att hålla dem säkra”,” med möjlighet att lägga på. Burke fortsatte med att förklara att funktionen drivs av Gemini Nano, som fungerar på enheten utan att behöva en internetanslutning. Ganska imponerande, eller hur?

Så, vem skulle ha mest nytta av den här tekniken? Tja, i stort sett alla!

• Alla: Bedrägeriupptäckt i realtid ger dig möjlighet att vara mer försiktig under samtal och undvika att bli lurad.
• Sårbara befolkningsgrupper: Äldre och de som är mindre bekanta med teknik är främsta mål för bedragare. Detta AI-skydd kan lägga till ett extra lager av säkerhet.
• Människor som är benägna till känslomässig manipulation: Bedragare använder ofta rädsla och brådska för att pressa sina offer. En AI-varning kan störa deras taktik, vilket ger dig en chans att ta ett andetag och undvika att falla offer.

Potentiella nackdelar och missbruk

Naturligtvis, med all ny teknik som analyserar konversationer är integritet ett stort frågetecken. Google säger att allt finns kvar på din enhet, men vissa experter oroar sig för potentiella sårbarheter:

• Hacking:Även om bearbetning sker på enheten, finns det farhågor för att beslutsamma hackare eller individer med fysisk åtkomst till telefonen kan utnyttja den här funktionen.
• Regering och övervakningsrisker: Sekretessförespråkare varnar för att statliga myndigheter eller övervakningsföretag kan missbruka sådan teknik för att avlyssna privata samtal.
• Falsk positiv: Det finns också en risk för att legitima samtal flaggas som bedrägerier, vilket orsakar onödigt larm och potentiella olägenheter.

Albert Fox Cahn, verkställande direktör för Surveillance Technology Oversight Project, uttryckte detaljerad oro över risken för missbruk med Googles funktion för upptäckt av AI-bedrägerier. Han betonade att även om tekniken är designad med säkerhet i åtanke, kan den öppna en Pandoras låda med övervaknings- och integritetsfrågor.

Cahn påpekade riskerna för utsatta befolkningar, inklusive politiska rebeller och individer som söker medicinsk integritet, såsom de som gör abort. Han varnade för att även bearbetning på enheten kan vara mottaglig för intrång, vilket ger upphov till allvarliga farhågor om hur säkra och privata våra telefonsamtal verkligen är.

Google måste säkerställa att funktionen inte är en sekretessmardröm

Här är grejen: telefonbedrägerier är ett allvarligt hot, och realtidsdetektering kan förändra spelet. Föreställ dig den sinnesfrid som kommer med att veta att din telefon i princip säger till dig, "Vänta, det låter skumt!" Denna AI-funktion har mycket potential. Om Google kan ingjuta mer förtroende för oss genom att bevisa att funktionen är verkligen säker och avslöja mer information om dess funktion, kan det verkligen revolutionera kampen mot telefonbedrägerier.

Så, när kan vi få den här bluff-dräpningstekniken?

Tyvärr har Google inte avslöjat något exakt releasedatum för funktionen för upptäckt av AI-bedrägerisamtal ännu. De nämnde att det kommer att vara opt-in, vilket innebär att du har kontroll över om du aktiverar det. Vi kan förvänta oss mer information om tillgänglighet och hur man aktiverar det "senare i år" enligt Google.