Deepfake huijarit ajavat uutta petosaaltoa

Tietokoneella luodut lasten äänet ovat niin realistisia, että ne huijaavat omia vanhempiaan. Naamiot, jotka on luotu sosiaalisen median valokuvista, jotka voivat tunkeutua kasvotunnuksella suojattuun järjestelmään. Ne kuulostavat tieteiskirjallisuudesta, mutta nämä tekniikat ovat jo jokapäiväisiä kuluttajia saalistavien rikollisten saatavilla.

Huijaustekniikan leviäminen on hälyttänyt sääntelyviranomaisia, poliisia ja rahoitusalan korkeimman tason ihmisiä. Erityisesti tekoälyä käytetään petosten ”turboittamiseen”, Yhdysvaltain liittovaltion kauppakomission puheenjohtaja Lina Khan varoitti kesäkuussa ja vaati lainvalvontaviranomaisia ​​lisäämään valppautta.

Jo ennen kuin tekoäly irtosi ja tuli kaikkien Internet-yhteyden omaavien saataville, maailma kamppaili hillitäkseen räjähdysmäistä talouspetoksia. Pelkästään Yhdysvalloissa kuluttajat menettivät viime vuonna lähes 8,8 miljardia dollaria, mikä on 44 % enemmän kuin vuonna 2021 huolimatta ennätysinvestoinneista havaitsemiseen ja ehkäisyyn. Suurten pankkien, mukaan lukien Wells Fargo & Co:n ja Deutsche Bank AG:n, talousrikollisuuden asiantuntijat sanovat, että horisontissa oleva petosbuumi on yksi suurimmista niiden toimialan uhkista. Huijausten torjuntakustannusten maksamisen lisäksi rahoitusala uhkaa menettää palaneiden asiakkaiden uskon. ”Se on kilpavarustelu”, sanoo James Roberts, joka johtaa petostenhallintaa Commonwealth Bank of Australiassa, maan suurimmassa pankissa. ”Olisi jännä sanoa, että voitimme.”

Huijausten historia on varmasti yhtä vanha kuin kaupan ja liike-elämän historia. Yksi varhaisimmista tunnetuista tapauksista, yli 2 000 vuotta sitten, koski kreikkalaista merikauppiasta, joka yritti upottaa aluksensa saadakseen vilpillisen korvauksen vakuutussopimuksesta. Kun katsot minkä tahansa sanomalehden arkiston, löydät lukemattomia yrityksiä erottaa herkkäuskoiset heidän rahoistaan. Mutta petosten pimeässä taloudessa – aivan kuten laajemmassa taloudessa – on ajoittain epävakautta aiheuttavia innovaatiopurskeita. Uusi tekniikka alentaa huijauksen suorittamisen kustannuksia ja antaa rikollisen saavuttaa suuremman joukkoon valmistautumattomia jälkiä. Sähköposti esitteli jokaisen tietokoneen käyttäjän maailmassa joukon kovia prinssiä, jotka tarvitsivat apua menetettyjen omaisuuksiensa pelastamiseen. Krypto toi mukanaan Ponzi-suunnitelmien kukoistuksen, joka levisi viraalisesti sosiaalisessa mediassa.

Tekoälyräjähdys tarjoaa paitsi uusia työkaluja myös mahdollisuuden elämää muuttaviin taloudellisiin menetyksiin. Ja teknologian lisääntynyt kehittyneisyys ja uutuus tarkoittavat, että kaikki, eivät vain herkkäuskoiset, ovat potentiaalisia uhreja. Covid-19-sulku vauhditti verkkopankkitoiminnan käyttöönottoa kaikkialla maailmassa, kun puhelimet ja kannettavat tietokoneet korvasivat kasvokkain tapahtuvan vuorovaikutuksen pankkikonttoreissa. Se on tuonut etuja alempien kustannusten ja lisääntyneen nopeuden muodossa rahoitusyrityksille ja niiden asiakkaille sekä avauksia huijareille.

Jotkut uudet tekniikat menevät pidemmälle kuin mitä nykyinen hyllystä valmistettu tekniikka voi tehdä, eikä aina ole helppoa tietää, milloin olet tekemisissä puutarhalajikkeiden huijarin tai kansallisvaltion toimijan kanssa. ”Alamme nähdä paljon kehittyneempää tietoverkkorikollisuuden suhteen”, sanoo Amy Hogan-Burney, Microsoft Corp.:n kyberturvallisuuspolitiikan ja -suojauksen johtaja.

Maailmanlaajuisesti kyberrikosten, mukaan lukien huijaukset, kustannukset nousevat tänä vuonna 8 biljoonaan dollariin, mikä ylittää Japanin, maailman kolmanneksi suurimman talouden, talouden. Vuoteen 2025 mennessä se saavuttaa 10,5 biljoonaa dollaria, kun se on yli kolminkertaistunut kymmenessä vuodessa, tutkija Cybersecurity Ventures arvioi.

Sydneyn Redfernin esikaupungissa jotkut Robertsin yli 500 hengen tiimistä viettävät päivänsä salakuuntelemalla haittoja kuullakseen omakohtaisesti, kuinka tekoäly muokkaa heidän taisteluaan. Väärennetty rahapyyntö rakkaalta ei ole uusi. Mutta nyt vanhemmat saavat puheluita, jotka kloonaavat heidän lapsensa äänen tekoälyllä, jotta se kuulostaa erottumattomalta todellisesta asiasta. Näillä temppuilla, jotka tunnetaan nimellä sosiaalisen manipuloinnin huijaukset, on yleensä korkein osumaprosentti ja ne tuottavat huijareille nopeimpia tuottoja.

Ihmisen äänen kloonaaminen on yhä helpompaa. Kun huijari lataa lyhyen näytteen äänileikeestä jonkun sosiaalisessa mediassa tai vastaajaviestistä – se voi olla jopa 30 sekuntia –, hän voi käyttää verkosta saatavilla olevia tekoälyn äänisyntetisointityökaluja luodakseen tarvitsemansa sisällön.

Julkisten sosiaalisen median tilien avulla on helppo selvittää, keitä henkilön sukulaiset ja ystävät ovat, puhumattakaan heidän asuin- ja työpaikastaan ​​sekä muusta tärkeästä tiedosta. Pankkipäälliköt korostavat, että huijarit, jotka hoitavat toimintaansa kuten yrityksiä, ovat valmiita olemaan kärsivällisiä ja suunnittelevat joskus hyökkäyksiä kuukausia.

Uuden-Seelannin hallituksen kyberturvallisuusviraston CERT NZ:n johtajan Rob Popen mukaan petostiimien toistaiseksi näkemä on vain esimakua siitä, mitä tekoäly tekee mahdolliseksi. Hän huomauttaa, että tekoäly auttaa samanaikaisesti rikollisia lisäämään hyökkäysten määrää ja räätälöintiä. ”On reilu veto, että seuraavien kahden tai kolmen vuoden aikana tulemme näkemään enemmän tekoälyn tuottamia rikollisia hyökkäyksiä”, sanoo Pope, entinen Uuden-Seelannin poliisin apulaiskomissaari, joka valvoi joitakin maan merkittävimmistä rikostapauksista. . ”Tekoäly nopeuttaa näiden pahojen ihmisten kehittyneisyyttä ja kykyä kääntyä hyvin nopeasti. AI tekee siitä helpompaa heille.”

Antaakseen käsityksen pankkien kohtaamista haasteista Roberts sanoo, että Commonwealth Bank of Australia seuraa tällä hetkellä noin 85 miljoonaa tapahtumaa päivässä valvontatyökaluverkoston kautta. Se on maassa, jonka väkiluku on vain 26 miljoonaa.

Teollisuus toivoo vastustavansa valistamalla kuluttajia riskeistä ja lisäämällä investointeja puolustusteknologiaan. Uuden ohjelmiston avulla CBA havaitsee, kun asiakkaat käyttävät tietokoneen hiirtä epätavallisella tavalla tapahtuman aikana – punainen lippu mahdollisesta huijauksesta. Kaikki epäilyttävät asiat, mukaan lukien tilauksen kohde ja oston käsittelytapa, voivat varoittaa henkilöstöä vain 30 millisekunnissa, jolloin he voivat estää tapahtuman.

Deutsche Bankin tietokoneinsinöörit ovat hiljattain rakentaneet uudelleen epäilyttävän tapahtumantunnistusjärjestelmänsä, nimeltään Black Forest, käyttämällä uusimpia luonnollisen kielen prosessointimalleja siellä työskentelevän vanhempi koneoppimisinsinöörin Thomas Grafin mukaan. Työkalu tarkastelee tapahtuman kriteerejä, kuten määrää, valuuttaa ja kohdetta, ja oppii automaattisesti tietojoukoista, mitkä mallit viittaavat petokseen. Mallia voidaan käyttää sekä vähittäis- että yrityskaupoissa, ja se on jo paljastanut useita tapauksia, joista yksi koskee järjestäytynyttä rikollisuutta, rahanpesua ja veronkiertoa.

Wells Fargo on uudistanut teknisiä järjestelmiä torjuakseen tekoälyn luomien videoiden ja äänien riskiä. ”Koulutamme ohjelmistomme ja työntekijämme havaitsemaan nämä väärennökset”, sanoo Chintan Mehta, Wells Fargon digitaalitekniikan johtaja. Mutta järjestelmän on kehitettävä jatkuvasti pysyäkseen rikollisten tahdissa. Huijausten havaitseminen tietysti maksaa rahaa.

Yksi ongelma yrityksille: Joka kerta kun he kiristävät asioita, rikolliset yrittävät löytää ratkaisun. Esimerkiksi jotkut yhdysvaltalaiset pankit vaativat asiakkaita lataamaan valokuvan henkilöllisyystodistuksesta tilin luomisen yhteydessä. Huijarit ostavat nyt varastettua dataa pimeästä verkosta, etsivät kuvia uhreistaan ​​sosiaalisessa mediassa ja 3D-tulostusmaskeja luodakseen väärennettyjä henkilöllisyystodistuksia varastetuista tiedoista. ”Ja nämä voivat näyttää kaikilta Halloween-kaupassa hankituista tuotteista erittäin todentuntuiseen Hollywoodin standardien mukaiseen silikonimaskiin”, sanoo Alain Meier, Plaid Inc:n identiteettipäällikkö, joka auttaa pankkeja, rahoitusteknologiayrityksiä ja muita yrityksiä torjumaan petoksia. sen tunnistusohjelmiston kanssa. Plaid analysoi ihon tekstuuria ja läpikuultavuutta varmistaakseen, että valokuvassa oleva henkilö näyttää aidolta.

Meier, joka on omistanut uransa petosten havaitsemiseen, sanoo, että parhaat huijarit, jotka harjoittavat suunnitelmiaan yrityksenä, rakentavat huijausohjelmistoja ja pakkaavat sen myytäväksi pimeässä verkossa. Hinnat voivat vaihdella 20 dollarista tuhansiin dollareihin. ”Se voi olla esimerkiksi Chrome-laajennus, joka auttaa ohittamaan sormenjälkien ottamisen, tai työkaluja, jotka voivat auttaa luomaan synteettisiä kuvia”, hän sanoo.

Petosten kehittyessä yhä kiistanalaisempi kysymys siitä, kuka on vastuussa tappioista. Esimerkiksi Isossa-Britanniassa tuntemattomien tapahtumien uhrit – esimerkiksi joku kopioi ja käyttää luottokorttiasi – ovat laillisesti suojattuja menetyksiä vastaan. Jos joku huijaa sinua maksamaan, vastuu on vähemmän selvä. Heinäkuussa maan korkein oikeus päätti, että pariskunta, joka oli huijattu lähettämään rahaa ulkomaille, ei voinut asettaa pankkiaan vastuuseen vain heidän ohjeidensa noudattamisesta. Lainsäätäjillä ja sääntelyviranomaisilla on kuitenkin liikkumavaraa asettaa muita sääntöjä: Hallitus valmistautuu vaatimaan pankkeja korvaamaan petosten uhreille, kun käteinen siirretään Faster Paymentsin kautta, joka on rahansiirtojärjestelmä Yhdistyneen kuningaskunnan pankkien välillä. Poliitikot ja kuluttajaasianajajat muissa maissa vaativat samanlaisia ​​muutoksia väittäen, että on kohtuutonta odottaa ihmisten tunnistavan nämä yhä kehittyneemmät huijaukset.

Pankit pelkäävät, että sääntöjen muuttaminen helpottaisi huijareiden asioita. Rahoitusalan johtajat ympäri maailmaa yrittävät myös siirtää osan vastuusta teknologiayrityksille. Nopeimmin kasvava huijausluokka on sijoituspetokset, jotka usein esitellään uhreille hakukoneiden kautta, joissa huijarit voivat helposti ostaa sponsoroituja mainospaikkoja. Kun mahdolliset sijoittajat napsauttavat läpi, he löytävät usein realistisia esitteitä ja muita taloudellisia tietoja. Kun he ovat siirtäneet rahansa, voi kestää kuukausia, ellei vuosia, ennen kuin he ymmärtävät, että heidät on huijattu yrittäessään lunastaa ”sijoituksensa”.

Kesäkuussa 30 lainanantajan ryhmä Isossa-Britanniassa lähetti kirjeen pääministeri Rishi Sunakille, että teknologiayritykset osallistuisivat hyvitysmaksuihin niiden alustoista johtuvien petosten uhreille. Hallitus sanoo suunnittelevansa uutta lainsäädäntöä ja muita toimenpiteitä online-rahoitushuijausten torjumiseksi.

Pankkiala lobbaa vastuun hajauttamista laajemmalle, koska kustannukset näyttävät nousevan. Jälleen kerran taloustieteestä tuttu ongelma pätee myös huijaustaloudessa. Kuten tehtaan aiheuttama saastuminen, uusi teknologia luo ulkoisvaikutusta tai muille aiheutuvia kustannuksia. Tässä tapauksessa se on suurempi ulottuvuus ja huijausriski. Pankit tai kuluttajat eivät halua olla ainoita, jotka pakotetaan maksamaan hintaa.

Chris Sheehan vietti lähes kolme vuosikymmentä maan poliisivoimissa ennen kuin siirtyi National Australia Bank Ltd.:hen, jossa hän johtaa tutkimuksia ja petoksia. Hän on lisännyt tiimiinsä noin 40 henkilöä viimeisen vuoden aikana pankin jatkuvalla panostuksella. Kun hän laskee yhteen kaikki henkilöstö- ja teknologiakustannukset, ”pelottaa minua kuinka suuri luku on”, hän sanoo.

”Olen toiveikas, koska on olemassa teknisiä ratkaisuja, mutta et koskaan ratkaise ongelmaa kokonaan”, hän sanoo. Se muistuttaa häntä ajastaan, jolloin hän taisteli huumejengien kanssa poliisina. Sen esittäminen huumeiden vastaiseksi sodaksi oli ”suuri virhe”, hän sanoo. ”En koskaan muotoile sitä siinä kehyksessä – huijaussodassa – koska se tarkoittaa, että sota on voitettavissa”, hän sanoo. ”Tämä ei ole voitettavissa.”