Väärin valittu tekoälyn puhelinnumero voi johtaa suureen petokseen.
Jopa teknisesti osaavimmat ihmiset voivat joutua verkkohuijauksen uhreiksi. Yksi tällaisista ihmisistä on Alex Rivlin, kiinteistönvälittäjä Las Vegasista, joka tuli tahattomasti upean uuden huijausjärjestelmän uhriksi. Hänen tapauksensa, jonka The Washington Post paljasti, herättää huolta siitä, miten uusia tekoälytyökaluja, kuten Google-yhteenvedot, käytetään vanhojen huijausjärjestelmien elvyttämiseen.
Huijaus alkoi yksinkertaisesta tehtävästä. Yksinkertaisesta hausta, jolla haluttiin varata kuljetus Euroopan-risteilylle. Kun Alex Rivlin etsi Royal Caribbeanin asiakaspalvelun numeroa Googlesta, vastaus tuli suoraan hakukoneen tekoälyltä – puhelinnumero kyltissä. Hän ei tiennyt, että numero ei kuulunut risteily-yhtiölle, vaan huijareille.
Täydellisesti suunniteltu huijaus. Kun hän soitti tekoälyn antamaan numeroon, puhelimeen vastasi asiakaspalvelun edustaja, joka antoi hänelle tarkat tiedot Venetsiaan matkustamiseen tarvittavasta kuljetuksesta. Hän kertoi hinnan ja sopi jopa siitä, että joistakin yhtiön palveluihin kuuluvista lisämaksuista voitiin luopua.
Huijaus paljastui seuraavana päivänä. Uhri huomasi epäilyttäviä veloituksia tililtään, ja laskun lähettäjän nimi ei ollut ”Royal Caribbean”, joten Rivlin tajusi, että kyseessä oli huijaus. Onneksi hän onnistui estämään luottokorttinsa, ja pankki palautti hänelle rahat , vaikka hän oli yllättynyt siitä, kuinka hyvin huijaus oli toteutettu.
Vanhat temput, uudet ja tehokkaat keinot: tekoäly. Rivlinin tapaus ei ole yksittäinen tapaus, vaan vain jäävuoren huippu kasvavasta ongelmasta. Väärennettyjen asiakaspalvelun puhelinnumeroiden julkaiseminen ei ole uusi menetelmä, mutta generatiivisen tekoälyn ilmaantuminen on vienyt sen uudelle tehokkuustasolle.
Tähän asti tällaiset huijausmenetelmät perustuivat maksulliseen näkyvyyteen hakutulosten yläosassa, mutta nyt tekoäly on tullut parhaaksi aseeksi. Tämä tekniikka kerää internetistä löytyvää tietoa, mutta ei tarkista sen aitoutta. Näin ollen, jos puhelinnumero toistuu useilla sivustoilla ja foorumeilla, tekoäly voi tulkita sen luotettavaksi lähteeksi ja antaa sen suoraan apua etsivälle käyttäjälle.
Itse asiassa The Washington Postin tutkimus osoitti, että sama puhelinnumero oli yhteydessä suuriin risteilyyhtiöihin, kuten Disney.
Teknologiayritysten reaktio ja asiantuntijoiden kritiikki. Google ilmoitti The Washington Postille, että sen tekoälytietokannat ja hakutulokset ohjaavat yleisesti ottaen tehokkaasti käyttäjiä virallisten tietojen pariin ja että yksittäiset esimerkit petoksista on poistettu. Kriitikot kuitenkin väittävät, että tämä ei riitä.
Lily Ray, digitaalisen markkinointiyritys Amsiven SEO-strategian varapääjohtaja, toteaa, että tekoälytietojen tarjoaminen puhelinnumeroineen ”avaa uusia mahdollisuuksia huijareille, joita he ilmeisesti jo hyödyntävät”. Turvallisuusasiantuntijat korostavat, että Google jo hallitsee tietokantoja, jotka sisältävät tarkistettua yritystietoa, ja että yritys voisi antaa niille etusijan sen sijaan, että se luottaa laajempaan ja helpommin manipuloitavaan verkkosisältöön.
Sokea luottamus tekoälyyn on huono idea. Tämä tarina osoittaa selvästi, kuinka hakkerit löytävät keinoja saada käsiinsä tietomme hinnalla millä hyvänsä . Tässä tapauksessa he hyödynsivät luottamustamme tekoälyn avulla luotuihin Google-hakutuloksiin, koska ne ovat ensimmäiset, jotka näemme. Sama tapahtui myös SEM-hakutuloksissa, jotka sijoittuivat korkealle, mikä heijastaa filosofiaamme: ensimmäinen linkki on aina paras.
Siksi suositus on täysin selvä: tarkista aina etsimäsi tiedot, kuten puhelinnumero, virallisesta lähteestä, esimerkiksi yrityksen verkkosivustolta tai sen omasta sovelluksesta.
On myös muita tekoälyyn liittyviä petoksia. Tämä esimerkki ei ole ainutlaatuinen: tutkimukset osoittavat, että kun pyydämme tekoälyltä yrityksen URL-osoitetta, se voi olla virheellinen . Tämä avaa tien phishingille. Petokset eivät kuitenkaan lopu tähän: ne voivat ulottua Spotify-soittolistoihin tai jopa yksinkertaisiin PDF-tiedostoihin .
