Tartalomjegyzék
Kulcs elvitelek
- A hangklónozó átverés mesterséges intelligenciát használ a hangok hiteles reprodukálására, az érzelmekre és a sürgősségre támaszkodva.
- A csalók a közösségi média adatait felhasználva hihető forgatókönyveket készítenek, és kihasználják a személyes kötelékeket.
- Legyen óvatos, és tanulja meg az AI hangklónos csalások vörös zászlóit; bontsa le a telefont, és ellenőrizze a vészüzeneteket.
Késő este van. A szüleid pánikkal teli hangüzenetet kapnak tőled, amelyben közli, hogy bajban vagy, a pénztárcádat ellopták, és a semmi közepén ragadtál. A pénzt azonnal át kell utalni, hogy hazamehess.
Az üzenet hangja olyan valóságosnak tűnik, és összetéveszthetetlenül a gyermekük hangja – csak nem az. Ez egy mesterséges intelligencia hangklón, és egy olyan átverés célpontjává váltak, amely éppolyan élvonalbeli, mint amennyire hidegen hatásos.
Hogyan működik az AI hangklónozási átverés?
A hangklónozás hihetetlenül valósághű digitális másolatokat hozhat létre egy személy hangjáról. Ezt a technikát általában audionak nevezik mélyhamisítás, olyan mesterséges intelligencia hangklónozó eszközökkel jön létre, mint az ElevenLabs (nézze meg az AI hangklónozási példát alább). A generatív mesterséges intelligenciával és a hangszintézissel kombinálva a klónozott hang érzelmeket, árnyalatokat, intonációt és még félelmet is képes reprodukálni.
Referenciaként pedig íme, hogyan hangzik valójában Christian Cawley, aki a The Really Useful Podcastban beszél.
AI hangklón létrehozásához csak egy kis hangminta szükséges – gyakran csak egy perc vagy kevesebb. A hangmintákat gyakran nyilvános közösségimédia-bejegyzésekből veszik, ami különösen kiszolgáltatottá teszi a videobloggereket és az influencereket, mivel bejegyzéseik hangminősége kiváló és könnyen elérhető.
Miután a csalók klónozták a hangmintát, szövegfelolvasást vagy akár valós idejű beszédfelolvasót használnak hamis hívások és hangüzenetek létrehozásához.
Miután hozzáfért az áldozat közösségi médiájához, és összeszedte személyes adatait, a csaló egy hihető forgatókönyvet alkot. Ez lehet kórházi kezelés, letartóztatás, lopás, emberrablás – bármi, ami félelmet kelt. A klónozott hangot ezután arra használják, hogy egy családtagot elhiggyenek arról, hogy egy szeretett személy komoly bajban van.
A hang és az érzelmek realizmusa, valamint a kérés sokkszerűsége és sürgőssége felülírhatja a szkepticizmust, ami elhamarkodott pénzátutalási vagy érzékeny információszolgáltatási döntésekhez vezethet.
Miért olyan hatékonyak az AI hangklónozással kapcsolatos csalások?
A legtöbb családot és barátokat megcélzó csaláshoz hasonlóan az AI hangklónozó csalás is hatékony, mivel a személyes kötelékeket használja ki. Az a pánik, hogy egy szeretett személy segélyhívását kapja, gyorsan elhomályosíthatja az ítélőképességet, ami elhamarkodott döntésekhez vezethet. Ugyanezt a taktikát alkalmazzák a quid pro csalásoknál, de a hatást tetézi, ha meghallja valaki, aki közel áll hozzá.
A közösségi médiában nagy jelenléttel rendelkezők vagy az utazók családtagjai különösen veszélyeztetettek, mivel helyzetük elfogadható kontextust biztosít a csaló kitalált narratívájához. A csalók gyakran idő előtt begyűjtik és felhasználják célpontjaik személyes adatait nyilvános közösségi médiafiókjaikból, így a történetek még meggyőzőbbek.
A mesterséges intelligencia hangklónos átverésének fő jelei
Kifinomultságuk ellenére a mesterséges intelligencia hangklónos csalásai bizonyos vörös zászlókon keresztül felfedhetik magukat:
- Sürgősség: A csaló meg fogja győzni, hogy valami szörnyűség fog történni, ha nem tesznek azonnal intézkedést.
- Tények: A csalók nem mindig ismerik a célponttal való kapcsolatod teljes történetét, ezért figyelj az ellentmondásokra.
- Szokatlan kérések: A tengerentúli bankszámlákra vagy kriptovaluta pénztárcába történő fizetésre irányuló kérések gyakori taktika.
Borzalmas forgatókönyv esetén nehéz ezeket a tényezőket figyelembe venni, de megakadályozhatja, hogy átverjenek.
Mi a teendő, ha AI Voice Clone-átverésre gyanakszik
Ha hívást vagy hangüzenetet kap a bajba jutott szeretteitől, maradjon nyugodt. A csalók arra hagyatkoznak, hogy pánikba essen és érzelmessé váljon, mivel ez növeli a taktikájukkal szembeni sebezhetőséget.
Ha telefonhívást kap
Ha akár egy másodpercre is gyanítja, hogy egy hívás hangklónozó csalás lehet, azonnal tegye le a hívást. Ne osszon meg semmilyen információt, és ne lépjen kapcsolatba csalókkal. Ehelyett hívja vissza kedvesét egy ismert számon, hogy megerősítse a segélyhívás hitelességét.
Ha további beszélgetést folytat a csalókkal, az Ön hangjának rögzítését és klónozását is kockáztathatja.
Ha hangüzenetet kap
Ha a csalók hangüzenetet hagytak, azonnal mentse a hangot telefonjára vagy laptopjára. Ez a hangminta felhasználható egy mesterséges intelligencia beszédosztályozó eszközben annak meghatározására, hogy emberi hangról van-e szó. Ezek az AI beszédosztályozók ugyanúgy működnek, mint az AI írásdetektorok. Egyszerűen írja be az audiofájlt, és az osztályozó ember vagy mesterséges intelligencia által generáltként jelöli meg.
Ennek az ellenőrzésnek egy nagyszerű eszköze az ElevenLabs beszédosztályozó. Az ElevenLabs a legtöbb mesterséges intelligencia klónozó platformot támogatja, így ideális eszköz annak megállapítására, hogy egy hang klónozása történt-e. Íme, hogyan használhatja a mesterséges intelligencia által klónozott hang meghatározására:
Az alábbi példában egy nyomasztó üzenetet rögzített egy ember, és feltöltötte az osztályozóba. Láthatja, hogy 2%-os valószínűséggel manipulálják.
A következő példában ugyanazt a nyomasztó üzenetet állítottuk elő egy AI hangklónozó eszközzel. Az emberi fül számára a hangok megkülönböztethetetlenek. Az eszköz azonban 98%-os valószínűséggel AI által generáltnak jelölte meg.
Bár erre az osztályozóra nem támaszkodhat 100%-osan, megerősítheti a klónozott hang használatára vonatkozó gyanúját. A megerősítés érdekében fel kell vennie a kapcsolatot szeretteivel is egy ismert számon.
A megelőzés a legjobb védekezés a mesterséges intelligencia hangklónozásával szemben
Néha a csúcstechnológiás átverés elleni legjobb védekezés egy alacsony technológiájú megoldás.
Állítson be olyan offline jelszót, amelyet csak szerettei ismerhetnek családjával és barátaival. Egy eszeveszett hívás esetén ennek a jelszónak a használata biztos módja lehet a hívó személyazonosságának megerősítésére.
Végül, személyes adatainak távoltartása a közösségi médiától óriási lépés annak biztosítására, hogy a csalók ne gyűjthessenek elegendő információt a narratíva felépítéséhez. Ne feledje: Ha nem szeretné, hogy mindenki megismerje, jobb, ha nem ossza meg a közösségi médiában.