Csörög a telefon. Az Egyesült Államok külügyminisztere hív. Vagy mégis?

A washingtoni bennfentesek számára a látás és hallás már nem hisz hisz, köszönhetően a közelmúltban történt számos olyan esetnek, amelyben deepfake-ek Donald Trump elnök elnöki adminisztrációjának vezető tisztviselőit adták ki.

A digitális hamisítványok egyre elterjedtebbek a vállalati Amerikában is, mivel ellenfelekkel, köztük Észak-Koreával kapcsolatos, bűnözői és hackerek szintetikus videót és hangot használnak, hogy vezérigazgatókat és alacsony szintű jelölőket adjanak ki, hogy hozzáférjenek kritikus rendszerekhez vagy üzleti titkokhoz.

A mesterséges intelligencia fejlődésének köszönhetően a valósághű deepfake-ek létrehozása könnyebb, mint valaha, ami biztonsági problémákat okoz a kormányok, vállalkozások és magánszemélyek számára, és a bizuslommá teszi a digitális kor legértékesebb valutájá.

A kihívásra való válasz törvényekre, jobb digitális műveltségre és technikai megoldásokra lehet szükség, amelyek több MI-vel küzdenek az MI ellen.

"Emberként meglepően fogékonyak vagyunk a megtévesztésre" – mondta Vijay Balasubramaniyan, a Pindrop Security technológiai cég vezérigazgatója és alapítója. De úgy véli, hogy a deepfake-ek kihívására megoldások elérhetők lehetnek: "Vissza fogunk vágni."

Idén nyáron valaki mesterséges intelligenciát használt arra, hogy mélyhamisítást készítsen Marco Rubio külügyminiszterről, hogy üzenetben, hangpostán és a Signal üzenetküldő alkalmazáson keresztül elérje a külügyminisztereket, egy amerikai szenátort és egy kormányzót. Májusban valaki Trump kabinetfőnökét, Susie Wiles-t adta ki.

Egy másik hamis verzió Mr. Rubio-nak jelent meg egy deepfake videóban idén korábban is, amelyben azt állította, hogy el akarja vágni Ukrajna hozzáférését Elon Musk Starlink internetszolgáltatásához. Ukrajna kormánya később megcáfolta a hamis állítást.

A nemzetbiztonsági következmények óriásiak: Akik például azt hiszik, hogy Mr. Rubio-val vagy Ms. Wiles-szel beszélgetnek, érzékeny információkat vitathatnak a diplomáciai tárgyalásokról vagy katonai stratégiáról.

"Vagy érzékeny titkokat vagy versenyképes információkat próbálsz kinyerni, vagy hozzáférést akarsz elérni, egy e-mail szerverhez vagy más érzékeny hálózathoz," mondta Kinny Chan, a QiD kiberbiztonsági cég vezérigazgatója a lehetséges motivációkról.

A szintetikus médium a viselkedés megváltoztatására is törekedhet. Tavaly New Hampshire-ben a demokrata szavazók egy robohívást kaptak, amelyben arra buzdították őket, hogy ne szavazzanak az állam közelgő előválasztásán. A hívás hangja gyanúsan hasonlított az akkori elnökre, Joe Bidenre, de valójában mesterséges intelligenciával készült.

A megtévesztési képességük miatt az MI deepfake-ek hatékony fegyverré válnak külföldi szereplők számára. Oroszország és Kína egyaránt dezinformációt és propagandát használtak az amerikaiak ellen a demokratikus szövetségek és intézmények iránti bizalom aláásására.

Steven Kramer, a politikai tanácsadó, aki elismerte, hogy küldte a hamis Biden robothívásokat, azt mondta, hogy üzenetet akar küldeni arról, milyen veszélyeket jelentenek a deepfake-ek az amerikai politikai rendszerre nézve. Kramer urat júniusban felmentették a választók elnyomásával és jelöltként való megbővülés vádjával.

"Azt csináltam, amit 500 dollárért tettem," mondta Mr. Kramer. "El tudod képzelni, mi történne, ha a kínai kormány ezt megteszi?"

Csalók célozzák meg a pénzügyi iparágat

A programok nagyobb elérhetősége és kifinomultsága miatt a deepfake-eket egyre inkább vállalati kémkedésre és különféle csalásokra használják.

"A pénzügyi ipar éppen a célkeresztben van" – mondta Jennifer Ewbank, a CIA korábbi helyettes igazgatója, aki a kiberbiztonsággal és digitális fenyegetésekkel foglalkozott. "Még azokat az egyéneket is, akik ismerik egymást, meggyőzték arról, hogy hatalmas összegeket utaljanak át."

Vállalati kémkedés kontextusában használhatók arra, hogy vezérigazgatókat adjanak ki, akik jelszavakat vagy útvonalszámokat adnak át az alkalmazottaknak.

A deepfake-ek lehetővé teszik a csalók számára, hogy állásokra pályázzanak – és akár elvégezzék őket – ál- vagy hamis személyazonossággal. Egyesek számára ez egy mód az érzékeny hálózatokhoz való hozzáférésre, titkok ellopására vagy zsarolóvírus telepítésére. Mások csak a munkát akarják, és lehet, hogy egyszerre több hasonló munkát végeznek különböző cégeknél.

Az amerikai hatóságok szerint több ezer észak-koreai, akik informatikai szakértelemmel rendelkeznek, küldtek külföldre ellopott személyazonossággal a technológiai cégeknél és más országokban dolgozni. A dolgozók hozzáférnek a vállalati hálózatokhoz és fizetést is. Bizonyos esetekben a dolgozók ransomware-t telepítenek, amelyeket később még több pénz kizsarására használhatnak.

A programok milliárdokat hoztak az észak-koreai kormány számára.

Három éven belül várhatóan minden negyedik álláspályázat hamis lesz – az Adaptive Security nevű kiberbiztonsági cég kutatása szerint.

"Olyan korszakba léptünk, amikor bárki, akinek laptopja és nyílt forráskódú modellhez fér hozzá, meggyőzően képes valódi személyt utánozni" – mondta Brian Long, az Adaptive vezérigazgatója. "Már nem a rendszerek feltöréséről van szó – hanem a bizalom feltöréséről."

Szakértők MI-t alkalmaznak az AI elleni harcra

Kutatók, közpolitikai szakértők és technológiai cégek most vizsgálják a deepfake által felmerülő gazdasági, politikai és társadalmi kihívások legjobb megoldásait.

Az új szabályozások előírhatják a technológiai cégektől, hogy többet tegyenek a deepfake-ek azonosítására, címkézésére és esetleg eltávolítására platformjaikról. A törvényhozók súlyosabb büntetéseket is kiszabhatnak azoknak, akik digitális technológiával mások megtévesztésére használják – ha elkapják őket.

A digitális írástudásba történő nagyobb beruházások növelhetik az emberek immunitását az online megtévesztéssel szemben azáltal, hogy megtaníthatják őket a hamis média felismerésére és a csalók áldozatává válás elkerülésére.

A legjobb eszköz az AI elfogására egy másik MI program lehet, amelyet arra képeztek ki, hogy kiszagolja a deepfake-ek apró hibáit, amelyeket az ember észrevétlen maradna.

Az olyan rendszerek, mint a Pindrop, milliói adatpontokat elemeznek bármely személy beszédében, hogy gyorsan azonosítsák a szabálytalanságokat. A rendszer például állásinterjúk vagy más videokonferenciák során is használható, hogy kiderítse, használ-e hangklónozó szoftvert.

Hasonló programok egyszer elterjedhetnének, háttérben futva, miközben az emberek online beszélgetnek kollégáikkal és szeretteikkel. Egyszer majd a deepfake-ek eltűnhetnek, mint az e-mail spam, egy technológiai kihívás, amely egykor fenyegette az e-mail hasznosságát – mondta Mr. Balasubramaniyan, a Pindrop vezérigazgatója.

"A vereséges nézetet is elmondhatjuk, hogy alávetettek vagyunk a dezinformációnak," mondta. "De ez nem fog megtörténni."

Ezek az erőfeszítések azonban csak a deepfake-ek hatásait orvosolnák. Az alapvető ok kezelése sokkal nehezebb.

Semmi újdonság

Az Ószövetség Prédikátor könyvében Salamon király így nyilatkozott: "Ami volt, az lesz; és ami megtörténik, az meg kell történni: és nincs új dolog a nap alatt" (1:9).

Bár Solomon sosem látott videót, nemhogy olyat, amit Sorával, Adobe Firefly-val vagy más mesterséges intelligenciával készítettek volna, az ősi Izrael uralkodása alatt a deepfake csak a hosszú múlt legújabb változata, amelyben mások megtévesztett.

A világ első fényképét 1826-ban készítették. Csak 20 évvel később egy fényképnegatív személyt lefestettek, majd letiltották a nyomtatott képtől. A 19. század hátralévő részében gazdag ügyfelek és magazinszerkesztők egyre kifinomultabb képeket retusáltak.

A képszerkesztés jó szándékkal indult. "A legkorábbi manipulált fényképek többsége az új médium technikai korlátainak kompenzálása volt – különösen annak a képtelensége volt, hogy a világot úgy ábrázolja, ahogy az szabad szemmel látszik," mondta Mia Fineman, a Met fotózási segédkurátora a PBS-nek adott interjúban.

A legtöbb esetben a manipulációt arra használták, hogy a kép "úgy nézzen ki", ahogy érezte, nem pedig megtévesztésre. Idővel azonban ezek a technikák más történetet meséltek el, mint ami valójában történt.

Egy híres példa Abraham Lincoln arcának kivágása, amelyet egy 1860-as fényképről látott, amelyet John Calhoun alelnök testére ragasztottak egy 1852-es metszetben. A kompozit kép, amely a 16. elnököt köntösben ábrázolta, majdnem napóleoni pózban, egy hullám alatt került forgalomba a hősies stílusú képek idején, amelyeken az elnök meggyilkolása után készült. Egy évszázadon át senki sem vette észre, hogy a kép hamis.

A Photoshop számítógépes szoftver 1987-ben debütált, és új korszakot nyitott be a megtévesztő képmanipulációban. Egy számítógéppel és a megfelelő szoftverrel bárki képes volt képeket változtatni. A hirdetők, kiadók és propagandagépek annyi digitálisan módosított képet készítettek, hogy a "photoshop" kifejezés bármilyen fotómanipulációra utalt.

Itt lépnek a deepfake-ek, amelyeket néhány év alatt egyre nehezebb megfejtetni. "Jelenleg vannak apró vizuális szempontok, amelyek nem stimmelnek, ha közelebbről nézünk, legyen az fülek vagy a szemek, amelyek nem egyeznek össze, az arc homályos keretei, túl sima bőr, a világítás és árnyékok között" – mondta Peter Singer, a New America agytröszt kiberbiztonsági és védelmi stratégája a CNBC-nek.

De a "jelek" egyre nehezebben megtalálhatók, ahogy a technológia fejlődik, mondta Singer úr.

Gondolj a generatív AI fotókra és videókra. Ami kezdetben primitív médiumként indult, és a legtöbben azonnal felismerték, hogy nem valós, most sokkal élethűbb állapotba lépett. Az MI videók rendszeresen vírusossá válnak, és azok, akik megosztják őket olyan platformokon, mint a Facebook, TikTok és X, nem tudták, hogy hamisak.

Egy példa erre az "MI hajléktalan férfi tréfa." A The Hill szerint "Egy MI-vezérelt TikTok trend 911-es hívásokat eredményez pánikba esett emberek részéről, akik azt hiszik, hogy egy férfi betört az otthonukba. A tréfa mesterséges intelligenciát használ, hogy képet vagy videót készítsen egy "hajléktalan férfiról", amint belép valaki otthonába, átnézi a hűtőjét vagy fekszik az ágyában. A tréfáló elküldi a hamis videót egy szerettének, aki azt hiszi, hogy a meggyőző képek valódiak. Legalább négy állam rendőrségei kaptak bejelentéseket a behatolásokról, csak hogy kiderüljön, hogy a "betolakodó" egy mesterséges intelligencia által generált személy volt..."

Bár sokan azt hiszik, hogy nem tévesztné meg őket egy hamis videó vagy telefonhívás, ahogy a technológia fejlődik, egyre nehezebb lesz elkerülni a megtévesztést.

A veszély megértése

Minden eszköz, amit az emberiség fejlesztett ki, jó vagy rossz célokra is használható. Az internet lehetővé tette az azonnali kommunikációt, az online oktatást és a rengeteg csináld magad videóhoz való hozzáférést. Ugyanakkor lehetővé teszi a félretájékoztatás szándékos terjesztését, a személyes adatok felhalását és lopását, valamint a szélsőséges eszmék külföldre terelését is.

Hasonlóképpen, néhány deepfake videó ártalmatlan. Használhatók kreativitásra, humorra és szatírára, és ha egyértelműen MI-ként vannak címkézve előre, ne tévessük meg az embereket. De gyakran használják őket, mint "tökéletes fegyvert a hamis hírek terjesztői számára, akik mindent befolyásolni akarnak a részvényárfolyamoktól a választásokig" – állt az MIT technológiai jelentése.

Ez hozzájárul az amerikaiak körében egyre nagyobb bizalmatlansághoz azzal szemben, amit látnak és hallanak. A Gallup szerint "az amerikaiak bizalma a tömegmédiában új mélypontra süllyedt, mindössze 28% fejezi ki 'nagy' vagy 'tisztességes' bizalmat az újságokban, televízióban és rádióban, hogy teljesen, pontosan és méltányosan közöljék a híreket. Ez csökkenés a tavaly 31%-hoz és öt évvel ezelőtti 40%-hoz." A deepfake-ek csak erősítik ezt a képet.

Bár bizonyos mértékű szkepticizmus egészséges lehet, a probléma az, hogy sokan hiányzik az a bizalmatlanság, amely szükséges a megtévesztés átlátásához. Még akkor is, ha a nézők tudják, hogy a videók módosítottak, a megtévesztés gyakran működik. Az emberek hajlamosak elhinni azt, amit akarnak .

A RAND Corporation kutatószervezet így számolt be: "'A deepfake-ok kihasználják a gyengeségeinket' – magyarázza Jennifer Kavanagh, a RAND Corporation politikatudósa és a 'Truth Decay' című 2018-as RAND jelentésének társszerzője, amely a tények és adatok csökkenő szerepéről szól a nyilvános diskurzusban. Amikor látunk egy teljesen valóságosnak tűnő manipulált videót, azt mondja: "az agyunknak nagyon nehéz eldönteni, hogy ez igaz-e vagy hamis." És az internet ilyen, rengeteg online csaló, pártpártos fanatikus, államilag támogatott hacker és más rosszindulatú szereplők próbálják kihasználni ezt a tényt."

Azok, akik nem bíznak abban, amit látnak, három lehetőség állnak szembe: elfogadják a megtévesztést, megpróbálják figyelmen kívül hagyni, vagy időt töltenek azzal, hogy több forrásból származó híreket elemezzenek, hogy kiderítsék az igazságot. Sokan megijednek az igazság megtalálására szükséges erőfeszítéstől, és akaratlanul is engednek a megtévesztésnek.

Több ezer évvel a felmérések felfedezése előtt egy ritkán idézett Bibliai vers foglalja össze ezt az emberi hajlamot: "A szív mindennél jobban megcsaló, és kétségbeesetten gonosz: ki ismerheti?" (Jer. 17:9).

A hazugságok és a megtévesztés évezredeken át az emberiség életmódja, egyéni, nemzeti, vállalati és politikai szinten. Ez a vers azt is mutatja, hogy a megtévesztés mélyen gyökerezik az ember szívében. Ez nem csupán külső probléma—az emberi természet magjában rejlik. Az emberek természetüknél fogékonyak a megtévesztésre. Mindenkinek harcolnia kell ezzel a tendenciával, hogy megtalálja az igazságot.

A deepfake technológia fejlődésével egy olyan világban, ahol a megtévesztés már most is elterjedt, eljött az idő, amikor a tények teljesen torzíthatók, és "az igazság az utcán esik, és az igazságosság [azaz egyenesség, integritás, igazság vagy jog] nem léphet be. Igen, az igazság kudarcot vall" (Iza. 59:14-15).

Hányszor találtál már tanácsot bármilyen igazságforrást ? A média táját nézve könnyű azt mondani: "Az igazság kudarcot vall."

De van egy hely, ahol megtalálhatod az igazságot. Isten Igéje – a Biblia – kimondja, hogy ez igazság (János 17:17 és II. Tim. 2:15). Isten azt mondja, hogy nem hazudhat (Titus 1:2), és hogy szavai nem múlnak el (Máté 24:35). Egy viharos időben, amikor nem tudod, kiben higggyél, Isten Igéje vigaszt és stabilitást nyújt, amiben támaszkodhatsz.

Nem kell bizonytalannak maradnod, hogy a Szentírást szó szerint vedd-e – tényleg bizonyíthatod. A füzetünk Bible Authority...Can It Be Proven? azt mutatja, hogy kétség nélkül meg lehet állapítani, hogy a Biblia igazság.

Mi, Az igazi igazság vagyunk itt, hogy segítsünk. Ez a magazin Isten Igéjét használja alapjaként, amelyből a világ eseményeit megtekinthetjük és megértjük, elhozva neked az igazságot, amely a ma oly gyakori megtévesztés mögött rejtőzik.

További információkért olvasd el cikkeinket "Weathering the Misinformation Age" és "‘Should I Be Worried About AI?’"

Ez a cikk az Associated Press adatait tartalmazza.