Szele Tamás: A digitális szavanna

Szóval az egész azzal kezdődött, hogy lemásztunk a fáról, és imbolygó járással, tétován elindultunk a ragadozóktól és más, ellenséges ősemberektől hemzsegő afrikai szavannán.

Körülbelül most is ugyanott tartunk, csak ez a szavanna digitális, a mostani ragadozók nem mindig akarnak egyszerűen elfogyasztani minket – ennyi mindenképpen változott Lucy ősanyánk óta.

De nem tudnám megmondani, mi a rosszabb, ha egy csapással leterít az oroszlán, vagy ha a személyiségemet manipulálják és próbálják megváltoztatni mindenféle brigantik. Azt hiszem, az oroszlán mégis gyorsabb és humánusabb. Kevesebb kínlódással jár. A Cambridge Analyticához hasonló szervezetek viszont megalázóan alakítgatják az emberek véleményét és úgy kereskednek vele, velünk, mint a timbuktui rabszolgahajcsárok a jobb sorsra érdemes mandinkákkal. Mint a @HindsightFiles Twitter-megosztásaiból kiderül, valóban legalább hatvannyolc országban működnek ezek a szó szerint lélekkufárok, bár az információszivárgás lassabb, mint vártuk – múlt heti beszámolónk óta csak Iránnal kapcsolatos aktákkal bővült az adatbázis, ráadásul ezeknek az információknak is inkább indirekt kapcsolatuk van a most épp az események középpontjában álló iszlám köztársasággal.

Az viszont megkapó, hogy a Facebook alelnöke, Andrew Bosworth nyíltan szembenézett a közösségi oldalt terhelő felelősséggel: igaz, szembenézésen kívül sokkal többet nem is tehetett. Mint a minapi nyílt posztjában írta (tulajdonképpen egy privát, korábban csak munkatársaival megosztott bejegyzést tett nyilvánossá), be kell vallania: valóban ők a felelősek Donald Trump megválasztásáért, és valószínűleg miattuk választják újra az elnököt 2020-ban. Ez Bosworth számára roppant kínos, ugyanis ő maga egyáltalán nem szimpatizál a mostani amerikai elnökkel – de a Facebook befolyását másként látja, mint a legtöbb elemző.

Az ugyanis a véleménye, hogy habár volt orosz befolyásolása a választásoknak, és tagadhatatlan, hogy a Cambridge Analytica is gépészkedett az oldalon, a siker mégsem ezeknek volt köszönhető, hanem annak, hogy Trump szakértői tökéletesen elsajátították a Facebook hirdetési rendszerének ismeretét, és majdhogynem profibban, hatékonyabban használták fel, mint azok tették volna, akik megalkották. Hogy szó szerint idézzük:

A Facebook tehet Trump megválasztásáról? Szerintem a válasz, hogy igen, de nem azért, amit a legtöbben hisznek. Nem Oroszország, a dezinformációk vagy a Cambridge Analytica miatt nyert, hanem azért, mert a legjobb digitális reklámkampányt építette fel, amit életemben láttam.”

Azonban ne feledjük: a dezinformációs hálózat volt mégis az egyik láb, amelyen ez a kampány nyugodott. Az orosz befolyásolási kísérletek Bosworth szerint megmaradtak azon a szinten, hogy a választás napjára különböző „Black Lives Matter”-tüntetéseket szerveztek Olgino fiai, hogy így tartsák távol az afroamerikai választókat az urnáktól. Ez sem szép, de lássuk be: ha volt is ennél komolyabb manipuláció orosz részről, azt a Facebook alelnöke mégsem vallhatja be nyilvánosan.

Ezzel a levéllel egyszerre érkezett a hír, hogy a deepfake módszerek olyan helyen kerülnek felhasználásra, amiről nem is álmodtunk: a profilgenerálásban. Ugyebár, a deepfake esetében 

olyan technológiáról van szó, amelyet a modern képalkotási megoldások és az öntanuló mesterséges intelligencia közös használata „termelt ki”, és lényegében olyan trükkök összessége, ahol fotókon és videókon a valóságoshoz megtévesztően hasonló „fejcseréket” lehet létrehozni.” (PC World)

Ezt úgy tessék elképzelni, hogy akár mozgóképen is kicserélhető bárkinek a feje bárkiével, vagy elmondatható akárkivel olyan szöveg, amit a büdös életben nem mondott, megcsináltatható a manipulált mozgóképen olyasmi is a karakterrel, amit nem, hogy nem tett de nem is tenne – a politikai manipuláció nedves, kéjes álma a deepfake. Meg persze a pornográfiáé.

Mégis, most a profilgenerálás terén kezdték alkalmazni. Ennek az az értelme, hogy ha valaki cégéres disznóságot akar elkövetni a közösségi oldalakon, nyilván nem a saját nevén, a saját arcával teszi. Hanem kitalál egy gyakori nevet, és lop hozzá egy fotót valahonnan. Ezen szoktak megbukni például az álhírlapok is: egy képkeresés elég hozzá, hogy kimutassa, a fotón látható személy nem az, akinek mondják, teszem azt nem magyar és nem cukrász, hanem – ez megtörtént eset! – egy brazil parasportoló hölgy. Márpedig a képalapú keresés a Google egyik legközönségesebb funkciója. De a tavalyi magyar választási kampányokban is próbálkoztak lopott, hamisított profilok bevetésével, azok sem állták ki a böngésző próbáját.

Azonban kereséssel csak akkor tudunk rájönni egy profil hamis voltára, ha ilyen arc már létezik. Ha nem létezik, ha azt egy mesterséges intelligencia generálta, ha teljesen egyedi, nem tartozik élő vagy holt személyhez, akkor bizony nem jöhetünk rá egyszerűen, hogy hamis profillal van dolgunk. Erre használják mostanság a deepfake-et, egészen pontosan a hírek szerint a The Epoch Times nevű konzervatív hírportál és az ahhoz kapcsolódó Epoch Media Group bukott le, amikor így hamisított profilok útján próbáltak álhíreket terjeszteni. És hát a mesterséges intelligencia nem csak arcot, képet tudhat generálni, hanem ügyes programozással teljes személyiséget is: tegyük fel, kreálnak pár ezer sosemvolt figurát most, mindegyik tökéletesen egyedi, vannak tulajdonságaik, szokásaik, háziállataik, véleményük, és ezek még napi tevékenységet is végeznek vagy csevegnek egymással a MI irányítása alatt – tulajdonképpen a MI cseveg magával, ő készít képeket a barbecue-partyról vagy a kutyasétáltatásról. De ha mondjuk fél évig ezek a profilok élik a maguk szimulált életét, nincs az a zseniális nyomozó, aki – látván korábbi aktivitásukat – rájönne, hogy ezek nem valós személyek. És mondjuk a választásokon már komoly propaganda-nyomást képesek generálni rajtuk keresztül vagy inkább a bevetésükkel.

Gogol holt lelkei a fasorban sincsenek, ezek a meg sem született lelkek. Magyar földön ugyan még nincs hír erről a technológiáról (bár nem kétlem, hogy több rendszer is készenlétben áll, ami ezt fogja használni), nálunk csak az álhírlapok kreatívkodnak. A legújabb trükkjük – miután a politikával alaposan megégették magukat – a gyermekeltűnések bevetése. Nem mindegyik álhírlap műveli ezt és ráadásul nem is mindegyik körözés régi – de azért elég sok mégis az.

Szóval, azt úgy kell csinálni, hogy az álhírlap-szerkesztő, akinek elsődleges érdeke a nagy látogatottság és a sok megosztás, előszedi az eltűnt személyek listáját a police.hu-ról. Ez most elég népes, de szerencsére a szerkesztőt csak a tizennégy év alatti gyermekek érdeklik, az ő eltűnésükről szóló hírt ugyanis mindenki megosztja. Hiszen mindenki segíteni akar. Jelenleg 178 gyermeket keresnek ezen a listán, a legkorábbi esetek még 2017-es eltűnések. Igazából nem lehet vádat emelni azért az álhírlap ellen, hogy a rendőrségi körözéseket megosztják – csak hát ezek már többségükben elévültek, gyakran panaszkodnak az olvasók (én is így bukkantam a trükkre), hogy a police.hu-ról megadott link már nem él (persze, mert időközben megkerült az eltűnt gyermek, és levették a listáról), de még ha él is: mocskos manipulációja ez a megosztásnövelő módszer az érzelmeinknek, ráadásul inflálja is a valódi eltűnések hírértékét, mert ha három éves esetekkel traktálnak minket nap, mint nap, a közönség hozzászokik, és a mostani, azonnali fontosságú eltűnésekre is csak a vállát fogja vonogatni, átsiklik azok felett is, amik megoldásában segíthetne.

De, mondom, megtiltani nem lehet a rendőrségi körözések osztogatását…

Szóval, summa summarum, ahogy körülnézek én ezen a mostani digitális szavannán, épp elég veszélyesnek látom ránk, kezdő ősemberekre nézve, akik csak most másztunk le a fáról, és még bizonytalan a járásunk.

Ezt a terepet még ki kell tanulnunk, meg kell szoknunk, hogy biztosan mozoghassunk rajta.

És jó lesz sietni a tanulással, mert naponta változnak a veszélyek.