Ki véd meg minket az algoritmusok diktatúrájától?

David Erdos magyar származású brit jogász, a University of Cambridge professzora, a Cambridge-i Centre for Intellectual Property and Information Law (CIPIL) társigazgatója. Korábban a University of Oxford kutatója, 2012 és 2016 között a brit kormány adatvédelmi tanácsadó testületének tagja volt, szakterülete az adatvédelem, az információs szabadság és az európai jog.  Nyár elején az NKE konferenciáján adott elő Budapesten.

***

A Társadalmi dilemma (The Social Dilemma) című filmben is bemutatják: miközben a netes keresőkön szörfözünk, a keresési szokásainkat a keresőrendszerek rögzítik, majd a közösségi média platformjain a profiljaink szerint érkeznek vissza hozzánk a személyre szabott tartalmak. Orwelli módon válunk termékké.

Aggodalomra ad okot, ahogy ez a folyamat erősödik, és ahogy ennek következtében a privát életünk erodálódik. Ehhez hozzátartozik az olyan jelenségek megjelenése, mint a manipuláció vagy a döntéshozási képességünk gyengítése. Mindazonáltal az európai államokban erős törvényi szabályozás védi a személyes adatokat, szigorúan veszik a másokról szerzett érzékeny információk, politikai nézetek, vallási meggyőződések és a többi tárolását, felhasználását. Ugyanakkor 

 így ez egy súlyos probléma.

Hogyan védi az európai jog az egyének, jogi személyek személyes adatait a tech cégek adatgyűjtő szándékaitól? 

Egy nagyon működőképes jogi szabályozása van ennek a területnek, amely átláthatóságot biztosít. Az adatgazda egyetértése szükséges az adatainak felhasználásához, csak a szolgáltatás működtetéséhez szükséges adatkör használható, illetve az érzékeny személyes adatokat tilos kereskedelmi célra bármilyen formában hasznosítani. Ez utóbbi kategóriába tartoznak a szexuális orientációra, az egészségi állapotra vagy bármilyen intim viszonyra vonatkozó információk. A jogszabályok hatékonyan lefedik a szabályozási kört, ezzel nincs baj; a probléma az, hogy a törvények betartatásának nincsenek meg a hatékony eszközei. Ebből fakad, hogy vissza lehet élni ezekkel a védett jogokkal is.

A keresőrendszerek mögötti mesterséges intelligencia rögzíti az érdeklődési körünket, következtet a szokásainkra, a közösségi médiában pedig már egy algoritmus által összeállított kontentet adagol számunkra: ez egy szűk, manipulált virtuális világ. 

Ez a véleménymanipulációk módszere,

Ez a gyakorlat nyilvánvalóan nincs összhangban azzal a követelménnyel, hogy az embereknek joguk van a megbízható információkhoz való hozzáféréshez. A probléma másik aspektusa a megfigyelés, a személyes profilozás. Nem átlátható, hogy a rendszer az egyén milyen adataihoz milyen mélységben és milyen időintervallumban fér hozzá azzal, hogy rögzíti, az adott személy milyen linkekre klikkel rá. 

Ugyanez a séma vonatkozik a hírek fogyasztására is: az algoritmusok osztják a híreket, és aggasztó, hogy a hírfogyasztók egyre nagyobb része a közösségi média felületein az elé tolt híreket olvassa, nem pedig a portálok honlapjain keres céltudatosan ellenőrzött információkat. Ez a fake news, a dezinformáció terjedésének melegágya. 

Valóban, a klasszikus sajtó kora valamilyen módon lezárult a közösségi média korának beköszöntével, az online olvasói fogyasztási szokások megváltoztak. És ennek természetesen van negatív mellékhatása a felelős újságírásra nézve is, amely a hírek fontosságának súlyozására, az ügyek megértésére, a hiteles információk megfelelő tálalására koncentrál. 

Felerősödik a manipulációra, a hírtorzításra való készség, ha a hírgyártókon ott a nyomás, hogy a cikkeikre minél több kattintás érkezzen. 

A jelenség egyik oldala a fogyasztói szokások megváltozása, a másik pedig az, hogy a médiacégek maguk is torzítani kénytelenek termékeiket, ha azt szeretnék, hogy a közösségi platformok – Facebook, YouTube – algoritmusai szeressék, így futtassák a tartalmaikat. 

Teljesen egyértelmű, hogy ezen a téren sok a zavar, nem átláthatóak a közösségi médiaplatformok algoritmusainak sztenderdjei. Van egy tartalom, és a platform jelzi, hogy azt nem futtatja. Két elvárásrendszer között vergődnek tehát a tartalom-előállítók. Nincs kijelölt jogi határa annak, hogy milyen tartalmat miért futtat az algoritmus, milyet miért nem – így nincsenek meg a legitim keretei a felelősségteljes, pontosan meghatározott sztenderdek alapján végzett újságírói munkának. A kattintásvadászat a hagyományos újságírás műhelyeit is felborította, a látogatottságból van az online újságok fő bevétele, ezért ez a szempont kiemeltté vált, ennek következménye pedig az, hogy 

és nem következetes az ellenőrzött, hiteles információk közvetítésében, azt feláldozza a figyelemkeltő, szenzációhajhász megjelenés oltárán. Az információtorzítás gyakorlata azonban súlyos károkat okoz, és nemcsak az újságírásnak, de a szabadságjogoknak és a demokráciának is.  

A kattintásszám-vadászat szükségszerűen vezet el a hitelesség kopásához, a tényellenőrzés lazulásához, a bulvárosodáshoz, a leegyszerűsítő értelmezésekhez, az ingerküszöb süllyedésével a tartalmak radikalizálódásához. Ön szerint milyen jövője van a hagyományos újságírásnak az online szférában?

Jogász vagyok, ezért a törvényi szabályozásban még látok potenciált. Mert ez azért alapvetően egy jogi kérdés. A megbízható információkhoz való jutás joga feltételezi, hogy az újságírásnak felelősnek kell lennie, megbízható hírforrásoknak kell lenniük, ennek érdekében csökkenteni kellene a név nélküli cikkek arányát, az újságíróknak névvel – tehát személyes felelősséggel – kellene jótállniuk az általuk írt cikkek valóságtartalmáért. Szerintem ha az újságírásban növelnénk a felelősséget, azzal javulna a minőség is; illetve ha kisebb fókusz lenne a kattintásszámon, az növelné az információs szabadságot. A kérdés tehát az, hogy valóban egy olyan ökoszisztémában akarunk élni, ahol senki sem hajlandó megfizetni a megbízható információk megszerzésének árát? Mert 

Akarunk-e tehát védekezni a manipulációs veszélyek ellen, akarunk-e védelmet építeni a magánszféránk körül? A jogszabályok ezt lehetővé tennék, ha azokat hatékonyan be lehetne tartatni.

A mesterséges intelligencia és a szuperszámítógépeken tárolt adatbázisok összekapcsolódása óriási veszélyforrás. Sok szakértő emlegeti, hogy közel van az úgynevezett technológiai szingularitás kora, vagyis amikor az emberek elvesztik az ellenőrzést a gépek működése felett. Önt ez aggasztja, vagy sem?

Ez a kérdés szorosan kapcsolódik a ChatGPT használata apropóján felerősödött kételyekhez, vitákhoz, amelyek egyébként egyetemi, kutatói körökben is zajlanak. Az én véleményem szerint ez egy komoly probléma, és emiatt pontosan meg kellene határoznunk, hogy hova akarunk kilyukadni, a felelősség kérdésének pedig újra ott kell lennie a technológiai kutatások homlokterében. Újra említem, hogy a mesterséges intelligencia szabályozásában is már megvannak a szükséges jogszabályok, csak alkalmazni kellene őket.

Ha megnézzük a nagy tech cégek mögötti vezetőket – Mark Zuckerberg, Elon Musk, Ray Kurzweil –, ők futurista, humanista emberek, akik az emberiség boldogulását szeretnék a technológiai forradalommal előbbre vinni, ugyanakkor transzhumanista nézeteik is vannak, mintha az emberiség jövőjét is befolyásolni akarnák az eszközeikkel. Nincs ebben valami hátborzongató?

Nem tudom, milyen rejtett ideológiai szándékaik lehetnek, de az biztos, hogy a technológia erejébe, jótékony hatásaiba vetett hit szinte ideologikus. Ennél problematikusabb, hogy megfelelő szabályzás nélkül 

Számomra tehát a leginkább aggodalomra okot adó jelenség az, hogy ezek a technológiai kutatások, fejlesztések mennyiben tisztelik majd az emberi jogok érvényesülését. Lehet sokat várni a technológiai fejlesztésektől, de csak akkor, ha azok etikai elvárásoknak is megfelelnek, és ha pontosan ki vannak jelölve a felelősségi körök.

Nyitókép: Egy férfi internetezik az okostelefonján az indonéz fővárosban, Jakartában 2022. július 20-án   (forrás: Garry Lotulung / Anadolu Agency via AFP)