Black mirror: ősi problémák, új tükörképek

Ki ne hallott volna a mesterséges intelligenciáról? Ki ne tapasztalta volna, hogy egy algoritmus jobbnál jobb ajánlatokkal bombázza? Ahhoz, hogy megértsük ez mit is jelenthet számunkra, érdemes megvizsgálni a legújabb technológiák egy mélyebb, ha úgy tetszik, filozófiai rétegét is. (Különösen ajánlottak Yuval Noah Harari művei, akinek egyes gondolatai a bejegyzésben is megjelennek.) Arra a kérdésre, hogy ezek a technológiák az utolsó emberi „védvonalakat” támadják, vagy attól még messze vagyunk, csak a jövőben kapunk választ. Arról viszont már most érdemes gondolkodni, hogy e technológiák hogyan alakíthatják át a társadalmat, az egyes emberek identitását, valamint a gazdasági struktúrákat. Míg a technológiai fejlődés javarészt a „hogyan” (termeljünk többet, közlekedjünk stb.) kérdésére ad választ, addig az igen jelentős technológiai ugrások megkerülhetetlenül a „miért”-tel (a céllal, a jelentéssel) kapcsolatos kérdéseket is felvetnek. A következőkben pár ilyen aspektust szeretnénk röviden felvetni gondolatébresztés céljából.

A szabadpiac ideológiájának kihívása és az “ismerd meg önmagad” technológiai outsourcingja

Harari egy fontos tézise szerint az elmúlt évszázadok alapvető filozófiai irányzatai egy olyan hitrendszerre épültek, amely az emberek érzelmeken alapuló preferenciáin, a szabad választáson és a belülről fakadó autoritáson alapult. E hitrendszer szerint mindenki saját maga érzi (és tudja), hogy mi is jó neki, ennek megfelelően szabadon cselekszik, és senki másnak nem állhat hatalmában megmondani, hogy mit is érezzen. E hiten alapul a gazdaságban a piacon történő szabad döntések eredőjeként kialakult „ár” szentsége – a piac is egy szavazógép, ahol egyéni preferenciák eredője jelenik meg. Fontos kiemelni, hogy itt nem a megvalósult gazdasági rendszerekről beszélünk, hanem a mögöttes végső ideáról, ami miatt a társadalom a piaci ítéleteket elfogadottnak tartja. A valóságban már számtalanszor bebizonyosodott, hogy a piac értékítélete adott helyzetben hibás, szerkezete torzzá válhat, az ebből fakadó döntések sok esetben tévesek és igazságtalan helyzetekhez vezethetnek.

Összességében azonban az „emberek tudják, hogy mi a legjobb nekik” hit nem kérdőjeleződött meg. Így a „piac”, mint az emberi döntések összességéből előálló, megszemélyesített neutrális autoritás értékítélete hasonlatosnak tekinthető a természeti törvényekből előálló, alternatíva nélküli igazsághoz. Figyeljük meg, hányszor használja a sajtó megszemélyesítve a piacot: a piac így gondolja, ennek nem örül a piac stb.

A big data, alkalmazott AI (mesterséges intelligencia) alapú döntéstámogató rendszerek azonban egyre inkább képessé válnak „megismerni” az adott embert. Ezek az emberi viselkedésben meglévő ismétlődő minták folyamatos megfigyelésével – és az emberi gondolkodást szükségszerűen torzító narratívák nélkül – pontosabb képet festhetnek egy emberről. Emiatt előfordulhat, hogy az új technológiák jobban tudják majd, mi is kell egy embernek, mint saját maga. Képzeljük el, hogy ha bioszenzorok figyelik folyamatosan a testünkben lezajló folyamatokat és az egyes eseményekre adott reakciókat (például szerotonin, dopamin vagy egyéb hormonok szintje), monitorozzák összes tevékenységünket, kapcsolatunkat, mindezt prekoncepciók és önáltatás nélkül. Az „ismerd meg önmagad” kiszervezése a fenti hitrendszer legfőbb pillérjét veszélyezteti, mert megbukhat az „én tudom a legjobban, nekem mi is a jó” elv. Mindez teljesen új viselkedési mintákhoz és a piac szerepének átértékelődéséhez vezethet.

Az egyéni identitás és az automatizált munkahelyek kérdése

Számos kutatás foglalkozik a munkaerőpiacon várható trendekkel, vagyis az automatizálás foglalkoztatatásra vonatkozó hatásaival. Azt viszont kevesen kutatják, hogy az automatizált munkahelyek az emberek identitására, önképére hogyan hatnak, pedig ez kulcsfontosságú lesz a társadalmi alkalmazkodásban.

A fentebb kifejtett piaci értékítéletbe vetett hit az egyes emberek szintjén is megjelenik. Az identitás nagyon lényeges eleme a munkaerőpiacon – mint „munkavállalói termék” – a betöltött pozíció, amely egy általánosan elfogadott értékkel és a létezés értelmének érzésével ruházza fel az adott embert. A munkahelyek eltűnése önmagában egy piacon túli és kívüli elosztási döntéssel kezelhető lenne a gazdaságpolitika szintjén. Az automatizációval a gazdaság kibocsátása és hatékonysága növekszik, így a jelenlegi, főként a munka alapján történő fogyasztás-allokálási mechanizmust kellene „csak” kiváltani. Ugyanakkor az emberek életét értelemmel és céllal feltölteni munka hiányában akár sokkal nagyobb kihívást jelenthet.

Ha kiszervezett algoritmusok döntenek, akkor szükségszerűen felmerül a cél kérdése

Az emberek narratívák mentén helyezik el magukat a világban, amiben implicit módon megjelenik a cél kérdése. A gazdaság szintjén a fogyasztói társadalom keretein belül például ilyen a folyamatos növekedés célja. Megjegyzendő, hogy a fejlődés ily módon történő megragadása célként magasztosnak közel sem nevezhető.

Ha azonban algoritmusok (például AI alapú) segítségével képzeljük el az erőforrások allokációját, akkor explicit módon kell beszélnünk a célokról az algoritmusok finomhangolása során. Ennek oka, hogy a rendszer csak így lesz képes a lehető leghatékonyabban elosztási döntéseket hozni a cél elérése érdekében. Ahogy korábban írtam, jelenleg ezt „a piac láthatatlan és igazságosnak tartott keze” végzi, azonban, ha a fentiek miatt tudatosul a piaci mechanizmus sokszor esetleges és nem univerzális jellege, úgy válaszolni kell bizonyos kérdésekre: mi a hosszú távú célja a gazdaságnak? Az értelmes élet gazdasági kereteinek biztosítása? A fenntartható növekedés?  Ezek nehéz és összetett kérdések, valószínűleg egyértelmű válaszok nélkül. Véleményem szerint a lényeg maguknak a kérdéseknek homloktérbe kerülése.

A technológia fejlődésével az emberi társadalmak évezredes kérdései (politikai, filozófiai, etikai) nem szűnnek meg, sőt!

Számos példát lehetne felmutatni e mondat igazolására, az önvezető autózás jól ismert etikai dilemmájától kezdve egészen a génsebészettel kapcsolatos kérdésekig, de most a blokklánc rendszerekben meglévő, inherens filozófiai-politológiai aspektust vetem fel. A blokklánc nagyon röviden nem más, mint egy decentralizált nyilvántartás, ahol az adatbázis érvényességének verifikálását és az egyes ügyletek regisztrálását (létrejött-e, szabályos-e stb.), és az egész nyilvántartás szabályrendszerének kialakítását és kezelését („the code is law”) a rendszer szereplői tulajdonképpen konszenzus alapján végzik.

E „konszenzus-gép” működése azonban nagyon is hagyományos kérdéseket vet fel. A blokklánc technológia korlátait már Platón és Szókratész is kvázi azonos formában azonosította: ki döntsön, milyen súllyal vehet részt a döntésben, milyen ellensúlyok vannak, kizárható-e valaki a döntésből, vannak-e a döntésre alkalmasabbak és kevésbé alkalmasak? Míg a blokklánc terminológiában ez a PoW és PoS[1] szinten jelentkezik, addig a politikatudományban ugyanez a demokrácia, monarchia, autokrácia stb. vonatkozásában merül fel. Míg egy birodalmat a különféle érdekellentétek (gazdasági, vallási, etnikai vagy egyéb ideológiai) szakíthat szét, egy blokklánc egy új számolási protokollon történő vita miatt válhat szét („forkolhat”). Sokak szemében a kriptodevizák a beégetett kód megváltoztathatatlansága miatt tűntek vonzónak, aztán egyre több szereplő számára vált nyilvánvalóvá, hogy a kód is megváltozhat, ha a rendszer résztvevői úgy döntenek!

Ezzel végül visszajutunk a tradicionális kérdésekhez. Ha a szereplők eltérő érdekei ellentétes döntéseket kívánnak, a nagyobb szereplők nagyobb beleszólást kaphatnak (PoS) és sérülhet az igazságosság. Egy tisztán algoritmizált monetáris rendszer – előre beégetett kódokkal – így nem működhet, mert még egy fejletteb, AI alapú döntéshozatal sem tudná levetkőzni a politikai meghatározottságot. Mivel minden döntés társadalmi csoportokat, gazdasági szektorokat érint, eltérő mértékben és akár ezek közti redisztribúciót okozva, így az igazságosság kérdése a mesterséges intelligencia/blokklánc mellett sem egyszerűbben megoldható kérdés.

Írásom zárógondolata ezért a következő: nem csak programozókra, hanem filozófusokra és a filozófiában jártas közgazdászokra is szükség van ahhoz, hogy a technológiai fejlődés káprázatában ne vesszünk el, és idejekorán észrevegyük, ha egy ősi probléma új köntösben jelenik meg előttünk.

Tapaszti Attila

[1] Proof of work (PoW), Proof of stake (PoS): a blokklánc technológiában ismert különféle algoritmizált protokollok, amelyek az adott konszenzus alapú döntési mechanizmust igyekeznek biztonságossá, kiszámíthatóvá és nehezen manipulálhatóvá tenni, ezzel biztosítva a nyilvántartásokban foglalt tranzakciók hitelességét.

Főoldali kép forrása: pixabay.com