részlet

corvina

A fordítás az alábbi kiadás alapján készült:

David Runciman: The Handover. How We Gave Control of Our Lives to Corporations, States and AIs

Profile Books, London, 2023

© David Runciman, 2023

Hungarian translation © Papolczy Péter, 2024

Kiadja 2024-ben a Corvina Kiadó Kft., az 1795-ben alapított Magyar Könyvkiadók és Könyvterjesztők Egyesülésének tagja.

ISBN 978 963 13 7014 0

Elektronikus változat:

eKönyv Magyarország Kft.

www.ekonyv.hu

Készítette Ambrose Montanus

Feleségemnek, Helennek

Tartalom

Bevezetés: Államok, vállalatok, robotok

1. Szupercselekvők

2. Csoportgondol

3. Élet-halál kérdése

4. Törzsek, egyházak, birodalmak

5. A nagy átalakulás

6. Nem te építetted fel

7. Az államon túl

8. Ki dolgozik kinek?

Zárszó: A második szingularitás

Köszönetnyilvánítás

Jegyzetek

Illusztrációk listája

Névmutató

Bevezetés ÁLLAMOK, VÁLLALATOK, ROBOTOK

Képzeljünk el egy világot, ahol a mi képmásunkra alkotott emberfeletti gépek a mi életünk jobbításán munkálkodnak. Képzeljük el, hogy ezekről a gépekről kiderül, lepipálnak minket. Nem pusztán arról van szó, hogy nem tudjuk utánuk csinálni, amit csinálnak; nem is értjük igazán, hogyan csinálják. Egy idő után mégis rájuk hagyatkozunk. A mi érdekünket szolgálják, kényelmet, hatékonyságot, rugalmasságot, biztonságot és rengeteg szabadidőt kínálnak. Képzeljük el, hogy ez az egész jól működik. Találmányainknak köszönhetően tovább élünk, gazdagabbak, tanultabbak, egészségesebbek és talán boldogabbak leszünk (bár ez utóbbi vita tárgya marad). Élvezzük az életet, amelyre a csupán néhány emberöltővel korábban élt felmenőink rá sem ismernének. Az emberi lét átalakul.

Ugyanakkor tudjuk – ugye? –, hogy hatalmas kockázatot vállalunk, ha ennyire függünk saját magunk mesterséges változataitól. Emberfelettiek, de lényegüket tekintve nem is emberiek. Hiányzik belőlük a lényeg, amitől mi azok vagyunk, akik. Nevezzük lelkiismeretnek. Nevezzük szívnek. Nevezzük léleknek. Rémisztő, micsoda hatalmat adhatnak ezek a gépek lelkiismeretlen, szívtelen, lelketlen emberek kezébe, akikből még mindig sok él a földön. De még rémisztőbb annak a lehetősége, hogy ezek a gépek önálló döntéseket kezdenek hozni. A szolgálatunkra jöttek létre, de akár a pusztulásunkat is okozhatják. Mi lesz, ha az erejüket az alkotóik ellen fordítják? Lehet, hogy végül saját alkonyunk előidézőit építettük meg.

Ez egy ízig-vérig huszonegyedik századi történet, és talán a huszonegyedik századot legjobban jellemző rémálom. Az MI-forradalom küszöbén létrehozott gépek képességei felvillanyoznak, ámulatba ejtenek, megrettentenek minket.

2021-ben az OpenAI, egy amerikai mesterségesintelligencia-kutató laboratórium útjára bocsátotta a DALL-E-t, egy neurálisháló-alapú rendszert, amely tanulópéldák bemutatása nélkül képes rendkívüli képeket generálni szövegalapú utasításokat követve. Ha az ember azt kéri tőle, alkosson képet egy avokádóra emlékeztető székről, akkor teljesíti a feladatot, és avokádószékek vagy székavokádók bámulatosan széles palettáját hozza létre, melyek éppoly jártasságra vallanak, mintha emberi kéz kreálta volna őket, és bizarr módon nagyobb leleményességről árulkodnak (1. ábra).

1. ábra. Már most avítt avokádószékek

A DALL-E a generatív előképzett transzformátor (GPT) modellre épül, amelynek GPT-3 verziója – beleértve zászlóshajó „társalgási” változatát, a ChatGPT-t – mélytanulási algoritmusokkal generál megtévesztően emberi szövegeket számos hangnemben: vicces, informatív, romantikus, cserfes vagy csak simán unalmas. A fejlődés sebessége megdöbbentő. 2023 márciusában az OpenAI elindította a GPT-4-et, amely állítólag 40 százalékkal felülmúlja az elődjét, és többek között képes megállapítani, mi lesz vacsorára, ha megmutatjuk neki a hűtőnk tartalmáról készült fényképet. A mesterséges intelligenciák tudnak rajzolni. Írni. Átmennek vizsgákon (a GPT-4 a felső tíz százalékban végez a jogi egyetem ügyvédi vizsgáján). Tudnak autót vezetni, és rákot diagnosztizálni. Táncolni. Kezdik magukat programozni is, ami megteremti annak a lehetőségét, hogy a gépek nulláról indulva megtanítják maguknak, miként lehetnek okosabbak. Idővel, és talán hamarabb, mint gondolnánk, nálunk is okosabbak lesznek.1

Az MI-forradalomnak hatalmas előnyei lehetnek. Elég könnyen átlátható, miként vethetők be ezek a rendszerek az emberi jólét óriási javulása érdekében, megszabadíthatnak minket a lélekölő munkától, megkímélhetnek a betegségektől, biztonságosan szállíthatnak minket, és végtelen sok ingerrel láthatnak el bennünket. A gondolkodó gépek új generációjának leglelkesebb szurkolói olyanokat ígérnek, amik még a közelmúltban is képtelenségnek tűntek: több száz évvel meghosszabbodott várható életkor, telepatikus kommunikáció, a kreativitás és a tudományos felfedezések exponenciális robbanása. Valószínűtlennek hangzik, de a fejlődés jelenlegi ütemének fényében ki merné állítani, hogy tévednek?

Ugyanakkor a leselkedő hátrányokat sem nehéz elképzelni, köztük a katasztrófa nagyon is valós veszélyét. Még ha ki is fundáljuk, mihez kezdjünk a szabadidőnkkel, hogyan osszuk el az új erőforrásokat igazságosan, és hogy csakugyan tudni szeretnénk-e, mit gondol mindenki más, még mindig van esélye, hogy az általunk épített intelligens rendszerek felett elveszítjük az uralmat. Elvileg azért készülnek, hogy nekünk dolgozzanak, de már most sem alaptalan a gyanú, hogy végül mi fogunk dolgozni nekik. Ha sokkal okosabbak lesznek nálunk, hajlandóak lesznek még a mi érdekünkben eljárni? Törődnek majd velünk egyáltalán? Elvégre csak gépek. Nincs lelkiismeretük, szívük, lelkük, és feltehetően soha nem is lesz. Azért építettük őket, hogy új távlatokat nyissanak a számunkra, de ha nem tudjuk őket leláncolni emberközpontú látásmódunkhoz, akkor talán elérkeztünk a mi történetünk végéhez.

Ebben a könyvben megkísérlem körüljárni ezeket a lehetséges jövőképeket, jókat és rosszakat egyaránt. Ehhez azonban a múltra vetem tekintetemet. Mert bár jelenlegi helyzetünk újnak tűnik – Önvezető autók! Gépi gyártású szerelmes versek! Jönnek a szexrobotok! –, nem először éljük át ezt a történetet. Immár évszázadok óta építjük saját magunk mesterséges változatait, amelyek emberfeletti tulajdonságaik segítségével arra hivatottak, hogy megmentsenek minket nagyon is emberi korlátjainktól. A saját kényelmünk érdekében építettük őket, hogy biztonságosabb, egészségesebb, boldogabb életet tegyenek lehetővé. És sikerült. De az eszközök nagy ereje miatt nem vehetjük biztosra, hogy meg tudjuk tartani fölöttük az uralmat. Ugyanazok a tulajdonságok, amelyeknek köszönhetően sok jót tudnak tenni, hatalmas pusztító potenciállal is felruházzák őket. Hatalmukban áll mindannyiunkat megölni. Még nem került rá sor, de tudva, hogy mire képesek, miért ne kerülhetne? Arra terveztük őket, hogy felszabadítsanak minket. Lehet, hogy saját nemezisünket alkottuk meg.

E fura teremtményeket úgy hívják, hogy államok és vállalatok. Ilyen az Egyesült Királyság. Vagy a British Petrol. No meg India, Kína és az Egyesült Államok. És a Tata, a Baidu és az Amazon. A mai világ tele van velük. Sőt, a modern világot ők hozták létre, de előbb nekünk kellett megalkotnunk őket. A tizenhetedik századtól kezdve a modern államok és vállalatok fokozatosan, aztán sokkal gyorsabban, átvették az irányítást a bolygó fölött. Rendkívüli, emberfeletti hatalommal bírnak, amit az emberi élet körülményeinek megváltoztatására használtak. A világ sok szegletében segítettek legyőzni a szegénységet, megszüntetni a betegségeket, békét teremtettek, és csupán néhány nemzedékkel korábban elképzelhetetlen gazdagságot hoztak. De láttuk az átkot is, ami a fejünkre száll, ha nem jól működnek, a világ háborúitól kezdve a gyarmatosítók kizsákmányolásán át a környezetrombolásig. Ha a világnak vége – mert felrobbantjuk, vagy lakhatatlanná tesszük a természeti erőforrások telhetetlen dézsmálása által –, valójában nem mi idézzük elő. Hanem az államok és a vállalatok.

De az államok és a vállalatok nem csupán az emberek kiterjesztései? Mi értelme van gépekhez, hálózatokhoz és algoritmusokhoz hasonlítani őket, ha egyszer az államok és a vállalatok emberekből állnak? Ez a könyv megkísérli bemutatni, hogy igenis van értelme. Sőt, mi több: nem kerülhető meg ez az összehasonlítás. A robotok egy államok és vállalatok uralta világba érkeznek. Ezek a szervek és intézmények sokkal több közös vonást mutatnak a robotokkal, mint hinnénk. Ha ez nem világos, nem fogjuk megérteni, hogyan keveredtünk ide, mi történhet ezután, és mi a teendő. Az államok, vállalatok és gondolkodó gépek közötti kapcsolat fogja meghatározni a jövőnket. Ha azt szeretnénk, hogy ez a jövő továbbra is kielégítse az igényeinket, akkor nemcsak azon kell alaposan elgondolkoznunk, hogyan viszonyuljunk a gépekhez, hanem azon is, hogy ezek a gépek hogyan viszonyulnak egymáshoz.

Az államok és a vállalatok persze nem tisztán gépiesek. Az emberi összetevőjük miatt sokszor értetlenkedést kelt a felvetés, hogy egyáltalán gépek-e. A könyv első három fejezetében felderítem, miben hasonlítanak a mesterséges intelligenciákhoz és más mesterséges cselekvőkhöz, és miben térnek el tőlük. Végeredményben a cselekvőképességük – hogy tudnak a világban cselekedni – határozza meg őket. Kezdem a híres tizenhetedik századi képpel, melyben az állam egy automata: egy hatalmas, mesterséges ember. Mennyire érthetjük ezt szó szerint? Tudnak az államok önállóan gondolkozni, cselekedni, dönteni? Ha igen, mit mond ez el az őket összetevő emberi lényekről? Ha nem, mi mással magyarázható rendkívüli, emberfeletti hatalmuk?

A gondolkodó és a cselekvő gép nem ugyanaz. Egyes gépek képesek csak az egyikre vagy csak a másikra: egy fűtést bekapcsoló termosztát nem tudja, mit tesz és miért. Ugyanez igaz emberi lények csoportjaira is: egyes csoportok gondolkodás nélkül hajtanak végre dolgokat, másokat valami cél vezérel. Furcsa és megfoghatatlan az elképzelés, hogy emberek egy csoportjának lehetnek gondolatai, melyek függetlenek az egyes tagok gondolataitól és szándékaitól. A csoportok birtokában lehetnek olyan tudásnak – „a tömeg bölcsessége” –, amelynek az egyének híján vannak. De következik ebből, hogy ezek a csoportok saját elmével rendelkeznek? Az ember okkal tartózkodik ettől a következtetéstől. Mintha ezzel az egyéneket valami kísérteties magasabb hatalomnak vetnénk alá: te gondolhatod így, de a csoport, amelyhez tartozol, másképp gondolja, úgyhogy csend legyen. Ezt a fajta érvelést rendszeresen használják olyanok, akik el kívánják fojtani az egyed önkifejezését.

Ugyanakkor továbbra is nehezen magyarázható, hogyan működnek a modern államok és vállalatok, és főleg, hogyan lettek ennyire mindenhatóak, ha nem ruházzuk fel őket emberfeletti tulajdonságokkal, melyek nem vezethetők vissza a tagok gondolataira és cselekedeteire. Elme lenne? Vagy akarat? Vagy csak egy vasököl? Bármennyire is hasonlítanak ránk az államok és a vállalatok, többről van itt szó, mint rólunk, emberekről. Minél jobban hasonlítanak ránk, annál jobban nyitva kell tartanunk a szemünket, hogy meglássuk a különbségeket. Máskülönben azt kockáztatjuk, hogy büntetlenül hozhatnak a nevünkben döntéseket.

Ha mindez furcsának hat, az csak egy újabb ok, hogy megvizsgáljuk a párhuzamokat a gondolkozó gépekkel. Az MI-vel kapcsolatos aggodalmak egyike, hogy a helyettünk döntő algoritmusok eltiporhatják az egyéniségünket. Még ha a gépek nem is akarnak elhallgattatni minket, azok, akik irányítják őket, megtehetik: Talán ez a véleményed, de a számítógép szerint nem így van, úgyhogy csend legyen. Ha tanulmányozzuk, hogy a múltban hogyan igyekeztünk megőrizni az emberi egyént az államhatalom és a vállalati identitás árnyékában, az MI-re vonatkoztatható tanulságokat is leszűrhetünk. A gondolkodó gépek jövőjének látszólag legnagyobb rejtélye – hol van benne a mi helyünk? – a modern politikai és gazdasági életnek is régóta központi kérdése.

A modern államok és vállalatok történelméből merítve járom körül ezeket a kérdéseket. Az államok és vállalatok vizsgálata mesterséges cselekvőkként nemcsak az MI-vel való párhuzamok miatt fontos, hanem a kialakulásuk sorrendisége miatt is. A modern államok és vállalatok jöttek előbb. A mesterséges intelligencia története igazán csak a huszadik században indul, a modern számítástechnika eljövetelével. A modern államok története a tizenhetedik században kezdődik, a modern vállalatoké a tizennyolcadikban és a tizenkilencedikben. Az államok és a vállalatok az MI előképei. De egyben a nemzői is. Az államok és a vállalatok hatalma tette lehetővé későbbi nemzedékeknek, hogy megépítsék a gondolkodó gépeket. Megalkottuk az államokat és a vállalatokat. És az államok és a nagyvállalatok létrehozták a világot, amelyben ma élünk.

Fontos még messzebbre visszatekinteni a múltba. A modern államok és vállalatok nem az elsők az emberi lelemény által létrehozott, nagy hatalommal bíró, emberfeletti cselekvők sorában. A katolikus egyház, ami egy társas vállalkozás, két évezred óta talpon van, és még mindig rendkívüli hatalommal és befolyással bír. A Római Köztársaság, majd a rövidebb életű Római Birodalom együtt nagyobb kort élt meg, mint bármely ma létező állam eddig. A rómaiak is óriási hatalommal bírtak, és az ismert világ nagy részére rá tudták erőltetni az akaratukat. Sok modern állam vetette szemét ősi elődjeire, ihletet és útmutatást keresve. A modern amerikai köztársaság az ókori Római Köztársaság méltóságát és tartósságát kívánta újra megteremteni. Vagyis az ókori Róma is robot volt? Nem. A könyvben amellett érvelek, hogy a modern államok és vállalatok jobban hasonlítanak az okos gépekre, mint az újkor előtti elődjeikre. Persze valami módon kapcsolódnak a korábbi államokhoz és vállalatokhoz, ahogy a huszonegyedik századi mélytanulási algoritmusok is kötődnek valami módon a korábbi, huszadik századi nagyszámítógépekhez. De a különbségek fontosabbak.

A legfontosabb különbség, hogy a modern államok és vállalatok másolhatók. Terjedésük és sokasodásuk a technikai reprodukcióra emlékeztet. Nincs két teljesen egyforma állam vagy vállalat. Van, amelyik virágzik, van, amelyik hervad, és végül mindre a halál vár: még mindig nagy a kísértés az élővilág képeit használni tündöklésükre vagy bukásukra. Ugyanakkor, mintha létezne egy modern tervrajz, amit szélsőségesen eltérő körülmények között is sikeresen lehet alkalmazni: Dániában és Dél-Koreában lennie kell valami közösnek, ha mindkettő ennyire jómódú, miközben nagyon kevés tulajdonságuk egyezik meg. Az újkor előtti politikai és gazdasági életet lefojtotta, hogy nagyon nehéz volt a kollektív létezés modelljeit átültetni egyik helyről a másikra. A modern világban egyszerű – csábítóan az, ami miatt sokan hitték, hogy könnyebb, mint amilyennek látszik. Ezzel együtt, a modern államok és vállalatok dominanciája nem érthető, ha nem vagyunk készek elismerni robotszerű tulajdonságaikat: hogy ezek a szervezetek mindenféle emberekkel és mindenféle helyszíneken képesek működni.2

A modern állam- és vállalati formák gyors terjedése segített átalakítani az emberi létezés feltételeit. Az évezredeken át viszonylag stagnáló gazdasági növekedés robbanásszerű növekedést mutatott az elmúlt két évszázadban. A várható élettartam több mint a duplájára nőtt. Hatalmas városok keletkeztek még a legzordabb környezetekben is. Az elit egykori kiváltságai – oktatás, szabadidő, szórakozás – széles körben elérhetővé váltak. Számos különböző névvel és magyarázattal álltunk elő erre a nagy átalakulásra: tudományos forradalom; ipari forradalom; kapitalizmus; globalizáció; az antropocén; szerencse. Az előnyökben sem tudunk megegyezni: a széles körben nem ugyanaz, mint az igazságosan; a gazdasági növekedés nem egyenlő a boldogsággal; a robbanás aligha fenntartható. Ugyanakkor tagadhatatlanul történt valami. És a modern államok és vállalatok segítették elő.

Ezt nevezem én az „első szingularitásnak”. Huszonegyedik századi jövőkutatók az MI által előidézett, közelgő átalakulást szívesen nevezik „a” szingularitásnak (sorszám nélkül). Talán eljön az idő, talán nincs is messze, amikor a géptechnológia fejlődése az élet alapjait rengeti meg, és megváltoztatja, kik vagyunk. Az emberi élmény egészen más regiszterben folytatódik, mert képességeink korlátjai leomlanak. De ha ez csakugyan bekövetkezik, nem ez lesz az első alkalom. A szingularitás nem szinguláris. Az emberszerű gépek egy korábbi nemzedéke egy ezzel összevethető átalakulást eredményezett, aminek egészen mostanáig nem volt párja. A korábban megépített gépek – államok és vállalatok – olyan mértékben alakítottak át minket, hogy most azokat a gépeket gyártjuk, amelyek talán ismét átalakítanak bennünket, ha a korábban megépített gépeink nem okozzák előbb a vesztünket.3

A második szingularitásra egy olyan világban kerülhet sor, amit még mindig dominálnak az előző átalakulás cselekvői. A könyv utolsó három fejezete azt tárgyalja, mivel jár, hogy a gondolkodó gépek együtt fognak létezni az előző kor alaposan bejáratott kollektív döntéshozó gépeivel. Mivel emberek vagyunk, érthetően leginkább az foglalkoztat bennünket, milyen hatással lesz a mesterséges intelligencia a miénkre: az emberi intelligenciára. De van egy ugyanilyen égető kérdés: mi történik, ha az MI kölcsönhatásba kerül a többi mesterséges cselekvővel, a nem emberiekkel, az államokkal és a vállalatokkal? Ezek kapcsolatai fogják meghatározni a sorsunkat.

Nemcsak az államok, vállalatok és robotok közötti kölcsönhatáson múlik sok minden, hanem az államok és a vállalatok versengésén is, hogy rátegyék a kezüket a robotokra. A huszonegyedik században jó eséllyel egyre ádázabb csatáknak leszünk tanúi, ahogy az államhatalom és a vállalati hatalom megküzd az MI-forradalom gyümölcseiért. Már most látszanak a kibontakozó különböző modellek. A kínai állam és a kínai vállalatok másképpen viselkednek, mint amerikai megfelelőik; az Egyesült Államok más úton jár, mint az Európai Unió; és megint más az indiai út. Ezeknek a modelleknek a közös vonása, hogy az állam és a vállalatok hatalmával próbálják alakítani a jövőt. Kérdés, hogy az új hatalmasság, az MI ezt megengedi-e nekik, vagy akadályt gördít az útjukba.

Felmerül azonban még egy további kérdés. Mi történik, ha az államok, a vállalatok és a robotok nem a verseny új formáit fogják űzni, hanem inkább az együttműködés módjait találják meg, és az embereket kizárják a döntési folyamatból? Elvégre, ha igazam van, akkor az államok, a vállalatok és az MI-k jobban hasonlítanak egymásra, mint ránk. Embertelenek. Mi nem. Az államok és a vállalatok eddig még nem tudtak teljes mértékben elszakadni emberi gyökereiktől és összetételüktől. De a gondolkodó gépek eljövetele ezen változtathat. Mi történik, ha kialakul egy szövetség az államhatalom és a számítógépek hatalma között, aminek a módjára nem tudunk hatni? Talán már el is indult a folyamat. Akkor ki siet a megmentésünkre?

Az államok, a vállalatok és a mesterségesen intelligens gépek világa végül nehéz döntések elé fog állítani minket. Nem csupán annyiról lesz szó, hogy az emberit helyezzük a mesterséges elé. A mi emberségünket már réges-régen alakítják saját magunk mesterséges változatai, évszázadok óta rájuk hagyatkozunk. Inkább arról kell majd döntenünk, miféle mesterségességgel tudunk együtt élni. Valahova le kell tennünk a garast.

Emberi lények gépszerű változatai által épített emberszerű gépek világában fogunk élni. Hiba lenne pusztán az emberire összpontosítani, mivel az emberi önmagában viszonylag tehetetlen lesz, hogy hasson erre a jövőre. Nem a mi vagy ők kérdése ez. Hanem azé, hogy közülük melyikük mellett van a legnagyobb esélyünk megmaradni annak, akik vagyunk.

1 SZUPERCSELEKVŐK

Hídépítés

Hogy készítsünk gépet emberi lényekből? Egyszerűbb – és nehezebb –, mint hinnénk.

Aki járt már vezetőképző tanfolyamon, valószínűleg részt vett annak a gyakorlatnak valamelyik változatában, amelyben a csoportnak egy cápákkal teli vagy mérgező folyón kell átkelnie. Persze nincs se folyó, se cápa, se méreg. Általában csak egy szellőzetlen tárgyaló van, egy szürke szőnyeg és pár papírdarab. Mindegy, a lényeg, hogy elképzeljünk valami csapatmunkát és koordinációt igénylő életveszélyt. A szőnyeg a folyó, amihez nem szabad hozzáérni, a papírdarabok pedig a szigetek, és az a feladat, hogy a csapat az erőforrásait egyesítve mindenkit biztonságban átjuttasson az egyik partról a másikra. A lényeg, hogy senki sem tudja egyedül megcsinálni. A csapat vagy elbukik, vagy közösen jár sikerrel (2. ábra).

2. ábra. Vállalati hídépítés

A trénerek kedvelik ezt a gyakorlatot, mert ilyenkor válnak el a vezető személyiségek a potyázóktól – kiderül, ki áll az élre, ki húzódik vissza, ki veszi ki a részét. Ez persze fontos a vállalati élet számos különböző területén, bár nem balgaság kételkedni abban, hogy az ilyen egyértelműen kreált körülmények valóban sokat elárulnak az emberek valós teljesítményéről. Levonható ugyanakkor egy másik tanulság ebből a gyakorlatból. Rávilágít két különböző modellre, amit ki lehet hozni emberek egy csoportjából.

Egyrészt csak úgy lehet átkelni a folyón, ha valamilyen híd létesül az emberekből. A résztvevők saját fizikai korlátaik miatt egymaguk nem képesek megtenni a szükséges távolságot ahhoz, hogy biztonságba jussanak – három lépés az pont kettővel több, mint ami menne egyedül. Csak egymás segítségével – pici közbülső állomások építésével (a játékosok néha speciális kavicsokat kapnak erre a célra) és egymás átadogatásával – lehet teljesíteni a feladatot. A csoportnak egy emelőgépezetté kell válnia, amelynek együttes ereje elegendő arra, amire egyedül egyetlen ember sem képes.

Ugyanakkor ahhoz, hogy a csoport ilyen eszközzé tudjon válni, kollektíven kell szemlélnie a problémát. Vagyis döntéshozó entitássá kell válnia, amely alkalmas arra, hogy rátaláljon a cselekvés legjobb módjára: hogyan oldjuk meg a feladatot? Ez többféleképpen is kialakulhat. Talán valaki előlép a csoport vezetőjeként, és ráerőlteti az akaratát a többiekre (alighanem ebben reménykednek a leendő vezérigazgatókat kiszimatolni vágyó trénerek). A csoport talán vitát nyit, átbeszéli a problémát, ötletekkel dobálózik, és ha kell, szavaz a követendő stratégiáról; bár, ha mindez túl sokáig tart, akkor lejár az idejük, és mindannyiukat lepontozzák döntésképtelenség miatt. De bárhogy is történjék, a csoportnak döntésre kell jutnia. Nem csak testben kell egyesülnie, közös gondolkodásmódot is ki kell alakítania, ha csak a feladat időtartamára is.

Kollektív test, kollektív elme: a két modell. Ebben a konkrét esetben a csoportlét mindkét aspektusára szükség van, hiszen a csapatnak abban kell megállapodnia, hogy miként használja ki a csapat erejét. A kollektív elme hozza létre a kollektív testet; a kollektív test tükrözi a kollektív elmét. De számos olyan körülmény létezik, amikor a kettő nem jár kéz a kézben. A legbanálisabb módon is lehet hidat építeni emberekből: egyszerűen összekötözzük a testüket, és építőelemekként kezeljük őket, mindegy, hogy ők maguk mit gondolnak a sorsukról. Az ókori egyiptomi piramisok építésénél alkalmazott, majd félredobott rabszolgákat a kollektív erejük miatt kötötték – szó szerint – egymáshoz, de a kollektív döntéshozatal kiváltságát megtagadták tőlük. A 2022-es katari labdarúgó-világbajnokság stadionjainak felépítésén dolgozó rengeteg vendégmunkás talán nem volt rabszolga, legalábbis nem a szó eredeti értelmében, de alulfizetett, szakszervezet nélküli munkások voltak, akiknek a biztonságos munkafeltételeire kevés figyelmet fordítottak, vagy egyáltalán nem is törődtek velük, és státuszuk jobban hasonlított a felhasznált építőanyagokéra, mint egy közös vállalkozásban részt vevő emberekére. A nemzetközi média figyelme ellenére senki sem tudja, hogy hány száz vagy akár hány ezer ilyen munkás halt meg az építkezések közben.1

Ezzel szemben egy építészcsapat – talán mint a katari stadionok tervezői – részt vehet a kollektív döntéshozatalban a saját testük kockáztatása nélkül is. A piszkos munkát másokra hagyják. Az emberek számtalan módon tudnak elérni valami közös célt úgy, hogy közben ne kelljen összekoszolni a kezüket. Döntéshozataluk mozoghat pusztán intellektuális síkon, mint amikor matematikusok csoportja egyéni meglátásaik megosztásával próbál megoldani egy különösen fogós problémát. Vagy, amikor több forog kockán, a csoport dönthet úgy, hogy másokkal fizetteti meg a kívánt eredmény árát. Számos nagyvállalat igazgatótanácsa úgy hajózik a modern üzleti élet cápáktól hemzsegő vizein, hogy tesz róla, hogy ha valakit vagy valamit a habok közé kell hajítani, ne rá essen a választás.

Mindig van lehetőség kombinálni a kollektív értelmet és a kollektív erőt. Néha – mint amikor a menedzsertanoncok egy csoportja megpróbál átkelni a folyón – az egyikhez szükség van a másikra: a híd csak úgy épülhet meg, ha egyetértés születik a megépítésének módjáról; és csak olyan egyetértés jöhet létre, amely hidat eredményez. De az is előfordulhat, hogy a csoport értelme vagy ereje egymástól függetlenül is hasznosítható. A csoportok tudnak gondolkodni és tudnak cselekedni. Sokszor akkor működnek a legjobban, ha a kettőt együtt teszik. De ebből nem következik, hogy a cselekvéshez gondolkodásra van szükség, vagy hogy a gondolkodás feltételezi a cselekvést.

Ebben a tekintetben a csoportok olyanok, mint az emberi lények egyéb mesterséges változatai, beleértve az általunk MI-ként és robotikaként ismert világ lakosait. Amikor elképzeljük a mesterséges intelligenciát, egy szuperokos, szupererős robot jelenik meg a szemünk előtt. Innen ered a félelem nagy része: olyasvalamit képzelünk el, ami okosabb nálunk, ugyanakkor gyorsabban is fut, tudja, mire készülünk, és robotkarjának egyetlen suhintásával képes leszámolni velünk. Ez a sci-fi pszichohorror egyik alapeleme, ilyen például az Ex Machina (2014) című film, amelyben az Ava nevű android először túljár a feltalálója, Nathan eszén, aki addig amolyan szexrabszolgává készült változtatni a teremtményét, majd le is győzi őt. A gép itt olyan módon sebezhető, ahogyan az ember nem – túl könnyen át lehet drótozni. De végül az ember hal meg, a gép pedig újra összerakja magát, és megszökik, hogy új életet kezdjen.

Mesterséges test, mesterséges elme: a kettőt sokszor összekapcsoljuk a képzeletünkben, de nem mindig. A legismertebb kitalált humanoid, a Victor Frankenstein által életre keltett „teremtmény” Mary Shelley 1818-as regényében eredetileg érzékeny és szupererős lény volt. A megalkotója által használt testrészekből és nem túl konkrétan megnevezett vegyi anyagokból összerakott, több mint két méter magas, nagy erővel és irtózatos külsővel rendelkező teremtmény kimondott rettegést vált ki az emberekből, akikkel találkozik. A könyvben azonban ezt a borzalmat ő maga meséli el együttérzéssel. Amikor először meglátja saját tükörképét egy tóban, ő is visszahőköl. A mesterséges élet küzdelmei itt mélyreható elidegenedésként vannak ábrázolva, vitába szállva azzal az elképzeléssel, hogy a robotszerű lények nem képesek az önálló gondolatra. A Frankenstein későbbi megfilmesítéseiben azonban ez az érzékenység általában hiányzik, és a helyét átveszi az emberi értelemtől elvált nyers erő által keltett rettenet (3. ábra). A borzalom forrása egy olyan szörnyeteg, amely szó szerint nincs tudatában saját erejének.

3. ábra. Frankenstein (1910)

Sokkal nehezebb eldönteni, történik-e valami odabent, és ha igen, micsoda, ha csak a külsőből indulhatunk ki. Ahogyan egy mesterséges test is létezhet mesterséges elme nélkül, úgy egy MI is lehet részben vagy egészében test nélküli. Egy algoritmusnak, amely az emberi intelligencia számos válfaját utánozza, és adatgyűjtési képességeiben egyre inkább felül is múlja az emberi teljesítményt, nem szükséges fizikai formát öltenie. Minden számítógépes rendszer valamilyen szinten függ a hardvertől, amire épül, de az algoritmus maga nem a hardver egy formája, hanem egy problémamegoldó folyamat. Az algoritmusokkal nem találkozunk a fizikai valóságban. Egyszerűen csak megtapasztaljuk az eredményeiket.

Néha a testtelen rendszert illetően átesünk a ló túloldalára. A „felhő” fogalma – egy adattárhely, ami lehetővé teszi, hogy az adatokat használni kívánó felhasználó azokat ne a saját eszközén tárolja – egy olyan ködszerű teret sugallhat, ahol az információ szabadon lebeg a fizikai korlátokkal dacolva. A valóságban azonban a felhőben tárolás csak annyit tesz, hogy a mi adataink valaki más gépén vannak elmentve. Valahol számítógépes hardverek hatalmas hálózatai zúgva ontják magukból a hőt, hogy az emberek biztonságos feltételek mellett hozzáférhessenek a számukra szükséges adatokhoz. A felhő a világ különböző pontjain elszórt adatközpontokban és szerverfarmokon létezik. Nem mindig könnyű kideríteni, hol vannak – a biztonsági védelem sokszor a földrajzi elhelyezkedésük eltitkolására is kiterjed –, de ha valaki rájuk bukkan, nem fogja őket testetlen entitásoknak nézni. Ugyanolyan kézzelfoghatóak, mint ez a szürke, szögletes, csaknem néma, langyos gép, amelyen e sorokat írom.2

A csoportos létezéstől a mesterséges intelligenciáig a mentális és a fizikai képesség számtalan módon elválhat egymástól, jóllehet ez a szétválasztás ritkán abszolút mértékű. Az általunk épített, emberhez hasonlatos dolgok esetében a gondolkodás és a cselekvés gyakran kettéválik. Az emberi egyedekben ezeket többnyire összekapcsolva látjuk. Az agyunk a testünkben létezik, vagyis a gondolkodás képességét a fizikai lényhez társítjuk, akinek szavakban és cselekedetekben nyilvánulnak meg a gondolatai. A két képesség párban jár. Ki vagyok én? Egyszerre vagyok az oxigént belélegző test és az információt befogadó elme; egyszerre vagyok az a fizikai entitás, aki kórházban köt ki, és az a szellemi entitás, aki ettől retteg; egyszerre vagyok a személy, aki felszáll a repülőre, és az, aki a jegyvásárlás mellett döntött. Nagyon nehéz szétszálazni ezeket a tulajdonságokat. Ha nincs érvényes jegyem, akkor a testemet fogják lependeríteni a repülőgépről.

De ismétlem, nem feltétlenül kell léteznie ennek a kapocsnak. Sok filozófus szerint illúzió azt képzelni, hogy az elme csak a neki otthont adó testhez tartozik. A pánpszichisták úgy vélik, hogy az elme mindenhol jelen van a világegyetemben, és becsapjuk önmagunkat, amikor az egyéni tudatokat az egyes testekhez rendeljük. Talán gyakorlatias szemlélet, mondják, de metafizikai értelemben tarthatatlan. Valamivel prózaibb szinten mindannyian beláthatjuk, hogy nem minden tudásunk lakozik a fejünkben. A kis, fekete, hasáb formájú eszköz, amit a zsebemben magammal hordok, a memóriám nagy részét tartalmazza – ha elveszítem, akár csak egy órára is, ezt az információt nem lehet egyszerűen kinyerni az agyamból; volt, nincs. Ez nem a digitális korszak sajátos jelensége. Samuel Butler író 1872-ben ugyanezt szűrte le Meslohes című disztópikus regényében: aki noteszbe jegyzi fel az emlékeit, az az agya egy részét kiszervezi. Attól, hogy a gondolataink már nem csak a tudatunkban tartózkodnak, nem szűnnek meg a mi gondolataink lenni, de mi hibrid lényekké válunk: részben emberek, részben gépek.3

A könyv azt a kapcsolatot járja körül, ami az emberek, az emberek által alkotott csoportok és az emberek által épített gépek között áll fenn. Valamint a viszonyt gondolkodás és cselekvés között. Minden esetben – ember, csoport, gép – a gondolat és a cselekvés összefonódhat, de szét is válhat. Néha ez filozófiai alapkérdés. Egyben politikai alapprobléma is.

A politika szempontjából talán az a legfontosabb kérdés, hogy miként gondolkodunk az államról. Az állam csoport vagy gép? Tud gondolkodni, vagy csak cselekszik? Az eszmetörténetben nincs egyetértés ezekben a kérdésekben. Egyes filozófusok szerint az államot alapvetően emberinek kell felfogni – az állam is az, ami mi vagyunk. Mások szemében inkább olyan, mint egy gép – az állam az, amit tesz. De van még egy lehetőség: az állam egy emberi lényekből álló gép. Más szóval, afféle robot. Ráadásul nem egyszerűen emberi lényre hasonlító robot, hanem emberi összetevőkből gyártott robot, mint Frankenstein szörnye. Csakhogy jelen esetben az emberi összetevők még élnek, és önként csatlakoznak.

Bármilyen furcsán hangzik is, talán ebből az elképzelésből született az angol irodalom második leghíresebb humanoid szörnye. Nem szépirodalmi, hanem politikai filozófiai műben bukkan fel: A Leviatánban.

Az állam mint robot

Thomas Hobbes angol filozófus, a Leviatán című bizarr és csodálatos könyvének legelején egy megdöbbentő tételt fogalmazott meg. Még meglepőbbé teszi, hogy a tizenhetedik század közepén írta, jóval az ipari forradalom előtt, a digitális forradalomról nem is beszélve. Hobbes szerint az államot amolyan robotnak kell tekinteni. Ő ezt ekképpen fogalmazza meg:

Az emberi művészet, mint sok egyébben, abban is utánozza a természetet (vagyis azt a művészetet, amellyel Isten a világot teremtette és kormányozza), hogy mesterséges állatokat képes készíteni. Ha ugyanis felismerjük, hogy az élet nem egyéb, mint végtagok mozgása, amelynek kiindulási helye valamilyen fontos belső szerv, akkor miért ne állíthatnánk, hogy minden automatának (olyan szerkezetnek, amely – mint például az óra – rugók és kerekek segítségével önmagától működik) mesterséges élete van? Hisz mi más a szív, mint rugó, s mi mások az idegek, mint megannyi huzal, s az ízületek, mint megannyi kerék, amelyek az egész testet az Alkotó kívánsága szerint mozgatják? De a művészet még többre képes – a természet ésszel felruházott, legnagyszerűbb alkotását, az embert is utánozni tudja. Mert a művészet teremtette meg a NÉPKÖZÖSSÉGNEK vagy ÁLLAMNAK (latinul: CIVITASNAK) nevezett nagy LEVIATÁNT, ez pedig nem egyéb, mint mesterséges ember, bár természetes mintaképénél – amelynek védelmére és oltalmazására szánták – jóval nagyobb méretű és erejű.1

Az állam tehát egy „mesterséges ember”. Ugyanúgy rakjuk össze, ahogy bármely más, mozgó alkatrészekből álló gépet. Úgy tervezzük meg, hogy hasonlítson az alkotóira. Ugyanakkor többre képes, mint mi. Sokkal nagyobb hatalma van, mint nekünk. Eleve ezért építettük meg.4

Hobbes nem nevezi az államot robotnak, hiszen ez a szó csak az 1920-as években terjedt el. Ő az automata kifejezést használja; ez olyan tárgyat jelent, amely inkább gépiesen, mint természetesen mozog: az automatákat általában úgy jellemezték, úgy különböztették meg másoktól, hogy „készült, és nem született”. A fogalom már az ókor óta létezett, és használható volt mindenre a felhúzható babáktól kezdve a mitikus, ember alkotta szörnyekig. De a konkrét gép, amelyet Hobbes a Leviatán elején említ, nem mímeli, hogy ember lenne. Egy óráról van szó, amit senki sem nézne robotnak. Hobbes ráadásul nem csupán az automatákat hasonlítja hozzánk, hanem minket is az automatákhoz. Mi más a szív, mint egy rugó? Mik az idegek, ha nem huzalok, és az ízületek, ha nem kerekek? Nem csupán arról van szó, hogy ezek a gépek úgy mozognak, mint mi. Mi mozgunk úgy, mint a gépek.5

Talán csakugyan robotok vagyunk. De az állam valójában nem az. A híres kép a Leviatán elején egy emberekből álló óriást ábrázol (4. ábra). De ez csak egy rajz – ilyen lény soha nem létezett.

4. ábra. A Leviatán címlapképe (1651)

Egy valódi robot, mint minden automata – például egy óra –, kézzelfogható. Láthatjuk, megérinthetjük; talán még ő is megpróbál megérinteni minket. A Leviatánhoz hasonlót soha nem látunk vagy érintünk. Csak a képzeletünkben létezik – egy miénkhez hasonló testbe zárva, a miénkhez hasonló testrészekkel –, még akkor is, ha nem valóságos. De Hobbes komolyan gondolja, hogy az állam olyan, mint egy gép. Egy mechanizmus működteti megbízhatóan. Elromolhat – mint minden gép –, de nincs kitéve természetes betegségnek vagy hanyatlásnak. Az teszi sajátossá, hogy emberi lényekből épül fel, és úgy van összerakva, hogy emberi lényként viselkedjen. Mégsem ember. Hiszen ha pont olyan lenne, mint bármelyikünk, akkor mi értelme lett volna megépíteni?

Az állam tehát valójában nem robot, hiába írható le gépként. Talán a Leviatánt inkább algoritmusként lehetne értelmezni. Az algoritmusokat sem tudjuk megérinteni. Néha kézzelfogható dolgokként képzeljük el őket – saját elmével rendelkező lényekként –, de valójában csak bizonyos eredmények előállítására szolgáló információszervezési módok. A recept egy algoritmus, amit megenni nem tudunk; az eredménye viszont ehető. Az állam egy algoritmus, melyet kézzelfogható eredmények elérésére terveztek: hogy az emberek nagyobb biztonságban, egészségesebben, boldogabban élhessenek.

Vagy talán lehetünk még merészebbek. A Leviatán esetleg közelebb áll a mesterséges tudathoz. George Dyson tudománytörténész amellett érvel a Darwin Among the Machines (Darwin a gépek között) című könyvében – amely a modern mesterséges intelligencia korai történetét írja le (1997-ben jelent meg, a Google alapításának évében, tehát közvetlenül a mélytanulás forradalma előtt, amelynek a beindításához a Google is hozzájárult) –, hogy Hobbes az államot az emberi agy működését lemásoló gépezetként látta. Azáltal, hogy egyetlen személlyé gyúr minket, a fejünkben lejátszódó folyamatok felpörgetett változatát hozza létre. Dyson azt írja:

A mesterséges élet és a mesterséges intelligencia, amely annyira megtöltötte élettel Hobbes világszemléletét, nem az a diszkrét, autonóm gépi intelligencia volt, amelyet a huszadik század informatikusai képzeltek el. Hobbes Leviatánja egy diffúz, elosztott, mesterséges organizmus volt, és ez inkább a huszonegyedik század beköszöntével megjelenő technológiákat és számítógépes architektúrákat jellemezte.

Az állam eszerint egy mesterséges neurális háló. Az intézményi felépítés révén gondolkodásunk egyesül, és létrejön valami, ami több, mint részeinek összege. Az állam egy gondolkodó gépezet.6

A Leviatán tehát MI? Szép gondolat, de nem stimmel. Hobbes sehol nem állítja, hogy az állam saját értelemmel rendelkezne. Soha nem ír róla gondolkodó gépként, ahogyan azt sem feltételezi, hogy egy óra képes lenne önállóan gondolkodni. Akárcsak az óra, az állam sem tud mást, mint mozogni. A részei összehangolódnak egy cselekvés érdekében. Sok közösen cselekvő ember erősebb, mint egy magányos cselekvő, és ez adja a Leviatán szupererejét. De ez még nem ruházza fel szuperintelligenciával. Az állam nem okosabb nálunk.

Hobbes valójában úgy vélte, hogy az emberek csoportjai általában butábbak, mint a csoportot alkotó egyének. A tömegek randalíroznak. A parlamentek ösztönzik a pózolást és a fennhéjázást. A vallás irracionális, és elveszi az emberek eszét. Hobbes az elszabadult kollektív erőszak rettegett korszakában írt. A Leviatánt az angol polgárháború (1642–1649) okozta felfordulás idején adták ki, és közvetlenül a harmincéves háború (1618–1648) lezárása után, aminél rémesebb konfliktust Európa addig még nem látott, népirtások kavalkádja volt. Ha a csoportok nagyobb eséllyel találnak megoldást a problémákra, mint az egyének, akkor miért töltöttek ennyi időt egymás öldöklésével? A csoport a probléma, nem a megoldás.

Hobbes a monarchiát részesítette előnyben, amely mellett az szól, hogy megkímél bennünket a kollektív ostobaság legrosszabb válfajaitól. Ugyanakkor nagyon is jól látta a királyok és királynők hátulütőit is. Mi van, ha az uralkodó is ostoba? A beltenyészet és a dinasztiák egymás közötti házasodásának korában nagyon is valós volt a kockázata annak, hogy az uralkodó értelme nem üti meg az elvárt szintet. Mindazonáltal a másik lehetőségnél, a véget nem érő véres vitánál arról, hogy ki vezesse az országot, jobb volt egy féleszű alattvalójának lenni. Az állami gépezetet úgy alakították ki, hogy az emberi alkotóelemek alkalmasságától függetlenül működjön. Az értelmes emberek képesek az államot működtetni. De a bolondok is. Bárki. Ez volt a lényeg: csak az számított, hogy valaki irányítsa a gépezetet.

A Leviatán valójában nem robot, és nem is igazán MI. Ugyanakkor egy gépezet, amely az embert hivatott lemásolni. Akkor mi?

corvina@lira.hu

www.corvinakiado.hu

Felelős kiadó: Király Levente, a Corvina igazgatója

Felelős szerkesztő: Kúnos László

Műszaki vezető: Székelyhidi Zsolt

Korrektor: Torma Lászlóné

Forgalmazza:

eKönyv Magyarország Kft.

www.ekonyv.hu

Felhasznált betűtípusok

EB Garamond – SIL Open Font License

Mohave – SIL Open Font License

Source Serif 4 – SIL Open Font License

Vollkorn SC – SIL Open Font License