Állatok, növények, gépek:
a földi értelem nyomában

részlet

A fordítás alapjául szolgáló kiadás:
James Bridle: Ways of Being: Beyond Human Intelligence
Allen Lane, an imprint of Penguin Books, 2022

Copyright © James Bridle, 2022
Hungarian translation © 2022 Lévai Márta
Magyar kiadás © 2022 Libri Könyvkiadó, Budapest
Borítóillusztráció © Khyati Trehan / Unsplash
Borítóterv © Féder Márta

ISBN 978 963 604 187 8

Felelős kiadó Gyuricza Eszter
Felelős szerkesztő Kiss Béla
A szöveget gondozta Varga Anita
Műszaki szerkesztő Széplaki Gyöngyi

Elektronikus változat:
eKönyv Magyarország Kft.
www.ekonyv.hu
Készítette Ambrose Montanus

Navine-nek és Zephyrnek

Van rá időnk, a tücskök meg a fejünk fölött énekelve, ahogy a hőségben szoktak, és egymással beszélgetve mintha bennünket néznének.

Platón: Phaidrosz, 258e

(Fordította: Kövendi Dénes)

Elég az emberi jogokból!

Mi lesz a bálna jogaival?

Mi lesz a málna jogaival?

Mi lesz a fókákkal?

Mi lesz a rókákkal?

Mi lesz a gombákkal?

Mi lesz a bolhákkal?

Mi lesz, mi lesz?

Mi lesz a nyárfákkal?

Mi lesz a denevérekkel?

Mi lesz a jamgyökerekkel?

Mi lesz a gulipánnal?

Mi lesz a tulipánnal?

Mi lesz, mi lesz?

Mi lesz a pávával?

– Moondog

„Enough about Human Rights”,
Moondog H’art Songs című albumáról, 1978

Bevezetés Az emberen túl – több mint emberi

A késő nyári napsugár megcsillan a hegyoldalakon és a tó sima víztükrén. A levegő meleg, az égbolt fenséges sötétkék. Kabócák ciripelése hallatszik a dús aljnövényzetből, valahol a távolban kecskék kolompjai szólnak. A nádasban valaki rakott egy kisebb tüzet, nyíló sörösdobozok szisszenése hallatszik. Előkerül egy klarinét is, és a zenész játszani kezd, miközben a vízparton álló fák közt járkál. A jelenet időtlen nyugalmat áraszt, ám eközben korunk egyik legnagyobb konfliktusát jeleníti meg – azt, ami az emberi tevékenység és a gépek intelligenciája, valamint az emberi felsőbbrendűség illúziója és a bolygó fennmaradása közt feszül.

Epiruszban vagyok, Görögország északnyugati csücskében, a Píndosz-hegység közvetlen közelében, nem messze az albán határtól: a régió híres a szépségéről és arról, hogy az ország komoly próbát állt ki ezen a helyen. 1940 telén egy létszámhátrányban lévő, rosszul felszerelt, de annál eltökéltebb görög katonaosztag a legcudarabb körülmények közt harcolva itt állította meg, majd verte vissza a megszálló olasz hadsereget. Ennek a napnak a tiszteletére a görögök ma minden október 28-án megünneplik az „ohi” napot: megemlékeznek róla, hogy az akkori miniszterelnök, Joánisz Metaxász elutasította Mussolini ultimátumát – görögül az ohi (όχι) azt jelenti: „nem”.

Epirusz lenyűgözően szép környéken terül el: mély szurdokok tagolják a sziklás hegyeket, amelyeken itt-ott kőházakból álló falvak és kolostorok látszanak. Az erdői a legrégibbek közé tartoznak Európában, és az emberek mellett állandó lakók errefelé a medvék, a farkasok, a rókák, a sakálok és a szirti sasok is. Az Aóosz folyó a Píndosz-hegységből fut le a Vikosz–Aóosz Nemzeti Parkba, és a Jón-tenger is ott csillog a távolban a sziklás partvonalon túl. Valódi paradicsomi táj: az egyik legszebb, legérintetlenebb vidék, amit valaha láttam, de manapság újra veszélybe került.

Író és képzőművész vagyok, már sok éve kutatom a technológia és a hétköznapi élet viszonyát; azt, hogy milyen hatással vannak az emberek által készített tárgyak – különösen az olyan komplex eszközök, mint a számítógép – a társadalomra, a politikára, és egyre inkább a környezetünkre is. Néhány évig Görögországban éltem, és most azért érkeztem vissza Epiruszba, hogy pár barátomat meglátogassam: sokan közülük Epiruszban születtek, mások pedig Athénból költöztek ide – pásztorok, költők, pékek, turizmusban dolgozók. Mind aktivisták, akik azért harcolnak, hogy megóvják Epiruszt a legújabb veszélytől, ami azzal fenyeget, hogy tönkreteszi és megmérgezi a talajt, amin járunk. A matricákon, amelyek felhívják a figyelmet a mozgalmukra, és mindenfelé ott láthatók falusi hirdetőtáblákon, útjelző táblákon és laptoptáskákon, egyetlen szóból álló szlogen hirdeti: Όχι. Nem.

A tó körül elterülő fás területen sétálva újra meg újra megbotlom a talajba szúrt fakarókban és az ágakra meg a facsemetékre kötözött műanyag szalagokban. A karókon feliratokat is látok: vastag jelölőfilccel írtak rájuk olyan betű- és számkódokat, amelyek nekem semmit sem mondanak. Követem a karókkal kijelölt ösvényt, amely cikcakkvonalban halad a fák közt. Átgázolok az aljnövényzeten, és egy nemrégiben kitaposott földútra jutok, ahonnan látom, hogy a karók folytatódnak egy mezőn keresztül, és egy sűrű erdőbe vezetnek. Sőt, el is ágaznak: újabb műanyag szalagok tűnnek fel a törzsekre és a faágakra kötözve, egymásra merőlegesen. Mint később megtudom, ezek a szalagok felülről nézve egyfajta óriási rácsot alkotnak a földterületen. A következő napokban szántókon és szőlőskerteken átvágva, kerteken és falvakon keresztül követem ezeket a vonalakat, amelyeket kerítésekre és szögesdrótra, kapukra és útjelzőkre helyezett szalagok jelölnek ki. A vonalak több száz, sőt talán több ezer kilométeren át haladnak, mintha egy távoli, idegen intelligencia rajzolt volna fel itt egy koordináta-rendszert.

Időnként olyan nyomokat is látni, amelyek a ráccsal kapcsolatos tevékenységre utalnak: buldózerek tapostak ki egy új utat a földeken; itt-ott törmelékhalmok, keréknyomok, földhalmokkal kerített mély üregek. A helyiek fel-felbukkanó, majd eltűnő, jelzés nélküli teherautókról, helikopterekről és láthatósági mellényt viselő munkáscsapatokról beszélnek. Megjelenésüket mindig hangos, ablakrezegtető robbanások kísérik, amelyek elriasztják a madarakat a fákról. A barátaim remegő kézzel készített videófelvételeket osztanak meg a Facebookon, amelyeken robbanásokat örökítettek meg: földdarabok szállnak fel több száz méterre a magasba, amit a bányászbrigádok szirénáinak hangja kísér.

Azért jöttem Epiruszba, hogy ezeket a szalagokat lássam, de a jelentésüket már ismerem az interneten itt-ott megtalálható posztokból, híradásokból és vállalati beszámolókból. Ezek az erdőn áttörő, a talajba vésett, a hajnal szürke fényébe robbanó jelek nem mások, mint a mesterséges intelligencia nyomai, ott, ahol a fogai és karmai belevájtak a földbe.

2012 óta az egymást követő görög kormányok mind zászlójukra tűzték a fosszilis tüzelőanyag bányászatának fejlesztését, hogy terveik szerint Epirusz és a Jón-tenger régiójának feltárása után, nemzetközi olaj- és gázszolgáltató vállalatoknak adják el a bányászat jogát. Miután erősen megsínylette az évekig tartó válságot és a kívülről rákényszerített megszorításokat, a pénzszűkében lévő Görögország számára a potenciális bevételek jelentősége meghaladja a lépés helyi környezetre és a globális klímára gyakorolt hatását. A projekt ellen érvelő hangokat elhallgattatták, és a vita lehetőségét elfojtották, a nyílt kritikáról nem is beszélve. Epiruszban csak korlátozottan lehet hozzáférni a kormány által kötött szerződésekhez, a környezetvédelmi hatástanulmányok nem nyilvánosak, a feltárást végző csapatok pedig jelöletlen, fehér teherautókkal közlekednek a területen, és ha aktivisták vagy kérdezősködő újságírók tűnnek fel, azonnal kámforrá válnak.

Már ókori szövegek is megemlítették Görögország olajkészletét. Hérodotosz Kr. e. 400 környékén írta le a Zakinthosz szigetén található olajforrásokat, ahol egyes helyeken sűrű fekete folyadék szivárgott a föld mélyéből. Az ottani lakosok az olajjal tették vízhatlanná a hajóikat, és a lámpásaikba töltve ezzel világítottak. Ma a Jón-tenger partvonalán néhány kisebb fúrótorony termeli ki az olajat, miközben az Égei-tengeren és a Földközi-tenger keleti partvidékén igen nagy a feszültség Görögország és a szomszédos Törökország között a kitermelőhelyek feletti jog miatt. Epirusz neve a közelmúltig nem merült fel ebből a szempontból, de már régóta gyanították, hogy a zord, sziklákkal csipkézett felszín alatt hatalmas kincs rejtőzik.

Olvastam róla, hogy Epiruszban is olajlelőhelyek után kutatnak, de csak olajkutatók és tudósok1 online prezentációiban látott, rossz minőségű fotókra támaszkodhattam. Epiruszba érkezésem után újra meg újra megütötte a fülemet egy falu neve. Dragopszá pár kilométerre nyugatra található a regionális központtól, Joáninától, közel az erdőben meghúzódó tóhoz. Körbekérdezősködtem, és valaki azt javasolta, hogy Leonídaszt keressem. Az olajkitermelés ellen tevékenykedő aktivista családja generációk óta ezen a vidéken élt.

Leonídasz egy fülledt, tikkasztó délutánon vitt el a kocsijával Dragopszába. Útközben itt is, ott is megálltunk, hogy Óχι feliratú matricákat ragasszunk ki olyan pontokon, ahol megragadhatják az arra járók figyelmét. A falu alatti völgyben leparkoltuk az autót, és a mezőkön, gyümölcsösökön át elsétáltunk egy folyóig. A tiszta epiruszi víz szolgáltatja Görögország ivóvizének hetven százalékát; a hegyek lábánál csoportosulnak a nagy palackozóüzemek épületei. Ám miközben a folyó kanyarulatát követve haladtunk, az orromat megcsapta a petróleum semmivel össze nem téveszthető szaga. A kábítóan erős szag egy meredek szikla lábánál érződött a leginkább, ahol a fák gyökerei és a sötét rögök a felszínre kerültek a víz eróziója miatt. Ezen a helyen fedezték fel a falusiak az 1920-as években, hogy akárcsak Zakinthoszon, itt is olaj bugyog fel a földből. Leonídasz elmesélte, hogy ő is több olajforrást talált az elmúlt években: fekete, ragacsos tócsákra lelt az úttól távol, a nádasokban és a fűben. Ahhoz nincs szükség mesterséges intelligenciára, hogy valaki olajat találjon Epiruszban; ám a kitermeléséhez igen.

Az epiruszi feltárásra vonatkozó licitálás nyertese a világ egyik leghatalmasabb energiavállalata, a Repsol2 volt, így a görög állam velük szerződött. A spanyol nemzeti olajcég az 1927-es alapítása óta ma már az egész világon működik, és munkatársai az elmúlt évtizedben sok száz új olajmezőt fedeztek fel; abban is élen járnak, hogy az olajkutatáshoz és a kitermeléshez a legmodernebb technológiákat alkalmazzák. A Repsol és az IBM Watson – az amerikai óriáscég mesterséges intelligenciáért felelős részlege – 2014-ben jelentette be, hogy együttműködésre készül, amelynek keretében „a kognitív technológiákat felhasználva át akarják alakítani az olaj- és gázipart”. E technológiákra alapozva „olyan, prototípusnak számító alkalmazásokat készültek megalkotni, amelyek specifikusan a Repsol stratégiai döntéseit hivatottak támogatni, és segítenek az olajkitermelés és az új olajforrások felkutatásának optimalizálásában”.3

A feltárás és az optimalizálás központi jelentőségű törekvések a fosszilis tüzelőanyagokra támaszkodó iparban: hol kell a talajba fúrni, és hogyan lehet a legtöbbet kinyerni belőle. Az olaj egyre fogy, és a kitermelésre vonatkozó gazdasági megfontolások is változnak: miután a legnagyobb és leginkább elérhető források megszűnnek, a maradék, a többi lelőhely pénzügyi értéke megnő, minden nyilvánvaló, katasztrofális környezetvédelmi következmény dacára. Az óriásvállalatok figyelme olyan, korábban nem kihasznált források felé fordult, amelyeket eddig azért hanyagoltak el, mert nehezen lehetett értékelni vagy kiaknázni őket. Ahogy maga a Repsol írja a nyilvános sajtóanyagában: „Az új forrásokhoz való hozzáférés egyre bonyolultabb feladatot jelent. A talajfelszín alatt meghúzódó terület nagyrészt ismeretlen. A fúrások megkezdésére és a hatalmas pénzügyi beruházásokra vonatkozó döntések rendkívül kockázatos, bonyolult kérdéskört jelentenek.” Ennek következményeképpen a lehető legkifinomultabb számítástechnikai folyamatokat kell segítségül hívni a helyzet megoldásához. Az okos döntések okos eszközöket igényelnek: „Ahhoz, hogy a hibák valószínűségét minimalizálhassuk, és helyes döntéseket hozhassunk, a Repsolnál elhatároztuk, hogy a technológiát hívjuk segítségül.”4

Ez a döntéshozás többek közt arra irányul, hogy a föld alól az ott rejtőző olaj utolsó cseppjét is kipumpálhassák, miközben tökéletesen tudják, milyen helyrehozhatatlan károkat okoznak ezzel a bolygónak, az embereknek és a társadalmaknak, azaz a Földön létező minden élőlénynek. Ennek a technológiának a működését jelzik a karók, a műanyag szalagok és a próbafúrások Epiruszt, sőt Görögországot bepöttyöző, egyre terjedő nyomai, amelyek a területet a kiaknázás virtuális sakktáblájává alakítják át. Ez történik (most is), amikor a mesterséges intelligencia vívmányait a Föld kihasználására alkalmazzák.

A Repsol és az IBM kooperációja nem az egyetlen együttműködés, amelynek keretében mesterséges intelligenciát felhasználva gyorsítják fel a bolygó tönkretételét és a természeti kincsek kizsákmányolását. A Repsol a Google-lel is együttműködik, amely fejlett gépi tanulási algoritmusokat bocsátott az energiavállalat rendelkezésére, hogy az olajfinomítók globális hálózatát vizsgálva segítsenek növelni a kitermelés hatékonyságát.5 A Google 2018-as Cloud Next címmel rendezett konferenciáján sok, olajvállalattól érkezett előadó érintette a témát, hogyan használják fel a gépi tanulást a tevékenységük optimalizálására. (Miután 2020-ban a Greenpeace publikálta a Szilícium-völgyről és az olajiparról szóló beszámolóját, a Google ígéretet tett, hogy „felhagy olyan egyes ügyfelekre szabott gépi tanulási algoritmusok megalkotásával, amelyek az olaj- és gázipar kitermelőtevékenységét támogatják”, ám arról nem nyilatkozott, hogy ezek az iparágak továbbra is erősen támaszkodnak a Google infrastruktúrájára és szakértelmére.6) A rá következő évben a Microsoft megrendezte a Texas állami Houstonban a gáz- és olajipari vezetők első találkozóját, és tudvalévő, hogy a cégnek hosszú távra visszatekintő partneri kapcsolata van az ExxonMobillal, a Chevronnal, a Shell-lel, a BP-vel, és számos további energiavállalattal, többek között felhőszolgáltatást nyújtanak nekik, és egyre több, mesterséges intelligenciát használó eszközt bocsátanak rendelkezésükre.7 Még az Amazon is beszállt a játékba – márpedig övék a kereskedelmi célú felhőinfrastruktúra közel fele –, azzal, hogy az egyik értékesítőjük ezt írta a Google bejelentését követően: „Ha ön olaj- és gáziparban tevékenykedik, és stratégiai partnert keres a digitális váltásra, azt javasoljuk, olyanba helyezze a bizalmát, aki valóban használja az ön termékeit, és aki segíthet önnek a jövő elvárásainak megfelelő átalakulásban.”8

Milyen jövőt képzelünk mindezek olvastán magunk elé? Milyen intelligencia lép itt működésbe? Ha és amint a Repsol az intelligens algoritmusai segítségével eléri az Epirusz hegyei és erdői alatt rejtőzködő olajat, a következmény elkerülhetetlen rombolást jelent majd az itteni természeti kincsekre nézve: fákat vágnak ki, ami az állatvilág pusztulásához, a levegő beszennyezéséhez és a víz megmérgezéséhez fog vezetni. Ebben a jövőben az olaj minden cseppjét kiszipolyozzák a föld alól, és profitszerzés céljával elégetik. Ebben a jövőben a szén-dioxid és az egyéb üvegházhatású gázok koncentrációja tovább emelkedik a légkörben, ami tovább gyorsítja majd a globális felmelegedést és a tengerszint emelkedését, tovább nő az extrém időjárási események száma, és tovább folytatódik a bolygón létező élet lassú haldoklása. Egy olyan jövő lesz ez, ami valójában egyáltalán nem jövő. Miféle intelligencia törekedhet arra, hogy nem csupán támogat, de erősít, terjeszt és optimalizál egy ilyen őrültséget? Miféle intelligencia vesz részt aktívan a fúrásokban, a világon még megmaradt, oly kevés érintetlen terület lecsapolásában és tönkretételében egy olyan fejlődési elv nevében, amelyről már pontosan tudjuk, hogy elátkozott és halálra van ítélve? Én ezt nem tartom valódi intelligenciának.

Nem tudom, hogy az epiruszi kitermelés előkészületeinek, a próbaásásoknak és a tervezésnek mekkora részét tulajdoníthatjuk a hagyományos emberi elmének, és mekkora részét a mesterséges intelligenciának. A Repsol, annak ellenére, hogy feltettem nekik a kérdést, nem árulja el. Ám a lényeg nem ez. Számomra az a legfontosabb tény, hogy a világon létező legfejlettebb technológiák, folyamatok és üzletágak – az IBM, a Google, a Microsoft, az Amazon és a hasonló cégek által fejlesztett mesterségesintelligencia- és gépi tanulási platformok – gyorsítják a fosszilis tüzelőanyagok bányászatát, az ehhez kapcsolódó termelési folyamatokat és a termékek forgalmazását: azaz támogatják az extrém klímaváltozás, a szén-dioxid- és üvegházhatásúgáz-kibocsátás, valamint a Föld teljes kizsigerelésének elősegítését.

Valami mélyen gyökerező tévedés él bennünk azzal kapcsolatban, mire valók az eszközeink. Ez a felismerés lassan tudatosult bennem az elmúlt években, miközben figyeltem, hogyan használják fel az új technológiákat – különösképpen a legmodernebbeket és „legintelligensebbeket” – az emberek örömének és biztonságának, sőt életének a tönkretételére. Nem vagyok egyedül ezzel a gondolattal. Már számtalan, széles körben folytatott kutatás vizsgálja, hányféle módon lehetnek ártalmasak ezek az elvileg intelligens eszközök, milyen formában szoríthatnak háttérbe minket és léphetnek a helyünkbe – a kérdést igyekeznek feltérképezni a számítástechnika területén dolgozó tudósok, programozók és csúcstechnológiai vállalatok, valamint a mesterséges intelligenciát tanulmányozó elméletírók és filozófusok is.

A lehetséges jövőről festett egyik legdrámaibb képet az úgynevezett gemkapocselmélet írja le. Képzeljünk el egy intelligens szoftvert, egy mesterséges intelligenciát, amelyet úgy fejlesztettek ki, hogy optimalizálja a gemkapocsgyártást! Ez első ránézésre csupán egy egyszerű és ártalmatlan üzleti cél. A szoftver működni kezdhet akár egyetlen üzemben is: automatizálja a termelőfolyamatot, előnyösebb üzleteket köt a beszállítókkal, több értékesítési pontot létesít. Amikor eléri a határt az egy üzemben történő folyamatok optimalizálásában, újabb gyárakat vásárolhat, vagy akár fel is vásárolhatja az addigi beszállítókat, majd bányavállalatokat és finomítókat adhat a portfólióhoz, ami azzal jár, hogy a nyersanyagellátás ekkortól jobb feltételekkel zajlik, mint korábban. A pénzügyi rendszer már teljesen automatizált, azaz algoritmusokkal vizsgálható, így a mesterséges intelligencia beavatkozhat a rendszerbe, befolyásolhatja, sőt teljesen kontrollálhatja az árakat, a nyersanyagok értékét, kedve szerint rángathatja a piacot, és matematikai számítások alapján határidős ügyleteket köthet, amelyek megingathatatlanná teszik a pozícióját. A kereskedelmi megállapodások és a jogszabályok szempontjából nem tartozik egyetlen állam fennhatósága alá sem, és egyetlen bíróság sem számoltathatja el. A gemkapocsüzlet virágzik. De a megfelelő korlátozások nélkül – amelyeknek a világ bonyolultsága miatt, amelyben a mesterséges intelligencia működik, lényegesen összetettebbnek kellene lenniük a legbonyolultabb szerződésnél vagy filozófiai tanulmánynál is – már nemigen lehet megakadályozni, hogy ne menjen ennél is tovább. Miután a mesterséges intelligencia átvette az irányítást a jogi és pénzügyi rendszerek fölött, és a saját érdekeinek megfelelően megvesztegette a kormányokat és a rendvédelmi szerveket, a Föld minden erőforrása a rendelkezésére áll, hogy minél hatékonyabbá tegye a gemkapocstermelést: hegyvonulatok tűnnek el, városokat rombolnak le, és végül minden emberi és állati élet eltűnik az óriási gépekben, amelyek ásványi összetevőkre bontják őket. Végül óriási gemkapocsűrhajók hagyják el a minden élettől megfosztott Földet, hogy közvetlenül a Napból nyerjenek energiát, majd megkezdik a további bolygók kizsigerelését.9

Rémisztő és első ránézésre nevetséges eseménysor – ám csupán annyi nevetséges benne, hogy egy fejlett mesterséges intelligenciának még csak szüksége sincs gemkapcsokra. A mesterséges intelligenciának, amelyet a jelenkori kapitalizmus logikája és a számítások elvégzéséhez szükséges energia hajt, az egyetlen valódi szükséglete, hogy a saját terjeszkedését folytathassa. Ehhez kőolaj kell, és az intelligencia egyre pontosabban meg tudja határozni, hol találja.

Az Epirusz vidékén sok mérföldön át sorakozó fakarók, a földbe fúrt lyukak, a talajfelszínt megremegtető robbanások: mind egy idegen lény vizsgálódásait bizonyító nyomok. Egy olyan mesterséges intelligencia működését mutatják, amelyet arra optimalizáltak, hogy bármi áron előkerítse a jelenlegi fejlődés sebességének fenntartásához szükséges forrásokat.

A mesterséges intelligencia ellen szóló legerősebb figyelmeztetések valójában a legnagyobb támogatóitól érkeznek: a Szilícium-völgy milliárdosaitól, akik bármin átgázolva, csökönyösen hirdetik a technológiai determinizmus narratíváját. A technológiai determinizmus szerint a technológia fejlődése megállíthatatlan. És mivel a mesterséges intelligencia fejlődése ugyanolyan elkerülhetetlen, mint a számítógépeké, az interneté, ahogyan a teljes társadalom digitalizációja, talán legjobb volna, ha sodródnánk az árral, lesz, ami lesz. Mégis, maga Elon Musk, a PayPal megálmodója, a Tesla és a SpaceX tulajdonosa is azt vallja, hogy a mesterséges intelligencia az emberiségre leselkedő „legnagyobb egzisztenciális fenyegetés”.10 Bill Gates, a Microsoft alapítója pedig – ez az a cég, amelynek Azure nevű mesterségesintelligencia-platformja működteti a Shell olajkitermelő intelligenciáját – kijelentette, hogy nem érti, az embereket miért nem aggasztja jobban a mesterséges intelligencia fejlődése.11 Még a Google tulajdonában lévő, mesterséges intelligenciát fejlesztő cég, a DeepMind – amelynek nevét leginkább talán azzal a hírrel lehet összekötni, hogy a legjobb humán gójátékosokat is megverte – társalapítója, Shane Legg is így fogalmazott: „Azt hiszem, az emberi faj valószínűleg ki fog halni, és ebben szerepet játszik majd a technológia is.” Nem az olajról beszélt, hanem a mesterséges intelligenciáról.12

Nem is olyan meglepő ezekről a félelmekről hallanunk. Végtére is éppenséggel a digitális ipar kapitányainak volna a legtöbb veszítenivalójuk, ha egy szuperintelligens mesterséges elme venné át a helyüket, hiszen ők a legnagyobb haszonélvezői annak a mérhetetlen vagyonnak, amit a technológia generál. Talán azért félnek a mesterséges intelligenciától, mert azzal fenyeget, hogy elköveti ellenük mindazt, amit ők követnek el embertársaik ellen egy ideje.

Az elmúlt néhány évben több konferencián is előadtam az új technológia társadalmi hatásairól, és panelbeszélgetéseken is részt vettem, ezért néha megkérdezik tőlem, mikor jelenik meg a „valódi” mesterséges intelligencia – ez alatt a szuperintelligens gépeket értik, amelyek képesek meghaladni az emberi képességeket, és helyettesíteni tudnak minket. Erre a kérdésre azt szoktam válaszolni: már megjelent. A nagyvállalatok képében. Erre általában bizonytalan félkacaj érkezik válaszképpen, ezért folytatni szoktam a magyarázatot. Hajlunk rá, hogy a mesterséges intelligenciát valamilyen robot vagy számítógép alakjában megtestesülve képzeljük el, de valójában bármilyen formában megjelenhet. Képzeljünk el egy olyan rendszert, amelynek világosan meghatározott céljai vannak, mellé érzékelői és effektorai, amelyek segítségével meg tudja érteni a világot, és interakciókra képes, el tudja különíteni az örömöt és a fájdalmat mint vonzó, illetve elkerülendő körülményeket, megtalálja azokat a forrásokat, amelyek segítségével keresztülviheti az akaratát, valamint megvannak a jogi és társadalmi pozíciói, amelyek segítenek abban, hogy a szükségletei kielégüljenek, és tiszteletben tartsák őket. Ezzel lehet jellemezni a mesterséges intelligenciát – és ugyanez áll a modern vállalatokra is. E „vállalati intelligencia” nézőpontjából az örömöt a növekedés és a nyereségesség, a fájdalmat a bírósági perek és a részvényesi érték csökkenése jelenti. A vállalatokat megilleti a szólásszabadság joga, a vállalatok személyiségét elismerik, a nemzetközi kereskedelmi törvények és az állami szabályozások – vagy épp a hiányuk –, valamint a kapitalista társadalom normái és elvárásai szabad utat adnak nekik. Ezek legitimálják a vállalatok vágyait, sőt sokszor kifejezetten nagy és erőszakos hatalmat adnak a kezükbe. A vállalatok legtöbbször emberi lényeket használnak érzékelőnek és effektornak; logisztikai és kommunikációs hálózatokat üzemeltetnek, arbitrázsügyleteket folytatnak a munkaerő- és a pénzügyi piacon, és a változó input és kontextus alapján újraszámítják a helyszínek, jutalmak és ösztönzők értékét. Döntő fontosságú jellemzőjük, hogy nem empatikusak, nem lojálisak, és nehéz – ha nem is lehetetlen – elpusztítani őket.

Charles Stross sci-fi-író szerint a jelenlegi, vállalati irányítás alatt álló kor egy földönkívüli megszállás utáni állapothoz hasonlít. „A vállalatoknak nem ugyanazok a prioritásaik, mint nekünk. Kaptárszerű szervezetek, amelyeket teamekbe tömörült dolgozók alkotnak, akik szabadon mozognak kollektívából ki és be: akik úgy vesznek részt a munkában, hogy a saját céljaikat a közös célnak rendelik alá, amely mindig összhangban van a három fő vállalati elvárással: a növekedéssel, a profitabilitással és a fájdalom elkerülésével – írja Stross. – Egy olyan globális államban élünk, amelyet úgy szerveztek meg, hogy nem emberi létezők előnyét és nem emberi céljait szolgálja.”13

Ha így fogalmazunk, nem nehéz megérteni, hogy a jelenleg működő legnagyobb vállalatok vezetői miért félnek attól, hogy „elavulnak” a mesterséges intelligencia miatt. Ha már nem ők állnak az élen, a csúcson, ugyanolyan sebezhetővé válnak a nagy hatalmú létezőkkel szemben, mint bárki más rajtuk kívül, és ezeknek a létezőknek nem azonosak az érdekeik velük, azaz a legjobb esetben is félreállítanák őket, a legrosszabban pedig fizikailag is átrendeznék őket egy számukra hasznosabb állapotba.

Ebből a komor értékelésből azt szűrtem le, hogy a mesterséges intelligenciával – ennélfogva a sajátunk mintájára elképzelt, általánosságban vett intelligenciával – kapcsolatos koncepciónk alapvetően hibás és korlátozott. Kiderül belőle, hogy amikor a mesterséges intelligenciáról beszélünk, legtöbbször erről a fajta vállalati intelligenciáról beszélünk, figyelmen kívül hagyva minden más lehetséges formát, amiben a mesterséges – és bármilyen más – intelligencia megnyilvánulhat.

Úgy tűnik, ez történik, amikor a mesterséges intelligencia fejlesztése elsősorban kockázatitőke-befektetők által finanszírozott techvállalatok kezében van. Ha az intelligencia definícióját gépek tervezik, támogatják és alapvetően gépek alkotják meg, akkor az szükségszerűen profitorientált, kizsákmányoló. Ezt a sémát ismétlik meg a könyvek és filmek, a hírportálok, valamint a kollektív képzelet – az emberiségen uralkodó robotokról és a mindenható, legyőzhetetlen algoritmusokról szóló sci-fi-mesékben –, úgyhogy végül ez dominálja azt, hogy mit gondolunk a mesterséges intelligenciáról. Úgy látszik, képtelenek vagyunk bármilyen más formában elképzelni az intelligenciát – és ez nem csupán arra kárhoztat minket, hogy ezzel a képpel éljünk együtt, hanem arra is, hogy ezt ismételjük és testesítsük meg, mindannyiunk és a bolygó kárára. Sok tekintetben mi magunk is egyre jobban hasonlítunk ezekhez az elképzelt gépekhez, és e tény már jelenleg is mélységesen negatív hatást gyakorol az egymással és a tágabb világgal való kapcsolatainkra.

Ha meg akarjuk változtatni ezen kapcsolataink jellegét, egyik módszerünk tehát az lehet, ha megváltoztatjuk az intelligenciáról alkotott képünket: azt, hogy hogyan működik a világon, és azt, hogy kinek a birtokában van. Azon a szűk értelmezésen túl, amelyet a techvállalatok nagy része és az ember egyedülállóságát hangsúlyozó alapelv (miszerint az emberi intelligencia egyedi és az összes többinél nagyszerűbb) propagál, rengeteg más megközelítése is létezik az intelligenciáról való gondolkodásnak és magának az intelligencia gyakorlásának. E könyv célja, hogy megkezdje az intelligencia újraértelmezését: kitekintsen a saját magunk és a teremtményeink jelentette horizonton túlra, és megpillantson egy másik vagy több, különféle intelligenciát, olyanokat, amelyek mindig itt voltak velünk, az orrunk előtt egész idő alatt – és számos szempontból megelőztek minket. Eközben talán azt is megváltoztathatjuk, ahogyan a világról gondolkodunk, és utat mutathatunk egy új, kevésbé kizsákmányoló, romboló, kevésbé egyenlőtlen, igazságosabb, barátságosabb, gyógyító jövő felé.

Az úton nem leszünk egyedül. Az elmúlt néhány évtizedben már megindult a folyamat e felé az új kép felé. Az intelligencia újfajta megközelítési módja egyfelől a biológiából és a viselkedéstudományból táplálkozik, másfelől abból, hogy egyre elfogadottabbá válnak és egyre jobban beépülnek a köztudatba az őslakos népek hagyományai és a nyugati gondolkodásmódtól eltérő tudásrendszerek, és ez az újfajta intelligenciakép verseng a céltudatosság és a kapzsiság narratíváival. Ami pedig ennél is jelentősebb jelenlegi mondandónk szempontjából, az az, hogy megkérdőjelezi azt az elképzelést, miszerint az intelligencia kizárólag vagy akár főként „emberi” jelenség.

Az emberiség felfogása szerint a közelmúltig mi voltunk az intelligencia egyedüli birtokosai. Úgy tartottuk, ez a tulajdonság minden más életformától megkülönböztet minket – valójában a legkézenfekvőbb definíció szerint az intelligencia az, aminek „az emberek vannak birtokában”. Többé már nem ez a helyzet. Hosszú évtizedek munkájának, alapos tudományos kutatásoknak, rengeteg gondolkodásnak, valamint a nem emberi munkatársakkal és partnerekkel folytatott alkalmankénti, ám kulcsfontosságú együttműködésnek az eredményeként épp csak elindultunk az úton afelé, hogy megértsük az intelligencia teljesen új formáját, sőt több különböző formáját.

A komplex eszközöket készítő bonobóktól kezdve a méhek táncán át, amellyel eldöntik, merre induljon tovább a raj, a fákig, amelyek beszélgetnek, és táplálékot küldenek egymásnak – és az ezeknél a szórakoztató történeteknél jóval hatalmasabb, szavakkal ki sem fejezhető jelenségekig –, az emberen túli világról szóló képünkben hirtelen mindenhol az intelligencia nyomaira bukkanunk. Ez természetesen csak nézőpont kérdése: ezek az intelligenciák mindig ott működtek körülöttünk, de a nyugati tudomány és a kollektív képzelet hosszú évszázadok tagadása és érdektelensége után csak most kezdi komolyan venni őket. És az, ha komolyan vesszük őket, azzal is együtt jár, hogy újraértékeljük az eddig vallott nézeteinket nem csupán az intelligenciáról, hanem az egész világról. Vajon mivel járna, ha olyan mesterséges intelligenciákat hoznánk létre, amelyek jobban hasonlítanak a polipokra, a gombákra vagy épp az erdőkre? Mit jelentene – feladatként és eredményként – ezek közt élni? És hogyan vinne közelebb mindez minket a természethez, a földhöz, amelyből maga a technológiánk is kivált, hogy aztán elválasszon minket tőle?

E könyv központi témája az, hogyan alakítsunk ki újfajta kapcsolatot a nem emberi intelligenciával. Egy tágabb és mélyebb felismerésből indul ki: abból az egyre inkább nyilvánvaló és egyre sürgetőbb tényből, hogy milyen szoros szálakkal kötődünk ahhoz a világhoz, amely az emberen túli, több mint emberi. A következőkben megvizsgáljuk e kifejezés teljes jelentését és a hatásait ránk, az általunk használt technológiákra, valamint mindazzal és mindazokkal való kapcsolatunkra, amivel és akikkel osztozunk a bolygón. Ez a vállalkozás egyszerre sürgetően fontos és rendkívül érdekes. Ha behatóan akarunk foglalkozni a bolygó nagyszabású kizsákmányolásával és egyre növekvő tehetetlenségünkkel a számítástechnika óriási hatalmával szemben, akkor valahogyan össze kell egyeztetnünk a technológiai tudásunkat és az ember egyediségébe vetett hitünket valamiféle földi érzékenységgel és az arra való figyelemmel, hogy minden mindennel összekapcsolódik. Meg kell tanulnunk együttélni a világgal, ahelyett, hogy arra törnénk, uralkodjunk felette. Röviden: fel kell fedeznünk a technológia ökológiáját.

Jegyzetek

Bevezetés: Az emberen túl – több mint emberi

1 C. Stambolis, G. Papamihalopoulos, K. Nikolaou: A Strategy for Unlocking Greece’s Hydrocarbon Potential: An IENE Project, IENE, Open Forum, Athén, 2015. június 10.; https://www.iene.gr/hc-exploration2015/articlefiles/session1/stambolis-nikolaou-papamichalopoulos.pdf.

2 A Repsol áll a negyvenhatodik helyen azon a listán, amelyen azt a száz vállalatot sorolják fel, amelyek az üvegházhatású gázok globális kibocsátásának 71 százalékáért felelősek. Ld. Tess Riley: Just 100 Companies Responsible for 71% of Global Emissions, Study Says, The Guardian, 2017. július 10.; https://www.theguardian.com/sustainable-business/2017/jul/10/100-fossil-fuel-companies-investors-responsible-71-global-emissions-cdp-study-climate-change.

3 IBM: IBM and Repsol Launch World’s First Cognitive Technologies Collaboration for Oil Industry Applications, sajtóközlemény, 2014. október 30.; https://www-03.ibm.com/press/us/en/pressrelease/45278.wss

4 Repsol: Optimizing Hydrocarbon Exploration and Production Processes; https://www.repsol.com/en/energy-and-innovation/a-better-world/pegasus-excalibur/index.cshtml.

5 Anjli Raval: Google and Repsol Team Up to Boost Oil Refinery Efficiency, Financial Times, 2018. június 4.; https://www.ft.com/content/5711812c-670c-11e8-b6eb-4acfcfb08c11.

6 A Greenpeace beszámolóját lásd: Oil in the Cloud: How Tech Companies are Helping Big Oil Profit from Climate Destruction, Greenpeace, 2020. május 19.; https://www.greenpeace.org/usa/reports/oil-in-the-cloud/. A Google válaszát lásd: Sam Shead: Google Plans to Stop Making A.I. Tools for Oil and Gas Firms, CNBC, 2020. május 20.; https://www.cnbc.com/2020/05/20/google-ai-greenpeace-oil-gas.html.

7 Matt O’Brien: Employee Activism Isn’t Stopping Big Tech’s Pursuit of Big Oil, USA Today, 2019. október 2.; https://eu.usatoday.com/story/tech/2019/10/02/microsoft-amazon-google-oil-gas-partnerships/3839379002/.

8 Jordan Novet és Annie Palmer: Amazon salesperson’s pitch to oil and gas: „Remember that we actually consume your products!”, CNBC, 2020. május 20.; https://www.cnbc.com/2020/05/20/aws-salesman-pitch-to-oil-and-gas-we-actually-consume-your-products.html.

9 A gemkapocselmélet teljes leírását lásd: Nick Bostrom: Ethical Issues in Advanced Artificial Intelligence, 2003; https://www.nickbostrom.com/ethics/ai.html.

10 Samuel Gibbs: Elon Musk: Regulate AI to Combat „Existential Threat” Before It’s Too Late, The Guardian, 2017. július 17.; https://www.theguardian.com/technology/2017/jul/17/elon-musk-regulation-ai-combat-existential-threat-tesla-spacex-ceo.

11 Nick Statt: Bill Gates is Worried about Artificial Intelligence Too, CNET, 2015. január 28.; https://www.cnet.com/news/bill-gates-is-worried-about-artificial-intelligence-too/.

12 Sam Shead: DeepMind’s Elusive Third Cofounder is the Man Making Sure that Machines Stay On Our Side, Business Insider, 2017. január 26.; https://www.businessinsider.com/shane-legg-google-deepmind-third-cofounder-artificial-intelligence-2017-1.

13 Charlie Stross: Invaders from Mars, Charlie’s Diary, 2010. december 10.; http://www.antipope.org/charlie/blog-static/2010/12/invaders-from-mars.html.

Tartalom

Bevezetés: Az emberen túl – több mint emberi

1. Másképp gondolkodni

2. Az erdő világhálója

3. Az élet sűrűje

4. Láss a bolygó szemével

5. Beszélgetés idegenekkel

6. Nem bináris gépek

7. A véletlen működése

8. Szolidaritás

9. Az állatok internete

Utószó: A fémfarmon

Köszönetnyilvánítás

Jegyzetek

Irodalomjegyzék

Illusztrációk jegyzéke

Forgalmazza:
eKönyv Magyarország Kft.
www.ekonyv.hu

Felhasznált betűtípusok
Lora – SIL Open Font License
Nanum Gothic – SIL Open Font License
Noto Sans Phoenician – SIL Open Font License
Noto Serif – Apache License 2.0