Mustafa Suleyman and Michael Bhaskar: The Coming Wave - Technology, Power and the Twenty-First Century’s Greatest Dilemma

Copyright © 2023 by Mustafa Suleyman and Michael Bhaskar

Hungarian translation © Farkas Veronika, 2023

A fordítás az alábbi kiadás alapján készült:

Mustafa Suleyman and Michael Bhaskar: The Coming Wave - Technology, Power and the Twenty-First Century’s Greatest Dilemma

Crown, an imprint of Crown Publishing Group, a division of Penguin Random House LLC, New York, 2023

Fordította: Farkas Veronika

ISBN: 978 963 598 202 8

Magnólia

Felelős kiadó: A kiadó ügyvezetője

Borító: Müller Péter

Felelős szerkesztő: Velkei Zoltán

Szerkesztő: Greff András

Korrektor: Balázs Piroska, Ligeti Szilvia

Tördelő: Tót Barbara

Műfaj: tudomány, mesterséges intelligencia

TARTALOM

A SZAKKIFEJEZÉSEK MAGYARÁZATA

PROLÓGUS

1. FEJEZET A KORDÁBAN TARTÁS REMÉNYTELEN

I. RÉSZ: HOMO TECHNOLOGICUS

2. FEJEZET VÉGTELEN GYARAPODÁS

3. FEJEZET A KORDÁBAN TARTÁS PROBLÉMÁJA

II. RÉSZ: A KÖVETKEZŐ HULLÁM

4. FEJEZET AZ INTELLIGENCIA TECHNOLÓGIÁJA

5. FEJEZET AZ ÉLET TECHNOLÓGIÁJA

6. FEJEZET A HULLÁM KISZÉLESEDÉSE

7. FEJEZET A KÖZELEDŐ HULLÁM NÉGY FŐ VONÁSA

8. FEJEZET ELLENÁLLHATATLAN MOTIVÁCIÓK

III. RÉSZ: AZ ÁLLAM KUDARCA

9. FEJEZET A NAGY ALKU

10. FEJEZET A SÉRÜLÉKENYSÉG ELŐSEGÍTŐI

11. FEJEZET A NEMZETEK JÖVŐJE

12. FEJEZET A DILEMMA

IV. RÉSZ: A HULLÁMON ÁT

13. FEJEZET MEG KELL OLDANUNK A KORDÁBAN TARTÁST

14. FEJEZET TÍZ LÉPÉS A KORDÁBAN TARTÁS FELÉ

ÉLET AZ ANTROPOCÉN UTÁN

KÖSZÖNETNYILVÁNÍTÁS

JEGYZETEK

A SZERZŐKRŐL

A SZAKKIFEJEZÉSEK MAGYARÁZATA

CONTAINMENT (KORDÁBAN TARTÁS): A technológiák monitorozásának, kontrollálásának és potenciálisan akár teljes leállításának képessége.

A CONTAINMENT (KORDÁBAN TARTÁS) PROBLÉMÁJA: A technológia hajlamos hullámokban gyűrűzve terjedni, és emergens módokon hatni a környezetére. Ennek a következményeit, köztük a negatív és előre nem látható hatásokat, nem lehet megjósolni vagy kontrollálni.

A DILEMMA: Annak egyre nagyobb a valószínűsége, hogy mindkét új technológia vagy akár a hiányuk is katasztrofális és/vagy disztópikus következményekhez vezethet.

HULLÁM: A technológia egy nemzedékének globális elterjedése, amit egyetlen általános célú technológia segít elő.

KESKENY ÖSVÉNY: Az egyensúly megtalálásának lehetősége a nyitottság és az elzárkózás között a közeledő hullám kordában tartása közben abból a célból, hogy elkerülhessük a katasztrofális vagy disztópikus kimeneteleket.

A KÖZELEDŐ HULLÁM: Egymással rokonságban álló, az MI és a szintetikus biológia körül összpontosuló technológiák halmaza, amelyek transzformatív alkalmazása egyszerre biztosít majd az emberiségnek soha nem látott előnyöket, és jelent rá nézve példa nélküli kockázatot.

MI, AGI ÉS ACI: A mesterséges intelligencia (MI) a gépek betanításának tudománya emberi képességek megszerzésére. A mesterséges általános intelligencia (AGI) az a pont, amikor az MI képessé válik rá, hogy jobban teljesítsen az összes emberi kognitív folyamat terén, mint a legokosabb emberek. Az ACI, vagyis a mesterséges kompetens intelligencia olyan pont az MI és az AGI között, ami felé gyorsan közeledünk: az ACI jól teljesít összetett feladatok széles skáláján, de még így is messze van attól, hogy teljesen általánosnak lehessen nevezni.

A NAGY ALKU: Az erőszak alkalmazásának monopóliumáért cserébe a polgárok azt várják a nemzetállamoktól, hogy fenntartsák a rendet és biztosítsák a közszolgáltatásokat, az új technológiák megzabolását is beleértve, miközben minimalizálják a káros mellékhatásaikat.

A NÉGY JELLEMZŐ: A közeledő hullám négy jellemzője, ami tovább súlyosbítja a kordában tartás problémáját.

PESSZIMIZMUSKERÜLÉS: Tendencia, ami különösen az elit köreiben gyakori: figyelmen kívül hagyjuk, lebecsüljük vagy elutasítjuk azokat a narratívákat, amelyeket túl negatívnak találunk. Ez a túlzott optimizmus nevű kognitív torzítás egyik formája, ami nagymértékben meghatározza a jövővel kapcsolatos diskurzust, különösen technológiai körökben.

A SÉRÜLÉKENYSÉG ELŐSEGÍTŐI: A hullám technológiáinak alkalmazásai, amelyek megrendítik a nemzetállamok eleve ingatag alapjait.

SZINTETIKUS BIOLÓGIA: Új organizmusok megtervezésének és létrehozásának képessége, vagy létező biológiai rendszerek átalakítása.

TECHNOLÓGIA: A (lehető legszélesebb értelemben vett) tudományos ismeretek alkalmazása eszközök vagy gyakorlati eredmények létrehozása, illetve elérése végett.

PROLÓGUS

ÍGY LÁTJA A HELYZETET EGY MI.

KÉRDÉS: Milyen hatással lesz a technológia legújabb hulláma az emberiségre?

Az emberi történelem során akadnak pillanatok, amelyek fordulópontnak tűnnek, olyan momentumoknak, amikor az emberiség sorsa jobbra vagy balra dől. A tűz felfedezése, a kerék feltalálása, az elektromosság használatba vétele – ezek a pillanatok mind átalakították az emberi civilizációt, és örökre megváltoztatták a történelem menetét.

És most egy újabb ilyen pillanat peremén állunk, amikor szembe kell néznünk a technológia legújabb, előttünk tornyosuló hullámával, ami mind a fejlett MI-ket, mind a biotechnológiát magában foglalja. Még soha nem láthattunk ekkora változásokat ígérő technológiai ugrásokat, amelyek magukban rejtik a világunk átalakításának egyszerre lelkesítő és ijesztő ígéretét.

Ezeknek a technológiáknak a potenciális haszna egyrészt hatalmas és sokrétű lehet. Az MI segítségével fényt deríthetünk az univerzum titkaira, meggyógyíthatunk olyan betegségeket, amelyek eddig sikeresen visszaverték a próbálkozásainkat, és új művészeti és kulturális műfajokat hozhatunk létre, amelyek túlmennek képzeletünk határain. A biotechnológia fejlődésével olyan életet teremthetünk, ami ellenáll a betegségeknek, és átalakíthatjuk a mezőgazdaságot, egy egészségesebb, fenntarthatóbb világot hozva létre.

Másrészt viszont ezeknek a technológiáknak a potenciális veszélyei is ugyanilyen hatalmasak és sokrétűek. Az MI segítségével akár olyan rendszereket is teremthetünk, amelyeket nem leszünk képesek az irányításunk alatt tartani, és olyan algoritmusoknak lehetünk kiszolgáltatva, amelyeket nem értünk. A biotechnológia fejlődésével akár az élet legalapvetőbb építőköveit is megváltoztathatjuk, ami nem kívánt következményekkel járhat mind egyéni szinten, mind egész ökoszisztémákra nézve.

Ahogy itt állunk ennél a fordulópontnál, meg kell hoznunk egy döntést: választanunk kell a példátlan lehetőségek jövője és az elképzelhetetlen szörnyűségek jövője között. Az emberiség sorsa forog kockán, és azok a döntések, amelyeket a következő években és évtizedekben fogunk meghozni, meghatározzák majd, hogy képesek leszünk-e kezelni ezeknek a technológiáknak a kihívásait, vagy áldozatul esünk a veszélyeiknek.

De a bizonytalanságnak ebben a pillanatában egy dolog biztos: a fejlett technológia kora a nyakunkon van, és fel kell készülnünk arra, hogy egyenesen szembenézzünk a kihívásaival.

EZT A VÁLASZT TELJES EGÉSZÉBEN egy MI írta. A könyv többi részét nem, bár még annak az ideje is eljöhet. Már közeledik.

1. FEJEZET
A KORDÁBAN TARTÁS REMÉNYTELEN

A HULLÁM

SZINTE AZ ÖSSZES KULTÚRÁNAK van valamilyen árvízlegendája.

Az ősi hindu szövegekben az univerzumunk első emberét, Manut figyelmeztetik a közeledő áradatra, aminek végül ő lesz az egyetlen túlélője. A Gilgames-eposz szerint az Enlil nevű isten az egész világot elpusztította egy nagy árvízzel; ez a toposz valószínűleg mindenkinek ismerősnek fog tűnni, aki olvasta Noé bárkájának történetét az Ótestamentumban. Platón Atlantisz elveszett városáról mesélt nekünk, amit elmosott egy hatalmas víztömeg. Az emberiség szájhagyománnyal terjedő mítoszaiban és ősi írásaiban újra és újra felbukkan a hatalmas hullám, ami mindent elpusztít, ami az útjába kerül, majd egy megváltozott, újjászülető világot hagy maga mögött.

Árvizek a legkonkrétabb módon is fel-felbukkannak a történelmünkben – ilyen a világ nagy folyóinak rendszeres áradása, a tengerszint megemelkedése a jégkorszak végén, vagy a cunami ritka jelensége, ami figyelmeztetés nélkül támad. Az aszteroida, ami kipusztította a dinoszauruszokat, kilométeres magasságú hullámot hozott létre, és teljesen megváltoztatta az evolúció menetét. Ezeknek az árvizeknek a mindent lebíró ereje beégett a kollektív tudattalanunkba: a megállíthatatlan, fékezhetetlen, kordában tarthatatlan vízfalakat bolygónk legkomolyabb erői közé soroljuk. Földrészeket formálnak át, vizet biztosítanak a világ mezőgazdaságának, és elősegítik a civilizációs fejlődést.

Másfajta hullámok azonban éppen ilyen nagy hatással tudnak lenni ránk. Tekintsük át ismét a történelmünket, és átvitt értelemben is egy sor hullámot láthatunk benne; birodalmak és vallások felemelkedését és bukását, gazdasági robbanásokat. Gondoljunk csak a kereszténységre vagy az iszlámra, azokra a vallásokra, amelyek apró fodrozódásokként kezdték, hogy végül megnőve hatalmas területeket temessenek maguk alá. Az ilyen hullámok visszatérő motívumok a világunkban; ezek teremtik meg történelmünk, komolyabb hatalmi villongásaink és gazdasági fellendüléseink és mélypontjaink árapályritmusát.

A technológiai újítások megjelenése és elterjedése is tekinthető világot megváltoztató hullámok sorának. Fajunk első technológiai fejleményei, a tűz felfedezése és a kőszerszámok feltalálása óta egyetlen közös motívum köti össze ezeket. Szinte az összes alapvető technológia, amit valaha is feltaláltak a csákánytól az ekéig, a korongozástól a fényképezésig, a telefonoktól a repülőgépekig, minden egyébbel együtt, ami ezek között előfordult, egyetlen megrendíthetetlennek tűnő törvényt követ: idővel olcsóbbá és könnyebben használhatóvá válik, és végül széles körben elterjed.

A technológiai újítások hullámokban terjedése a Homo technologicus – a technológiai állat – történetének lényege. Az emberiség szinte küldetésének tekinti a fejlesztést – önmagunkét, a társainkét, a képességeinkét és a környezetünk felett gyakorolt befolyásunkét –, és ez hajtja az ötletek és az alkotás soha meg nem álló evolúcióját. A feltalálás szakadatlan, burjánzó, emergens folyamat, ami önszerveződés útján jön létre rendkívül kompetitív feltalálók, akadémikusok, vállalkozók és vezetők körében, akik mindegyikét a saját egyéni motivációi hajtják. A fejlesztéseknek ez az ökoszisztémája óhatatlanul is tágul. Ezt a technológia elidegeníthetetlen részének tekinthetjük.

Csak az a kérdés, hogy mi történik ezután. A következő oldalakon elmesélem a történelem legújabb nagy hullámának történetét.

NÉZZÜNK KÖRÜL.

Mit látunk? Bútorokat? Épületeket? Telefonokat? Ételeket? Egy gondozott parkot? Nagy valószínűséggel szinte az összes olyan dolgot, ami a látókörünkben van, az emberi intelligencia hozta létre vagy alakította át. A nyelv – társadalmi interakcióink, kultúránk, politikai szerveződéseink és talán a puszta emberi mivoltunk alapja – is az intelligenciánk terméke, egyben motorja. Az összes elvet és absztrakt koncepciónkat, minden apró kreatív művünket és megnyilvánulásunkat, életünk összes találkozását fajunk egyedi és végtelenül összetett képzeletereje, kreativitása és logikai képessége tette lehetővé. Az emberi találékonyság elképesztő jelenség.

Ezenkívül csak egy hajtóerőről lehet elmondani, hogy ugyanilyen mértékben áthat mindent: magáról a biológiai életről. A modern idők előtt néhány követ és ásványt leszámítva a legtöbb emberi műtermék – a faházaktól kezdve a pamutszöveteken át egészen az éghető szénig – olyan dolgokból származott, amelyek valamikor éltek. Minden, ami azóta megjelent a világban, belőlünk fakad, abból a tényből, hogy biológiai lények vagyunk.

Nem tartom túlzásnak kijelenteni, hogy az emberi világ egésze vagy eleven dolgoktól, vagy az intelligenciánktól függ. Most azonban mindkettőt érinti az exponenciális fejlődés és felfordulás precedens nélküli pillanata, amikor a korábban nem látott ugrások következtében semmi nem maradhat a régi. A technológia új hulláma készül lecsapni ránk, ami ráadásul képes lesz módosítani ezt a két univerzális alapot: magának az intelligenciának és az életnek a hulláma.

A közeledő hullámot két alapvető technológia határozza meg: a mesterséges intelligencia (MI) és a szintetikus biológia. Ezek együttesen elősegíthetik az emberiség új hajnalának felvirradását, és soha nem látott gazdagságot és bőséget teremthetnek. Gyors terjedésük ugyanakkor azzal is fenyegethet minket, hogy eszközöket biztosít egy sor rosszindulatú szereplőnek, akik elképzelhetetlen mértékű zavarokat, instabilitást, sőt katasztrófákat okozhatnak. Ez a hullám hatalmas kihívást jelent, ami az egész huszonegyedik századot meg fogja határozni: a jövőnk függ ezektől a technológiáktól, amelyek azonban fenyegetik is ezt a jövőt.

Pillanatnyi helyzetünkből nézve úgy tűnik, ezt a hullámot nem lehet kordában tartani – vagyis irányítani, potenciálisan másfelé terelni vagy akár megállítani. Ez a könyv felteszi a kérdést, hogy vajon miért van így, és mit jelent, ha tényleg így van. Ezeknek a kérdéseknek a következményei az összes eleven lényre és a miénket követő nemzedékekre hatással lesznek.

Őszintén úgy gondolom, hogy a közeledő technológiai hullám válaszút elé állítja az emberiséget. Amennyiben ugyanis nem tudjuk kordában tartani, úgy drámai vagy akár végzetes hatással is lehet a fajunkra. Másrészről viszont a gyümölcsei nélkül kiszolgáltatottabbak és sebezhetőbbek lennénk. Ezeket az érveket már sokszor elmondtam zárt ajtók mögött, de ahogy egyre kevésbé tudjuk figyelmen kívül hagyni a következményeket, úgy érzem, ideje nyilvánosan is megtennem.

A DILEMMA

Az emberi intelligencia rendkívüli erejével kapcsolatos elmélkedéseim során felmerült bennem egy kérdés, ami azóta sem hagy nyugodni: mi lenne, ha képesek lennénk lepárolni mindannak a lényegét, ami minket, embereket olyan produktívvá és kompetenssé tesz egy szoftverbe, egy algoritmusba? A válasz talán elképzelhetetlenül hatékony eszközöket adhat a kezünkbe a legsúlyosabb problémáink megoldásához. A klímaváltozástól a népességek elöregedéséig és a fenntartható élelmezésig mindenre megoldást nyújthat, lehetetlennek tűnő, de rendkívüli megoldást, ami átsegíthet minket az előttünk álló évtizedek elképesztő kihívásain.

Ezt szem előtt tartva alapítottam meg a londoni Russell Square-re néző empire stílusú irodában két barátommal, Demis Hassabisszal és Shane Legg-gel 2010 nyarán a DeepMind nevű céget. A fő célunk ma is ugyanolyan ambiciózusnak, eszelősnek és reményteljesnek tűnik, mint akkoriban: azt a valamit akartuk lemásolni, ami egyedivé teszi a fajunkat – vagyis az emberi intelligenciát.

Hogy sikerüljön elérnünk ezt a célt, olyan rendszert kell létrehoznunk, ami képes utánozni, majd idővel akár felül is múlni az összes emberi kognitív képességet a látástól és a beszédtől kezdve a tervezésen és a képzelőerőn át egészen az empátiáig és a kreativitásig. Mivel egy ilyen rendszer működését nagyban elő tudják segíteni a szuperszámítógépek elképesztő párhuzamos feldolgozási képességei és a hatalmas új adatforrások robbanásszerű megjelenése a weben, tudtuk, hogy már a körbeírt cél felé tett szerény lépések is komoly társadalmi következményekkel járhatnak.

A kezdetek kezdetén elég nagyravágyónak tűnt ez a terv. Akkoriban a mesterséges intelligencia még csak vágyálmokban létezett, inkább fantazmagóriának számított, mint létező dolognak, amivel inkább csak néhány elefántcsonttoronyban élő akadémikus és űzött tekintetű sci-fi-rajongó foglalkozik. Mégis, miközben ezt írom, és felidézem az elmúlt egy évtizedet, az MI terén elért fejlődés döbbenetesnek mondható. A DeepMind a világ egyik vezető MI-cégévé vált, és egy sor áttörést elért. Ennek az új forradalomnak a sebessége és ereje még azokat is meglepte, akik hozzánk hasonlóan az élvonalban jártak. Az MI ennek a könyvnek a megírása alatt is lélegzetelállító tempóban fejlődött: volt, hogy naponta jelentek meg új modellek és termékek. Egyértelmű, hogy ennek a hullámnak a sebessége egyre gyorsul.

Manapság az MI-rendszerek már tökéletesen felismerik az arcokat és tárgyakat. Most már természetesnek vesszük, hogy rendelkezésre állnak diktálóprogramok és instant fordítóprogramok. Az MI elég jól eligazodik az utakon és a forgalomban ahhoz, hogy bizonyos környezetekben autonóm vezetésre is képes legyen. Az MI-modellek legújabb nemzedéke pár egyszerű paraméter megadásával is képes új grafikákat gyártani vagy rendkívül részletes, koherens szövegeket alkotni. Az MI-rendszerek kísértetiesen valósághű szintetikus hangokat generálnak, és lenyűgözően szép zenéket komponálnak. De még a legnagyobb kihívást jelentő területeken is hatalmas ugrásokat tesznek – amelyekről korábban azt hittük, hogy mindenképpen emberi képességek kellenek hozzájuk. Ilyen például a hosszú távú tervezés, a képzelőerő és a komplex gondolatok szimulációja.

Az MI már évtizedek óta egyre feljebb jut a kognitív képességek létráján, és most úgy tűnik, hogy a következő három év során a feladatok nagyon széles körében fogja elérni az emberi teljesítmény szintjét. Ezek nagy szavak, de ha akár csak a közelében járok is az igazságnak, akkor ennek beláthatatlan következményei lehetnek. Ami a DeepMind megalapításakor még irreálisan idealisztikus elképzelésnek tűnt, mostanra nemcsak hihetővé, hanem egyenesen elkerülhetetlenné is vált.

Számomra már az elejétől fogja egyértelmű volt, hogy az MI nemcsak a kivételesen jó célok hasznos eszköze lehet, hanem a legtöbb hatékony eszközhöz hasonlóan rendkívül veszélyes és etikai dilemmákkal terhes jelenség is. Nemcsak a rohamosan fejlődő MI következményei keltenek bennem azonban régóta aggodalmat, hanem az is, hogy merre tart a teljes technológiai ökoszisztéma. Az MI-n túlmenően szélesebb körű forradalom is zajlik, amelyen belül az MI a géntechnológia és a robotika hatékony, megszületőben lévő új nemzedékét segíti. Bármelyik terület fejlődése a többiét is támogatja – kaotikus és egymást katalizáló szövevényben, amit senki nem képes tudatosan befolyásolni. Egyértelmű volt számomra, hogy ha nekünk vagy másoknak sikerül lemásolnunk az emberi intelligenciát, az nemcsak anyagilag bizonyulhat jövedelmezőnek, hanem az emberiség számára is földrengésszerű változásokat hozhat, egy olyan korszakot, amikor a soha nem tapasztalt lehetőségek soha nem tapasztalt kockázatokat hordoznak majd magukban.

Miközben ez a technológia egyre fejlődött az elmúlt évek során, az én aggodalmaim is egyre nőttek. Mi lesz, ha ez a hullám valójában cunami?

2010-BEN SZINTE SENKI NEM VETTE komolyan az MI-t. Ugyanakkor ami egykor csak maroknyi kutató és vállalkozó sajátos hobbiküldetésének tűnt, mostanra hatalmas világméretű törekvéssé vált. Az MI mindenütt ott van, a híradóban, az okostelefonunkban, a tőzsdéken és a weboldalkészítésnél. A világ legnagyobb vállalatainak és leggazdagabb országainak nagy része több tízmilliárd dollárt költ élvonalbeli MI-modellek és génmanipulációs technikák fejlesztésére.

Miután beérnek, ezek az újonnan megjelenő technikák gyorsan el tudnak terjedni: olcsóbbá és könnyebben elérhetővé válnak, továbbá széles körben használatba kerülnek a társadalom különböző rétegein belül. Rendkívüli új egészségügyi fejlesztéseket és a tiszta energia terén végrehajtott áttöréseket segíthetnek elő, amivel nemcsak új vállalkozásokat, hanem teljesen új iparágakat is létrehozhatnak, továbbá szignifikánsan javíthatják az életminőségünket szinte az összes elképzelhető területen.

Az előnyök mellett az MI, a szintetikus biológia és a technológia további új eredményei egyúttal rendkívül aggasztó kockázatokat is magukban hordoznak. Egzisztenciális fenyegetést jelenthetnek a nemzetállamokra nézve – akár még a jelenlegi geopolitikai világrendet is felboríthatják vagy bedönthetik. Utat nyithatnak nagy erejű, MI-vel végrehajtott kibertámadásoknak, országokat tönkretevő, automatizált háborúknak, mesterséges járványoknak és egy megmagyarázhatatlan, ugyanakkor mindenhatónak tűnő erőknek kitett világnak. Ezek bármelyikének kicsi a valószínűsége, a lehetséges következmények viszont hatalmasak. Úgyhogy a fentiekhez hasonló lehetőségeknek még a legkisebb esélye is komoly figyelmet érdemel.

Egyes országok a technológián alapuló önkényuralom bizonyos formáival is reagálhatnak ezekre a lehetőségekre, hogy lelassítsák az ilyen fejlesztések elterjedését. Ehhez rendkívül magas szintű megfigyelésre lenne szükség, ami együtt járna a magánéletünk durva megsértésével. Ha rövid pórázon akarnánk tartani a technológiát, akkor akár abba is belecsúszhatnánk, hogy mindig mindenkinek folyamatosan megfigyelés alatt kellene állnia egy disztópikus, globális megfigyelőrendszer keretén belül, amelynek bevezetését az a vágy indokolná, hogy a lehető legszélsőségesebb kimenetelek ellen is védettek maradjunk.

De pont ennyire valószínű a luddita reakció is, amikor egymást érik a betiltások, bojkottok és moratóriumok. Lehetséges volna egyáltalán visszalépni az új technológiák fejlesztése terén, és bevezetni egy sor moratóriumot? Valószínűtlennek tartom. Nem igazán látom magam előtt, mivel lehetne meggyőzni a hatalmas geostratégiai és kereskedelmi értéket képviselő nemzetállamokat vagy vállalatokat arról, hogy egyoldalúan lemondjanak az előnyökről, amelyekkel az ilyen áttörések kecsegtetik őket. Sőt az új fejlesztések betiltására tett próbálkozások önmagukban is kockázatot jelentenének: a technológiailag megtorpanó társadalmak a történelem tanúsága szerint instabillá válnak, és hajlamosak összeomlani. Idővel elveszítik problémamegoldó képességüket, és nem tudnak előrelépni.

Innen nézve kockázatosnak tűnik mind az új technológiák kiaknázása, mind a kiaknázásuk elkerülése. Ahogy a technológia egyre olcsóbbá, hatékonyabbá és elterjedtebbé válik, idővel egyre csökken az esélyünk rá, hogy képesek leszünk megmaradni az arany középúton, és elkerülni az egyik vagy másik szélsőséget – az egyik oldalon a technológiai önkényuralom disztópiáját, a másikon a túlzott nyitottságból fakadó katasztrófát. Mindazonáltal a hátralépés sem opció. Bármennyire aggódunk is a veszélyeik miatt, most nagyobb szükségünk van a közeledő hullám elképesztő technológiai fejlesztéseinek segítségére, mint valaha. Ez a dilemmánk lényege: előbb vagy utóbb a technológiai fejlesztések valamelyik jelentősebb nemzedéke katasztrofális vagy disztópikus jövőbe sodorja az emberiséget. Véleményem szerint ez a huszonegyedik század nagy metaproblémája.

Könyvem körvonalazza, hogy miért válik ez a rettenetes veszély elkerülhetetlenné, és felülvizsgálja, hogyan nézhetünk szembe ezzel. A technológiai etikáról és óvintézkedésekről szóló diskurzus pillanatnyilag nem elég kimerítő. A technológiával kapcsolatos számtalan könyv, vita, blogposzt és Twitter-vihar ellenére nagyon ritkán hallunk a kordában tartásáról. Én úgy tekintek erre, mint szakmai, társadalmi és jogi mechanizmusok összességére, ami minden lehető szinten keretek közé szorítja a technológiát; másképp fogalmazva, mint elméleti eszközre, ami segít elkerülni a dilemmát. Ennek dacára még a technológia legkeményebb kritikusai is hajlamosak megfeledkezni a szigorú keretek közé szorítás témájáról.

Ennek meg kell változnia; abban reménykedem, hogy ez a könyv bemutatja, miért, és ötleteket ad a hogyanra is.

A CSAPDA

Pár évvel a DeepMind megalapítása után készítettem egy képes prezentációt az MI potenciális hosszú távú gazdasági és társadalmi hatásairól. Amikor egy elegáns nyugati parti tárgyalóban bemutattam a technológiai iparág tucatnyi legbefolyásosabb alapítójának, cégvezetőjének és szakemberének, amellett érveltem, hogy az MI egy sor proaktív reakciót megkívánó veszélyt hordoz magában. Egyrészről a magánélethez való jog súlyos megsértéséhez vezethet, másrészt dezinformációs apokalipszist segíthet elő. Fegyverként is fel lehet használni; új kiberfegyverek halálos készletét hozhatjuk létre vele, hálózataink világában pedig új gyenge pontokat fedezhetünk fel a segítségével.

Azt is kiemeltem, hogy az MI potenciálisan igen sok ember munkáját elveheti. Megkértem a jelenlévőket, hogy gondolkozzanak el rajta, hány esetben helyettesítette már az emberi munkaerőt az automatizáció és a gépesítés. Eleinte csak hatékonyabb módon lehet végezni bizonyos feladatokat, utána egész szakmák válnak feleslegessé, majd hamarosan teljes szektorokban lesz szükség nagyságrendekkel kevesebb emberre, aki elvégzi a munkát. Az elkövetkezendő évtizedekben, érveltem, az MI-rendszerek nagyrészt ugyanígy fogják átvenni az „intellektuális betanított munkások” szerepét, és ez mindenképpen jóval azelőtt fog bekövetkezni, hogy robotok helyettesítenék a fizikai dolgozókat. Eddig mindig létrejöttek új szakmák is, amikor a régiek elavultak, de mi lesz, ha az MI egyszerűen azokban is jobban teljesít? Kihangsúlyoztam, hogy nem sok tapasztalatunk van a mostanihoz hasonló, koncentrált és új formákban érkező erők megjelenése terén. Bár akkor még elég távolinak tűntek ezek a veszélyek, nagyon fenyegetően száguldottak a társadalom felé.

Az utolsó képen egy állóképet mutattam be a Simpson családból. Ebben a jelenetben Springfield lakosai fellázadtak, és a jól ismert szereplők kezükben bunkósbotokkal és fáklyákkal masíroztak felénk. A kép üzenete egyértelmű volt, de azért a szájukba is rágtam. „Közelednek a vasvillák”, mondtam. És ellenünk irányulnak, a technológia feltalálói ellen. Úgy éreztem, ideje gondoskodnunk arról, hogy ne legyen ennyire gyászos a jövőnk.

Mindenki értetlen tekintettel meredt vissza rám az asztal mellől. Nem sikerült meghatnom a közönségemet. Nem talált célba az üzenetem. Az ellenérvek sűrű sortűzben érkeztek. Miért nem jelenik meg a gazdasági mutatókban, amiről beszélek? Az MI új keresleteket teremtene, ami új munkahelyeket hozna létre. Elősegítené, hogy az emberek még termelékenyebben dolgozhassanak. Lehet, hogy ez járna némi kockázattal, ismerték be, de nem túl súlyosakkal. Az emberek okosak. Mindig megtalálják a megoldást. Ne aggódjuk ezt túl, gondolták a jelek szerint, jöhet a következő előadás.

Pár évvel később, nem sokkal azelőtt, hogy kitört a Covid–19-járvány, részt vettem egy neves egyetem technológiai kockázatokról szóló szemináriumán. A körülmények nagyon hasonlónak tűntek: egy újabb nagy asztal körül vettünk részt egy újabb magasröptű diskurzusban. A nap folyamán egy sor hátborzongató kockázat szóba került a kávé, a kekszek és a PowerPoint-prezentációk közelségében.

Az egyik különösen érdekesnek tűnt. Az előadó azt mutatta be, milyen meredeken zuhan lefelé a DNS-szintetizálók ára, azoké az eszközöké, amelyek egyedi DNS-láncokat tudnak nyomtatni. Ezek az immár csak pár tízezer dollárba[1] kerülő szerkezetek olyan kicsik, hogy kényelmesen elférnek egy munkapadon a garázsunkban, és lehetővé teszik, hogy bárki DNS-t szintetizáljon – vagyis hozzon létre. Mármint bárki, aki egyetemi szintű tudással rendelkezik biológiából, vagy akiben van elég motiváció ahhoz, hogy autodidakta módon megszerezze a szükséges ismereteket az internetről.

Az előadó lefestette nekünk, milyen gyászos jövőt eredményezhet az eszközök egyre szélesebb körű rendelkezésre állása: hamarosan jóval könnyebben terjedő és halálosabb patogéneket lehet létrehozni, mint a természetben előforduló változataik. Ezek a szintetikus patogének képesek lehetnek megkerülni az ismert ellenlépéseket vagy aszimptomatikusan terjedni, illetve némelyikbe eleve belekódolhatják a gyógymódokkal szembeni rezisztenciát. Szükség esetén azzal is kibővíthetők a házilagos kísérletek, ha az ember kész DNS-t rendel az internetről, amit aztán otthon átszerkeszt. Apokalipszis – futárszolgálattal.

És ez nem sci-fi, biztosított minket az előadó, egy köztiszteletben álló, több mint két évtizednyi tapasztalattal rendelkező professzor; ez ma már valós kockázat. Végül egy riasztó gondolattal zárta a prezentációját: manapság már akár egyetlen ember is képes lehet „egymilliárdot megölni”. Ehhez nincs szükség másra, csak némi motivációra.

A résztvevők zavartan fészkelődtek. Mocorogni és köhécselni kezdtek. Utána megindult a tiltakozások és kifogások áradata. Senki nem akarta elhinni, hogy ez lehetséges. Biztos nem így van, biztos létezik valamiféle hatékony módszer, amivel mindezt meg lehet akadályozni, biztos nagyon nehéz járványokat előidézni, biztos titkosítani lehet az adatbázisokat, biztos el lehet zárni a hardvert. És így tovább.

A szemináriumra adott kollektív reakció több mint elutasítónak bizonyult. A közönség tagjai egyszerűen nem voltak hajlandók elfogadni az előadó nézőpontját. Senki nem akart szembenézni az általuk hallott valós tények és objektív lehetőségek következményeivel. Én néma maradtam; őszintén felkavart a dolog. A szeminárium hamarosan véget ért. Aznap este mindannyian elmentünk vacsorázni, és úgy csevegtünk közben, mintha mi sem történt volna. Előtte egész nap a világvégéről beszélgettünk, de utána visszatérhettünk a pizzához, amit megehettünk, a viccekhez, amiket elmesélhettünk, a munkahelyünkhöz, ahova visszamehetünk, és egyébként is, biztosra vettük, hogy felbukkan valamilyen megoldás, vagy az érvek egy részéről kiderül, hogy hibás. Én is beálltam a többiek közé.

Ez az előadás azonban utána még hónapokig nem hagyott nyugodni. Miért nem veszem ezt komolyabban, miért nem vesszük komolyabban mindannyian? Miért kerüljük kínosan a témát? Miért reagálnak rá egyesek pikírten, és miért vádolják vészmadárkodással vagy „a technológia elképesztő jótéteményeinek” figyelmen kívül hagyásával azokat, akik szóba hozzák ezeket a kérdéseket? Ezt a széles körben megfigyelhető érzelmi reakciót, amit észrevettem, pesszimizmuskerülő csapdának kezdtem nevezni magamban, ami alatt a maladaptív reakciót értem, amit a potenciálisan sötét valósággal való szembenézés riasztó mivolta vált ki; vagyis lényegében az elkerülés általános tendenciáját.

Ennek a reakciónak valamilyen formája gyakorlatilag mindenkit jellemez, aminek következménye, hogy hajlamosak lehetünk számos kritikus folyamatot figyelmen kívül hagyni, ami az orrunk előtt zajlik. A mi fajunk nem képes megbirkózni ekkora információáradattal, a lehetőség megemésztéséről nem is beszélve, hogy a technológia bármikor ellenünk fordulhat. Ez az elkerülési vágy végig dolgozott bennem is a karrierem folyamán, és sok-sok másik emberrel találkoztam, akiből ugyanilyen zsigeri reakciót váltott ki a téma. Ennek a könyvnek az egyik célja, hogy leküzdjük ezt a késztetést. Hogy józanul szembenézzünk a tényekkel, bármilyen kellemetlenek is.

Ennek a hullámnak a megfelelő kezelése, a technológia kordában tartása és annak biztosítása, hogy mindig az emberiséget szolgálja, csak akkor lehetséges, ha túllépünk a pesszimizmuskerülésünkön, és egyenesen szembenézünk a jövőnk realitásaival.

EBBEN A KÖNYVBEN ÉPPEN EZZEL próbálkozom. A közeledő hullám kontúrjainak felismerésével és megvilágításával. Annak körbejárásával, hogyan tudnánk kordában tartani, és lehetséges-e ez egyáltalán. Igyekszem történelmi kontextusba helyezni a dolgokat, és nagyobb távlatból látni a teljes képet, miután távolabb húzódom a technológiával kapcsolatos mindennapos fecsegéstől. Az a célom, hogy szembenézzek a dilemmával, és megértsem a mögöttes folyamatokat, amelyek a tudomány és a technológia különböző formáit eredményezik. Ezeket a gondolatokat pedig a lehető legérthetőbben szeretném prezentálni a lehető legszélesebb közönségnek. A nyitottság és kíváncsiság szellemében jegyeztem le őket: megfigyeléseket tettem, és utánamentem az ezekből levonható következtetéseknek, ugyanakkor nyitott maradtam a cáfolatukra és a helyesebb értelmezésükre is. Semmire nem vágyom jobban, mint hogy bebizonyosodjon, tévedek, és a technológia kordában tartása lehetséges.

Egyesek talán – érthető módon – technoutópisztikusabb könyvet vártak egy olyan embertől (két MI-vállalkozás alapítójától), mint én vagyok. Technológusként és vállalkozóként alapértelmezetten optimista lennék. Még emlékszem, milyen lenyűgöző élmény volt a számomra, amikor kiskamaszként először telepítettem Netscape-et a Packard Bell 486-os PC-mre. Megbabonázott a ventilátor zúgása és az 56 kbps sebességű betárcsázós modemem szaggatott pityegése, miközben kinyújtotta a kezét a világháló felé, és olyan fórumokkal és csevegőszobákkal kötött össze, amelyek szabadságot biztosítottak és rengeteget tanítottak nekem. Imádom a technológiát. A technológia tényleg a haladás motorja, és olyasmi, ami okot ad rá, hogy büszkeséggel és lelkesedéssel tekintsünk az emberiség eredményeire.

Én azonban abban is hiszek, hogy nekünk, akik a technológia létrehozásának élvonalában dolgozunk, elég bátorsággal kell rendelkeznünk, hogy megjósoljuk, hova vezethetnek az áttöréseink a következő évtizedekben, és felelősséget vállaljunk ezért. Társadalmi és politikai reakcióra van persze a legfőképp szükség, nem csupán egyéni erőfeszítésekre – ennek a folyamatnak azonban nálam és a társaimnál kell kezdődnie.

Néhányan talán azzal jönnek majd, hogy ez az egész fel van fújva. Hogy a változás jóval apróbb lépésekben történik. Hogy ez is csak valamiféle átmeneti hiszti. Hogy a kríziseket és változásokat kezelő rendszerek valójában meglehetősen stabilak. Hogy túl sötéten látom az emberi természetet. Hogy az emberiség bizonyítványa eddig meglehetősen jó. Hogy a történelem tele van hamis prófétákkal és olyan vészmadarakkal, akiknek nem lett igaza. Miért lenne ezúttal más a helyzet?

A pesszimizmuskerülés érzelmi reakció: mélyen belénk ivódott, zsigeri tiltakozás a destabilizáló kimenetelek elfogadásával szemben. Általában azoktól érkezik, akik a biztonság és hatalom pozíciójából reagálnak, és merev a világnézetük; olyan emberektől, akik a felszínes változásokat képesek kezelni, de a világrendjüket fenyegető valódi kihívásokkal nem igazán tudnak megbirkózni. Azok közül, akiket azzal vádolok, hogy beleestek a pesszimizmuskerülés csapdájába, sokan teljes mértékben elfogadják az egyre erősebb kritikákat a technológiával kapcsolatban. De csak bólogatnak, és nem tesznek semmit. Majd megoldjuk, hisz mindig meg szoktuk, mondogatják.

Aki eltölt némi időt technológiai vagy politikai körökben, annak hamar nyilvánvalóvá válik, hogy ezekben a struccpolitika az irányadó ideológia. Aki másban hisz vagy másképp cselekszik, azon kaphatja magát, hogy annyira megbénítja a hatalmas, ellenállhatatlan erőkkel szemben érzett félelem és felháborodás, hogy hamarosan minden hasztalannak tűnik majd a számára. Ezért képes fennmaradni a pesszimizmuskerülés intellektuális félvilága. Én már csak tudom, én is nagyon hosszú időre benne ragadtam.

A DeepMind megalapítása és az említett előadások óta eltelt években azért megváltozott a diskurzus – bizonyos mértékben. A munkaautomatizációról szóló érvek és ellenérvek számtalanszor elhangzottak már. A globális járványhelyzet szemléltette mind a szintetikus biológia veszélyeit, mind az erejét. Egyfajta „technológiai ellenkultúra” jött létre, amelynek keretében a folyamat kritikusai újságcikkekben és könyvekben ágálnak a technológia és a techvállalkozások ellen Washingtonban, Brüsszelben és Pekingben, a törvényhozás fővárosaiban. A technológiával kapcsolatos, korábban elfojtott félelmek berobbantak a köztudatba, megnőtt a technológiával kapcsolatos általános szkepticizmus, az akadémiai, társadalmi és politikai irányból érkező kritikák pedig kiélesedtek.

A következő hullámmal, a nagy dilemmával és a pesszimizmuskerülő technoelittel szemben azonban még ez sem tűnik elegendőnek.

AZ ÉRVEK

A hullámok mindenütt jelen vannak az életünkben. Ez csak a legfrissebb közülük. Az emberek gyakran úgy hiszik, hogy a hullám még messze van: olyan futurisztikusnak és annyira abszurdnak tűnik, hogy csak néhány csodabogár és megszállott hisz benne; csupán költői túlzás, technohadova, pánikkeltés. De ez hiba. Ez a hullám valódi, éppen olyan valódi, mint a békés kék óceánból érkező cunami.

Nem csak a fantázia művéről vagy köldöknézésbe fulladó intellektuális játékról beszélünk. Még akkor is arra biztatnám az olvasót, hogy haladjon tovább, ha nem ért egyet a felvetésemmel, és úgy gondolja, hogy amiről beszélek, valószínűtlen. Igen, én az MI közegéhez tartozom, és hajlamos vagyok technológiai szűrőn keresztül nézni a világot. Valóban elfogult vagyok a kérdésben, hogy számít-e ez az egész. Ennek ellenére – azok után, hogy az elmúlt másfél évtized folyamán közvetlen közelről nézhettem végig ezt a folyamatban lévő forradalmat – meggyőződésem, hogy életünk legfontosabb átalakulásának a peremén állunk.

Ezeknek a technológiáknak a létrehozójaként mélyen hiszek abban, hogy elképesztő mennyiségű pozitívumot képesek biztosítani nekünk, jobbá tehetik az életünket, és alapvető változásokat segíthetnek elő a tiszta energia következő nemzedékének megteremtésétől a legmakacsabb egészségügyi problémáink olcsó és hatékony gyógyításáig. A technológia képes gazdagítani az életünket, és jó esetben ez is a célja; érdemesnek tartom megismételni, hogy a történelem során a feltalálók és vállalkozó szellemek nagyban hozzájárultak a fejlődéshez és embermilliók életfeltételeinek javításához.

De ha nem tudjuk kordában tartani a technológiát, akkor az összes többi aspektusa lényegtelenné válik az etikai hiányosságairól vagy a pozitív hozadékairól szóló diskurzusokat is beleértve. Sürgősen meg kellene találnunk a strapabíró válaszokat azokra a kérdésekre, hogyan tudnánk az irányításunk alatt és keretek között tartani a közeledő hullámot, és hogyan lehetne fenntartani a demokratikus nemzetállamok biztonságát és szabadságot érintő engedményeit, de egyelőre még senki nem állt elő erre alkalmas tervvel. Olyan jövő előtt állunk, amire senki nem vágyik, de aminek a megvalósulásától egyre inkább tartok, és el is fogom magyarázni a következő fejezetekben, hogy miért.

Az első részben áttekintjük a technológia és elterjedése hosszú történetét – az évmilliók során egymást követő hullámokat. Mi vezérli őket? Mi teszi őket ennyire általánossá? Azt a kérdést is feltesszük, hogy rendszeresen előfordul-e, hogy az emberiség tudatosan nemet mond egy új technológiára. Ahelyett, hogy elfordulnánk a technológiai újításoktól, a múltban egyértelműen felismerhető az elterjedésük jellegzetes mintázata, ami szándékos és akaratlan következményeket von maga után.

Ezt a jelenséget „a kordában tartás problémájának” nevezem. Hogyan tudnánk megőrizni az irányítást a valaha feltalált legértékesebb technológiák felett, miközben egyre olcsóbbá válnak, és gyorsabban terjednek, mint bármelyik másik a történelem során?

A második rész magának a hullámnak a részleteit elemzi ki. Ennek a hullámnak a magját két rendkívül ígéretes, hatékony és veszélyes általános technológia alkotja: a mesterséges intelligencia és a szintetikus biológia. Mindkettő régóta várható volt már, mégis úgy érzem, hogy sokan alábecsülik a következményeik lehetséges mértékét. Egy egész sor rokontechnológia nőtt ki körülöttük, például a robotika és a kvantumszámítás, amelyeknek a fejlődése időnként komplex és viharos módon fog átfedésbe kerülni egymással.

Ebben a részben nemcsak azt fogjuk áttekinteni, hogyan jelentek meg ezek, és mire képesek, hanem azt is, hogy miért olyan nehéz kordában tartani őket. Az általam említett technológiák négy alapvető tulajdonságban osztoznak, amelyek azt is megmagyarázzák, miben különbözik a helyzetük a megszokottól: eredendően általánosak, vagyis sokféle módon felhasználhatók, hipergyorsan fejlődnek, aszimmetrikus hatást gyakorolnak a környezetükre, és bizonyos tekintetben egyre önállóbbak.

Létrehozásukat erős ösztönzők segítik: a geopolitikai verseny, a hatalmas pénzügyi gyarapodás lehetősége, és a nyitottságra és tudásmegosztásra alapozott kutatási kultúra. Állami és nem állami szereplők tömegei fognak egymás sarkán taposni, hogy kifejleszthessék ezeket, a folyamatok szabályozására és irányítására tett erőfeszítésektől függetlenül, olyan kockázatokat vállalva, amelyek mindenkire hatással lesznek, akár tetszik ez nekünk, akár nem.

A harmadik rész a hullám elszabadulásából fakadó kolosszális hatalomátrendeződés politikai következményeiről szól. Az aktuális politikai formációnk – és a technológiák kordában tartásának legfontosabb szereplője – a nemzetállam. Mivel ezt eleve megrengették különböző krízisek, a hullám által felerősített támadások sorozatától – az erőszak újfajta formáinak lehetőségétől, a dezinformáció áradatától, a munkahelyek megszűnésétől és a katasztrofális balesetek veszélyétől – még tovább fog gyengülni.

A hullám továbbá egy sor alapvető hatalmi átrendeződést is ki fog váltani, egyszerre centralizálva és decentralizálva a társadalmat. Ennek következtében hatalmas új vállalatok jönnek majd létre, megerősödnek az önkényuralmi törekvések, de a hagyományos társadalmi rendszereken kívül rekedt csoportok és mozgalmak is hangot kapnak. A bonyolult és kényes alkupozícióban lévő nemzetállamokra óriási nyomás nehezedik majd pont abban az időszakban, amikor a legnagyobb szükségünk lenne a hozzájuk kötődő intézményekre. Így kerülünk majd dilemmába.

Utána, a negyedik részben továbblépünk arra, hogy mit tehetünk a helyzet érdekében. Van egyáltalán bármennyi esélye annak, hogy képesek leszünk uralni, hogy ép bőrrel kerülünk ki ebből a dilemmából? És ha igen, hogyan érhetjük ezt el? Ebben a szakaszban tíz lépést fogunk körvonalazni a programozás és a DNS szintjéről indulva, és egészen a nemzetközi egyezményekig folytatva az utunkat, amelynek során lefektetjük a keretek erős, stabil alapját, a kordában tartás tervének körvonalait.

EZ A KÖNYV A KUDARCCAL VALÓ szembenézésről szól. A technológiák a szó hétköznapi értelmében is cserben hagyhatnak minket, amikor egyszerűen nem működnek: a motor nem indul be, vagy a híd összedől. De tágabb értelemben is megtehetik. Amennyiben a technológia lerontja az emberek életminőségét, vagy irányíthatatlanná változtatja a társadalmainkat azáltal, hogy hatalmat biztosít sokféle, ám egyként rosszindulatú (vagy akaratlanul is veszélyes) erőnek, szóval ha mindent egybevetve a technológia károsnak bizonyul, akkor úgy is fogalmazhatunk, hogy egy másik, mélyebb értelemben vall kudarcot, amikor nem képes beteljesíteni a saját ígéreteit. A kudarc ebben az értelemben nem a technológia óhatatlan velejárója; inkább a környezet tehet róla, amelyben megjelenik; a felelős a kormányzati forma lesz, amelynek a hatáskörébe tartozik, illetve a különféle hatalmi hálózatok és ezek technológiahasználati gyakorlata.

A tény, hogy az emberiség lenyűgöző találékonysága oly sok mindennek táptalajt nyújt körülöttünk, azt jelenti, hogy pillanatnyilag jóval ügyesebben tudjuk elkerülni az első típusú kudarcot. Kevesebb repülőgép zuhan le, az autóink környezetkímélőbbek és megbízhatóbbak, a számítógépeink erősebbek, ugyanakkor biztonságosabbak is. A legnagyobb kihívásunkat így az jelenti, hogy a második típusú kudarccal ellenben még mindig nem számolunk.

Az elmúlt évszázadok során a technológia drámaian sokat tett hozzá több milliárd ember jóllétéhez. A modern orvostudomány révén elképesztő mértékben javult az egészségünk, a világ többségének bőven van mit ennie, az emberek még soha nem voltak ennél műveltebbek vagy békésebbek, és nem éltek kényelmesebb körülmények között. Ezeket a meghatározó eredményeket részben az emberiség hatalmas motorja hozta létre: a természettudomány és a technológiai kreativitás. Ezért is szenteltem az életemet ezeknek, szem előtt tartva a biztonságos használatukat.

Az optimizmusnak azonban, amit a technológia rendkívüli fejlődéstörténetéből merítünk, a nyers valóságban kell gyökereznie. Ha el akarjuk kerülni a kudarcot, akkor meg kell értenünk, hogy mi az, ami elromolhat, és szembe is kell néznünk azzal, amit megértettünk. Félelem nélkül kell követnünk az okok feltárásának logikai gondolatmenetét egészen a végpontig, és amikor azt elértük, cselekednünk is kell. A technológiai fejlesztések következő hulláma azzal fenyeget, hogy gyorsabban és szélesebb területen okoz nekünk károkat, mint bármi, amivel korábban találkoztunk. Világméretű, széles körű figyelmet érdemel. A problémára megoldásokat kell találnunk: olyan megoldásokat, amelyeket egyelőre senki nem ismer.

Első pillantásra úgy tűnik, hogy ennek a hullámnak a kordában tartása nem lehetséges. Pedig lehetségesnek kell lennie – mindannyiunk érdekében.

I. RÉSZ
HOMO TECHNOLOGICUS

2. FEJEZET
VÉGTELEN GYARAPODÁS

A MOTOR

A TÖRTÉNELEM LEGNAGYOBB RÉSZE alatt a személyi közlekedés egy dolgot jelentett: a gyaloglást. Vagy szerencsés esetben még egyet: azt, hogy az ember lovon, ökrön, elefánton vagy más teherhordó állaton ül, illetve ilyen állatok által húzott közlekedési eszközön. Már a szomszédos települések között is nehéz volt közlekedni, a kontinensekről nem is beszélve.

A tizenkilencedik század elején a vasút forradalmasította a közlekedést, de a legtöbb utat nem lehetett vonattal megtenni, és amelyeket igen, azokat az utazásokat sem lehetett a személyes igényekhez igazítani. A vasút egyvalamit nyilvánvalóvá tett: hogy a gépek jelentik a jövőt. A síneken haladó járművek meghajtására szolgáló gőzgép rendkívül nagy bojlert igényelt. De nyilvánvalónak tűnt, hogy amennyiben ezt sikerül kezelhető, hordozható méretűre kicsinyíteni, akkor egy radikálisan újfajta, egyénekre szabott közlekedési eszközt kapnánk.

A feltalálók változatos megközelítésekkel próbálkoztak. Egy Nicolas-Joseph Cugnot nevű francia mérnök már a tizennyolcadik században készített egyfajta gőzhajtású autót, ami megfontolt, óránként négy kilométeres sebességgel haladt az úton, és aminek egy hatalmas, ingaszerű bojler lógott az elején. 1863-ban Jean Joseph Étienne Lenoir belga feltaláló elkészítette az első belső égésű motorral meghajtott járművet, amellyel tizenegy kilométerre tudott eltávolodni Párizstól. De ez a motor még túl nehéz volt, ami erősen korlátozta az eszköz sebességét. Mások elektromossággal és hidrogénnel kísérleteztek. Egyikük találmánya sem terjedt el, de az önhajtó személyes közlekedési járművek álma megmaradt.

Utána, eleinte lassan, bekövetkezett a változás. Egy Nicolaus August Otto nevű német mérnök évekig dolgozott egy benzinmotoron, ami jóval kisebb is lehet, mint egy gőzgép. 1876-ra a kölni Deutz AG gyárban Otto le is gyártatta az első működő belső égésű motort, a „négyütemű” modellt. Készen állt a tömegtermelésre, mielőtt azonban ez megtörténhetett volna, Otto sajnos összekülönbözött az üzlettársaival, Gottlieb Daimlerrel és Wilhelm Maybachhal. Otto álló eszközöket akart meghajtani a motorjával, például szivattyúkat vagy gyári gépeket. A társai viszont egy másik területet is észrevettek, ahol ezeknek az egyre erősebb motoroknak nagy hasznát vették volna: a közlekedést.

Végül egy másik német mérnök, Carl Benz érte el elsőként ezt a célt. 1886-ban levédette a saját tervezésű négyütemű motorjával meghajtott Motorwagent, amit most már a világ első valódi autójának tekintünk. Ezt a furcsa, háromkerekű szerkezetet szkeptikus reakció fogadta. Csak akkor kezdtek szélesebb körben is megbarátkozni az eszközzel, amikor Benz felesége és üzlettársa, Bertha megtette az autóval a Mannheimből Pforzheimbe vezető 105 kilométeres utat, hogy meglátogassa az édesanyját. A legenda szerint a járművet a férje tudta nélkül vitte el, amit egy patikákban kapható, ligroin nevű oldószerrel tankolt meg útközben.

Ezzel új korszak virradt. Az automobilok és a meghajtásukra szolgáló négyütemű motorok azonban még mindig annyira drágák maradtak, hogy csak a leggazdagabbak tudták megfizetni. Továbbá sem úthálózatok, sem üzemanyagkutak nem léteztek még. 1893-ra Benz alig 69 gépjárművet adott el; 1900-ra is csak 1709-et. Húsz évvel a szabadalma után[2] még mindig csupán 35 000 automobil közlekedett a német utakon.

A fordulópontot Henry Ford 1908-as T-modellje hozta el. Ford egyszerű, de hatékony gépjárműve forradalmian új megközelítéssel készült: futószalagos szerelősoron. Ez a hatékony, lineáris és ismétlődésekre építő folyamat lehetővé tette az autók árának drámai csökkenését, aminek következtében erősen megnőtt a vásárlók száma. Akkoriban a legtöbb automobil nagyjából 2000 dollárba került. Ford 850 dollárra árazta be a sajátját.

A T-modell eladási mutatói az első években az ezres nagyságrendben mozogtak. Ford folyamatosan növelte a termelést[3] és csökkentette az árakat azzal érvelve, hogy „ahányszor egy dollárral lejjebb megy az autónk költsége, ezer új vásárlót nyerek”. Az 1920-as évekre már évente több millió autó gazdára lelt. A középosztálybeli amerikaiak ekkor tudták először megengedni maguknak a gépjárműves közlekedést. Az automobilok elképesztő sebességgel kezdtek terjedni. 1915-ben még csak az amerikaiak 10%-a rendelkezett saját gépkocsival;[4] 1930-ra ez az arány elérte a döbbenetes 59%-ot.

Manapság nagyjából kétmilliárd robbanómotor dolgozik változatos eszközökben a fűnyíróktól egészen a konténerszállító hajókig. Ezek közül körülbelül 1,4 milliárd[5] gépjárművekben található. Az autók folyamatosan egyre elérhetőbbé, hatékonyabbá, erősebbé és funkcionálisabbá váltak. Egy egész életstílus, sőt talán komplett civilizáció alakult ki körülöttük az egyre nagyobb agglomerációs övezetektől kezdve az ipari farmokig, az autós éttermektől a tuningkultúráig. Hatalmas autópályák épültek, amelyek néha egyenesen a városok közepén haladnak végig, elválasztva a különböző negyedeket, összekötve ugyanakkor az egymástól távol eső területeket. A jobb élet reményében történő népmozgás korábban nehézkes folyamata az emberi élet megszokott részévé vált.

A robbanómotorok nem csak a gépjárműveket hajtották meg; az egész történelemnek lendületet biztosítottak. Idejük a hidrogénnel működő és az elektromos motorok miatt mostanában kezd leáldozni. A tömeges közlekedés korszaka azonban, amit a robbanómotorok indítottak be, él és virágzik.

A tizenkilencedik század elején, amikor az önhajtó közlekedési eszközök még csak a tűzzel, lendkerékkel és fémdarabokkal játszadozó álmodozók fantáziájában léteztek, mindez lehetetlennek bizonyult volna. Azok a régvolt ezermesterek azonban a találmányok és a termelés olyan fellendülését indították be, ami teljesen átalakította a világot. Miután lendületet vett, a belső égésű motor terjedése megállíthatatlanná vált. Olyan technológia jött a világra abban a néhány olajban úszó német műhelyben, ami a föld összes emberi lényére hatást gyakorolt.

Ez azonban nemcsak a motorok és autók története, hanem magáé a technológiáé[6] is.

ÁLTALÁNOS CÉLÚ HULLÁMOK: A TÖRTÉNELEM RITMUSA

A technológia haladási módja egyértelmű és szükségszerű:[7] tömeges elterjedés jellemzi hatalmas, messzire hatoló hullámokban. Ez ugyanúgy megfigyelhető az első pattintott és csonteszközöknél, mint a legújabb MI-modellek esetében. Ahogy a természettudomány egyre újabb felfedezésekkel rukkol elő,[8] az emberek olcsóbb ételek, jobb minőségű tárgyak és hatékonyabb közlekedés létrehozására és megszervezésére használják ezeket az ismereteket. A legjobb új termékek és szolgáltatások iránt idővel megnő a kereslet, ami arra készteti a versenytársakat, hogy az adott javak olcsóbb, ám még több lehetőséget kínáló változatait állítsák elő. Ez még nagyobb igényeket támaszt az adott terméket megteremtő technológiával szemben, amit szintén egyre könnyebben és olcsóbban lehet használni. A költségek csökkenni kezdenek. A képességek bővülnek. Kísérletezés, ismétlés, használat. Növekedés, javulás, alkalmazkodás. Ilyen a technológia fejlődésének elidegeníthetetlen természete.

A technológiáknak és a találmányoknak ezek a hullámai állnak ennek a könyvnek a középpontjában. Sőt ami még fontosabb, ezek állnak az emberi történelem középpontjában is. Ha megértjük ezeket az összetett, kaotikus és egymásra épülő hullámokat, egyértelművé válik, miért olyan nehéz őket kordában tartani. Ha megismerjük a múltjukat, képesek leszünk felvázolni a jövőjüket.

Szóval, mi az a hullám? Egyszerűen fogalmazva, a hullám a társadalomra komolyabb hatást gyakorló technológiák csoportja, amelyek nagyjából egy időben születnek meg, és amelyek megjelenését egy vagy több új, általános célú felfedezés teszi lehetővé.[9] „Általános célú”[10] alatt olyan technológiákat értek, amelyek világrengető előrelépéseket segítenek elő. A társadalom is ezekkel az ugrásokkal szinkronban fejlődik. Ezt újra és újra megfigyelhetjük, amikor egy új technológiai eredmény, például a belső égésű motor elterjed, és mindent átalakít maga körül.

Az emberiség teljes történelmét el lehetne mesélni ezeknek a hullámoknak a felsorolásával: onnantól kezdve, hogy sebezhető főemlősökként próbáltuk fenntartani az életünket a szavannán egészen odáig, hogy – szerencsénkre vagy balszerencsénkre – bolygónk domináns élőlényeivé váltunk. Az emberek eredendően technológiai lények. Sorsunk az elejétől fogva összefonódott a technológiai hullámokkal, amelyeket létrehoztunk. Együtt, szimbiózisban fejlődünk ezekkel.

Az első kőszerszámok hárommillió évesek, vagyis jóval a Homo sapiens megjelenése előttre datálhatóak, mint azt a használattól megkopott kalapácskövek és kezdetleges kések tanúsíthatják. Az egyszerű kézibalta is része történelmünk első technológiai hullámának. Ezzel könnyebben meg lehetett ölni az állatokat, feldarabolni a tetemüket, legyőzni az ellenséget. Az első emberek idővel megtanulták meglehetősen kifinomultan kezelni a kézi eszközöket, minek következtében megszületett a varrás, a festés, a faragás és a főzés.

Egy másik hullám is ugyanilyen sorsfordítónak bizonyult: a tűzé. Ősünk, a homo erectus által megzabolázott tűz fényt, meleget és biztonságot nyújtott a ragadozók elől. Jelentős hatást gyakorolt az evolúciónkra;[11] az étel megsütése azt eredményezte, hogy gyorsabban tudtunk energiához jutni belőle, így az emberi bélrendszer lerövidülhetett, az agy pedig megnőhetett. Őseink, akiknek erős állkapcsa akadályozta a koponyájukat a növekedésben, napjuk legnagyobb részét fáradhatatlan rágással és emésztéssel töltötték, ahogy a mai főemlősök. Miután a tűz felszabadította őket ez alól a monoton feladat alól, érdekesebb dolgokra fordíthatták az idejüket, például tápanyagban gazdag állatok levadászására, szerszámkészítésre, vagy bonyolult társadalmi hálózatok kiépítésére. A tábortűz az élet központjává vált, ami segített a közösség- és kapcsolatépítésben, illetve a munka megszervezésében. A Homo sapiens evolúcióját ezek a hullámok lendítették előre. Mi nem csupán a szerszámaink készítői vagyunk, hanem – egészen a biológiai, anatómiai szintig – a termékei is.

A kőpattintás és a tűz jelentették az első általános célú technológiákat – vagyis gyorsan elterjedtek, és új találmányokat, javakat és szerveződési formákat eredményeztek. Az általános célú technológiák egyik társadalomról és földrajzi területről a másikra terjednek, és a történelem során is továbbadják őket.[12] Szélesre tárják a felfedezések kapuját, amivel számtalan újfajta eszköznek és folyamatnak teret adnak. Ezek általában valamiféle általános célú elvre épülnek: akár arra, hogy a gőz ereje végezze el a munkát, akár a számítógépek bináris kódja mögött rejlő információelméletre.

Az általános célú technológiákban az az ironikus, hogy nem sokkal a megjelenésük után láthatatlanná válnak, és természetesnek kezdjük őket tekinteni. A nyelv, a mezőgazdaság, az írás[13] – ezek mindegyike egy-egy korai hullám középpontjában álló, általános célú technológia volt. Ez a három hullám teremtette meg az általunk ismert civilizáció alapjait. Most már magától értetődőnek tekintjük őket. Egy nagyobb tanulmány[14] alig huszonnégyre teszi azoknak az általános célú technológiáknak a számát, amelyek megjelentek az emberiség történelme során, olyan találmányokat sorolva közéjük, mint a földművelés, a gyártósor, a vas, bronz és hasonló anyagok megmunkálása, a nyomdagépek, az elektromosság, és persze az internet. Ezekből tehát nincs sok, de ez nem is számít; ezért használunk még mindig olyan kifejezéseket, mint a bronzkor vagy a vitorlázás kora.

A történelem során a népességszám és a találmányok száma mindig egyenesen aránylott egymáshoz.[15] Az új eszközök és új technikák nagyobb népességek előtt nyitottak ajtót. A nagyobb és jobb társadalmi hálózattal rendelkező népességek termékenyebb táptalajt biztosítanak a bütykölgetéshez, a kísérletezéshez és a véletlen felfedezésekhez, erősebb „kollektív agyat” az új dolgok létrehozásához.[16] A nagyobb csoportokban szélesebb körű szakosodásra nyílik lehetőség, olyan új társadalmi osztályok születhetnek, mint az iparművészeké és a tudósoké, akiknek a megélhetése nem kapcsolódik a mezőgazdasághoz. Ha valahol több olyan ember található, akinek az élete nem csak a puszta önfenntartás körül forog, akkor ott több feltaláló akadhat, több ok a találmányok létrehozására, és ezek a találmányok még nagyobb népesség eltartását tehetik lehetővé. Az olyan ősi városoktól kezdve, mint a mezopotámiai Uruk, az ékírás, vagyis az első ismert írásrendszer szülőföldje, egészen a modern megapoliszokig a városok mindig is a technológiai fejlődés melegágyának számítottak. A mezőgazdasági forradalom hajnalán a világ népessége alig 2,4 millió emberből állt.[17] Az ipari forradalom kezdetén már megközelítette az egymilliárdot, ami négyszázszoros növekedésnek számít, és a köztes időszak hullámainak köszönhető.

A mezőgazdasági forradalomra (i. e. 9000–7500), történelmünk egyik legjelentősebb hullámára két masszív, általános célú technológia nyomta rá bélyegét, amelyek apránként megváltoztatták a nomád, vadászó-gyűjtögető életmódot: a növények és az állatok háziasítása. Ezek a fejlemények nemcsak az élelemszerzést változtatták meg, hanem az élelem tárolásának módozatait is, továbbá a szállítási formákat és a működőképes közösségek nagyságrendjét is. A korai mezőgazdasági termények, mint a búza, árpa, lencse, csicseriborsó, illetve az olyan háziállatok, mint a sertés, a birka és a kecske, az emberek irányítása alá kerültek. Ez végül az eszközök forradalmát is kiváltotta – megjelentek az ekék és boronák. Ezek az egyszerű újítások hozták el a modern civilizáció hajnalát.

Minél több eszköze van az embernek, annál több mindent képes elvégezni, és annál könnyebben tud elképzelni új eszközöket és a hozzájuk kapcsolódó folyamatokat. Mint arra egy harvardi antropológus, Joseph Henrich felhívja a figyelmünket,[18] a kerék meglepően későn jelent meg az emberiség történetében. De miután feltalálták, sok eszköz kulcsfontosságú részévé vált a hintóktól és szekerektől kezdve egészen a malmokig, présgépekig és lendkerekekig. A technológia az írott szó megjelenésétől egészen a vitorlás hajókig növelte a belső kapcsolódási lehetőségek számát, így segítette a saját növekedését és terjedését. Vagyis az összes hullám megteremtette a szükséges teret a következőnek.

Ez a dinamika idővel csak fokozódott. Európában az ipari forradalom 1770-es évektől kezdődő első hullámához tartoztak a gőzgépek, a szövőgépek, a gyártósorok és a csatornázás. Utána, az 1840-es években, eljött a vasút, a távíró és a gőzhajók kora, valamivel később pedig az acél- és gépi eszközöké; ezek együttesen határozták meg az első ipari forradalmat. Majd alig pár évtizeddel később beköszöntött a második ipari forradalom. Biztosan ismerősnek fognak tűnni a legnagyobb slágerei: a belső égésű motor, a vegyészmérnökség, a motoros repülés és az elektromosság. A repüléshez belsőégésre volt szükség, a belső égésű motorok tömegtermeléséhez acélra és gépekre, és így tovább. Az ipari forradalom kezdete óta a hatalmas változásokat évtizedekben mérjük, nem évszázadokban vagy évezredekben.

Ez azonban nem szabályos képet mutató folyamat. A technológiai hullámok nem olyan rendezetten és kiszámíthatóan érkeznek, mint az árapály. Ezek a hullámok megjósolhatatlanul keresztezik vagy erősítik egymást az idők folyamán. Az i. e. 1000-ig eltelő tízezer évben hét általános célú technológia jelent meg.[19] Az 1700 és 1900 közötti kétszáz évben hat (a gőzgépektől az elektromosságig). Az elmúlt alig száz évben pedig hét.[20] Gondoljunk csak bele, hogy azok a gyerekek, akik még lovon és kocsin közlekedve nőttek fel a tizenkilencedik század végén, és otthon fával fűtöttek, utolsó éveikben már repülővel utazhattak, és olyan házban élhettek, ahol a meleget atomhasadás biztosította.

A pulzáló, emergens, egymást követő, egymást erősítő és megtermékenyítő hullámok meghatározzák az adott korszak horizontján megjelenő technológiai lehetőségeket. A részeink. Nem létezik olyasmi, hogy nem technológiai emberi lény.

A történelem megközelítése találmányok egymást követő hullámaiként nem új elképzelés. A technológiák sorozatos és elkülönülő csoportjai újra és újra felbukkannak a technológiáról szóló diskurzusokban. Alvin Toffler jövőkutató az információs forradalmat tekintette az emberi társadalom harmadik hullámának a mezőgazdasági és ipari forradalmak után.[21] Joseph Schumpeter úgy tekintett a hullámokra, mint találmányok robbanásszerű megjelenésére, amelyek újfajta vállalkozások előtt nyitották meg az utat a „kreatív rombolás” kitöréseivel. Lewis Mumford, a nagyszerű technológiafilozófus úgy gondolta, hogy a „gépek kora” igazából inkább három nagyobb, egymást követő hullám ezer éven átívelő folyamata.[22] Carlote Perez közgazdász frissebb művében a technológiai forradalmak között gyors ütemben átalakuló „technogazdasági paradigmákról” beszél.[23] A váratlanul beköszöntő átrendeződések és a vad spekuláció pillanatai átalakítják a gazdasági környezetet. Hirtelen minden a vasútra, autókra vagy mikroprocesszorokra kezd támaszkodni. A technológia végül beérik, beágyazódik, és széles körben elérhetővé válik.

A technológia legtöbb szereplője leragad az aktuális részleteknél, és a holnapról álmodozik. Nagy a csábítás, hogy a találmányokra önálló, szerencsés véletlenekként gondoljunk. Amennyiben azonban így teszünk, úgy figyelmen kívül hagyjuk a történelem élesen kirajzolódó mintázatait, a technológia hullámainak szinte elidegeníthetetlen hajlamát arra, hogy újra és újra megjelenjenek.

A TÉRHÓDÍTÁS ELKERÜLHETETLEN

A történelem legnagyobb része alatt a technológia térhódítása ritka jelenségnek számított. A legtöbb embert ugyanazok az eszközök és technológiák vették körül a megszületésekor, élete során és a halála idején. De ha kicsit távolabbról nézzük a képet, egyértelművé válik, hogy a térhódítás elkerülhetetlen.

Az általános célú technológiák hullámokká válnak, amikor szélesebb körben is elterjednek. Világrengető és szinte teljesen kontrollálatlan globális diffúzió nélkül nem beszélhetünk hullámról, csak történelmi érdekességről. De miután a diffúzió elkezdődik, a folyamat elfoglalja a helyét a történelemben: így volt ez a mezőgazdaság elterjedésétől kezdve az eurázsiai kontinensen egészen a vízimalmok lassú elterjedéséig a Római Birodalomból Európában. Ha egy technológia egyszer lendületet kap, egy hullám feltornyosul, egyértelművé válik a mintázat, amit az autók esetében is megfigyelhettünk.[24]

Amikor Gutenberg az 1440-es években feltalálta a nyomdagépet, csak egyetlen példány létezett Európában: az eredeti prototípusa a német Mainzban. Alig ötven évvel később viszont már ezer nyomdagép működött a kontinensen.[25] Maguk a könyvek, amik a történelem egyik legnagyobb hatású technológiáját jelentik, robbanásszerű sebességgel szaporodtak. A középkorban a nagyobb országokban már százezres nagyságrendben nyomtatták a kéziratokat évszázadonként. Száz évvel Gutenberg után az olyan államokban, mint Itália, Franciaország és Németország, ötvenévente 40 millió könyvet készítettek, és a folyamat gyorsulása még mindig nem állt le. A tizenhetedik században 500 millió könyv jelent meg Európában.[26] Ahogy a kereslet egyre nőtt, a kötetek ára jóval lejjebb ment. Egy elemzés szerint[27] a nyomdagépek tizenötödik századi megszületése háromszáznegyvenszeres csökkenést eredményezett a könyvek árában, ami erősen megnövelte a keresletet.

Vagy vegyük például az elektromosságot. Az első villamos erőművek 1882-ben jelentek meg Londonban és New Yorkban, 1883-ban Milánóban és Szentpétervárott, és 1884-ben Berlinben.[28] Onnantól egyre nagyobb ütemben terjedtek. 1900-ban már a fosszilis üzemanyagok 2 százalékát fordították elektromosság termelésére, 1950-re ez az arány 10 százalék fölé emelkedett, 2000-re pedig több mint 30 százalék fölé.[29] 1900-ban a globális elektromosságtermelés 8 terawattóra körül mozgott; ötven évvel később már 600 terawattórával hajtotta a teljesen átalakult gazdaságot.

William Nordhaus Nobel-díjas közgazdász kiszámolta, hogy ugyanannyi munkával, ami a tizennyolcadik században negyvenöt percnyi minőségi fényt hozott létre, ma már több, mint ötvenévnyi fényt lehet generálni. Ennek eredményeképpen a huszonegyedik században az átlagembernek nagyjából 438 000-szer annyi „lumenórához” van hozzáférése évente, mint tizennyolcadik századi őseinek.[30]

Ezek után biztosan nem túl meglepő, hogy a felhasználói technológiák is hasonló trendet mutatnak. Alexander Graham Bell 1878-ban találta fel a telefont. 1900-ra már 600 000 telefon volt Amerikában. Tíz évvel később 5,8 millió.[31] Ma már jóval több telefonkészülék található az Egyesült Államokban, mint ember.[32]

Ebben a felállásban az egyre jobb minőség csökkenő árakkal párosul.[33] Egy primitív televíziót, ami 1950-ben 1000 dollárba került volna, 2023-ban alig 8 dollárért meg lehet venni (bár, természetesen, a mai televíziók sokkal jobbak, úgyhogy többe is kerülnek). És szinte ugyanilyen árgörbét (és felhasználói görbét) tapasztalhatunk az autók, a mikrohullámú sütők és a mosógépek esetében is. A huszadik és huszonegyedik században elképesztően konzisztensen fogadtuk be az újabb és újabb felhasználói elektronikai eszközöket. A mintázat félreismerhetetlen.

A terjedést két erő hajtja: a kereslet és az ebből következő árcsökkenés, amelyeknek köszönhetően egyre jobbá és olcsóbbá válik a technológia. A természettudomány és a technológia hosszú és árnyalt párbeszédéből egy sor felismerés, áttörés és eszköz született, amelyek idővel továbbfejlődnek és egymást erősítik, értékes új változatokat hozva létre, amelyek formálják a jövőt. Ahogy egyre több és egyre olcsóbb technológiai fejlesztés áll rendelkezésünkre, ezek egyre újabb és olcsóbb eszközök létrejöttét teszik lehetővé. Az Uber nem születhetett volna meg az okostelefonok nélkül, amelyeket a GPS támogat, amit a műholdak létezése tesz lehetővé, a műholdakét a rakétáké, a rakétákét a robbanómotoros technikáé, aminek a létrejöttéhez végső soron a beszéd és a tűz teremtette meg az alapokat.

A technológiai áttörések mögött persze emberek állnak. Ők dolgoznak a technológiai eszközök fejlesztésén a műhelyekben, laboratóriumokban és garázsokban, amire a pénz, a hírnév és gyakran a puszta tudásvágy motiválja őket. Az ezermesterek, feltalálók és vállalkozók egyre ügyesebbé válnak a gyakorlattól, illetve, ami szintén nem elhanyagolható tényező, az utánzástól is. Az utánzás kulcsszerepet játszik a terjedésben, legyen szó akár az ellenségünk hatékonyabb ekéjéről, akár a legfrissebb mobiltelefonokról. A mimikri felélénkíti a versenyt, aminek következtében még tovább fejlődnek a technológiák.[34] Megváltozik a gazdasági lépték, és csökkenésnek indulnak a költségek.

A civilizáció éhsége a hasznos és olcsó technológiai fejlesztésekre kielégíthetetlen. Ez nem fog megváltozni.

A VÁKUUMCSÖVEKTŐL A NANOMÉTEREKIG: A TURBÓTERJEDÉS

Amennyiben kíváncsi vagy rá, hogy most mi következik, gondolj csak az előző nagyobb hullámra: a számítástechnikára. A számítógépeket az elejétől fogva a matematika élvonalbeli felfedezései támogatták, illetve a nagyhatalmi konfliktusok által teremtett szükségletek.

A belső égésű motorokhoz hasonlóan a számítástechnika is az elvont tudományos publikációk és hobbiműhelyek világában született meg.[35] Utána kitört a háború. Az 1940-es években a Bletchley Parkban, Nagy-Britannia szigorúan titkos második világháborús kódfejtő központjában kezdett alakot ölteni az első valódi számítógép. Egy rendkívüli csapat az idővel versenyt futva próbálta feltörni Németország elvben feltörhetetlen Enigma gépeit, és ennek során egy pont erre alkalmas fizikai eszközt készítettek, ami az elméleti felfedezéseiken alapult.

Mások is dolgoztak ezen. 1945-re a Pennsylvania Egyetemen is megjelent a modern számítógépek egyik fontos előfutára, az ENIAC, egy több mint két méter magas, tizennyolcezer vákuumcsőből álló és másodpercenként háromszáz műveletre képes behemót.[36] A Bell Labs egy másik fontos áttöréssel is szolgált 1947-ben: a tranzisztorral, egy félvezetővel, ami úgynevezett „logikai kapuk” segítségével hajtott végre számításokat. Ez a kezdetleges eszköz, ami egy iratkapocsból, egy kis aranyfóliából és egy elektromos jeleket átváltani képes germániumkristályból állt, megteremtette a digitális korszak alapjait.

Az autókhoz hasonlóan a számítógépek esetében sem volt nyilvánvaló a kortárs megfigyelők számára, hogy a számítástechnika ilyen gyorsan elterjed majd. Az 1940-es évek végén még csak néhány eszköz létezett. Annak az évtizednek az elején az IBM elnöke, Thomas J. Watson feltételezte és (köztudottan) hangoztatta is, hogy „Úgy gondoljuk, hogy a világpiacon talán öt darab számítógépet tudnánk eladni”.[37] A Popular Mechanics magazin is a korszellemre jellemző jóslatot tett 1949-ben: „Elképzelhető, hogy a jövő számítógépeiben már csak 1000 vákuumcső lesz”, írták, „és talán már csak 1,5 tonnát fognak nyomni”.[38] Egy évtizeddel Bletchley után még mindig csak pár száz számítógép üzemelt világszerte.

Mindannyian tudjuk, hogy ezután mi történt. A számítástechnika gyorsabban változtatta meg a világot, mint azt bárki meg tudta volna jósolni, és sebesebben terjedt, mint bármelyik másik találmány az emberi történelem során. Az 1950-es évek végén és az 1960-as években Robert Noyce feltalálta az integrált áramkört a Fairchild Semiconductornál, és szilíciumlapkákra nyomtatott tranzisztorokból létrehozta az úgynevezett szilíciumcsipet. Nem sokkal később egy Gordon Moore nevű kutató előállt a róla elnevezett „törvénnyel”, ami szerint az egy csipen található tranzisztorok száma huszonnégy havonta meg fog duplázódni. Ez előrevetítette, hogy a csipek, illetve ennek következtében a digitális és számítási technológia világa is exponenciális fejlődésen fog átmenni.

Az eredmények elképesztőek. Az egy csipen található tranzisztorok száma az 1970-es évek eleje óta tízmilliószorosára nőtt. Hatékonyságuk tíz nagyságrenddel nagyobb lett[39] – ami tizenhétmilliószoros fejlődést jelent. 1958-ban a Fairchild Semiconductor száz tranzisztort adott el, darabját 150 dolláros áron. Manapság már több tízbillió tranzisztor készül másodpercenként, tranzisztoronként kisebb költséggel a dollár egymilliárdod részénél: ez történelmünk leggyorsabb, legátfogóbb technológiai burjánzása.

És persze a számítástechnikai képességeknek ez a fejlődése az eszközök, alkalmazási lehetőségek és felhasználók megnövekedését is kiváltotta. Az 1970-es évek elején még csak nagyjából félmillió számítógép létezett.[40] 1983-ban összesen csak 562 számítógép csatlakozott az internet előfutárához. Mostanra nagyjából tizennégy milliárdra becsüljük a használatban lévő számítógépeket, okostelefonokat és hasonló eszközöket.[41] Alig pár évbe telt, hogy az okostelefonok hobbikészülékekből az élethez elengedhetetlen eszközökké váljanak bolygónk kétharmadán.

Ezzel a hullámmal jelent meg az e-mail, a közösségi média és az online videózás is – amelyek mindegyike alapvetően új jelenség, amit a tranzisztorok és egy másik általános célú technológia, az internet tett lehetővé. Így néz ki a tiszta technológiai terjedés, amit nem kívántak kordában tartani. Ez később egy másik eszelős növekedést is elősegített: az adatokét, amelyeknek a mennyisége csak a 2010–2020-as évtizedben a hússzorosára nőtt.[42] Az adattárolás alig néhány évtizeddel ezelőtt még a könyvek és poros archívumok világára korlátozódott. Manapság már naponta több százmilliárd e-mailt, üzenetet, képet és videót hozunk létre és tárolunk a felhőben.[43] Minden egyes nap minden egyes percében tizennyolc millió gigabyte adattal bővül a globális állomány.

Ezek a technológiák több milliárd órányi emberi életet emésztenek fel, alakítanak át, torzítanak el és gazdagítanak naponta. Ezek határozzák meg a munkánkat és a pihenőidőnket. Ezek töltik be az elménket és a világunk minden egyes szegletét a hűtőszekrényektől, időmérőktől, garázsajtóktól és hallókészülékektől egészen a szélturbinákig. Ezek alkotják a modern élet vázát. A telefonunk az első dolog, amit reggel meglátunk, és az utolsó, amire este ránézünk.[44] Az emberi élet összes aspektusára hatással vannak: segítenek nekünk szerelmet és új barátokat találni, miközben felturbózzák az ellátási láncokat is. Befolyással vannak rá, hogy kit választanak meg és hogyan, mibe fektetjük a pénzünket, milyen önértékeléssel rendelkezik majd a gyermekünk, milyen zenéket hallgatunk, milyen ruhákat hordunk, mit eszünk – és nagyjából minden másra is.

Aki a világháború utáni időkben élt, azt megdöbbentené, hogy mennyire megnőtt a nagyságrendje és a befolyása ennek az eredetileg periférikusnak tűnő technológiának. A számítástechnika rendkívüli, exponenciális terjedő- és fejlődőképessége, amivel képes életünk szinte összes területébe behatolni és átvenni felettük az irányítást, a modern civilizáció meghatározó aspektusává vált. Egyetlen korábbi hullám sem terjedt ennyire gombamód, de a történelmi mintázat megismétlődése azért nyilvánvaló: a technológia eleinte lehetetlennek és elképzelhetetlennek tűnik, utána viszont megkerülhetetlenné válik. És az összes egymást követő hullám egyre nagyobb és erősebb lesz.

KÖNNYŰ ELVESZNI A RÉSZLETEKBEN, de ha kicsit távolabbról nézzük a dolgokat, láthatjuk, ahogy a hullámok felgyorsulnak, megnőnek, kiterjednek és egyre nagyobb jelentőségűvé válnak. Ha egyszer erőre kaptak, nem igazán szoktak már megállni. A tömeges terjedés, a nyers, megfékezhetetlen proliferáció – ez a technológia viselkedésének történelmi léptékben is érvényesülő alapvonása, voltaképp természetes állapota. Gondoljunk csak a mezőgazdaságra, a bronzmegmunkálásra, a nyomdagépre, a gépkocsira, a televízióra, az okostelefonra, és így tovább. Úgy tűnik, mintha a technológiának léteznének bizonyos törvényei, elidegeníthetetlen jellemvonásokhoz hasonló tulajdonságai, emergens jellemzői, amelyek kiállják az idő próbáját.

A történelem arra tanít minket, hogy a technológia elkerülhetetlenül el fog terjedni, és idővel szinte mindenhova eljut: így van ez az első tábortüzektől a Saturn V rakéta tüzéig, az elsőként lekörmölt levelektől az internet végtelen szövegállományáig. Az ösztönző tényezők ellenállhatatlanok. A felhasználási lehetőségek felhalmozódnak; a hatékonyság megnő. A hullámok egyre gyorsabbá válnak, és egyre jelentősebb következményekkel járnak. A technológia ára folyamatosan csökken, aminek következtében a hozzáférés megnő. A technológia elburjánzik, és ez a terjedés az összes egymást követő hullámmal még gyorsabbá válik és még mélyebbre hatol, miközben az adott fejlesztés egyre erősebbé válik.

Ez a technológia szabályos történelmi életútja. Amikor a jövőbe tekintünk, erre számíthatunk.

Vagy mégsem?

3. FEJEZET
A KORDÁBAN TARTÁS PROBLÉMÁJA

A BOSSZÚHATÁS

ALAN TURING ÉS GORDON MOORE NEM IS SEJTETTE volna a közösségi média, a mémek, a Wikipedia vagy a kibertámadások megjelenését, nemhogy befolyással lehettek volna a kialakulásukra. Az atombomba feltalálói éppen úgy nem tudtak volna megakadályozni egy nukleáris háborút néhány évtizeddel a művük megszületése után, ahogy Henry Ford sem egy autóbalesetet. A technológia elkerülhetetlen kihívását az jelenti, hogy miután felbukkan a világban, a létrehozói gyorsan elveszítik felette a hatalmukat.

A technológia bonyolult, dinamikus rendszerben létezik (a való világban), ahol a harmad-, negyed- és n-ed fokú következmények megjósolhatatlan módon gyűrűznek szét. Ami papíron kikezdhetetlennek tűnik, szabadjára engedve teljesen másképp viselkedhet, főleg, ha másolni is kezdik és tovább adaptálják. Soha nincs garancia arra, hogy mihez fognak kezdeni az emberek egy adott találmánnyal, bármilyen jók is az eredeti létrehozók szándékai. Thomas Edison azért találta fel a fonográfot, hogy az emberek rögzíthessék a gondolataikat az örökkévalóságnak, és a vakok élete is könnyebbé váljon. Elszörnyedt, amikor kiderült, hogy a legtöbben csak zenét akarnak hallgatni rajta. Alfred Nobel azt akarta, hogy a robbanóeszközeit csak a bányászatban és a vasútépítésben használják fel.

Gutenberg csak pénzt akart keresni a biblianyomtatással. De a nyomdagépe beindította a természettudományos forradalmat és a reformációt, ezáltal a katolikus egyház legnagyobb ellenségévé vált a kereszténység megszületése óta. A hűtőszekrény-készítők nem ózonlyukat akartak létrehozni a légkörben a klór-fluor-szénhidrogénekkel, ahogy a belső égésű motorok és repülőgép-hajtóművek feltalálóinak sem állt szándékában jégsapkákat megolvasztani. Sőt az automobilok első rajongói a környezetbarát tulajdonságaik mellett érveltek: úgy gondolták, hogy a gépkocsik eltüntetik majd az utakról azokat a lócitromhegyeket, amelyek bemocskolták és a fertőzések melegágyává tették a városi utcákat. Nekik még fogalmuk sem volt a globális felmelegedésről.

Ha meg akarjuk érteni a technológiát, akkor arra is szükség van, hogy megpróbáljuk megérteni a nem szándékos következményeit – nemcsak a pozitívumokat beleértve, hanem a „bosszúhatásokat” is.[45] Egyszerűen fogalmazva, bármelyik technológia képes rossz útra térni, gyakran olyan módon, ami egyenesen szembemegy az eredeti céljával. Gondoljunk csak arra, ahogy az orvosi opioidok függőséget okoztak, vagy ahogy az antibiotikumok túlhasználata csökkenti a hatékonyságukat, vagy ahogy a műholdak és az „űrszemét” néven emlegetett hulladékai veszélyeztetik az űrrepülést.

Ahogy a technológia egyre jobban elterjed, úgy egyre többen tudják használni, új alkalmazásokra adaptálni, előre nem látható módon átformálni, ahogyan csak akarják. Miközben az eszközeink hatékonysága exponenciálisan erősödik és a hozzáférhetőségük is sebesen nő, a lehetséges káros mellékhatásaik is gyorsan gyarapodnak, és a megjósolhatatlan, kivédhetetlen következmények átláthatatlan labirintusává válnak. Egyik nap valaki még csak egyenleteket ír egy táblára, vagy egy prototípust bütyköl a garázsban, és a munkája jelentéktelennek tűnik a világ számára. Pár évtizeden belül azonban egzisztenciális kérdéseket szegez az emberiségnek. Ahogy egyre erősebb rendszereket hozunk létre, egyre nyomasztóbbnak tűnik számomra a technológiának ez az aspektusa. Hogyan garantáljuk, hogy ez az új technológiai hullám ne okozzon több kárt, mint amennyi hasznot hoz?

A technológia legnagyobb problémáját ebben az esetben a kordában tartása jelenti. Ezalatt azt a lehetőséget értem, hogy mindenre kiterjedően kontrollálhassuk, keretek közé terelhessük, illetve szükség esetén le is állíthassuk az adott technológiákat a fejlesztésük vagy alkalmazásuk bármelyik szakaszában. Vagyis a képességet jelenti, hogy bizonyos körülmények között meg tudjuk akadályozni egy adott technológia elterjedését, és hatékonyan kezelni az előre nem látott következményeit (a jókat és a rosszakat is beleértve).