Jamie Susskind

POLITIKA
A JÖVŐBEN

Jamie Susskind

POLITIKA
A JÖVŐBEN

Életünk a technológia uralta világban

ATHENAEUM

FORDÍTOTTA TORMA PÉTER

A fordítás alapjául szolgáló mű

Jamie Susskind: Future Politics: Living Together In A World Transformed By Tech

© Jamie Susskind 2018

Hungarian translation © Torma Péter, 2021

Kiadta az Athenaeum Kiadó,

az 1795-ben alapított Magyar Könyvkiadók

és Könyvterjesztők Egyesülésének tagja.

Felelős kiadó az Athenaeum Kiadó ügyvezetője

1086 Budapest, Dankó utca 4–8.

www.athenaeum.hu

www.facebook.com/athenaeumkiado

ISBN 978 963 293 152 4

Felelős kiadó: Dian Viktória

Felelős szerkesztő: Besze Barbara

Szerkesztette: Filippov Gábor

Műszaki vezető: Drótos Szilvia

Borítóterv: Földi Andrea

Elektronikus könyv: Szegedi Gábor

Ezt a könyvet szüleimnek,

Michelle-nek és Richardnak ajánlom

Tartalom

Bevezetés

A következő nagyszabású változás

Filozofáló mérnökök

A politikaelmélet ígérete

Miért írtam meg ezt a könyvet?

A technológia politikája

A technológia általában

A digitális technológiák

A Politika a jövőben áttekintése

I. RÉSZ – A DIGITÁLIS ÉLETVILÁG

Első fejezet – Egyre több mindenre képes rendszerek

Mesterséges intelligencia

Gépi tanulás

A számítási kapacitások exponenciális növekedése

Második fejezet – Egyre inkább integrált technológia

Pervazív

Konnektív

Szenzitív

Konstitutív

Immerzív

Harmadik fejezet – Egyre inkább számszerűsített társadalom

Nincs visszaút?

Negyedik fejezet – Gondolkodjunk elméletben!

Mi a politika?

Politikai fogalmak

Politikaelmélet

Konceptuális analízis

Normatív analízis

Kontextuális analízis

A politikai eszmék jövője

Következik a II. rész

II. RÉSZ – HATALOM A JÖVŐBEN

Ötödik fejezet – A kód hatalom

Mi a hatalom?

A hatalom különböző arcai

A digitális technológia és a hatalom

Kód és algoritmus

A kód hatalom

A kód birodalma

A kód jövője

A következő négy fejezet

Hatodik fejezet – Erőszak

Bevezetés

Az erőszak digitalizációja

Az önmagát végrehajtó törvény

A törvények betartatása fenyegetés helyett erőszakkal

Adaptív törvény

Kód-ifikált törvény

A digitális törvény működés közben

Az erőszak privatizációja

Az erőszak automatizációja

Összefoglalás

Hetedik fejezet – Megfigyelés

Mi a megfigyelés?

A megfigyelés hatalma

Kisegítés

Fegyelmezés

Megfigyelés a digitális életvilágban

Kifürkészhető

Intim

Megsemmisíthetetlen

Megjósolható

Osztályozható

Összefoglalás

Nyolcadik fejezet – Érzékeléskontroll

Érzékeléskontroll a huszadik században

Érzékeléskontroll a digitális életvilágban

Hírek

Keresés

Kommunikáció

Érzelmek

Közvetlen szenzoros élmény

Összefoglalás

Kilencedik fejezet – Köz- és magánhatalom

Ki? Kit?

A techcégek politikája

Hogyan tovább?

III. RÉSZ – SZABADSÁG A JÖVŐBEN

Tizedik fejezet – A szabadság és a túltöltött állam

A szabadság három típusa

A cselekvés szabadsága

Gondolatszabadság

Republikánus szabadság

Digitális felszabadulás

Új affordanciák

A túltöltött állam

A törvény hatáskörének kiterjedése

A jóslás politikája

Az erkölcs automatizálása

Totalitárius kitérő

Digitális másként gondolkodás

Politikai hekkelés

Titkosítás

Bölcs korlátok

A szabadság jövője

Tizenegyedik fejezet – A szabadság és a techcégek

Szabadság és magánhatalom

A kárelv

Az önmagunknak okozott kár

Erkölcstelen, de nem káros

Digitális szabadság

Szabadság és demokrácia

IV. RÉSZ – DEMOKRÁCIA A JÖVŐBEN

Tizenkettedik fejezet – A demokrácia álma

A demokrácia története

Mi a demokrácia?

A klasszikus demokrácia

Liberális demokrácia

Kompetitív elitizmus

Demokrácia az internet után

Miért a demokrácia?

Tizenharmadik fejezet – Demokrácia a jövőben

Tanácskozó demokrácia

Érzékeléskontroll

Töredezett valóság

Állj, ki vagy?

Lenni vagy botnak lenni?

Episztemikus epidémia

Közvetlen demokrácia

Wikidemokrácia

Adatdemokrácia

MI-demokrácia

Vox populi, vox MI

A demokrácia napja

V. RÉSZ – IGAZSÁGOSSÁG A JÖVŐBEN

Tizennegyedik fejezet – Az elosztás algoritmusai

Mi a társadalmi igazságosság?

Elosztási igazságosság

A piac és az állam

Algoritmikus elosztás

Algoritmusok és elosztás

Algoritmusok és részvétel

Algoritmusok és információ

Algoritmusok és árak

Tizenötödik fejezet – Az elismerés algoritmusai

Törvények és normák

Algoritmusok és elismerés

Digitális tiszteletlenség

Digitális rangsorolás

Digitális szűrés

Az igazságosság algoritmikus szemlélete

Tizenhatodik fejezet – Algoritmikus igazságtalanság

Egy hevenyészett teszt

„Algoritmikus diszkrimináció”

Adatalapú igazságtalanság

Szabályalapú igazságtalanság

Nyíltan igazságtalan szabályok

Implicite igazságtalan szabályok

A semlegességi tévedés

A jól kódolt társadalom

Tizenhetedik fejezet – Technológiai munkanélküliség

A technológiai munkanélküliség

A tétel

Ki lesz az első?

A munkaparadigma

Jövedelem

Státus

Jóllét

Három lehetséges válasz a munkaparadigma keretein belül

Szűkös erőforrás

A munkához való jog

Ellenállás

A munkaparadigma után

1. A munka és a jövedelem közötti kapcsolat gyengítése

2. A munka és a státus közötti kapcsolat felszámolása

3. A munka és a jóllét közötti kapcsolat felszámolása

A következő fejezet

Tizennyolcadik fejezet – A vagyonciklon

A tőke a digitális életvilágban

A régimódi tőke

A produktív technológiák

Az adat

A legfontosabb különbség

Koncentrátumból készült

A Vagyonciklon

A magántulajdon-paradigma

A tulajdon jövője

A tulajdon új paradigmája

A tőke megadóztatása

Állami tőketulajdon

A használat és haszonszerzés joga

Közösségi tulajdon

Megosztás

Az adatalku

Igazságosság a jövőben

VI. RÉSZ – POLITIKA A JÖVŐBEN

Tizenkilencedik fejezet – Az átláthatóság és a hatalmi ágak új szétválasztása

Egyéni felelősség

A túltöltött állam hatalma

A techcégek hatalma

A beleegyezés elve

A méltányosság elve

A közös értékek elve

Szabályozás

Átláthatósági szabályozás

Strukturális szabályozás

Technológia és demokrácia

Az életvilág határai

Huszadik fejezet – Posztpolitika

Jegyzetek

Bevezetés

„Az egészen új világban új politikai tudományra van szükség.”{1}

Alexis de Tocqueville: Az amerikai demokrácia (1835)

A jövő a nyomunkban van. Egyre csak várakozik, úgy lapul meg, hogy éppen ne láthassuk, a következő sarok, a legközelebbi domb mögött rejtőzik. Sosem tudhatjuk biztosan, milyen alakot ölt majd. És gyakran teljesen felkészületlenül üt rajtunk.

Manapság sokan úgy érzik, óriási felfordulás időszaka felé közeledünk. A világ látszólag gyorsabban változik, mintsem felfoghatnánk. Olyan politikai eseményeket próbálunk görcsösen megmagyarázni, amelyek néhány éve még elképzelhetetlennek tűntek volna. Előfordul, hogy még szavakat sem találunk a leírásukra. Legbelül mind tudjuk, hogy ez még csak a kezdet.

E könyv kiinduló tétele az, hogy a tudomány és a technológia kérlelhetetlen haladása szükségképpen átformálja azt, ahogyan együtt élünk, ez pedig a politikára nézve is mélyreható és dermesztő következményekkel fog járni. Sem intellektuális, sem filozófiai, sem morális téren nem állunk még készen arra a világra, amelyet teremtünk. A következő évtizedben olyan gondolkodásmódok kérdőjeleződnek meg majd, amelyekkel együtt él az emberiség több száz, vagy több ezer éve. Új viták, nézeteltérések, mozgalmak és ideológiák bukkannak fel. Legszilárdabban rögzült feltevéseink egyikét-másikát újra kell gondolnunk vagy épp teljességgel elvetnünk. Együtt kell újra kitalálnunk, mit is jelent szabadnak vagy egyenlőnek lenni, hogy mit jelent a hatalom vagy a tulajdon birtoklása, sőt azt is, hogy mit értünk az alatt, hogy egy politikai rendszer demokratikus. A jövő politikája a legkevésbé sem fog emlékeztetni a múltéra.

A huszadik századi politikát egyetlen központi kérdés uralta: mekkora részét határozza meg a közösségi életnek az állam, és mennyi maradjon a piacnak és a civil társadalomnak? A politikailag mostanában éretté váló nemzedék egészen másról fog vitatkozni: milyen mértékig irányítsák és igazgassák az életünket nagy hatalmú digitális rendszerek – és milyen feltételekkel. Ez a kérdés áll a Politika a jövőben középpontjában.

Az előrejelzések szerint a következő évtizedek során elképesztő kapacitású informatikai rendszereket fogunk kifejleszteni, amelyek némelyike rengeteg funkció tekintetében beéri, sőt felülmúlja majd az embert, még ha az „intelligencia” terén nem is veszi fel velünk a versenyt. Ezek a rendszerek nem is hasonlítanak majd számítógépekre. Be fognak ágyazódni a fizikai világba, elrejtve olyan szerkezetekbe és tárgyakba, amelyeket korábban nem is tekintettünk a technológiához tartozónak. Az emberi lényekről – arról, hogy mit teszünk, hová megyünk, mit gondolunk, mondunk vagy érzünk – egyre több információt fognak adatként feljegyezni, majd digitálisan szortírozni, tárolni és feldolgozni. Ember és gép, online és offline, virtuális és valóságos közti különbségek hosszú távon teljességgel el fognak mosódni.

Ez az átalakulás hatalmas előnyökkel jár majd a civilizációnk szempontjából. Életünk új módszerekkel gazdagodhat a játék, a munka, az utazás, a vásárlás, a tanulás, az alkotás, az önkifejezés, a kapcsolattartás, az ismerkedés, a cselekvéseink koordinálása, az egészségmegőrzés vagy az élet értelmének keresése terén egyaránt. Hosszú távon akár arra is képessé válhatunk, hogy a felismerhetetlenségig kiterjesszük elménket és testünket, kiszabadulván az ember biológiai korlátai alól.

Mindeközben azonban egyes technológiák felettünk fognak egyre nagyobb hatalommal bírni. Némelyikük képes lesz bizonyosfajta viselkedésre kényszeríteni bennünket, mint (hogy egy kézenfekvő példával éljünk) az önvezető járművek, amelyek egyszerűen nem lesznek hajlandók túllépni a megengedett sebességet. Mások hatalma a rólunk gyűjtött információkban fog állni. A puszta tudat, hogy figyelnek minket, csökkenti a valószínűségét annak, hogy szégyenletesnek, bűnösnek vagy helytelennek tartott dolgokat tegyünk. Megint más technológiák meg fogják szűrni, ami a világból látunk, elő fogják írni, hogy mit tudhatunk, meg fogják határozni, hogy miképp gondolkodjunk, illetve befolyásolni fogják, hogy hogyan érezzünk – ezáltal pedig előre meghatározzák majd a cselekedeteinket.

Azok, akik ezeket a technológiákat ellenőrzik, egyre nagyobb mértékben fognak ellenőrizni minket, többieket is. Hatalmuk lesz, abban az értelemben, hogy képesek lesznek minket rábírni olyan, nagy jelentőséggel bíró cselekedetekre, amelyeket egyébként nem hajtanánk végre. Egyre inkább ők fogják meghúzni a szabadságunk határait, elő fogják írni, hogy mit szabad és mit tilos megtenni. Ők határozzák majd meg a demokrácia jövőjét, felvirágoztatva vagy éppen lebontva azt. És az ő algoritmusaik döntenek majd a társadalmi igazságosság alapvető kérdéseiben, meghatározva a társadalmi javak elosztását, valamint státus és megbecsültség szerinti hierarchiába rendezve bennünket.

Mindezek következményeképpen a politikai hatóságoknak – vagyis lényegében az államoknak – jóval több eszköz áll majd rendelkezésükre az ellenőrzés céljából, mint korábban bármikor, a nagy techcégek pedig akkora hatalomra fognak szert tenni, amely mellett a modern kor bármely más gazdasági egységéé eltörpül majd. Ahhoz, hogy megfelelő válaszokat tudjunk adni ezekre az új kihívásokra, politikai eszméinket is radikálisan meg kell újítanunk. A nagy angol filozófus, John Stuart Mill 1873-as Önéletrajzában ezt írta: „az emberi nem nagyszabású fejlődése mindaddig nem lehetséges, amíg nem következik be nagyszabású változás gondolkodásmódjának alapjaiban.”{2}

Eljött hát a következő nagyszabású változás ideje.

A következő nagyszabású változás

Politikailag már ma is egy mélyen nyugtalan korban élünk. A hírek nap mint nap véres polgárháborúkról, tömegek hontalanná válásáról, etnikai alapú nacionalizmusról, szektariánus erőszakról, vallási szélsőségesekről, klímaváltozásról, gazdasági zűrzavarról, a mindent felforgató globalizációról, növekvő egyenlőtlenségről és egy sor egyéb olyan problémáról szólnak, amelyek eléggé lehangolók ahhoz, hogysem további említést tegyünk itt róluk. A világ nincs túl jó formában – a közbeszédnek pedig ugyancsak sikerült ennek megfelelő szintre süllyednie. A politikai eliteket széles körű bizalmatlanság és megvetés övezi. A közelmúltban az angol nyelvű világban két demokratikus szavazás, a 2016-os amerikai elnökválasztás és az Egyesült Királyság brexitnépszavazása is alaposan felkorbácsolta a kedélyeket, még az amúgy sem túl szívderítő szinthez képest is: a szemben álló táborok nem csupán legyőzni igyekeztek egymást, hanem elpusztítani a rivális felet. Mindkét alkalommal az az oldal győzött, amely a régi rend lerombolását ígérte. Egyik sem hozott sem lezárást, sem elégedettséget. Egyre inkább érvényesnek tűnik Barack Obama megjegyzése, amelyet még elnöki ciklusa vége felé tett: „Minden igaz, és semmi sem igaz.”{3} Az egyszeri állampolgár számára (politikai értékrendszerétől függetlenül) egyre nehezebb elválasztani a tényt a hazugságtól, a valóságot a pletykától, a közlést a zajtól. Sokan már fel is hagytak a próbálkozással. Nagy a kísértés, hogy összekuporodjunk, és csak a jelen viharainak átvészelésére összpontosítsunk, és ne a jövő miatt aggodalmaskodjunk.

Ami nagy hiba lenne.

Ha a technológia jövőjét illető mértékadó előrejelzések csak megközelítőleg is pontosak, akkor a küszöbön álló átalakulás legalább akkora jelentőséggel képes bírni az emberiség számára, mint az ipari forradalom, a mezőgazdasági forradalom vagy akár a nyelv feltalálása. A jelenlegi problémák jó része el fog törpülni mellette. Gondoljunk csak bele, milyen hatással van a technológia már így is az életünkre – arra, ahogy dolgozunk, kommunikálunk, a betegségeinket kezeljük, edzünk, eszünk, tanulunk vagy másokkal érintkezünk –, majd jusson eszünkbe az, hogy történelmi mércével mérve a digitális kor még csupán néhány másodperce tart. Az emberi létezés mintegy 99,5 százaléka a paleolitikumban zajlott, amely körülbelül hárommillió éve, a primitív eszközhasználattal vette kezdetét. Ennek a korszaknak mintegy tizenkétezer évvel ezelőtt az utolsó jégkorszak vetett véget.{4} Történetünknek ezen a hosszúra nyúlt hajnalán az emberek jóformán semmiféle kulturális változást nem éltek át. „Az emberi világ, amelybe az egyén születésekor belépett, ugyanolyan volt, mint amelyet a halálakor elhagyott.”{5} Ahhoz képest, hogy az első civilizációk mintegy ötezer évvel ezelőtt jöttek létre, az a hetvenegynéhány év, amelyet modern számítógépek mellett éltünk le, az a harmincvalahány, amelyben már létezett az internet, illetve az az egyetlen évtized, amelyet okostelefonokkal töltöttünk el, már egyáltalán nem tűnik olyan soknak. És míg az idő lineárisan telik, számos digitális technológiai eszköz fejlődése exponenciális, és évről évre gyorsuló.

A jövővel kapcsolatban nem támaszkodhatunk tényekre, így mindenfajta jóslás szükségszerűen kockázatos és nehéz feladat. Nagyra tartom azokat, akik mégis következetes módszerességgel tesznek kísérletet erre, és ebben a könyvben is jócskán fogok támaszkodni az ő eredményeikre. De ha realisták szeretnénk maradni, annak beismerésével kell kezdenünk, hogy ezek a jóslatok igen gyakran alaposan mellélőnek. Az ezeken az oldalakon felvázolt jövő jórészt valószínűleg sohasem következik majd be, helyette teljességgel megjósolhatatlan fejlemények fognak meglepni bennünket. Mindezek figyelembevételével ugyanakkor módunkban áll észszerű és megalapozott találgatásba bocsátkozni a jövőt illetően mindannak alapján, amit a mai tudományos, technológiai és politikai trendekről tudunk. A legkockázatosabb mindenesetre az lenne, ha egyáltalán nem próbálnánk meg előre látni a jövőt.

A neves Viktória korabeli államférfi, William Gladstone állítólag találkozott egyszer a korszakalkotó tudóssal, Michael Faradayjel. Faraday igyekezett megértetni Gladstone-nal az elektromosság terén végzett, forradalmian újszerű kutatásait, utóbbi azonban láthatóan nem jött izgalomba.

– De mire jó mindez? – kérdezgette egyre bosszúsabban. – Mi a haszna?

– Nos, uram – válaszolta Faraday, aki szintén kezdett kijönni a sodrából –, ön minden valószínűség szerint hamarosan adót vethet majd ki rá.

Faradayhez hasonlóan sok más újító számára is nehézséget okoz, hogy elmagyarázza munkája társadalmi és gyakorlati jelentőségét. Mi pedig, akárcsak Gladstone, nemritkán elutasítunk olyan technológiákat, amelyeket nem értünk. Valóban nehéz felmérni olyan találmányok politikai jelentőségét, amelyeknek első pillantásra semmi közük a politikához. Amikor új eszközzel vagy alkalmazással találkozunk, általában nem az szokott lenni az első gondolatunk, hogy miképp fog az hatni a politikai rendszerre. Inkább olyan kérdések szoktak felmerülni, mint például: mire jó ez? Mennyibe kerül? Hol szerezhetnék egyet? Ez nem is túl meglepő. A technológiával mint olyannal leginkább fogyasztóként találkozunk. Ezen a szűk látókörű hozzáálláson azonban most változtatnunk kell. Ugyanazzal a fürkész tekintettel és gyanakvással kell közelítenünk a hatalom új technológiáihoz, amelyet a nagy hatalmú politikusokkal szemben eddig is alkalmaztunk. A technológia nemcsak fogyasztókként, hanem állampolgárokként is hatással van ránk. A huszonegyedik században a digitális egyben politikai is.{6}

Ez a könyv egyrészt a Gladstone-oknak szól, akik szeretnének többet érteni a technológiából; másrészt a Faradayknek, akik jobban felmérnék munkájuk politikai jelentőségét. Legfőképpen azonban az átlagpolgároknak szól, akik valamivel jobban szeretnék érteni a jövőt – ha másért nem, azért, hogy felelősségre vonhassák a Gladstone-okat és Faradayket.

Filozofáló mérnökök

Vegyük a következő üzenetet:

Éljenek az őrültek! A különcök! A lázadók! A bajkeverők! Az oda nem illők! A másként gondolkodók! Ők azok, akik nincsenek oda a szabályokért. És nem tisztelik a status quót. Lehet őket idézni, lehet velük vitatkozni, lehet dicsőíteni vagy gyalázni. Csak egyet nem lehet: tudomást nem venni róluk. Mert ők változtatnak a dolgokon. Ők viszik előre az emberi fajt. És bár egyesek az őrültet látják bennük, mi a zsenit. Mert azok, akik elég őrültek ahhoz, hogy azt higgyék, meg tudják változtatni a világot, lesznek azok, akiknek ez sikerülni fog.

Ezek nem egy politikus szavai. Ez az Apple Think Different (Gondolkozz másként) című, 1997-es reklámjának szövege, amely ismert lázadókról, többek közt Mahátma Gandhiról és Martin Luther Kingről készült felvételek alatt látható. A reklámban a techvállalkozók körében igencsak elterjedt világnézet jelenik meg, akiknek munkája éppoly jelentős filozófiai, mint kereskedelmi szempontból. „A Szilícium-völgyben közhelyszerű jelenség – magyarázza Jaron Lanier –, amikor a garázsban összedobott startupcégek fiatal vezetői bejelentik, hogy a céljuk az emberi kultúra alapvető és globális megváltoztatása néhány év alatt, és hogy egyelőre nem állnak készen arra, hogy a pénz miatt aggódjanak, mivel a hatalmas vagyon összegyűjtése kisszerű probléma, ami majd úgyis megoldódik magától.”{7} Van valami vonzó ebben a gondolkodásmódban, részben azért, mert azt sugallja, hogy a nagy techcégek nem is olyan kapzsik, mint amilyennek néha beállítják őket. Ráadásul az alapvetésük még helyes is: a digitális technológiák valóban döbbenetes mértékben képesek megváltoztatni a világot. Vessük össze egymással a következő két állítást:

„A filozófusok a világot csak különbözőképpen értelmezték; a feladat az, hogy megváltoztassuk.”

„Mi nem elemezzük a világot, hanem építjük.”

Az első idézet Marx 1845-ös, Tézisek Feuerbachról című írásából származik.{8} Publikálása után több mint egy évszázadon át szolgált a politikai forradalmárok csatakiáltásaként. A második Tim Berners-Leetől, a világháló szelíd modorú megalkotójától való.{9} Marx és Berners-Lee politikai nézetei, temperamentuma és arcszőrzete között aligha lehetne nagyobb a különbség. Ami mégis közös bennük – amellett, hogy mindketten megváltoztatták az emberi történelem irányát –, az a hit abban, hogy a változást előidézni nem ugyanaz, mint pusztán elmélkedni rajta vagy tanulmányozni. Ebből a nézőpontból a jövő nem valami kísérteties, irányíthatatlan dolognak tűnik, hanem olyasvalaminek, amit mi tervezünk és alkotunk.

„Nem kísérletező filozófusok vagyunk – mondja Berners-Lee –, hanem filozofáló mérnökök.”{10} Merőben gyakorlatias életszemlélet ez, amely inkább az építők és feltalálók számára ismerős, mint a tweedzakós akadémikusoknak és garbós filozófusoknak. És ez történetesen korunk meghatározó gondolkodásmódja is. A jelen legfontosabb forradalmai nem a filozófia tanszékeken, de még csak nem is a parlamentekben és a köztereken zajlanak, hanem laborokban, kutatóintézetekben, techcégeknél és adatközpontokban. És a legtöbbjüknek valamilyen digitális technológiai fejlesztés is részét képezi. Mégis, ez a hihetetlen mértékű haladás riasztó kulturális és elméleti elszigeteltségben folyik. Néhány esettől eltekintve szakadék tátong a bölcsészet és a „kemény” tudományok között. A politikai filozófia és a társadalompolitika ritkán szerepel a természettudományi, technológiai, mérnöki és matematikai képzések programjában. És ha megkérdezzük róla az átlag szabadbölcsész hallgatót, hogy miképp is működik a számítógép, nemigen számíthatunk különösebben csiszolt válaszra.

A techcégeknél kevés mérnök kapja azt a feladatot, hogy alaposabban gondolja át a munkája rendszerszintű következményeit. A legtöbbjüknek különféle technikai problémákat kell megoldania. A techszektorban az innováció mozgatórugója a profit, akkor is, ha a befektetők inkább az „előbb egy jó ötlet, aztán a haszon” hozzáállásra hajlanak. Ez nem kritika: csak semmi biztosíték nincs arra, hogy a pénzcsinálás és a világ jobbá tétele mindig egybeesik. Sőt, ahogy ebben a könyvben is sok példa mutatja: a digitális technológiát gyakran tervezik a hatalmasok és kiváltságosok nézőpontjához igazítva.

Az idő előrehaladtával egyre több, valóban filozofáló mérnökre lesz szükség. És ennél is fontosabb lesz az, hogy mi, a többiek kritikával illessük a techcégek munkáját, nem utolsósorban azért, mert ennek az iparágnak a munkakultúrája hírhedten mentes a sokszínűségtől. A Szilícium-völgyben durván tízből kilenc vezető férfi.{11} Bár az informatikai végzettséggel rendelkezők tíz, a teljes munkaerőnek pedig tizennégy százalékát adják az afroamerikaiak, a Szilícium-völgyben informatikai munkakörben dolgozóknak mégis csupán a három százaléka kerül ki közülük.{12} Ráadásul a techközösségben sokan képviselnek a fősodortól jelentősen eltérő politikai nézeteket: 2013-ban például a bitcoint használók több mint negyvennégy százaléka vallotta magát „libertáriusnak vagy anarchokapitalistának, aki az állam eltörlését szorgalmazza”.{13}

Mint arra később még rátérek, sok mindent kockáztatunk azzal, hogy politikailag fontos ügyeket az embereknek arra a kis csoportjára bíztunk, akiknek a digitális technológia fejlesztése a feladatuk. Ez ugyanúgy igaz akkor, amikor a Szilícium-völgy filozofáló mérnökeit csodáljuk, mint amikor a tranzisztorok politikai kifinomultságával rendelkező techkockákra gondolunk. Szükség lenne valamiféle elméleti keretre, amelynek segítségével tisztán és kritikusan gondolkodhatunk a digitális innováció politikai következményeiről. Könyvem ennek a keretnek a kialakításához remél hozzájárulni a politikaelmélet eszméinek és módszereinek felhasználásával.

A politikaelmélet ígérete

A filozófia célja, mondja Isaiah Berlin, mindig ugyanaz: segíteni az embernek, hogy „megértse magát, és a nyílt terepen tudjon cselekedni, ne csak a sötétben tapogatózva”.{14} Ugyanez a mi célunk is. A politikaelmélet a politikát azokon a fogalmakon keresztül igyekszik megérteni, amelyeket arra használunk, hogy beszéljünk róla.{15} Mi a hatalom? Mikor és milyen alapon korlátozható a szabadság? Szükséges-e egy demokráciában, hogy mindenki egyenlő mértékben legyen képes alakítani a politikai folyamatokat? Mit jelent a társadalom erőforrásainak igazságos elosztása? A politikaelmélet művelői ilyen és ehhez hasonló kérdésekre próbálnak választ találni. Ennek a tudományágnak hosszú és gazdag története van: Platóntól és Arisztotelésztől az ókori görög akadémiákon, Thomas Hobbeson és Jean-Jacques Rousseau-n át a kora újkor zűrzavarában a huszadik századi politikai gondolkodás olyan óriásaiig, mint Hannah Arendt és John Rawls. A nyugati politikai gondolkodók mind az őket körülvevő világot próbálták magyarázni és kritizálni, szüntelenül azt a kérdést feszegetve, hogy az miért olyan, amilyen – illetve hogy lehet-e, egyáltalán kell-e változtatni rajta.

A politikaelmélet több okból is alkalmas a politika és a technológia kölcsönhatásának vizsgálatára. Először is a politikai gondolkodás klasszikusai olyan bölcsességet hordoznak, amely civilizációkat élt túl. Segíthet fényt deríteni a jövő problémáira, és megérteni, pontosan mi is a tét. Bolondok lennénk nem kifosztani a már a rendelkezésünkre álló eszmék tárházát, még ha végül úgy döntünk is, hogy ezen eszmék némelyike továbbfejlesztésre vagy újragondolásra szorul. A politikaelmélet ezenfelül olyan módszereket is kínál a világról való gondolkodáshoz, amelyek segítségével a diskurzus szintjét a kinyilatkoztatások és előítéletek szintje fölé emelhetjük.

Az én felfogásom szerint a politikaelméletben az a legjobb, hogy a politika nagy témáival és kérdéseivel foglalkozik. Átfogó képet ad a politika rengetegéről, amelyben más megközelítések esetleg eltévednek a fák közt (vagy fennakadnak az ágakon). Esetünkben ez elengedhetetlen ahhoz, hogy könyvünk tárgyában igazságot tegyünk. Ha úgy gondoljuk, hogy a technológia alapvető befolyással lehet az emberi létállapotra, akkor ezt a befolyást is az alapoktól kezdve kell vizsgálnunk. Ezért ez a könyv a politika négy legalapvetőbb fogalma köré épül:

Hatalom: Hogyan uralkodik az erős a gyengén?

Szabadság: Mi megengedett, és mi tilos?

Demokrácia: Hogyan uralkodhat a nép?

Társadalmi igazságosság: Mik a kötelességeink egymás iránt?

Úgy vélem, nagy változások idején érdemes visszatérni az alapokhoz, és mindenfajta konkrét politikai rendszertől függetlenül gondolkodni ezekről a fogalmakról. Ily módon esetleg képesek leszünk elképzelni egy magasabb rendű rendszert annál, amelyet örököltünk.

A politikaelmélet azért is hasznos, mert a segítségével nemcsak a politikáról tudunk kritikusan gondolkodni, hanem arról is, ahogyan a politikáról gondolkodunk és beszélünk. A fogalmak „kulcslyukak, amelyek szükségszerűen meghatározzák, ahogy megpillantjuk és felfogjuk a valóságot”.{16} Ha mondani akarok valamit a politikáról a szomszédomnak, nem kell a nulláról indulnom. Tudom, hogy ha azt mondom, egy eljárás „antidemokratikus”, akkor megközelítőleg pontos képe lesz arról, hogy mire gondolok, és milyen jelentésárnyalatokat szeretnék kifejezni, anélkül is, hogy el kellene magyaráznom neki, mi az a demokrácia és miért is jó dolog. Ennek az az oka, hogy ugyanannak a nyelvi közösségnek a tagjai vagyunk, „közös fogalomkészleten” osztozunk, amely közös történelmünkből és mitológiánkból ered.{17} Meglehetősen kényelmes helyzet.

Másfelől viszont azt, amit a politikáról mondani akarunk, olykor behatárolja a rendelkezésünkre álló szűkös szókészlet. Egyes dolgok kimondhatatlannak vagy elgondolhatatlannak tűnnek, mert a közös fogalomkészletben még nem fejlődött ki a kifejezésük módja. „Nyelvem határai – mondja Ludwig Wittgenstein – világom határait jelentik.”{18}

A politika szempontjából ez annyit jelent, hogy még ha tisztán látnánk is a jövőt, esetleg nem lennének meg az eszközeink a leírására. Ezért korlátozódik oly gyakran a jövőről alkotott víziónk annak a világnak a felturbózott változatára, amelyben jelenleg élünk. „Ha az emberektől kérdezném meg, mit akarnak – mondta Henry Ford, a gépkocsik tömeggyártásának úttörője –,azt felelnék, hogy gyorsabb lovakat.” Ford megértette, milyen nehéz elképzelni olyan rendszert, amely radikálisan eltér a miénktől. Az pedig, ha képtelenek vagyunk naprakészen tartani a nyelvet, csak tovább nehezíti a helyzetet.

Miért írtam meg ezt a könyvet?

Először az egyetemen kóstoltam bele igazán a politikaelméletbe, ahol néhány ragyogó professzor figyelő tekintetétől kísérve beleszerettem ebbe a tudományágba. És ez a szerelem azóta is velem maradt. (Így visszagondolva be kell ismernem, hogy egyetemi éveim alatt a leggyümölcsözőbb érzelmi kapcsolatom valószínűleg a német filozófussal, G. W. F. Hegellel folytatott szenvedélyes, de bukásra ítélt viszony volt.)

A szerelem mellett azonban valami zavart is a politikaelméletben. Úgy tűnt, a politikaelmélettel foglalkozók nagyon büszkék arra, hogy milyen mély gondolatokat tudnak megfogalmazni a politikai eszmék történetéről, de néhány kivételtől tekintve szinte egyáltalán nem érdekli őket a jövőjük. Ezt különösnek találtam: vajon ugyanazok a tudósok, akik olyannyira érzékenyek a kontextusra, amikor a múltról írnak, miért úgy beszélnek a politikáról, mintha a világ 2050-ben is ugyanolyan lenne majd, amilyen 1950-ben volt? Úgy tűnt, hogy egy csomó nagyon okos politikaelmélet szinte egyáltalán nem alkalmazható a gyakorlatban, mert nem foglalkozik korunk kialakulóban lévő adottságaival. Amikor a jövő politikájáról gondolkoztam, Orwellre, Huxleyra és Wellsre gondoltam: kora huszadik századi regényírókra, nem pedig huszonegyedik századi gondolkodókra. Most kiderült, hogy nem vagyok egyedül: amióta Donald Trumpot 2016 végén az Egyesült Államok elnökévé választották, Orwell 1984-e a bestsellerlisták élmezőnyébe ugrott. Csakhogy ez felveti a kérdést: ha meg akarjuk érteni, milyen lesz a világ 2050-ben, biztos, hogy egy 1949-ben megjelent, fiktív műből érdemes kiindulnunk?

Miután elvégeztem az egyetemet, és a magam szerény politikai ügyeivel kezdtem törődni, az a nyugtalanító érzés, hogy a politikaelmélet nem tud vagy nem akar az én generációmra leselkedő kihívásokkal foglalkozni, egyre sürgetőbb problémává vált. Mi van akkor, ha a technológiai fejlődés üteme olyan gyors, hogy híján vagyunk az értelmezéséhez szükséges elméleti apparátusnak? Ha akaratlanul is olyan jövőt készülünk magunkra szabadítani, amelyet nemhogy irányítani, de ésszel felérni sem vagyunk képesek?

Válaszokat akartam, és ezért kezdtem ezen a könyvön dolgozni.

A technológia politikája

Mielőtt belevágnánk, először is tegyünk fel egy egyszerű kérdést: mi az összefüggés a digitális technológia és a politika között?

A technológia általában

Az új technológiák lehetővé teszik, hogy megtegyünk olyasmit, amire korábban nem voltunk képesek, illetve megkönnyítik olyan cselekvések elvégzését, amelyekre korábban is képesek voltunk.{19} Alapjában véve ebben áll a társadalmi jelentőségük. A technológia által teremtett lehetőségek a legtöbb esetben nem bírnak komoly jelentőséggel: a kávédarálás valamiféle zseniális új módja például csekély valószínűséggel fog az államhatalom megdöntéséhez vezetni. Némelyik újításnak azonban mélyreható következményei lehetnek. Az ipari forradalom, a szövő- és fonógépek feltalálása képzett textilipari munkások állását sodorta veszélybe. Ezeknek a munkásoknak egy csoportja, akiket ludditákként ismerünk, lerohanta az angol vidéket, és minden útjába kerülő gépet szétrombolt. Ma is ludditáknak nevezzük azokat, akik ellenzik az új, bomlasztó technológiák bevezetését.

Az innováció gazdasági következményei, ahogy a ludditák esetében is, gyakran politikai választ tesznek szükségessé. Az új technológiák azonban morális problémákat is felvethetnek. A virtuálisvalóság-rendszerek például néhány éven belül olyan dolgokat fognak lehetővé tenni, amelyek nemrég még a tudományos fantasztikum kategóriájába tartoztak; ilyen lesz például (többek között) a szexuális aktivitást stimulálni képes platformok segítségével folytatott virtuális szex. Ezzel kapcsolatban felvethető néhány igencsak érdekes kérdés. Engedélyezett legyen-e a szex egy valós személy – mondjuk, egy híresség – képére formált virtuális partnerrel az illető személy tudta és beleegyezése nélkül? Az emberekből egy ilyen lehetőség jó eséllyel erős érzelmeket váltana ki. Vagy mi legyen például a legjobb barátunk férjének virtuális megtestesülésével folytatott „szexszel”? Nem tűnik helyesnek, hogy a törvény megengedjen ilyet, ugyanakkor érvelhetünk azzal, hogy amit a saját virtuális világunkban, senkinek sem ártva teszünk, az nem tartozik senkire, legkevésbé a törvényre. De vegyünk egy extrémebb példát: hogyan ítéljük meg a virtuális szexet egy gyermekavatárral, ha e cselekmény közben a valóságban egyetlen gyermeknek sem esik bántódása?

Ezek újszerű kérdések. Még sohasem kellett megválaszolnunk őket. Lehet, hogy önök már ki is alakítottak valamilyen véleményt róluk. És ez talán eltér az enyémtől. És pontosan ez a lényeg: ezek valójában politikai kérdések, és megfontolt, elfogadható morális alapelvekre épülő választ kell adnunk rájuk. Ahogy egy kiváló író megjegyezte, az új technológiák hatására ugyanúgy átértékelhetjük a politikai nézeteinket, ahogy az ízlésünk is megváltozhat, ha megpillantunk egy új fogást kedvenc éttermünk étlapján.{20}

Egyes technológiák „eredendően politikusak” abban az értelemben, hogy „bizonyos politikai viszonyok” megléte szükséges hozzájuk, vagy legalábbis erősen kompatibilisek azokkal.{21} Amikor Langdon Winner 1980-ban erről írt, az atomenergiát hozta fel példaként: ha bevezetünk valamilyen atomenergia-rendszert, azt is el kell fogadnunk, hogy szükség lesz egy nagy hatalmú „techno-tudományos-ipari-katonai elitre”, amely az erőműveket és az infrastruktúrát ellenőrzi.{22}

Léteznek olyan technológiák is, amelyek nem eredendően politikusak, a kontextusuk azonban azzá teszi őket. Az Egyesült Királyságban például az engedéllyel tartott lőfegyver általában vadászathoz használt technológia. A fegyverek nem részei a mainstream kultúrának, és a lakosság nagy részének kifejezetten tetszik a szigorú szabályozás elve. Az Egyesült Államok Alkotmányának második kiegészítése azonban garantálja a fegyvertartáshoz való jogot. Itt már sokkal merevebb is a bármiféle szabályozással szembeni kulturális ellenállás. Ugyanaz a technológia, a politikai kontextus azonban merőben más.

A technológia és a politika közötti utolsó, kevésbé feltűnő összefüggés az, hogy a találmányaink hajlamosak beszivárogni a politikai és szellemi életbe. Jó példa erre a mechanikus óra. Ahogy Otto Mayr kifejti, egyes ókori civilizációk az emberi testhez hasonlatosként képzelték el az államot, amelynek a politikai közösség egyes tagjai olyan függelékeit alkotják, mint a „kéz” vagy a „láb”.{23} A kései reneszánsz során aztán a testmetaforához olyanok társultak, mint „az állam hajója”. Kopernikusz után az uralkodót napnak tekintették, amely körül az alattvalók keringenek.{24} A tizenhatodik–tizennyolcadik század folyamán az uralkodó metafora az óra volt, egy zseniális szerkezet, amely „példátlan hódolatot” parancsol.{25} Idővel a gondolkodók elkezdtek óraműként tekinteni a politikára.{26} A harmónia, a megfontoltság és a szabályosság váltak az elsődleges politikai eszményekké.{27} Az emberek „mindig éber mérnök-államférfira” vágytak, aki „megjósol, egyszersmind orvosol minden lehetséges problémát”. Ezért aztán egy bizonyos technológia kéz a kézben járt egy politikai értékrenddel, ami a tizenhetedik században csúcsosodott ki, amikor „rendkívüli méreteket öltött az óragyártás”, és „virágkorát élte a rend autoriter koncepciója”.{28}

A huszadik századi politikai képzeletet szintén a technológia színesítette. Már a digitális kort megelőzően is számtalan alkotást ihletett a mindenható számítógépek víziója. A Gép megáll című, 1928-as elbeszélésében E. M. Forster olyan világot ábrázol, amelyben az emberek alá vannak rendelve a Gépnek, egy globális techno-logikai rendszernek, amely létezésük minden aspektusát megfigyeli és irányítja.{29}

Egyes írók megpróbálták megragadni korunk ideológiáját. Jevgenyij Morozov például a Google-doktrínáról írt („a technológia szabadságába vetett lelkes hitnek és annak a sürgető késztetésnek a keveréke, hogy sorozzuk be a Szilícium-völgy startupcégeit a globális szabadságharcba”);{30} a „kiber-utópianizmus”-ról („naiv hit az online kommunikáció egyenjogúsító jellegében, amely a hátulütők csökönyös tagadásán alapszik”);{31} valamint a „szolucionizmus”-ról („valamennyi komplex társadalmi helyzet besorolása valamiféle gondosan definiált problémaként, amelyre határozott, kiszámolható megoldást lehet találni, vagy átlátható, magától értetődő folyamatként, amely könnyen optimalizálható – amennyiben rendelkezésre áll a megfelelő algoritmus”).{32}

Nézetem szerint a kérdéses technológiák még túl fiatalok ahhoz, hogy megállapíthassuk, milyen tartós nyomot hagynak majd a politikai gondolkodásban. Ahhoz is évszázadok kellettek, hogy a mechanikus óra képzete beívódjon az európai politikai és intellektuális életbe. Hogy hogyan értelmezzük korunk technológiáit, és azok miként alakítják a világról alkotott felfogásunkat, még csak ezután fog eldőlni.

A digitális technológiák

Ennyit a technológia és a politika összefüggéseiről általában. Ez a könyv azonban a digitális technológiáról szól, amelyet korábban információ- és kommunikációtechnológiának, angol rövidítéssel ICT-nek neveztünk. És úgy tűnik, hogy ezek a technológiák nem pusztán eredendően politikusak, hanem egyenesen hiperpolitikusak. Ugyanis a politikai élet két legalapvetőbb összetevőjét érintik: az információt és a kommunikációt.

Minden politikai rend koordinációra, kooperációra vagy kontrollra épül. A közösségi életet lehetetlen megszervezni, ha akár az egyik is hiányzik. És egyikük sem lehetséges olyan rendszer nélkül, amely az információcserét szolgálja, akár a hétköznapi emberek, akár az uralkodók és az uraltak között.{33} Épp ezért annyira fontos a nyelv. James Farr szerint a politika nyelv nélkül nem csupán „leírhatatlan”, de egyenesen „lehetetlen” volna:{34}

A születő nemzetek képtelenek lennének kikiáltani függetlenségüket, a parancsnokok utasítást adni a partizánoknak, a polgárok tiltakozni a háború ellen, a bíróságok elítélni a bűnözőket. Nem tudnánk kritizálni, kérlelni, ígérni, vitatkozni, buzdítani, követelni, tárgyalni, alkudozni, kiegyezni, tanácskozni, eligazítani, kikérdezni, tanácsot vagy hozzájárulást adni. A politikát a fentiek nélkül elképzelni ugyanolyan, hogy elképzelni egy felismerhetetlen politikát.

Yuval Noah Harari elegáns megfigyelést tesz arról, hogy az emberi faj politikai életének hajnalán milyen életbevágó szerepet játszott a nyelv. Csekély számú szó és jel lehetővé tette elődeink számára, hogy végtelen számú mondatot állítsanak elő, amelyek mindegyike különböző jelenséggel bírt. Ezzel képessé váltak beszélni egymásról, vagy az őket körülvevő világ nagy, összetett dolgairól, továbbá olyasmikről, amelyek fizikailag nem is léteznek, például mítoszokról és történetekről. És a mai napig ez a hagyomány tartja össze a közösségeket.{35}

Az írás talán a valóságra való reflektálás egyik eszközeként jött létre, „ám a valóság átformálásának fokozatosan egyre jelentősebb eszköze lett”.{36} Hódító Vilmos azért rendelte el 1086-ban az Ítéletnapi könyv összeállítását, hogy felmérjék a birtokok nagyságát és értékét, ily módon hatékonyabban megadóztatni azokat. A könyvben szereplő adatok kőbe voltak vésve, nem lehetett őket vitatni. 1179-ben egy kommentátor így írt erről a „szigorú és szörnyűséges jegyzék”-ről:{37}

…ítélete nem tehető semmissé vagy hagyható figyelmen kívül büntetlenül. Ezért neveztük el az Ítéletnapi könyvnek […], mivel döntései, akár az utolsó ítélet, változtathatatlanok.

Csakis az számított, hogy mi van a Könyvbe írva. És azóta sem változott sok minden. Ahogy Harari fogalmaz: „Bárki, akinek volt már dolga az adóhatósággal, az oktatási rendszerrel vagy bármilyen összetett bürokráciával, tudja, hogy az igazság csupán csekély jelentőséggel bír. Sokkal fontosabb, mi van az adatlapunkra írva.”{38}

A nyelv azonban önmagában még nem elég. A fejlettebb politikai közösségeknek képesnek kell lenniük hatalmas mennyiségű információ feldolgozására is – a szegénységi mutatóktól a gazdasági növekedés mértékén át a termékenység, a munkanélküliség és a bevándorlás számadataiig. Ha kormányozni akarunk egy nemzetet, előbb meg kell ismernünk.{39} A tizennyolcadik századi forradalmárok, akik a bomlófélben lévő ancien régime helyét kívánták átvenni, nagyon jól értették ezt. Az 1789-es francia forradalmat eltökélt próbálkozások követték a szabványosításra és racionalizálásra, bevezették a súlyok és mértékek egységes rendszerét, megyékre osztották fel az országot, és kihirdették a polgári törvénykönyvet.{40} Az Atlanti-óceán túlsó partján az Egyesült Államok alapító atyái az Alkotmány első cikkelyébe foglalták a tízévenkénti népszámlálás szükségességét. Alexander Hamilton úgy vélte, a szövetségi kormánynak „információs központnak” kell lennie, mert ilyenként „a leginkább képes felfogni a fenyegető veszedelmek nagyságát és égető voltát”.{41}

Információ és politika kapcsolata annyira alapvető, hogy a szókincsünkön is rajta hagyta a nyomát. Statisztika szavunk a tizennyolcadik században kialakult német Staatswissenschaft kifejezésből származik; ez „államtudomány”-t jelent, amelyre egyetemi professzorok oktatták a Német-római Császárság ifjú hercegeit.{42} És a statisztika funkcionális definíciója – „a priori különálló dolgok egymáshoz rendelése abból a célból, hogy realitást és konzisztenciát kölcsönözzünk nagyobb, komplexebb objektumoknak”{43} – valóban megegyezik a politika céljával, csupán míg az egyik terepe a számok absztrakt világa, addig a másiké az emberi valóság. A ma titkosítást is jelentő angol classify szó eredetileg csupán az információk kategóriákba sorolását, osztályozását jelentette. Aztán a tizenkilencedik század folyamán, ahogy a brit állam hatalma, valamint birodalmának területe egyre nőtt, a classified címke megkapta ma is használatos jelentését: az állam kizárólagos hatáskörébe sorolt információ.{44} A kontroll szónak is információs eredete van: a középkori latin contrarotulare igéből származik, ami azt jelentette, összevetni valamit „a tekercsekkel”, vagyis a hivatalos feljegyzésként szolgáló papírokkal.{45}

A Gazdaság és társadalomban (1922), a huszadik század elejének legfontosabb szociológiai munkájában Max Weber a bürokrácia „precíziós eszközét” az emberi cselekvések megszervezésének addigi legfejlettebb módjaként említi.{46} Webernek a rá következő száz év által igazolt nézete szerint az információk rendszerbe szervezésének egységes sémája, amelynek alapja a „pontosság, gyorsaság, egyértelműség, iratokkal való alátámasztás, folyamatosság, diszkréció, egységesség”, a politikai kontroll leghatékonyabb eszköze.{47} Ezt Franklin D. Roosevelt is szem előtt tartotta, amikor 1933-ban az Egyesült Államok elnöke lett. Híres gazdasági intervenciós programjához társult egy kevésbé látványos, de éppoly kulcsfontosságú kísérlet is arra, hogy megváltoztassa a szövetségi kormány hozzáállását a statisztikához. Az 1935 és 1950 közötti időszakban bevezették „a társadalmi statisztikák és a modern közgazdaságtan három létfontosságú eszközét”: a reprezentatív mintán alapuló felmérést, az országos összeírást és a számítógépes adatfeldolgozást.{48} Ha Hamilton, Weber és Roosevelt ma is élnének, biztosan nagyon érdeklődnének a gigászi mennyiségű adat iránt, amelyet előállítunk, illetve azok iránt az egyre több mindenre képes rendszerek iránt is, amelyekkel feldolgozzuk őket.

Kissé hátrébb lépve, most már felállíthatunk egy óvatos hipotézist, amely a vezérelvünk lehet ebben a könyvben: az, ahogyan begyűjtjük, tároljuk, elemezzük és kommunikáljuk – vagyis lényegében ahogy megszervezzük – az információinkat, szorosan összefügg azzal, ahogy a politikánkat szervezzük. Ha tehát egy társadalom különleges, új információs, illetve kommunikációs technológiákat fejleszt ki, akkor politikai változásokra is számítanunk kell.

Nem tűnik véletlen egybeesésnek, hogy az első nagy civilizációk az írás feltalálásával egy időben fejlődtek ki. A legkorábbról fennmaradt írásos emlékek, az ékírásos agyagtáblák, amelyeket a sumerek használtak Uruk fallal körülvett városában Kr. e. 3500 körül, teljes mértékben adminisztratív jellegűek: adókat, törvényeket, szerződéseket, számlákat, tartozásokat, tulajdonjogokat és a politikai élet egyéb alapvető kellékeit jegyezték fel rájuk. Ahogy James Gleick megjegyzi, ezek a táblák „nem csupán feljegyezték a kereskedelmet és a bürokráciát, de ezek tették egyáltalán lehetővé azokat”.{49} A többi ókori civilizáció is az írás, az információk begyűjtésének, tárolásának, elemzésének és kommunikálásának akkor ismert legfejlettebb eszköze révén jött létre. Empire and Communications (Birodalom és kommunikáció) című, 1950-es művében Harold Innis kifejti, hogy az Egyiptomi, a Perzsa és a Római Birodalom, valamint az akkori idők városállamai mind „lényegében az írás termékei voltak”.{50}

De a mi korunkhoz közelebbi példát is találunk: a legelső gépi adatfeldolgozó rendszereket is azért fejlesztették ki, hogy a kormányok értelmezni tudják az összegyűjtött információkat. Herman Hollerith, aki eredetileg arra kapott megbízást, hogy az 1880-as amerikai népszámláláson dolgozzon, kifejlesztett az adatok feldolgozására egy lyukkártyarendszert és egy „tabulátort”, amelyet bérbe adott az amerikai kormánynak. Korábbi találmányára építkezve aztán Hollerith megalapította az International Business Machines Corporationt, amelyet ma IBM néven ismerünk.{51}

A múlttól a jövő felé fordulva azt a kérdést is fel kell tennünk, hogy a transzformatív digitális technológiák – információs és kommunikációs technológiák – miként hatnak majd a mi politikai rendszerünkre.

Ez ennek a könyvnek a központi kérdése.

Tudjuk, hogy a technológia hatásai mindenütt mások és mások. A könyvnyomtatás bevezetése Kínában és Koreában például nem okozott akkora változást, amekkorával a Gutenberg-féle kézisajtó megjelenése járt Európában, ahol a társadalom sokkal inkább megérett a vallási és politikai forradalomra.{52} Az ilyen különbségeket rendszerint gazdasági és politikai körülményekkel szokás magyarázni. Az, hogy ki birtokolja és tartja ellenőrzés alatt az adott technológiát, hogy miképp fogadja azt a közvélemény, hogy átgondolták-e előre felhasználásának lehetséges módjait, illetve hogy kifejezetten egy bizonyos célt szolgál-e majd, mind befolyásolják a hatását.

Nem szabad tehát elhamarkodottan azt feltételeznünk, hogy egy adott technológia kifejlesztése elkerülhetetlenül és szükségszerűen egy adott eredménnyel jár majd a társadalomra nézve. Gondoljunk csak az internetre: mivel annak hálózati struktúrája a decentralizált, nemhierarchikus szerveződésnek felelt meg, sokan magabiztosan azt jósolták, hogy az online élet merőben más lesz majd, mint az, amit az offline világban tapasztalunk. Az események azonban nem ezt igazolták. Nagyrészt a kereskedelemnek és a politikának köszönhetően, amelybe beleszületett, az internet egyre inkább nagy üzleti és politikai szervezetek irányítása és ellenőrzése alá kerül, amelyek szűrik és formálják online tapasztalatainkat.

Azt sem vehetjük adottnak, hogy a technológia egyben haladást is jelent: What Technology Wants (Mit akar a technológia?) című, 2010-es könyvében Kevin Kelly kimutatta, hogy nem a mi korunk az első, amely jócskán felhabosítja azokat az előnyöket, amelyekkel a technológia kecsegtet. Alfred Nobel, a dinamit feltalálója úgy vélte, ez a robbanóanyag „ezer világkongresszusnál is” nagyobb erővel rettenti majd el az embereket a háborútól. A gépfegyver feltalálója hitt benne, hogy a találmánya „lehetetlenné teszi a háborút”. Az 1890-es években, a telefonálás korának hajnalán az AT&T főmérnöke bejelentette, hogy „Egy nap megépítünk majd egy világméretű telefonhálózatot […], amely egyetlen testvériséggé fogja össze a Föld népeit.” Guglielmo Marconi, a rádió feltalálója még 1912-ben is volt olyan optimista, hogy azt mondja: „az eljövendő drót nélküli kor ellehetetleníti a háborút, mivel nevetségessé teszi azt”. 1917-ben Orville Wright a repülőgépről mondta azt, hogy „lehetetlenné fogja tenni a háborút”, Jules Verne pedig ugyanebben az évben{53}* azt mondta: „A tengeralattjáró véget fog vetni a csatáknak, mivel használhatatlanná teszi a flottákat […], és így a háború lehetetlenné válik.” Mint Kelly írja, ezek mellett a találmányok mellett a torpedót, a hőlégballont, a harci gázt, a taposóaknát, a rakétát és a lézerfegyvert is úgy harangozták be, hogy véget fog vetni a háborúknak.{54} Egyik sem vetett véget nekik.

Míg Lenin úgy határozta meg a kommunizmust, hogy „szovjethatalom plusz az egész ország villamosítása”,{55} Trockij látta, hogy a technológiai haladás nem garantálja a morális haladást. „A huszadik században – írja – ott él a tizedik vagy a tizenharmadik is:

Százmilliók használják a villanyt, miközben hisznek a mágikus előjelek és az ördögűzés varázserejében […]. A sötétség, tudatlanság, barbárság forrásai kimeríthetetlenek! […] Minden, amit már el kellett volna távolítani a nemzet szervezetéből […] a társadalom akadálytalan fejlődése folyamán, még ma is csak úgy ömlik annak torkából.{56}

Semmilyen eredményt nem tekinthetünk magától értetődőnek. Ahogyan azt sem, hogy morális képességeink is együtt fejlődnek a találmányainkkal. Egyelőre minden kérdés nyitott.

A Politika a jövőben áttekintése

Futurisztikus tárgya ellenére e könyv szerkezete régimódi. Az elejétől a végéig haladva kell olvasni (bár techfanatikusok az I. rész néhány szakaszát átlapozhatják).

Az I. rész fekteti le az alapokat. Felvázol egy víziót a jövőről, amelyet három alapvető jellemző fog meghatározni. Ezek közül az elsőt az egyre több mindenre képes rendszerek jelentik: olyan gépek, amelyek az emberek szintjét elérve vagy akár meg is haladva képesek bizonyos tevékenységek és feladatok elvégzésére (első fejezet). A második az egyre inkább integrált technológia: a technológia, amely a fizikai és épített környezetbe ágyazódva szünet nélkül körülvesz bennünket (második fejezet). A harmadik az egyre inkább számszerűsített társadalom: egyre több emberi tevékenységet (cselekedeteinket, kijelentéseinket, mozgásainkat, érzelmeinket) rögzítenek, majd szortíroznak, tárolnak és dolgoznak fel adatként digitális rendszerek (harmadik fejezet). Erre a jövőre, a sűrű és nyüzsgő rendszerre, amely emberi lényeket, nagy teljesítményű gépeket és óriási mennyiségű adatot kapcsol össze egyetlen rendkívül komplex és kifinomult hálózatba, a digitális életvilág kifejezést fogom használni.

A negyedik fejezet, a Gondolkodjunk elméletben! a digitális életvilág által felvetett politikai és szellemi kihívásokat, valamint azokat az elméleti eszközöket vizsgálja, amelyek e kihívások leküzdéséhez a rendelkezésünkre állnak.

A II. rész témája a hatalom jövője. Alapvetése, hogy bizonyos technológiák óriási hatalom forrásai lesznek a digitális életvilágban (ötödik fejezet). E technológiák némelyike úgy gyakorolja majd hatalmát, hogy valamilyen erőszakot{57} alkalmaz az emberekkel szemben. Képzeljünk el egy önvezető autót, amely nem hajlandó a záróvonalra parkolni, vagy egy bevásárló alkalmazást, amely nem dolgozza fel a rendelést, ha az abban szereplő tételek arra adnak gyanút, hogy bombát akarnak készíteni belőlük (hatodik fejezet). Mások hatalma a megfigyelésben nyilvánul meg, azáltal, hogy összegyűjtik és tárolják a személyes adatainkat, esetleg előre megjósolják a viselkedésünket (hetedik fejezet). Megint más technológiák hatalma az érzékelésünkre terjed ki. Ezek a felületek megszűrik, hogy mit tudjunk meg a külvilágról, ezáltal sokkal nagyobb mértékben meghatározzák politikai nézeteinket, irányítják a gondolkodásunkat, felcsigázzák érzelmeinket és mozgósítják előítéleteinket, mint a megelőző korok médiamoguljai (nyolcadik fejezet).

A hatalom e három formája – az erőszak, a megfigyelés és az érzékeléskontroll – egyidős magával a politikával. Az újdonság az, hogy a digitális technológia olyan potenciállal ruházza fel ezeket, amely messze felülmúlja az emberiség által eddig ismert minden hatalmi eszköz lehetőségeit. Ennek fő következménye a politikára nézve véleményem szerint az lesz, hogy azok, akik ezeket a hatalmi technológiákat ellenőrzik, egyre nagyobb mértékben lesznek képesek ellenőrizni minket is. Ebből valószínűleg két csoport húzza majd a legnagyobb hasznot: az állami szervek és a nagy techcégek. Ez lesz a kilencedik fejezet témája.

A hatalom természetének ez a megváltozása a politika világának valamennyi aspektusára hatással lesz. A III. rész ezt a szabadság vonatkozásaiban vizsgálja. Egyrészt az új találmányok lehetővé teszik, hogy egészen új módokon gondolkodjunk és cselekedjünk, az alkotás, az önkifejezés és kiteljesedés izgalmas új formáit indítva útjukra. Másrészt nagy valószínűséggel arra számíthatunk, hogy radikális mértékben meg fog nőni az állami szervek kapacitása a törvények végrehajtására, és ennek megfelelően sokkal kevesebb mindent úszhatunk meg. Röviden, a digitális életvilág olyan rendfenntartó rendszerek otthona lesz, amelyek vitathatatlanul túlságosan hatékonyak lesznek az esendő emberekhez képest, akik felett őrködnek (tizedik fejezet). Mi több, legféltettebb szabadságjogaink – többek között a gondolkodás-, a szólás-, az utazási és a gyülekezési szabadság – közül egyre többet és egyre nagyobb mértékben bízunk magánkézben lévő techcégekre: ezek mérnökei és jogászai fogják megtervezni és működtetni azokat a rendszereket, amelyeken keresztül ezek a szabadságjogok kifejezésre jutnak. A szólásszabadság tekintetében a közösségi médiumok és kommunikációs platformok korlátozásaira leszünk utalva; gondolataink szabadsága a hírek és keresőalgoritmusok megbízhatóságától függ majd; morális autonómiánkat pedig azok ítélete fogja meghatározni, akik eldöntik, mit tehetünk meg digitális rendszereikben és mit nem. Erről szól a tizenegyedik fejezet.

Nézetem szerint a politikai és technológiai elitek hatalmának növekedése szükségessé teszi a polgárok hatalmának párhuzamos növekedését arra vonatkozóan, hogy felelősségre tudják vonni ezeket az eliteket. Erre koncentrál a IV. rész, amely a demokrácia jövőjével foglalkozik. Több módot is kínál a demokrácia átalakítására, vagy a nagyobb mértékű emberi részvétel révén, a közvetlen, a deliberatív vagy a wikidemokrácia által, vagy nagyobb gépi részvétel révén, az adatdemokrácia vagy az MI-demokrácia formájában (tizenkettedik és tizenharmadik fejezet).

Az V. részben a társadalmi igazságosság jövőjével foglalkozunk. Meggyőződésem, hogy a digitális életvilágban központi szerep jut majd az algoritmusoknak a fontosabb társadalmi javak, úgymint a munka, a hitel, a lakhatás és a biztosítás elosztásában (tizennegyedik fejezet). Arra is egyre nagyobb mértékben használnak majd algoritmusokat, hogy osztályozzanak, értékeljenek, pontozzanak, majd státus és megbecsültség alapján társadalmi hierarchiákba soroljanak minket (tizenötödik fejezet). Ki lesz látható, és ki marad láthatatlan? Ki válik népszerűvé, és kit felejtenek el? Ki az, aki számít, és ki az, aki társadalmi értelemben nem is létezik? Ezek az elismerés fontos kérdései. Az elosztás és az elismerés egyaránt nélkülözhetetlen elemei a társadalmi igazságosságnak, és eddig mindkettőt a piac, az állam és a társadalom határozta meg. A digitális életvilágban a társadalmi igazságosság kérdései nagyrészt azoknak a döntéseitől függnek majd, akik a releváns algoritmusokat felügyelik.

A digitális életvilág az igazságtalanság új, eddig ismeretlen formáinak is teret ad majd. Gondoljunk csak az Új-Zélandon bevezetett online útlevélrendszerre, amely nem volt hajlandó elkészíteni egy ázsiai származású férfi útlevélképét, mert úgy ítélte meg, hogy csukva van a szeme.{58} Vagy a hangfelismerő rendszerekre, amelyek nem működtek a nőknél, mert addig csak férfihangokat „hallottak”.{59} Esetleg az automata online címkézőrendszerekre, amelyek feketéket ábrázoló fényképeket a „majom”, koncentrációs táborokról készített fotókat pedig a „sport” vagy „játszótér” címkével láttak el.{60} Ezek a való életből származó példák, és csupán a kezdetet jelentik. Eddig csak emberek alázhattak meg és nézhettek le minket. Mostantól nem így lesz. Ennek pedig mélyreható következményei lesznek a társadalmi igazságosságra nézve (tizenhatodik fejezet).

Alapos okunk van azt hinni, hogy a digitális életvilág óriási gazdasági egyenlőtlenségeket is teremthet szegények és gazdagok között, különösen mivel egyre több, korábban emberek által végzett feladatot látnak el digitális rendszerek, ami hatalmas méretű technológiai munkanélküliséget eredményezhet (tizenhetedik fejezet). A tizennyolcadik fejezet annak az aggodalomnak ad hangot, hogy a jövő gazdasága csak a produktív technológiák „tulajdonosai” alkotta elitnek kedvez majd, míg a küszködve élő többség csak a torta egyre zsugorodó szeletéért harcolhat. Én ezt vagyonciklonnak nevezem. És azt javaslom, hogy ezt elkerülendő, felül kell vizsgálnunk magának a tulajdonnak a fogalmát.

Az e könyvben megfogalmazott legfőbb veszély az lesz, hogy fokozatosan és kezdetben talán észrevétlenül egyre nagyobb mértékben alá leszünk vetve olyan digitális rendszereknek, amelyeket nem is igen értünk, nemhogy irányítani tudnánk azokat. Így aztán azok kegyeire leszünk utalva, akik irányítják ezeket a rendszereket. A tizenkilencedik fejezetben két módot ajánlok ennek elkerülésére. Az első az átláthatóság: annak biztosítása, hogy azok, akiknek hatalmukban áll befolyásolni alapvető szabadságjogainkat vagy a demokratikus folyamatokat, illetve döntő befolyást gyakorolni a társadalmi igazságosságot érintő ügyekre, semmiképp se tevékenykedhessenek a sötétben. A másodikat úgy nevezem, a hatalmi ágak újfajta szétválasztása: annak biztosítása, hogy egyetlen szervezet se rendelkezhessen egynél több felett az erőszak, a megfigyelés és az érzékeléskontroll közül, és egyik felett se tehessen szert monopóliumra.

Végül röviden kitekintek a digitális életvilág utáni korra, amikorra a világ már annyira átalakul, hogy maga a politika fogalma fogja elveszíteni a jelentését (huszadik fejezet).

Még néhány szó, mielőtt belevágnánk.

Ez a könyv csupán a felszínt kapargatja. Érintetlenül hagyja a politikai élet jókora területeit, valamint olyan eszméket is, amelyek a nyugati filozófiai tradíción kívülről érkeznek. Egyes témákat szükségszerűen rövidre fogtam és leegyszerűsítettem. Ez egyszerre behódolás saját korlátaimnak és irgalmas cselekedet az olvasóval: egy mindent átfogó műre tett kísérlet bibliai terjedelmet eredményezne. „Jöjjenek mások – hogy Wittgensteint idézzem –, és végezzék el jobban.”{61} (Csak én ezt komolyan is gondolom.)

Igyekszem nem dogmatikus lenni (ami egy jogász számára nem könnyű feladat). Útmutatást szeretnék írni, nem pedig kiáltványt. A technológiák és eszmék némelyike új és ismeretlen lehet, de legalább a célunk éppoly ősi, mint maga az emberiség: az, hogy „úgy kell néznünk a világot, hogy össze tudjuk kapcsolni az idegennek szóló ámulat és az ismerősnek szóló üdvözlés mozzanatát”.{62}

I. RÉSZ

A DIGITÁLIS
ÉLETVILÁG

„Úgy tetszik majd az embereknek, mintha pusztulást látnának az égen, és az onnan leszálló lángok mintha szárnyra kapva, rettegve menekülnének; hallanak majd mindenfajta teremtményt emberi nyelven beszélni; egy szempillantás alatt a világ távoli sarkaiban teremhetnek egyetlen mozdulat nélkül; látnak majd sugárzó fényt a legnagyobb sötétség közepette. Ó, csodálatos emberiség! Micsoda téboly hajt téged!”

Leonardo da Vinci (1452–1519)

Első fejezet
Egyre több mindenre képes
rendszerek

„Ember semmitől se viszolyog jobban,
mint attól, hogy olyasmi érjen hozzá, amit nem ismer.”{63}

Elias Canetti: Tömeg és hatalom

Kezdetnek felmérjük, hol tartunk most, majd felvázoljuk az eljövendő világot.

A következő évszázadban a politikát három komoly fejlemény fogja átformálni: az egyre több mindenre képes rendszerek, az egyre inkább integrált technológia és az egyre inkább számszerűsített társadalom. Ezeknek a változásoknak az eredménye a közösségi élet egészen új típusa lesz: a digitális életvilág. A különös hangzású életvilág szó a német Lebenswelt tükörfordítása, és mindazon közvetlen tapasztalatok, cselekvések és kapcsolatok összességét jelenti, amelyek egyéni és közösségi világunkat alkotják. Ha el akarjuk képzelni a digitális életvilágot, képzeljünk el egy sűrű, nyüzsgő rendszert, amely embereket, nagy erejű gépeket és óriási mennyiségű adatot kapcsol össze egyetlen, rendkívül kifinomult és bonyolult hálózatban. Könyvem első részében nem áll szándékomban értékelni vagy kritizálni az általam leírt technológiák hatásait. Célom egyelőre annyi, hogy azonosítsam és megértsem ezeket, majd (a negyedik fejezetben) megvizsgáljam azokat az elméleti eszközöket, amelyek segítségünkre lesznek abban, hogy világosan átgondoljuk, mit jelent mindez a politika szempontjából.

A következő három fejezetben számos, a való életből vett példa szerepel majd, ám nem az a cél, hogy valamennyit észben tartsuk. Inkább az, hogy ha csak nagy vonalakban is, de bepillantsunk a ránk váró jövőbe. Ez annak belátásával kezdődik, hogy hamarosan rendkívüli képességekkel bíró számítógépek között fogunk élni. Ezek az egyre több mindenre képes rendszerek,{64} és ezek jelentik majd a digitális életvilág első alapvető jellemzőjét.

Mesterséges intelligencia

A mesterséges intelligencia (MI) 1943-ban létrejött szakterülete az „intelligens” digitális rendszerek megalkotásával foglalkozik. Amikor MI-ről beszélek, olyan rendszerekről beszélek, amelyek képesek a korábbi vélekedés szerint kifejezetten emberi kognitív és kreatív folyamatokat igénylő feladatok végrehajtására.{65} A haladás nem mindig volt zökkenőmentes, mára azonban lenyűgöző mértékben haladt előre, és továbbra is egyre gyorsul. Ezernyi olyan cselekvést, amelyet korábban kizárólag emberek végeztek, a digitális rendszerek ma gyorsabban, hatékonyabban, pontosabban és egészen más nagyságrendben végeznek.

Az MI-rendszerek mára közel jutottak ahhoz, hogy meghaladják az embereket olyan képességek terén, mint a természetes nyelvek fordítása, az arcfelismerés vagy az emberi beszéd utánzása.{66} Az MI-t használó önvezető járművek az általános vélekedés szerint néhány éven belül széles körben el fognak terjedni (a Ford 2021-ben tervezi megkezdeni egy tömegesen elérhető modell forgalmazását).{67} 2016-ban a Microsoft bemutatott egy beszédfelismerő MI-rendszert, amely ugyanannyi vagy kevesebb hibával képes lejegyezni egy beszélgetést, mint a hivatásos emberi átírók.{68} Az Oxfordi Egyetem kutatói olyan MI-rendszert fejlesztettek ki, amely 93 százalékos pontossággal képes szájról olvasni, szemben a hivatásos szájolvasók 60 százalékos pontosságával.{69} Az MI-rendszerek máris képesek sport, üzleti vagy pénzügyi témájú cikkeket írni.{70} 2014-ben az Associated Press elkezdett algoritmusokat használni a több száz, addig kézzel írt bevételi jelentés számítógépes feldolgozására, amelyekből így tizenötször annyit produkáltak, mint korábban.{71} Az MI-rendszerek rendeztek már filmet, és gyártottak filmelőzetest.{72} Hamarosan MI-chatbotok (olyan rendszerek, amelyekkel „beszélgetni” tudunk) veszik majd fel a rendelésünket az éttermekben.{73} Ennél jóval baljósabb tény, hogy a mérnökök olyan MI-rendszert is alkottak már, amelyik képes egy adott politikai pártot támogató beszédeket írni.{74} Már az is épp elég rossz volt, amikor a politikusok lélektelen robotokként beszéltek, de most majd lélektelen robotok beszélnek úgy, mint a politikusok.

Az algoritmusok nap mint nap számtalan tranzakciót hajtanak végre a pénzpiacokon a befektetők nevében. A piaci feltételek változásain alapuló komplex stratégiák végrehajtását bízzák rájuk. A Deep Knowledge Ventures, egy hongkongi székhelyű befektető cég kinevezett egy VITAL (Validating Investment Tool for Advancing Life Sciences, vagyis „hitelesítő befektetési eszköz az élettudományok előbbre viteléért”) nevű algoritmust az igazgatótanács tagjává.{75} Az orvosi MI-rendszerek már képesek megkülönböztetni egymástól a tüdőrák egyes fajtáit, és az emberi patológusoknál pontosabban tudják megbecsülni a várható túlélési időt. A kutatók úgy vélik, hogy nemsokára a többi ráktípus esetében is ez lesz a helyzet.{76} Egy jogi MI-rendszer az Emberi Jogok Európai Bíróságán tárgyalt több száz per 79 százalékának végkimenetelét jósolta meg helyesen.{77} Halálos önvezérlő fegyverrendszereket fejlesztenek – ez MI által vezérelt rakétákat, illetve felfegyverzett drónokat és robotokat jelent. Ha ezeket kiléptetik a háború színpadára, képesek lesznek bizonyos kritériumok alapján célpontokat kiválasztani, majd elpusztítani azokat – előbb-utóbb bármiféle emberi döntéshozó közreműködése nélkül.{78}

Úgy tartják, a stratégiai játékok segítségével jól fel lehet mérni a digitális rendszerek képességeinek fejlődését. Röviden összefoglalva, mára már szinte mindegyikben legyőzik a legjobb emberi játékosokat, beleértve az ostáblát (1979), a dámát (1994) és a sakkot, amelynek világbajnokát, Garri Kaszparovot egy elhíresült mérkőzésen győzte le az IBM Deep Blue nevű szoftvere (1997). 2016-ban a Google DeepMind AlphaGo nevű MI-rendszere általános megdöbbenésre 4:1 arányban kerekedett felül I Szedol koreai go nagymesteren, szédítően új taktikákat alkalmazva ebben a sakknál jóval bonyolultabb játékban. „Egyetlenegy játszmát… voltam képes megnyerni – nyilatkozta később kissé megrendülten Szedol. – Ezt a világon semmiért el nem cserélném.”{79}

Egy évvel később az AlphaGo új, AlphaGo Master nevű változata 3:0-ra lemosta Ko Csiét, a világ legjobb emberi játékosát.{80}

Ma már ennél is létezik sokkalta erősebb verzió: az AlphaGo Zero. Ez zsinórban százszor verte meg az AlphaGo Mastert.{81}

Az IBM Watsonja már 2011-ben tönkreverte a Jeopardy! nevű műveltségi vetélkedő két örökös emberi bajnokát. Ebben a játékban a műsorvezető „válaszokat” ad az általános műveltséget érintő, sporttal, tudománnyal, popkultúrával, történelemmel, művészettel, irodalommal és egyéb témákkal kapcsolatban, amelyre a játékosoknak meg kell adniuk a megfelelő „kérdést”. A Jeopardy!-játékosnak nemcsak mély és széles körű tudással kell rendelkeznie, hanem képesnek kell lennie a természetes nyelv feldolgozására (beleértve a szójátékokat is), a releváns információk előkeresésére és a válasz megfelelő formában történő megfogalmazásra – méghozzá gyorsabban, mint a versenytársai.{82} Az emberi játékosoknak esélyük sem volt a Watsonnal szemben, amelynek győzelme mérföldkövet jelentett a mesterséges intelligencia fejlődésében. Ez a rendszer válaszolni tudott „a világon bármilyen kérdésre […] pontosabban és gyorsabban akármelyik embernél”.{83} A Watson Jeopardy!-hoz használt változata állítólag szoba nagyságú volt; a 2020-as évek elejére ugyanez a technológia jócskán továbbfejlesztve várhatóan kényelmesen elfér majd egy okostelefon méretű számítógépben.{84} Az, amit az IBM ma Watsonnak nevez, már nem is létezik egyetlen fizikai alakban, hanem szerverek felhőjében oszlik el, amelyet a cég ügyfelei elérhetnek a számítógépükön vagy az okostelefonjukon keresztül.{85} Amint azt az IBM nem győzi hangsúlyozni, a Watson különféle változatai többet is tesznek vetélkedők megnyerésénél. 2016 végén egy Watson-platform felfedezett öt gént, amelyek az amiotrófiás laterálszklerózishoz (ALS), egy akár bénuláshoz és halálhoz is vezető degeneratív betegséghez köthetők. Ezt úgy érte el, hogy átrágta magát az ALS témájában publikált teljes szakirodalmon, majd végigelemezte az emberi genom valamennyi génjét. A Watsonnak ez néhány hónapját vette igénybe – az embereknek évekbe telt volna.{86} 2017 elején a japán Fukoku Mutual Life Insurance biztosító harmincnégy alkalmazottját bocsátotta el, és a Watson Explorer nevű platformjával helyettesítette őket, amely több tízezer orvosi feljegyzést, szakvéleményt, kórházi adatot és műtéti információt feldolgozva kalkulálja ki a biztosítottaknak fizetendő összeget.

Az MI alterületek sokaságát teremtette meg, amelyek mindegyike egy egész sor problémára külön-külön megoldást kínál. Megközelítések szinte beláthatatlan skálája létezik, kezdve azokkal a kutatókkal, akik például az emberi agy neurális rendszerét igyekeznek újraalkotni, „hasonlóan az első, repülésre tervezett gépekhez, amelyeket csapkodó szárnyakkal láttak el”, egészen azokig, akik egészen új, kifejezetten a mesterséges problémamegoldáshoz szabott technikákat alkalmaznak.{87} Egyes kutatók a mesterséges általános intelligencia Szent Grálját keresik, amely az emberi agyhoz hasonlóan rendelkezne öntudattal, kreativitással, köznapi józan ésszel és a különböző területeket összekötő elvont „gondolkodás” képességével. E cél elérésének egyik módja lehet a teljes agyi emuláció,{88} amelyet Svájcban a Blue Brain projekt keretében igyekeznek elérni. Ehhez többek között megpróbálják feltérképezni, szimulálni, majd lemásolni az agy több mint nyolcvanmilliárd neuronját és az azok közötti több tíztrillió szinapszist, valamint a központi idegrendszer működését.{89} A teljes agyi emuláció egyelőre csupán távlati terv, de technikailag nem tartják kivitelezhetetlennek.{90} Murray Shanahan érvelése szerint maga az agyunk a bizonyíték rá, hogy lehetséges összekapcsolni „több milliárd ultraalacsony energiafogyasztású, nanoméretű komponenst egyetlen olyan eszközzé, amely emberi szintű intelligenciát képes produkálni.”{91}

A kortárs MI-kutatások zöme azonban nem a mesterséges általános intelligenciával vagy a teljes agyi emulációval foglalkozik. Sokkal inkább arra vannak kihegyezve, hogy olyan gépeket alkossanak, amelyek egy-egy specifikus, gyakran egészen szűk feladatot képesek rendkívüli hatékonysággal elvégezni. Az AlphaGo, a Deep Blue vagy a Watson nem rendelkezik az emberihez hasonló „elmével”. A Deep Blue, amelynek egyetlen funkciója a sakkozás volt, „nyers matematikai erő” segítségével dolgozott fel másodpercenként több százmillió állást és modellezett előre minden lehetséges lépést, körülbelül húsz lépésre előre.{92}

Erős a kísértés, hogy leragadjunk a szűk kognitív kapacitással rendelkező, illetve az általános „gondolkodásra” és problémamegoldásra képes gépek közti különbségtételnél. Az utóbbiak jóval kívánatosabb célpontok, mint az előbbiek. A „szűk” és „tág”, „erős” és „gyenge” MI-k megkülönböztetése azonban elfedné azt a tényt, hogy még a szűk területre koncentráló MI-k is olyan óriási új lehetőségeket és kockázatokat teremtenek, amelyekre önmagukban is érdemes komolyan odafigyelni. Hamarosan a számítógépek is képesek lesznek olyasmire, amire az emberek, még ha nem is pontosan ugyanúgy fogják csinálni – és még sok minden másra is. Az sem számít, hogy egy-egy rendszer esetleg csak kisszámú feladat elvégzésére képes. Szerény számítások szerint is úgy tűnik, hogy a digitális életvilág egymást átfedő MI-rendszerek sokaságának lesz az otthona, amelyek mindegyikét specifikus funkciók ellátásra tervezik. Számunkra pedig a fogadóoldalon lehetetlenség lesz különbséget tenni egy általános intelligenciával rendelkező, illetve egy, ötven alrendszer használatának segítségével az általános intelligencia látszatát keltő rendszer között. A legtöbb lényeges szempontból nézve az eredmény ugyanaz lesz.

Gépi tanulás

Jelenleg az MI legfontosabb alterülete a gépi tanulás. Ahogy Pedro Domingos a The Master Algorithm (A mesteralgoritmus) című, 2015-ös könyvében leírja, egy feladat számítógéppel való elvégeztetésének hagyományos módja az volt, hogy „írtunk egy algoritmust – azaz utasítássort –, amelyben kínos részletességgel elmagyaráztuk neki, hogyan hajtsa végre a feladatot.”{93} A közönséges algoritmussal ellentétben a gépi tanulási algoritmus képes magától rájönni, hogyan ismerjen fel mintázatokat, alkosson modelleket és hajtson végre feladatokat. Ezt úgy teszi, hogy iszonyú mennyiségű adatot bifláz be, azonosítja a bennük rejlő mintázatokat, és következtetéseket von le ezekből. A gépi tanulási algoritmusok egyaránt képesek elsajátítani ismereteket („ha valami X külsejű, akkor Y”) és készségeket („ha az út balra kanyarodik, fordítsd a kormányt balra”).{94} Az elgondolás az, hogy meghatározott ponton túl „nem kell programoznunk a számítógépeket”, hanem „ők programozzák saját magukat”.{95}

Az általam eddig leírt MI-rendszerek közül sok használ gépi tanulási technikákat. A gépi tanulási algoritmusok valójában mindenütt ott vannak:{96}

Az Amazon algoritmus bármelyik embernél pontosabban megállapítja, milyen könyveket olvasnak a világon. Az amerikai Nemzetbiztonsági Hivatalé képes eldönteni rólunk, hogy terroristák vagyunk-e. A klímamodellek kiszámítják, mekkora a szén-dioxid még biztonságos szintje a légkörben. A tőzsdeelemző modellek sokkal nagyobb hatást gyakorolnak a gazdaságra, mint közülünk a legtöbben.

És amikor elérkezik az idő, és önök először ülnek be egy önvezető autóba, ne feledjék:{97}

egyetlen mérnök sem írt hozzá algoritmust, amely lépésről lépésre megszabná, hogyan hogyan jusson el A-ból B-be. Senki nem tudja, hogyan kell egy autót vezetésre beprogramozni, de erre nincs is szükség, hiszen a tanulási algoritmussal ellátott jármű maga sajátítja el ezt a készséget úgy, hogy megfigyeli, mit csinál a sofőr.

A gépi tanulás Domingost idézve nem más, mint az automatizálás automatizálása.{98} Az teszi jelentős fejlesztéssé, hogy felszabadítja az MI-rendszereket emberi alkotóik korlátai alól. A Facebook mérnökei másokkal egyetemben most olyan gépi tanulási algoritmuson dolgoznak, amely képes más gépi tanulási algoritmusokat létrehozni.{99}

A gépi tanulási algoritmusok rendszerint három módszer egyikével „tanulnak”. Felügyelt tanulás esetén egy emberi programozó kijelöli a lehetséges eredmények meghatározott készletét, valamint visszajelzést ad a gépnek arról, hogy elérte-e ezeket a célokat. Ezzel szemben a felügyelet nélküli tanulás során a gép csupán adatokat kap, és neki kell felfedeznie a bennük rejlő mintázatot. Egy felügyelet nélküli gép tehát használható arra, hogy „rájöjjön ismeretekre”, vagyis olyan összefüggéseket találjon, amelyekkel az emberi programozók nem voltak tisztában.{100} Megerősítéses tanulás közben a gép „jutalmat” vagy „büntetést” kap, amiből tudhatja, helyes volt-e, amit csinált, vagy helytelen. A gép önmagát fejleszti.

Az e fejezetben tárgyalt előrelépések többségét, különösen a képekkel, beszéddel és szöveggel kapcsolatosakat, úgynevezett „mélytanulásos” technikák eredményezték, amelyek állati agyak szerkezete által ihletett „neurális” rendszereket használnak. A Google 2012-ben indított be egyet, amelyben ezer nagy számítógépet kötött össze egy több mint egymilliárd kapcsolódással rendelkező hálózatba. Ebbe a hálózatba betápláltak tízmillió „véletlenszerű” képet különféle YouTube-videókból. Nem mondták meg neki, mit keressen, a képek pedig nem voltak kategorizálva. Három nap után az egyik egység megtanulta azonosítani az emberi arcokat, egy másik pedig azt, hogy reagáljon a macskás képekre (elvégre mégiscsak a YouTube-ról beszélünk).{101} A Google mérnökei most „párbajozó” neurális hálózatokat használnak arra, hogy egymást képezzék. Az egyik MI-rendszer realisztikus képeket alkot, a másik pedig a kritikus szerepét játszva azt próbálja kitalálni, hogy azok valódiak-e vagy hamisak.{102}

A mélytanulás használatának rohamos terjedése a játékokban használt MI-rendszereken követhető nyomon. A Deep Blue-nak azt a verzióját, amely 1997-ben legyőzte Garri Kaszparovot, még a sikeres játék számos általános alapelvére programozták be. Az AlphaGo Zeróban – a go játékot játszó MI-rendszerek legújabb és legerősebb modelljében – az a legbámulatosabb, hogy nem a legjobb emberi játékosok ellen játszva vagy az emberi játékot figyelve „tanult”, hanem úgy, hogy saját maga ellen játszott újra meg újra, véletlenszerű lépésektől indulva, de villámgyorsan fejlődve.{103}

A gépi tanulás már jó ideje létezik. Gyors elterjedését és sikerét az utóbbi néhány évtizedben részben az új algoritmusok kifejlesztése tette lehetővé, legfőképpen azonban az adatfeldolgozási kapacitásban és a rendelkezésre álló adatok mennyiségében bekövetkezett robbanásszerű növekedés (lásd a harmadik fejezetet). Az adat létfontosságú kelléke a gépi tanulásnak. Ha túl kevés van belőle, az megbénítja a gépi tanulásos algoritmus növekedését, elegendő mennyiség birtokában azonban „egy mindössze néhány száz soros tanulóprogram könnyedén képes megalkotni egy több millió soros másik programot, ráadásul újra meg újra, különféle problémákra”.{104} Ezért nevezték el az adatot „az új szénnek”,{105} a gyűjtőit pedig „adatbányászoknak”.

Csakhogy, mint azt e könyvben majd több helyütt is látni fogjuk, ha hibás adatokra támaszkodunk, az elszabadíthatja a tanuló rendszerekben a káoszt. 2016. március 23-án a Microsoft beindította a Tay nevű chatbotot a Twitteren. Taynek egy tizenkilenc éves lány beszédmódját kellett utánoznia és a többi Twitter-felhasználótól tanulnia. Mindössze tizenhat óra után azonban le kellett kapcsolni, mivel rasszista és szexuális töltetű tweetek sorát posztolta, köztük egy olyat, amelyikben „menőségriadó” címkével látta el Adolf Hitler fényképét, vagy egy olyat, hogy „Baszd meg a robotpuncim, apu, rossz kis robot voltam.” Tay a többi felhasználótól „tanult” meg így kommunikálni. Ez a példa legalább annyit elárul a közösségi média emberi résztvevőiről, mint a gépi tanulásról.

Egy utolsó megjegyzés a gépi tanulásról: korábban egy rendszer működését lehetővé tevő számítási kapacitás fizikailag jelen volt a kérdéses rendszeren belül. A legerősebb digitális eszközök tartalmazták az őket működtető processzort. A felhőalapú adatfeldolgozás megjelenése az utóbbi bő évtizedben azzal járt, hogy ennek a kapacitásnak ma már nem szükséges magában az eszközben elhelyezkednie: az interneten keresztül is elérhető, akárcsak az Apple Sirijének esetében. Ez komoly következményekkel jár a technológia integráltságára nézve, mivel azt jelenti, hogy kis méretű eszközök is támaszkodhatnak igen nagy számítási erőforrásokra (lásd a második fejezetet). De fontos a gépi tanulás szempontjából is, mivel így a gépeknek nem kell a saját tapasztalataikból „tanulniuk”: a másokéiból is képesek, így egy-egy flotta vagy géppark minden darabja hozzájárul az egész kollektív „intelligenciájához”.

A számítási kapacitások exponenciális növekedése

A mesterséges intelligencia és a gépi tanulás területén tapasztalható haladás a matematika, a filozófia és az idegtudomány új vívmányain alapszik. Ám ahogy már említettem, elsősorban két fontos fejlemény tette lehetővé: az elérhető adatmennyiség, illetve a számítási kapacitások robbanásszerű megnövekedése.

Az elmúlt nagyjából ötven évben a számítási kapacitások – a számítógépek chipjeinek képessége arra, hogy adatokat dolgozzanak fel – exponenciális ütemben növekedtek: durván kétévente megkétszereződnek. Ez a várakozások szerint a jövőben is nagyjából ugyanígy folytatódik majd. A jelenlegi trendek alapján tehát egy 2029-es gyártású számítógép hatvannégyszer lesz gyorsabb, mint egy 2017-es. Ha pedig a technológia ugyanilyen ütemben fejlődik tovább, egy 2041-es számítógép már 4096-szor lesz gyorsabb, mint egy 2017-es. Harminc év alatt pedig a számítógépek milliószor erősebbé válnak. Ray Kurzweil és mások is úgy jósolják, hogy az elkövetkező nagyjából egy évtizedben egy közönséges asztali számítógép (ami most körülbelül ezer dollárba kerül) elérheti, sőt meghaladhatja az emberi agy adatfeldolgozási kapacitását. 2050-re pedig „egy ezer dollárt érő számítógép számítási teljesítménye meg fogja haladni a Földön található összes emberi agyét”.{106} Ha ez valószínűtlennek hangzik, nézzük csak meg, hogy honnan jutottunk el a mába. A csupán harminc évvel ezelőtti asztali gépekből ötezer darabra lenne szükség, hogy elérjék egy mai iPad Air számítási kapacitását.{107} Egy 2010-es (mára reménytelenül elavult) iPad2 hatvan évvel ezelőtt 100 trillió dollárba került volna, ami nagyjából a huszonötszöröse az Egyesült Államok teljes 2015-ös költségvetésének.{108} Egy átlagos mai okostelefon nagyobb számítási kapacitással rendelkezik, mint az Apollo Guidance Computer, amely annak idején eljuttatta Neil Armstrongékat a Holdra.{109}

Az agyunk nem úgy van huzalozva, hogy exponenciálisan gondolkodjon. Hajlamosak vagyunk egyenletesen emelkedő vonalként elképzelni a változást, és nem vesszük észre, hogy a változás üteme maga is gyorsul. Szemléltetésképpen (Pedro Domingos példájával élve) próbáljunk elképzelni egyetlenegy, mikroszkopikus méretű E. coli baktériumot. Ez a baktérium nagyjából tizenöt-húsz percenként kettéosztódik. Megfelelő körülmények között néhány óra alatt egész baktériumteleppé fejlődik, amely azonban még mindig túlságosan kicsi lesz ahhoz, hogy szabad szemmel is lássuk. Huszonnégy óra alatt azonban abból az egyetlenegy E. coliból akkora baktériumtömeg fejlődik ki, mint maga a Föld.{110} Hát ilyen az exponenciális növekedés.

Az elméletet, amely szerint a számítógépek számítási kapacitása körülbelül kétévente megduplázódik, Moore-törvénynek is nevezik. Ez a „törvény”, amely valójában nem is törvényszerűség, inkább tapasztalati megfigyelés, egybehangzó vélemények szerint „a Szilícium-völgy vezérlő elve, mind a tíz parancsolat egybegyúrva”.{111} A neve Gordon Moore-nak, az Intel egyik alapítójának az egyik, 1965-ben megjelent cikkéből ered: ez megjósolta, hogy az egy integrált áramkörbe bezsúfolt komponensek száma nagyjából kétévenként meg fog duplázódni. Moore akkor azt vetítette előre, hogy ez a trend még „legalább tíz évig” ki fog tartani.{112} Mások szkeptikusabbak voltak, és legfeljebb néhány évet adtak neki. Moore törvénye immár több mint öt évtizeden át érvényesnek bizonyult. Amint Walter Isaacson megjegyzi, több volt, mint egyszerű jóslat: „az ipar célkitűzésként fogta fel, vagyis részben önbeteljesítő jóslattá vált”.{113} Érdekes módon nem a számítási kapacitás az egyetlen technológia, amelyik exponenciális ütemben fejlődik. Ugyanez figyelhető meg sok minden mással együtt a merevlemez-kapacitás, a sávszélesség, a mágneses adattárolás, a pixelsűrűség, a mikrochipsűrűség, a RAM, a fotonikus adattovábbítás, a DNS-szekvenálás vagy az agyszkennelés felbontása terén is.{114} Ha Moore törvénye továbbra is érvényben marad, akkor az elkövetkező évtizedekben lenyűgöző képességű gépek megjelenésének lehetünk majd tanúi. Egy olyan világ, amelyben minden egyes asztali számítógép akkora számítási kapacitással rendelkezik, mint az egész emberiség együttvéve, gyökeresen különbözni fog a miénktől.

Egyesek szerint a Moore-törvény néhány éven belül érvényét fogja veszíteni, nagyrészt azért, mert fizikailag lehetetlen lesz még több tranzisztort rápakolni egy mikrochipre, továbbá mert az utóbbi fél évszázad során tapasztalt gazdasági hatékonyság csökkenőben van. Láthatók is bizonyos jelei a lassulásnak – igaz, a Moore-törvénynek már számtalan alkalommal feladták az utolsó kenetet.{115} Mindazonáltal valószínűleg téves az a feltételezés, hogy a jelenlegi számításikapacitás-gyártási paradigma – tranzisztorok integrálása kétdimenziós szilíciumlapkára (integrált áramkör) – egyben a végső is, amely nem fejleszthető tovább valamilyen módszerrel. A történelem, a piaci erők és a józan ész rácáfolhatnak erre a feltevésre. Az integrált áramkör előtt egyesével építették be a tranzisztorokat a számítógépekbe. Még korábban, Alan Turing idejében elektroncsöveket, reléket és elektromechanikát használtak. A számítástechnika története az adatfeldolgozás egyre hatékonyabb módszereinek egymásutánja, amelyek mindegyike exponenciális ütemben fejlődik, majd eléri fizikai korlátait, amikor is átveszi a helyét valami jobb. A számítási kapacitások exponenciális növekedése egészen a tizenhetedik századig nyúlik vissza, „Pascal mechanikus gépezeteiig”.{116} Semminek a bekövetkezése nem szükségszerű, de a Moore-törvény nem az integrált áramkörrel kezdődött, és az sem valószínű, hogy azzal fog véget érni.

Az érdekes kérdés az, hogy mi jön utána. Már most egész sereg új módszer áll fejlesztés alatt azzal a céllal, hogy elérjék, majd meghaladják a szilíciumalapú számítástechnika határait. Az egyik lehetőség az, hogy nem tisztán szilíciumból készült chipeket fogunk használni.{117} Egy másik forgatókönyv alapján átállhatunk a „2D-s” integrált áramkörökről – ahol a tranzisztorok egymás mellett helyezkednek el egy szilíciumlapkán – a „3D-s”-re, ahol a tranzisztorok egymásra vannak halmozva.{118} Egy további szerint teljesen elhagyjuk majd a szilíciumot, és szén nanocsövekből építünk még kisebb, még hatékonyabb tranzisztorokat.{119} Vagy pedig, ahogy ma a Google, bizonyos funkciókra specifikusabb chipeket használnánk, amelyek kevesebb dolgot tudnak, de azt sokkal gyorsabban.{120} A Microsoft egyre többet használ egy olyan új típusú chipből, amely a jóval nagyobb sebességet rugalmassággal képes kombinálni.{121}

De hogy még messzebbre tekintsünk, a Google-nál és máshol is már most keményen dolgoznak a mérnökök a „kvantumkomputerek” kifejlesztésén, amelyektől azt várják, hogy bizonyos feladatokat sokkal nagyobb számítási kapacitással lesznek képesek végezni, mint a klasszikus számítógépek.{122} A szilícium további alternatíváit jelenthetik a kétdimenziós, grafénszerű összetevők és a „spintronikus” anyagok, amelyek az elektronok mozgatása helyett azok spinjét hasznosítva működnek.{123} Ott van továbbá a neuroelektronika egyre fejlődő területe, amely az emberi agy neurális rendszerének működését igyekszik rekonstruálni, ami elvileg kisebb energiaráfordítással járna, mint a szilícium használata.{124} Még hosszabb távon lehetséges a QDCA (kvantumpont-sejtautomata) technológia, egy elképzelhetetlenül kis méretű félvezető használata, amely képes elvégezni egy tranzisztor munkáját, de jóval kevesebb energia felhasználásával és elpazarlásával.{125}

E technológiák közül sok ma még gyerekcipőben jár, és egyelőre semmi biztosat nem lehet mondani a Moore-törvény jövőjéről. De a legkevésbé valószínű lehetőség az, hogy a számítástechnika egyszerűen megáll, a fiatal és éhes szilícium-völgyi mérnökök pedig szögre akasztják az áramköri lapjaikat, és nyugdíjba mennek. Akármi lesz is a következő számítástechnikai paradigma, nem alaptalan a feltételezés, hogy a számítási kapacitások továbbra is olyan ütemben növekednek majd, ahogy azóta teszik, hogy Pascal négyszáz évvel ezelőtt feltalálta a számológépet.

{1} Martonyi Éva fordítása. (A szerk.)

{2} John Stuart Mill: The Autobiography of John Stuart Mill (Seven Treasures Publications, USA, 2009), 93.

{3} David Remnick: Obama Reckons With a Trump Presidency, The New Yorker, 2016. november 28.
http://.newyorker.com/magazine/2016/11/28/obama-reckons-with-a-trump-presidency (hozzáférés: 2017. november 30.)

{4} Ronald Wright: A Short History of Progress (Canongate Books, London, 2006), 14., 55.

{5} Uo., 14.

{6} Utalás a sokat idézett feminista jelmondatra: The personal is political, azaz „a személyes egyben politikai is”. (A szerk.)

{7} Jaron Lanier: Who Owns the Future? (Allen Lane, London, 2014), 17.

{8} Karl Marx: Tézisek Feuerbachról, in Karl Marx és Friedrich Engels művei. 3. kötet. 1845–1846. (Kossuth Könyvkiadó, Budapest, 1976), 10. Kislégi Nagy Dénes fordítása.

{9} Idézi H. Halpin: Philosophical Engineering. Towards a Philosophy of the Web, APA Newsletters, Newsletter on Philosophy and Computers 7, no. 2 (2008): 5–11., in Mireille Hildebrandt: The Public(s) Onlife: A Call for Legal Protection by Design, in Luciano Floridi (szerk.): The Onlife Manifesto: Being Human in a Hyperconnected Era (Springer, Cham, 2015), 188.

{10} Uo.

{11} Sheelah Kolhatkar: The Tech Industry’s Gender-Discrimination Problem, The New Yorker, 2017. november 20.
https://.newyorker.com/magazine/2017/11/20/the-tech-industrys-gender-discriminationproblem  (hozzáférés: 2017. december 12.)

{12} Julia Wong: Segregated Valley: The Ugly Truth about Google and Diversity in Tech, The Guardian, 2017. augusztus 7.
https://.theguardian.com/technology/2017/aug/07/silicon-valley-googlediversity-black-women-workers  (hozzáférés: 2017. november 28.)

{13} Don Tapscott – Alex Tapscott: Blockchain Revolution: How the Technology behind Bitcoin is Changing Money, Business, and the World (Portfolio Penguin, London, 2016), 199.

{14} Isaiah Berlin: The Purpose of Philosophy, in Isaiah Berlin, The Power of Ideas (Pimlico, London, 2001), 35.

{15} John S. Dryzek – Bonnie Honig – Anne Phillips: Introduction, in John S. Dryzek – Bonnie Honig – Anne Phillips (szerk.): The Oxford Handbook of Political Theory (Oxford University Press, New York, 2008), 4.

{16} 14 Onlife Initiative: Background Document: Rethinking Public Spaces in the Digital Transition, in Onlife Manifesto, 41.

{17} Editors’ Introduction, in Terence Ball – James Farr – Russell L. Hanson (szerk.): Political Innovation and Conceptual Change (Cambridge University Press, New York, 1995), 1.

{18} Ludwig Wittgenstein: Logikai-filozófiai értekezés (Akadémiai Kiadó, Budapest, 1989), 34. Márkus György fordítása.

{19} C. f. Yochai Benkler: The Wealth of Networks: How Social Production Transforms Markets and Freedom (Yale University Press, New Haven és London, 2006), 17.: „A különféle technológiák különféle emberi cselekvéseket és interakciókat könnyítenek és nehezítenek meg.”

{20} Emmanuel G. Mesthene: The Social Impact of Technological Change, in Robert C. Scharff – Val Dusek (szerk.): Philosophy of Technology: The Technological Condition: An Anthology (2. kiadás) (Wiley-Blackwell, Oxford, 2014), 689.

{21} Langdon Winner: Do Artifacts Have Politics? in Philosophy of Technology, 669.

{22} Winner i. m.

{23} Otto Mayr: Authority, Liberty and Automatic Machinery in Early Modern Europe (Johns Hopkins University Press, Baltimore, 1989), 102.; Arisztotelész: Politika (Gondolat Kiadó, Budapest, 1984), 1253a18, 74. Szabó Miklós fordítása.

{24} Mayr, i. m., 102.

{25} Uo., 27.

{26} Uo., 112.

{27} Uo., 119.

{28} Uo., 121.

{29} E. M. Forster: A Gép megáll. In Osztovits Levente (szerk.): Előjáték. Huszadik századi angol kisregények (Európa, Budapest, 1969), 49–82. László Balázs fordítása.

{30} Evgeny Morozov: The Net Delusion: How Not to Liberate the World (Penguin, London, 2011), xiii.

{31} Uo.

{32} Evgeny Morozov: To Save Everything, Click Here: Technology, Solutionism, and the Urge to Fix Problems That Don’t Exist (Penguin, London, 2014), 5.

{33} Általánosságban lásd Andrew J. Beniger: Control Revolution: Technological and Economic Origins of the Information Society (Harvard University Press, Cambridge, Mass., 1986)

{34} James Farr, Understanding Conceptual Change Politically, in Political Innovation, 25.

{35} Yuval Noah Harari: Sapiens – Az emberiség rövid története (Animus, Budapest, 2015), 32–35. Torma Péter fordítása.

{36} Yuval Noah Harari: Homo Deus – A holnap rövid története (Animus, Budapest, 2016), 146. Torma Péter fordítása.

{37} Domesday Book, Wikipedia, hozzáférés előtt utoljára módosítva: 2017. november 26.
https://en.wikipedia.org/wiki/Domesday_Book (hozzáférés: 2017. november 28.)

{38} Harari: Homo Deus, 146.

{39} Parafrázis, az eredetit lásd Alain Desrosières: The Politics of Large Numbers: A History of Statistical Reasoning (Harvard University Press, Cambridge, Mass., 1998), 16.

{40} Desrosières, i. m., 9.

{41} Alexander Hamilton: A föderalista, 23. sz., 1787. december 18., in Alexander Hamilton – James Madison – John Jay: A föderalista (Ford.: Balabán Péter. Európa Könyvkiadó, Budapest, 1998), 184.; lásd még Bruce Bimber: Information and American Democracy: Technology in the Evolution of Political Power (Cambridge University Press, New York, 2011), 45.

{42} Desrosières, i. m., 236.

{43} 41 Uo.

{44} Thomas Richards: The Imperial Archive: Knowledge and the Fantasy of Empire (Verso, London, 1993), 6.

{45} Beniger, i. m., 8.

{46} Max Weber: A bürokratikus uralom lényege, feltételei és kibontakozása, in Politikai szociológia. Politikai közösségek. Az uralom (Helikon Kiadó, Budapest, 2009), 143. Erdélyi Ágnes fordítása.

{47} Weber: A bürokratikus uralom lényege, feltételei és kibontakozása, 120.

{48} Desrosières, i. m., 330.

{49} James Gleick: The Information: A History, A Theory, A Flood (Fourth Estate, London, 2012), 42.

{50} Harold Innis: Empire and Communications (Rowman & Littlefield, Lanham, 2007), 30.

{51} Anthony M. Townsend: Smart Cities: Big Data, Civic Hackers, and the Quest for a New Utopia (W. W. Norton & Company, New York 2014), 59–60.

{52} Benkler, i. m., 30.

{53} Ez az adat egészen biztosan téves, mivel Verne 1905-ben meghalt. (A ford.)

{54} Kevin Kelly: What Technology Wants (Penguin, New York, 2010), 191–2.

{55} Vlagyimir Iljics Lenin: A VIII. Összoroszországi Szovjetkongresszus. 1920. december 22–29., in V. I. Lenin művei. 31. kötet. 1920. április–december (Szikra, Budapest, 1951), 533., idézi Sally Wyatt: Technological Determinism is Dead; Long Live Technological Determinism, in Philosophy of Technology, 458.

{56} Leon Trotsky: What is National Socialism? Marxists, a hozzáférés előtt utoljára módosítva: 2007. április 25.
https://.marxists.org/archive/trotsky/germany/1933/330610.htm (hozzáférés: 2017. november 28.)

{57} Az angol eredetiben a force kifejezés szerepel, amelyet logikusan magyaríthatnánk a valamivel „puhább” kényszer szóval. Mivel azonban a szerző gondolatmenete mindvégig kifejezetten a híres német szociológus, Max Weber hatalomkoncepciójára épül, magyar megfelelőként a legtöbb esetben a magyar társadalomtudományi fordítási tradícióban bevett erőszak szót fogjuk használni, és csak cselekvő alakban használjuk a kényszerít igét (use force). (A szerk.)

{58} Nadia Judith Enchassi – CNN Wire: New Zealand Passport Robot Thinks This Asian Man’s Eyes Are Closed, KFOR, 2016.december 11.
http://kfor.com/2016/12/11/new-zealand-passport-robotthinks-this-asian-mans-eyes-are-closed/ (hozzáférés: 2017. december 2.)

{59} 55 Selena Larson: Research Shows Gender Bias in Google’s Voice Recognition, Daily Dot, 2016. július 15.
https://.dailydot.com/debug/google-voice-recognition-gender-bias/ (hozzáférés: 2017. december 2.)

{60} Alex Hern: Flickr Faces Complaints Over “Offensive” Auto-tagging for Photos, The Guardian, 2015. május 20.
https://.theguardian.com/technology/2015/may/20/flickr-complaints-offensive-auto-taggingphotos (hozzáférés: 2017. december 2.)

{61} Wittgenstein: Logikai-filozófiai értekezés, Előszó.

{62} G. K. Chesterton: Igazságot! (Orthodoxy) (Szent István Társulat, Budapest, 1985), 7. Hévey Gyula fordítása.

{63} Bor Ambrus fordítása.

{64} A kifejezés forrása: Richard Susskind – Daniel Susskind: A szakmák jövője. Hogyan változtatja meg a technológia a szakemberek munkáját? (Antall József Tudásközpont, Budapest, 2015.) Benczi Boglárka fordítása.

{65} Hálás vagyok Richard Susskindnek az e definíció megfogalmazásában nyújtott segítségéért, bár az ő meghatározása szélesebb körű lett volna, mint az enyém (ugyanis manuális és emocionális feladatokat is magában foglalt volna).

{66} Vu Jung-huj et al.: Google’s Neural Machine Translation System: Bridging the Gap between Human and Machine Translation, arXiv, 2016. október 8.
https://arxiv.org/abs/1609.08144 (hozzáférés: 2017. december 6.); Yaniv Taigman et al.: DeepFace: Closing the Gap to Human-Level Performance in Face Verification, 2014 IEEE Conference on Computer Vision and Pattern Recognition (CVPR) 2014
https://.cs.toronto.edu/~ranzato/publications/taigman_cvpr14.pdf (hozzáférés: 2017. december 11.); Aäron van den Oord et al.: WaveNet: A Generative Model for Raw Audio, arXiv, 2016. szeptember 19.
https://arxiv.org/abs/1609.03499 (hozzáférés: 2017. december 6.)

{67} Peter Campbell: Ford Plans Mass-market Self-driving Car by 2021, Financial Times, 2016. augusztus 16.
https://.ft.com/content/d2cfc64e-63c0-11e6-a08a-c7ac04ef00aa#axzz4HOGiWvHT (hozzáférés: 2017. november 28.); David Millward: How Ford Will Create a New Generation of Driverless Cars, Telegraph, 2017. február 27.
http://.telegraph.co.uk/business/2017/02/27/ford-seeks-pioneer-new-generation-driverless-cars/ (hozzáférés: 2017. november 28.)

{68} Vej Hsziong et al.: Achieving Human Parity in Conversational Speech Recognition, arXiv, 2017. február 17.
https://arxiv.org/abs/1610.05256 (hozzáférés: 2017. november 28.)

{69} Yannis M. Assael et al.: LipNet: End-to-End Sentence-level Lipreading, arXiv, 2016. december 16.
https://arxiv.org/abs/1611.01599 (hozzáférés: 2017. december 6.)

{70} Laura Hudson: Some Like it Bot, FiveThirtyEight, 2016. szeptember 29.
http://fivethirtyeight.com/features/some-like-it-bot/ (hozzáférés: 2017: november 28.)

{71} Susskind–Susskind, i. m. 123.

{72} Rory Cellan-Jones: „Cut!” – the AI Director, BBC News, 2016. június 23.,
http://.bbc.co.uk/news/technology-36608933 (hozzáférés: 2017. november 28.)

{73} Cory Edwards: Why and How Chatbots Will Dominate Social Media, TechCrunch, 2016. július 20.
https://techcrunch.com/2016/07/20/whyand-how-chatbots-will-dominate-social-media/?ncid=rss&utm_source=feedburner&utm_medium=feed&utm_campaign=Feed%3A+Techcrunch+%28TechCrunch%29&sr_share=twitter (hozzáférés: 2017. november 28.)

{74} Valentin Kassarnig: Political Speech Generation, arXiv, 2016. január 20.
https://arxiv.org/abs/1601.03313 (hozzáférés: 2017. november 28.)

{75} Rob Wile: A Venture Capital Firm Just Named an Algorithm to its Board of Directors – Here’s What it Actually Does, Business Insider, 2014. május 13.
http://.businessinsider.com/vital-named-toboard-2014-5 (hozzáférés: 2017. november 28.)

{76} Krista Conger: Computers Trounce Pathologists in Predicting LungCancer Type, Severity, Stanford Medicine News Center, 2016. augusztus 16.
http://med.stanford.edu/news/all-news/2016/08/computerstrounce-pathologists-in-predicting-lung-cancer-severity.html (hozzáférés 2017. november 28.) Lásd még: Andre Esteva et al.: Dermatologist-level Classification of Skin Cancer with Deep Neural Networks, Nature 542 (2017. február 2.): 115–18.

{77} Nikolaos Aletras – Dimitrios Tsarapatsanis – Daniel Preotiuc – Vasileios Lampos: Predicting Judicial Decisions of the European Court of Human Rights: A Natural Language Processing Perspective, Peer J Computer Science 2, e93 (2016. október 24.)

{78} Sarah A. Topol: Attack of the Killer Robots, BuzzFeed News, 2016. augusztus 26.
https://.buzzfeed.com/sarahatopol/how-tosave-mankind-from-the-new-breed-of-killer-robots?utm_term=.nm1GdWDBZ#.vaJzgW6va (hozzáférés: 2017. november 28.)

{79} Cade Metz: Google’s AI Wins Fifth and Final Game Against Go, Wired, 2016. március 15.
https://.wired.com/2016/03/googlesai-wins-fifth-final-game-go-genius-lee-sedol/ (hozzáférés: 2017. november 28.); Nick Bostrom: Szuperintelligencia. Utak, veszélyek, stratégiák (Ad Astra, Budapest, 2016), 36–38. Hidy Mátyás fordítása.

{80} Sam Byford: AlphaGo beats Ke Jie Again to Wrap Up Three-part March, The Verge, 2017. május 25.
https://.theverge.com/2017/5/25/15689462/alphago-ke-jie-game-2-result-google-deepmindchina (hozzáférés: 2017. november 28.)

{81} David Silver et al.: Mastering the Game of Go Without Human Knowledge, Nature 550 (2017. október 19.): 354–359.

{82} Susskind–Susskind, i. m., 239–240.

{83} Uo.

{84} Uo.

{85} Kevin Kelly: The Inevitable: Understanding the 12 Technological Forces that Will Shape Our Future (Viking, New York, 2016), 31.

{86} Emma Hinchliffe: IBM’s Watson Supercomputer Discovers 5 New Genes Linked to ALS, Mashable UK, 2016. december 14.
http://mashable.com/2016/12/14/ibm-watson-als-research/?utm_cid=mash-com-Tw-tech-link%23sd613jsnjlqd#HJziN5r0aGq5 (hozzáférés: 2017. november 28.)

{87} Murray Shanahan: The Technological Singularity (MIT Press, Cambridge, Mass, 2015), 12.

{88} Teljes agyi emuláció: az agy szerkezetének és működésének digitális lemodellezése, gyakorlatilag „feltöltése” egy számítógépes rendszerbe. (A szerk.)

{89} BBC: Google Working on “Common-Sense” AI Engine at New Zurich Base, BBC News, 2016. június 17.
http://.bbc.co.uk/news/technology-36558829 (hozzáférés: 2017. november 30.); Blue Brain Project
https://bluebrain.epfl.ch/page-56882-en.html (hozzáférés: 2017. december 6.)

{90} Bostrom, i. m., 59.

{91} Shanahan, i. m., 47.

{92} Garry Kasparov: The Chess Master and the Computer, New York Review of Books, 2010. február 11., idézi Susskind–Susskind: A szakmák jövője, 386.

{93} Pedro Domingos: The Master Algorithm: How The Quest for the Ultimate Learning Machine Will Remake Our World (Allen Lane, London, 2015), xi.

{94} Uo., 8.

{95} Uo., xi.

{96} Uo., xvi.

{97} Uo., xiv.

{98} Uo., 8–9.

{99} Cade Metz: Building AI is Hard – So Facebook is Building AI that Builds AI, Wired, 2016. május 6.
https://.wired.com/2016/05/facebook-trying-create-ai-can-create-ai/ (hozzáférés: 2017. november 28.)

{100} Margaret A. Boden: AI: Its Nature and Future (Oxford University Press, Oxford, 2016), 47. (kiemelés az eredetiben)

{101} Uo., 40.

{102} Cade Metz: Google’s Dueling Neural Networks Spar to Get Smarter, No Humans Required, Wired, 2017. április 11.
https://.wired.com/2017/04/googles-dueling-neural-networks-spar-get-smarterno-humans-required/ (hozzáférés: 2017. november 28.)

{103} Silver et al., i. m.

{104} Domingos, i. m., 7.

{105} Neil Lawrence, idézi Alex Hern: Why Data is the New Coal, The Guardian, 2016. szeptember 27.
https://.theguardian.com/technology/2016/sep/27/data-efficiency-deep-learning (hozzáférés: 2017. november 28.)

{106} Ray Kurzweil: A szingularitás küszöbén (Ad Astra, Budapest, 2014), 188., idézi Susskind–Susskind, i. m., 229; Peter H. Diamandis–Steven Kotler: Abundance: The Future is Better Than You Think (Free Press, New York, 2014), 55.

{107} Paul Mason: Postcapitalism: A Guide to Our Future (Allen Lane, London, 2015), 121.

{108} Luciano Floridi: The 4th Revolution: How the Infosphere is Reshaping Human Reality (Oxford University Press, Oxford, 2015), 7.

{109} Samuel Greengard: The Internet of Things (MIT Press, Cambridge, Mass., 2015), 28.

{110} Domingos, i. m., 73.

{111} Jaron Lanier: Who Owns the Future? (Allen Lane, London, 2014), 6.

{112} Gordon Moore: Cramming More Components onto Integrated Circuits, Proceedings of the IEEE 86, no. 1 (1998. január), 83.

{113} Walter Isaacson: Innovátorok – Hogyan indította el egy csapat hacker, zseni és geek a digitális forradalmat (HVG Könyvek, Budapest, 2015), 189. Pétersz Tamás fordítása.

{114} Susskind–Susskind, i. m., 230; Kevin Kelly: What Technology Wants (Penguin, New York, 2010), 166–7; Eric Schmidt – Jared Cohen: The New Digital Age: Reshaping the Future of People, Nations and Business (John Murray, London, 2014), 5; Shanahan, i. m., xviii; Erik Brynjolfsson–Andrew McAfee: The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies (W. W. Norton & Company, New York, 2014), 49; Wendell Wallach: A Dangerous Master: How to Keep Technology from Slipping Beyond Our Control (Basic Books, New York, 2015), 67.

{115} Jamie Condliffe: Chip Makers Admit Transistors Are About to Stop Shrinking, MIT Technology Review, 2016. július 25.
https://.technologyreview.com/s/601962/chip-makers-admit-transistorsare-about-to-stop-shrinking/? (hozzáférés: 2017. november 28.); Tom Simonite: Moore’s Law is Dead. Now What? MIT Technology Review, 2016. május 13.
https://.technologyreview.com/s/601441/moores-law-is-dead-now-what/ (hozzáférés: 2017. november 28.); Thomas L. Friedman: Thank You for Being Late: An Optimist’s Guide to Thriving in the Age of Accelerations (Farrar, Straus, and Giroux, New York, 2016), 43; Tim Cross: Beyond Moore’s Law, in Daniel Franklin (szerk.): Megatech: Technology in 2050 (Profile Books, New York, 2017), 56–7.

{116} Shanahan, i. m., 160; Kelly, i. m., 166.

{117} Friedman, i. m., 21.

{118} Kristian Vättö: Samsung SSD 850 Pro (128GB, 256GB & 1TB) Review: Enter the 3D Era, AnandTech, 2014. július 1.
http://.anandtech.com/show/8216/samsung-ssd-850-pro-128gb-256gb-1tb-review-enter-the-3d-er (hozzáférés: 2017. november 28.); Intel: New Technology Delivers an Unprecedented Combination of Performance and Power Efficiency, Intel 22 NM Technology
http://.intel.com/content//us/en/silicon-innovations/intel-22nm-technology.html (hozzáférés: 2017. november 28.)

{119} Shanahan, i. m., 35

{120} Norm Jouppi: Google Supercharges Machine Learning Tasks with TPU Custom Chip, Google Cloud Platform Blog, 2016. május 18.
https://cloudplatform.googleblog.com/2016/05/Google-superchargesmachine-learning-tasks-with-custom-chip.html (hozzáférés: 2017. november 28.)

{121} Cade Metz: Microsoft Bets its Future on a Reprogrammable Computer Chip, Wired, 2016. augusztus 25.
https://.wired.com/2016/09/microsoft-bets-future-chip-reprogram-fly/?mbid=social_twitter (hozzáférés: 2017. november 28.)

{122} Jamie Condliffe: Google’s Quantum Dream May Be Just Around the Corner, MIT Technology Review, 2016. szeptember 1.
https://.technologyreview.com/s/602283/googles-quantum-dream-maybe-just-around-the-corner/ (hozzáférés: 2017. november 28.); Sergio Boixo: Characterizing Quantum Supremacy in Near-Term Devices’, arXiv, 2017. április 5.
https://arxiv.org/abs/1608.00263 (hozzáférés: 2017. november 28.); Jacob Aron: Revealed: Google’s Plan for Quantum Computer Supremacy, New Scientist, 2016. augusztus 31.
https://.newscientist.com/article/mg23130894-000-revealed-googles-planfor-quantum-computer-supremacy/ (hozzáférés: 2017. november 28.); Karla Lant: Google is Closer than Ever to a Quantum Computing Breakthrough, Business Insider, 24 2017. július
http://uk.businessinsider.com/google-quantum-computing-chip-ibm-2017-6?r=US&IR=T (hozzáférés: 2017. november 28.); Mark Kim: Google Quantum Computer Test Shows Breakthrough is Within Reach, New Scientist, 2017. szeptember 28.
https://.newscientist.com/article/2148989-google-quantum-computer-test-shows-breakthrough-is-withinreach/ (hozzáférés: 2017. december 6.)

{123} 59 M. Mitchell Waldrop: The Chips are Down for Moore’s Law, Nature 530, no. 7589 (2016. február 9.): 144–7.

{124} M. Mitchell Waldrop: Neuroelectronics: Smart Connections, Nature 503, no. 7474 (2013. november 6.): 22–44.

{125} Shanahan, i. m., 34.