A nagy összeomlás
Author: Doctorow, Cory
Date: 2026-08-05
Publisher: Lumen Kiadó

Cory Doctorow: The Reverse Centaur's Guide To AI: A Critique for Everyone Who is Sick of Talking about AI

Copyright © Cory Doctorow, 2026

Hungarian translation © Bari Máriusz, 2026

A magyar fordítás az alábbi kiadás alapján készült:

Cory Doctorow: The Reverse Centaur's Guide To AI: A Critique for Everyone Who is Sick of Talking about AI

Printed by MCD, Farrar, Straus and Giroux, European representative: Macmillan Publishers Ireland Ltd, New York, 2026.

Fordította: Bari Máriusz

ISBN: 978 963 598 565 4 (epub)

Lumen Kiadó

Felelős kiadó: A kiadó ügyvezetője

Borító: Faniszló Ádám

Felelős szerkesztő: Velkei Zoltán

Szerkesztő: Krausz Veronika

Korrektor: Keszthelyi Kiss-Judit, Takács Zsolt

Tördelő: Tót Barbara

Műfaj: ismeretterjesztő irodalom

Az Electronic Frontier Foundationnak és mindenkinek,aki valaha jobb technológiáért harcolt

„A tudósaitok annyira el voltak foglalva azzal, hogy meg kell-e tenniük, hogy meg sem álltak feltenni a kérdést: képesek-e rá.”

Dr. Ian Malcolm (Jurassic park)

Tartalom

Bevezetés

Előtte

Hogyan jutottunk idáig?

Az elkerülhetetlenség ellen

Igazán fura matek

A buborék

Amikor a vicces matek fenyegetni kezd

MI-„művészet”

Az MI munkaügyi (de nem szerzői jogi) problémája

Mit tegyenek a kreatív dolgozók az MI-vel?

Valós, létező MI

Távol lévő indiaiak, a gudzsarátik pötyögnek tovább

Agentikus MI és egyéb abszurditások

Utána

Buborékok és hasznos maradványaik

Az MI a buborék után

Köszönetnyilvánítás

A szerzőről

Jegyzetek

Bevezetés

2025 májusában az internet rövid időre talált magának egy új, némileg szerencsétlen főhőst, Marco Buscagliát, chicagói szabadúszó írót, egy szindikált nyári olvasmánylista összeállítóját. Az ajánló ugyan az ő neve alatt futott, de a valódi szerző nem ő, hanem egy chatbot volt.

Mindezt két okból kifolyólag is tudjuk. Egyfelől a listán szereplő tizenöt könyvből tíz nem is létezett. Ezek MI-„hallucinációk” voltak – így nevezik a „hibákat” az MI hívei, mert ez szexibben hangzik. Másfelől Buscaglia maga is elismerte egy interjúban, hogy chatbotot használt. Ezt Jason Koebler veterán techriporternek mondta el, aki az újságírói tulajdonban lévő 404 Media hírportálnak a társalapítója.

Koebler cikkében Buscaglia bevallja, hogy chatbotot használt a lista összeállításához, a nem létező könyveket pedig saját figyelmetlenségének tudja be: „Használok olykor MI-t háttéranyagokhoz, de először mindig ellenőrzöm, amit kidob. Ezúttal nem tettem meg, és nem is értem, hogyan siklottam át ezeken, annyira nyilvánvaló volt.”

Buscaglia szemlátomást porig alázva mondta Koeblernek: „Nincs mentség. Száz százalékig az én hibám, és borzasztóan szégyellem magam. Mindenestül rajtam múlt… Egyszerűen elképesztően ostoba dolgot csináltam, és nagyon szégyellem magam.”

Pár napig egész jól elszórakozott az internet szegény Buscaglián – kezdve a zavarodott szerzőktől (akiknek nem létező könyveit ajánlotta) egészen mindazokig, akik már belefáradtak abba, hogy a túltőkésített techcégek mindenáron az arcukba nyomják az MI-t.

Koebler helyzetelemzése azonban nem állt meg Buscaglia bűnbánatánál. További cikkeiben és a 404 Media podcastjában mélyebbre ásott, és megmutatta, milyen tágabb kontextusban került sor Buscaglia szerencsétlen pillanatára, amit telibe kapott az internet rosszindulatú reflektorfénye.

Kezdjük magával a listával. A nyári olvasmánylista csak egy volt a sok lista és ajánló közül abban a hatvannégy oldalas „Best of Summer” (A nyár legjobbjai) mellékletben, amelyet a King Features Syndicate (a Hearst Communications egyik részlege) terjesztett számos napilapnak. A Hearst hatalmas, régi és bejáratott kiadói konglomerátum.

Buscaglia írta – vagy inkább „írta” – ezen listák jelentős részét. Ez már önmagában is figyelemre méltó teljesítmény. Koeblernek van tapasztalata efféle listák készítésében: pályáját a Washington Monthlynál kezdte gyakornokként, ahol egyetlen ilyen lista összeállításán három gyakornok dolgozott, egy tapasztalt újságíró felügyelete mellett, komoly és képzett tényellenőrző háttérrel.

Én is végeztem hasonló munkát. Újságírói pályafutásomat a Wired magazinnál kezdtem, ahol egy teljes hónapot töltöttem több tucat multiszerszám értékelésével. Szakértőkkel és gyártói képviselőkkel kellett beszélnem, majd ezt követően kiválasztanom az eszközök közül a három legjobbat, amikről egy-egy rövid bekezdést írtam. Ezek szórakoztató feladatok voltak, de komolyak is egyben: végtelen oda-vissza levelezést folytattam a tényellenőrökkel – volt, hogy bizonyítanom kellett, pontosan hány penge és hány tartozék járt egy-egy szerszámhoz.

Őszintén szólva Buscaglia rendesen aligha írhatta meg ezeket a listákat és nyári ajánlókat – beleértve azt a függőágyakról szóló útmutatót is, amelyben megszólal egy kitalált szabadidő-kutató professzor is, akinek egy fiktív tudományos folyóiratban megjelent, nem létező cikket tulajdonítanak a „függőágykultúráról”.

Ha 2025-ben egy szerkesztő rábízza egy szabadúszóra egy hatvannégy oldalas nyári melléklet nagyjának a „megírását”, valójában arra utasítja (hallgatólagosan vagy nyíltan), hogy erőfeszítéseit korlátozza, azaz vegyen rá egy chatbotot, hogy dobjon ki egy nagy adag, hihetőnek tűnő szósalátát, aztán valahogy öntse formába.

Buscagliát arra kérték, hogy végezze el több tucat író, kutató, szerkesztő és tényellenőr munkáját, ráadásul olyan rövid határidővel, ami szinte garantálta, hogy a végeredmény tele lesz MI-gyanús hibákkal. Nem tudjuk, mennyit fizettek neki ezért a melóért, de szinte biztos, hogy messze nem annyit, amennyibe azoknak a képzett szakembereknek az összmunkája került volna, akiknek a feladatát rátolták.

Más szóval: Buscagliát eleve kudarcra ítélték. Nemcsak az volt a dolga, hogy felügyeljen egy chatbotot, hanem hogy a chatbot hibáiért ő vigye el a balhét.

Buscagliához hasonlóan én is szabadúszó író vagyok. Sőt: olyan szabadúszó író, aki a közelmúltban maga is használt MI-t a munkája során. Egy idézetet próbáltam visszakeresni valamilyen szakértőtől: hallottam egy podcastban, amint mond valami nagyon okosat. Az egyetlen gond az volt, hogy sem a nevére nem emlékeztem, sem pedig arra, melyik podcastban hallottam.

Ezért letöltöttem egy Whisper nevű, nyílt forráskódú beszédlejegyző MI-modellt, és feltelepítettem a laptopomra. Utána letöltöttem harminc-negyven órányi podcastot, amit akkortájt hallgattam, és mindet ráeresztettem a Whisperre, hogy készítsen róluk leiratot.

Amíg a Whisper a háttérben dolgozott a laptopomon, én folytattam a cikkírást, válaszolgattam e-mailekre, aztán átpörgettem a közösségi médiát, hátha valaki feltöltötte azt a bizonyos videót valami fickóról, aki citromot dug az orrába – vagyis csak a szokásos írói teendőimet végeztem.

Pár órával később megnyitottam a mappát, ahová a Whisper a leiratokat mentette, rákerestem néhány mondattöredékre, amikre emlékeztem az idézetből, és pár percen belül meg is találtam a megfelelő fájlt. Hagen Blix volt az, a Why We Fear AI (Miért félünk az MI-től?) társszerzője, aki a kiváló This Machine Kills (Ez a gép bezúz) podcastban beszélt az MI-terapeuták nyomorúságos helyzetéről. Ezután a Whisper által megadott időkód alapján megnyitottam a podcastfájlt, letisztáztam a leírt idézetet, majd beillesztettem a cikkembe. (Jól emlékeztem, tényleg remek gondolat volt.)

Ez fantasztikus élmény volt. Fantasztikus MI-élmény. Az MI-nek köszönhetően a számítógépem kapott egy állandó új képességet: tetszőleges mennyiségű rögzített beszédet képes egészen megbízható szöveggé alakítani, és olyan hatékonyan, hogy még csak fel sem pörög a laptopom ventilátora. Az pedig, hogy a Whisper nyílt forráskódú, azt jelenti, hogy bárki, akiben megvan a tudás és a kitartás, örökké karbantarthatja, függetlenül attól, mi történik a Whisper gyártójával – azaz az OpenAI-jal, ezzel a borzasztóan felhájpolt, rettenetes céggel.

Adott tehát két szabadúszó író, mindketten MI-t használnak. Az egyiknek szörnyű és megalázó élmény jutott. A másiknak kellemes, időt spóroló tapasztalat, amivel sokkal jobb munkát tudott végezni. Hogyan lehetséges ez a paradoxon?

Lehet, hogy a különbség egyszerűen abból adódik, hogy miként használtuk az MI-t. Én hanganyagok átírására használtam, Buscaglia pedig szöveggyártásra.

Ugyan nem használok ötleteléshez MI-t vagy más automatizált, illetve véletlenszerű szöveggeneráló eszközt, de erkölcsi kifogásom sincs ellene. Sok író számára a generált szöveg maga termékeny eszköz lehet kiváló munkák létrehozásához. A dadaisták „cut-up” technikája például abból állt, hogy kivágtak mondatokat egy kéziratból, majd összekeverték őket, hátha így váratlan szókapcsolatokra bukkannak. Írók egész sora rajong Brian Eno és Peter Schmidt „Oblique Strategies” kártyapaklijáért, amely ötvenöt, rejtélyes utasításokat tartalmazó lapból áll („Légy az első, aki nem csinál meg valamit, amit még senki más nem csinált meg”). A szürrealisták pedig imádták az „Exquisite Corpse” játékot, amelyben az alkotók felváltva folytatják egymás szövegét, miközben mindenki csak az előző rész utolsó mondatát láthatja.

Ma is tudomásom van sok íróról, aki chatbottal dolgozik, és remek dolgokat hoz létre velük: ötletek vagy ötletváltozatok mérlegelésére használják, promptírással tesztelik a határaikat, vagy éppen javítási javaslatokat kérnek tőlük. Ahogy mondtam, én nem így használom az MI-t, de ismerek olyat, aki igen – és szeretem is, amit ír.

Buscaglia MI-élménye és az enyém között – egy technológiai kínpad és egy hasznos eszköz közötti eltéréshez hasonlóan – nagyjából akkora a különbség, mint egy kentaur és egy fordított kentaur között.

Az automatizáláselméletben (az automatizálás akadémikus tudományágában) kentaurnak azt a személyt nevezik, akit egy gép segít. Képzeljük el egy okos ember fejét, karjait és kezeit egy erős lótesten. Ha biciklizünk vagy autót vezetünk, kentaurrá válunk; ugyanígy akkor is, amikor a tévé távirányítóján megnyomjuk a némítás gombot a reklámszünetben. Hallókészülékkel is kentaurrá válunk, és akkor is, amikor számológéppel szorzunk össze nagy számokat. Kentaurnak lenni fenséges dolog. Az egész írói pályám egyetlen hosszú kentaurtörténet volt: a használt IBM Selectrictől, amelyet a szüleim vettek nekem hat-hét éves koromban, hogy játsszak vele, egészen az Apple II Plusig, amelyet kilencévesen kaptam, és amellyel elkezdődött a jobbnál jobb íróeszközök töretlen sora: helyesírás-ellenőrzőkkel, verziókezeléssel, együttműködési funkciókkal, automatikus mentésekkel és egyéb csodákkal. A legjobb az egészben, hogy én dönthetem el pontosan, mely funkciókat használom. Magamnak dolgozom, szóval ha nem akarom bekapcsolni a helyesírás-ellenőrzőt – dehogy akarom! –, az az én dolgom. Senki sem várja el tőlem, hogy több oldalt írjak pusztán azért, mert kaptam egy új eszközt. Pár éve egy volt tanítványom megkért, hogy próbáljam ki az általa fejlesztett LLM-eszközt, amely elméletileg segít párbeszédeket írni és karaktereket kidolgozni. Tíz percig szórakoztam vele, aztán soha többé nem nyúltam hozzá. Senki sem vádolt meg azzal, hogy nem vagyok csapatjátékos, vagy hogy keresztbe teszek egy nagyszerű tervnek, amelynek célja a hatékonyságnövelés és a költségcsökkentés, ha nem akarok MI-vel dolgozni. Néha, amikor nagyon elakadok, tollal írok egy jegyzetfüzetbe. Ez csak nekem számít, és ez jól is van így.

A fordított kentaur ezzel szemben az az ember, akit besoroznak egy gép asszisztensének. Van egy klasszikus I Love Lucy-epizód, amelyben Lucy és Ethel egy csokoládégyár futószalagja mellett állnak, kapkodják le a bonbonokat a szalagról, és papírba csomagolják őket. Ahogy a szalag egyre gyorsabban halad, Lucynek és Ethelnek emberfeletti tempóban kell dolgozniuk. Ők fordított kentaurok: a gép el tudja szállítani a csokoládékat A pontból B pontba, de szüksége van emberekre, hogy becsomagolják őket, és ezeknek a humán segédalkatrészeknek olyan tempót kell diktálniuk maguknak, amely már meghaladja a képességeiket – egészen addig, amíg be nem következik a katasztrófa.

Az I Love Lucy ezt viccnek szánta. Az Amazon raktári dolgozói ugyanezen jelenet horrorváltozatát kapják meg. MI-vel megtámogatott kamerák figyelik őket, mérik a mozgásukat, számolják a „feladaton kívül töltött időt”, és büntetik őket, ha nem teljesítik a kvótát. Az Amazon raktári dolgozói szenvedik el az Egyesült Államok raktári szektorának legmagasabb sérülési rátáját, és sokan közülük kénytelenek flakonokba vizelni, mert ha kimennének a mosdóba, nem tudnák hozni az előírt számokat. Az Amazon raktárai tele vannak gépekkel, de vannak feladatok, amelyeket a gépek még nem tudnak elvégezni – itt lépnek be a képbe az Amazon dolgozói. Ők segítik a gépeket. Fordított kentaurok: olyan emberek, akiket arra kényszerítettek, hogy az automatizálási rendszer perifériáiként szolgáljanak. A gépek nem egyszerűen használják, hanem felőrlik őket.

Nem nehéz elképzelni, hogy egy raktári dolgozó maga is dönthetne úgy, hogy MI-t használ a mindennapi munkájában – például egy okosszemüveg számítógépes látórendszere kiemelhetné a keresett tárgyat egy zsúfolt konténerben (sokszor néztem már közvetlenül valamire úgy, hogy mégsem láttam meg, szóval személy szerint ezt áldásnak érezném). Az automatizálás önmagában még nem a raktári munka ellensége. Semmi baj nincs például a targoncával! A munkást segítő és a munkát nyomorúságossá tevő automatizálás között az a különbség, hogy a dolgozó dönthet arról, hol, mikor és hogyan használja. Ez a különbség a kentaur és a fordított kentaur között.

Én például imádom az autómban azt az automatizmust, amely figyelmeztet, ha kisodródom a sávomból, és nemrég (a magam bőrén!) azt is megtanultam, hogy ha az előttem haladó sofőr hirtelen fékez, az autóm szorongó hangjelzések sorozatával reagál, és maga is beleáll a fékbe. Nagyon hálás voltam érte, még úgy is, hogy mindez váratlanul ért.

Hasonlítsuk most ezt össze azokkal a sofőrökkel, akik Amazon-furgonokkal járják a környékedet. Nekik legalább kilenc különféle alkalmazásba kell bejelentkezniük, és különböző MI-rendszerek folyamatosan pontozzák a vezetési teljesítményüket. Pontlevonást kapnak a fékezésért, vagy ha félrekapják a kormányt – még akkor is, ha ez az egyetlen módja, hogy kikerüljenek egy hirtelen veszélyhelyzetet –, és akkor is, ha letérnek az MI által előírt útvonalról, még ha az útvonalon akadály vagy veszély van is. A kvóták teljesíthetetlenek, mégis ha a sofőrök nem teljesítik ezeket, csökken a csomagonkénti díjazásuk. Tilos flakonba vizelniük, de időt sem kapnak arra, hogy kimenjenek vécére. A sofőr itt csupán a furgon kiegészítője: azért van jelen, mert a furgon még nem tud magától vezetni, és nem képes a csomagot odavinni a bejárati ajtóig. Ez is a fordított kentaur egyik formája.

A kentaur és a fordított kentaur közötti különbség az MI-alapú eszközök hasznosságáról szóló vita központi kérdése. Ha azt látjuk, hogy egyesek megesküsznek, hogy egy adott MI-eszköz teljesen használhatatlan, míg másoknak ugyanaz az eszköz könnyebbé és jobbá tette az életét, akkor szinte biztosak lehetünk benne, hogy az első csoport tagjai azok a fordított kentaurok, akikre rákényszerítették a technológiát, a második csoport pedig azokból a kentaurokból áll, akik maguk dönthetnek arról, hol, mikor és hogyan használják. A paradoxon feloldása tehát nem az, hogy azt kérdezzük: mit tud a kütyü? Hanem az, hogy: kivel csinálja, és kinek az érdekében? Nem a készülék műszaki specifikációja a fontos, hanem a készüléket használó emberek és az AI közötti hatalmi viszony.

Rég volt már az az idő, amikor gyárban dolgoztam. Hivatásom szerint tudományos-fantasztikus író vagyok, ami annyit tesz, hogy naponta úgy egymilliószor kérdeznek az MI-ről. Vannak, akik szerint a sci-fi-író valami látnok, afféle próféta (sajnálatos módon akad néhány egészen elborult sci-fi-szerző, aki ezt el is hiszi magáról), és azt képzelik, hogy a science fiction a jövőt jósolja meg.

Ez persze badarság. A jövő nem jósolható meg – és ez nagyon jó hír. Mert ha a jövő megjósolható volna, akkor előre el is volna döntve, vagyis az emberek cselekedetei semmit sem számítanának.

A tudományos-fantasztikus íróknak mégis szoros kapcsolatuk van a jövővel. Futurisztikus példázatok – azaz olyan kitalált történetek a jövőről, amelyek talán soha nem valósulnak meg – segítségével emlékeztetünk mindenkit arra, hogy a jövő nyitott, és tele van lehetőségekkel.

Ez éles ellentétben áll a technológiai vállalatok vezetőivel, akik teljes ellenőrzést követelnek jelen- és jövőbeli lehetőségeink felett. Ott van például Mark Zuckerberg: Igen, persze, nyilván szeretnétek beszélgetni a barátaitokkal anélkül, hogy én minden nyomorult interakciótokat és vágyatokat SZEMTŐL SZÜGYIG végigkémlelném, de legyünk már realisták! Ez olyan, mintha száraz vizet kérnétek.

Vagy ott van Tim Cook, az Apple vezérigazgatója: Igen, persze, jó volna megbízható mobil eszközt adni nektek, anélkül hogy bezárnánk titeket az App Store-ba, ahol harmincszázalékos jutalékot szedünk minden vásárlás után, és mi döntjük el, melyik appot használhatjátok és melyiket nem (például az adatvédelmi alkalmazásokat, amiket betiltottunk Kínában vagy az ICE-követő appot, amit meg Amerikában tiltottunk le). De ugyan már: ne várjátok már el, hogy létezzen olyan számítógép, amely a) működik, és b) a ti utasításaitokat követi, nem az enyémet!

Zsarnokok ócska trükkje: úgy tenni, mintha az abuzív viselkedésük nem saját döntés lenne, mintha ők pusztán valami vaslogikájú természeti törvénynek vagy a történelem elkerülhetetlen sodrásának engedelmeskednének. Ebben Margaret Thatcher világbajnok volt. Kitartóan hajtogatta, hogy a kegyetlen megszorításokkal és nélkülözésekkel járó politikája elkerülhetetlen, és annyiszor ismételte a „nincs alternatíva” formulát, hogy a tréfásabbak egyszerűen Tinának kezdték hívni – a There Is No Alternative rövidítéseként.

Thatcher mai örököseit leginkább a techipar vezetői között találjuk.

Nevezzük ezt a filozófiát elkerülhetetlenségnek: az a makacs állítás, miszerint a dolgokat csakis egyféleképpen lehet csinálni, és a felbukkanó problémák nem egyéni döntések következményei, hanem pusztán a valóság szükségszerű tényei. Az, hogy a világ tele van alattomos Bluetooth-snifferekkel, amelyek követik, hol jársz, amikor bevásárlóközpontokban sétálsz, vagy egyszerűen csak végigmész az utcán, nem olyan dolog, amiért szerintük bármelyik ember vagy vállalat felelőssé tehető. Ez csak úgy van, és kész.

A science fiction az elkerülhetetlenség-ellenesség irodalma. A sci-fi csak mellékesen szól új kütyük kitalálásáról és működésük magyarázatáról. Nem az a kérdés, hogy ezek a kütyük mit csinálnak, sokkal fontosabb az, hogy kire hatnak, és kinek a javát szolgálják. Ahogy Gardner Dozois, a legendás sci-fi-szerkesztő egyszer írta: „A legtöbb sci-fi megjósolhatja az autót, néhány még a drive-in mozit is, de az a sci-fi, ami megjósolja, hogyan változtatja meg a drive-in mozi a tizenévesek szexuális szokásait, már elképesztően ritka.” Ehhez én még hozzátenném: az igazán látnoki science fiction arra is kitér, hogy egy olyan világban, ahol a szexuális kísérletezéshez államilag kibocsátott igazolvány – mondjuk, jogosítvány – szükséges, miként jutunk el egy „adatbázisnemzetig”, ahol mindenkit mindenhol megfigyelnek.

Már önmagában az a tény is cáfolja az elkerülhetetlenséget, hogy létezik olyan irodalom, amelyben sokféle szerző sokféle jövőt képzelt el, és ezek közül számos lehetségesnek tűnik, sőt, akár még kívánatosnak is. A tény, hogy az emberek és a technológia közötti társadalmi viszonyok többfélék lehetnek, azt sugallja, hogy a jelenlegi állapot is döntések eredménye – és ami ennél fontosabb: azt is, hogy másként is dönthetünk.

Az MI rikkancsai el akarják velünk hitetni, hogy minden, amit ők „MI”-nek neveznek – ez a különféle, lazán összecsomózott technológiákból összeálló heterogén zsák, amelynek egyes elemei alig kapcsolódnak egymáshoz –, úgyis megérkezik, és amikor itt van, csak egyetlen elképzelhető módon lesz használható. Ez nem más, mint a Thatcher-féle gondolkodás high-tech változata: a zsarnok elkerülhetetlen állítása, hogy ő csak azt teszi, amit a kérlelhetetlen valóság megkövetel tőle.

Ez a könyv arról szól, hogy mit tud és mit nem tud az MI. De ennél is fontosabb, hogy arról is: milyen társadalmi felhasználásai lehetnek. Onnantól kezdve, hogy bizonyos MI-technológiákat egyáltalán nem használunk, odáig, hogy úgy használjuk őket, hogy közben néhányan úgy döntünk, hogy kentaurok leszünk, miközben a barátainkat és szomszédainkat megóvjuk attól, hogy fordított kentaurokká züllesszék őket.

A mesterséges intelligencia jelenlegi hulláma tele van szoftverekkel, amelyek lenyűgöző dolgokra képesek a nyelv, a kép és a hang elemzésében és előállításában egyaránt. Ennek a technológiának rengeteg érdekes, szórakoztató és produktív felhasználási módja van. Magában a technológiában semmi sincs, ami előírná, hogyan kell használnunk. Dönthetünk úgy, hogy néha használjuk, úgy is, hogy soha, és úgy is, hogy mindig – attól függően, mire van szükségünk, és mihez van kedvünk. Nem kell hagynunk, hogy milliárdosok szabják meg nekünk, mire való.

Margaret Thatcher „nincs alternatíva” mondatára kiváló válasz William Gibson híres sora: „az utca mindennek megtalálja a saját felhasználási területét.”[1]

A sci-fi-írók pocsék próféták, de egész ütős technológiakritikusok.

Előtte

Hogyan jutottunk idáig?

Az MI körüli hype-gépezet teljes egészében rosszul átgondolt kritikákból táplálkozik – és ebben egyáltalán nem egyedi.

Lee Vinsel, a Virginia Tech tudomány-, technológia- és társadalomkutatója széles körben idézett esszéjében – You’re Doing It Wrong: Notes on Criticism and Technology Hype (Rosszul csinálod: Jegyzetek a kritikáról és a technológiai hype-ról) – írta le ezt a folyamatot, és nevet is adott a visszatérő hibának, amelyet „criti-hype”-nak nevezett: olyan „kritika ez, amely egyszerre táplálja a hype-ot, és maga is abból táplálkozik”.

Amikor egy techcég fantáziadús meséket sző arról, milyen borzalmakra képes a terméke, nem véletlenül teszi: érdeke fűződik ahhoz, hogy a közönség elhiggye a termék félelmetes képességeiről szóló történeteket. A reklámipar például régóta árulja a mesét, hogy valamilyen agymosáshoz hasonló trükk segítségével képes megkerülni a racionális ítélőképességünket és rávenni minket a vásárlásra.

Az 1950-es években a reklámcégek erkölcsi pánikot keltettek azzal az állításukkal, miszerint közvetlenül a fogyasztók fejébe ültetnek szubliminálisreklám-ötleteket. Azt bizonygatták, hogy az illusztrációk árnyékába rejtett képek és szavak, a filmekbe villanásnyi időre bevágott képkockák, valamint a visszafelé lejátszott hangok vagy az emberi fül számára túl magas, illetve túl mély frekvenciák közvetlenül hatnak a vágyainkra – és rávesznek minket, hogy rohanjunk megvenni mindazt, amit épp el akarnak adni nekünk.

Nem nehéz belátni, miért akarta a reklámipar elhitetni ezt a történetet: mert így könnyebb volt eladni magát a reklámot. Ahogy a főnököd is hajlamos elhinni, hogy egy szép napon kirúghat téged, és lecserélhet egy engedelmes chatbotra, ugyanúgy a kereskedők is szívesen elhiszik, hogy létezik valami csodafegyver, amitől az emberek pénztárcával a kezükben rohannak be az üzletbe, és bármi, de bármi áron megveszik azt, amit eléjük tesznek.

A szubliminális reklám meséjének terjesztői közül sokan minden bizonnyal maguk is hittek benne. Mások inkább cinikus figurák lehettek, akik egyszerűen azt mondták az ügyfeleknek, amit azok hallani akartak.

A mai megfigyelésalapú reklámipar számos szereplője alighanem szintén hisz a saját mítoszaiban (ahogy Raszputyin is valószínűleg elhitte magáról, hogy hipnotizálni tud a misztikus tekintetével).

Csakhogy ettől még ez nem lesz igaz. A targetált hirdetésen keresztüli agymosás bizonyítékai roppant gyengék,[2] és amikor a Big Tech kritikusai kifulladásig ismételgetik ezeket az állításokat, akaratlanul is a reklámtechnológiai cégek értékesítőcsapatának dolgoznak be. Miért fizessen valaki 40 százalékos felárat azért, hogy a Facebookon hirdessen? Kérdezze csak meg a kritikusaimat: feltaláltam az agymosó sugarat.

Érdemes ezt összevetni egy anti-criti-hype-os megközelítéssel. A reklámtech azt állítja, hogy van náluk valami gondolatirányító sugár, és ezzel az abszurd állítással szívnak ki százmilliárdokat a hirdetőkből, miközben galaktikus léptékű megfigyelési dossziékat építenek gyakorlatilag minden élő emberről – majd ezeket kiszivárogtatják, vagy átadják bármely rendvédelmi szervnek és autoriter államnak, amelyik csak kéri. Amit ők „gondolatirányításnak” hívnak, az legjobb esetben is finomhangolt targetálás. Nem győzik meg az embereket arról, hogy szomjasak, hogy aztán eladhassanak nekik egy üdítőt. Inkább lehallgatnak milliárdnyi online beszélgetést, hogy megtalálják azokat, akik épp arra panaszkodnak, mennyire szomjasak, aztán eléjük tolják a Coke-hirdetést.

Ez a megközelítés közvetlenül a reklámtech hatalmának valódi forrását támadja: a profitját. Ami meg pont abból ered, hogy el lehet hitetni a hiszékeny emberekkel: létezik a Big Data-féle gondolatirányító sugár.

Ráadásul ez a fajta kritika (helyesen) rajzolja fel a frontvonalakat is. Az egyik oldalon áll a reklámtechipar; a másikon a hirdetők (akiknek hibás terméket adnak el) és a hirdetések célpontjai (vagyis mi, akiket megfigyelnek és kizsákmányolnak). Nyilván a hirdetők és a közönség között mindig lesz valamennyi megszüntethetetlen érdekellentét, de ettől még mindkét csoport ugyanazt a közös ellenséget láthatja a reklámtechiparban.

Vannak bizonyos döntéshozók vagy hatósági végrehajtó szereplők, akiknek a feladata megakadályozni, hogy a reklámtechkufárok átverjék a vállalkozásokat. És van egy másik, szintén befolyásos csoport, amelynek dolga a közönség megvédése a megfigyeléstől. Ha a reklámtechet átverésként keretezzük – nem pedig valami varázslatos meggyőzéstechnológiai csodaként –, azzal ezt a két csoportot is egy oldalra állítjuk. Ez már a győzelem receptje.

Azok a cégek, amelyek milliárdokat kerestek a reklámtechnológia eladásával (és félreértékesítésével), ma az MI-buborék élén menetelnek. Ugyanazok a csalók ugyanazzal a csalással. Az előző körben a technológia leghangosabb kritikusai belesétáltak a criti-hype csapdájába, és szüntelenül azt magyarázták, hogyan hekkelik meg ezek a gonosz varázslók a „dopaminhurkainkat”. Csakhogy a criti-hype nem kipukkasztotta, hanem még tovább fújta a reklámtechnológiai buborékot. Milliárdokat hozott azoknak, akik most ugyanezzel a mechanizmussal hajtják előre az MI-pszichózist a világ legmélyebb zsebű és legkönnyebben bepalizható befektetői, illetve döntéshozói között. Egyszerűen kínos lenne – a pusztító következményekről nem is beszélve –, ha hagynánk, hogy ezek a fickók újra átvágjanak minket, és még mi magunk is besegítenénk nekik eladni a következő adag kígyóolajat.

Ha meg akarjuk nyerni az MI körüli harcot, szövetségeseket kell gyűjtenünk. Ha olyan munkavállaló vagy, akinek a melója épp valamelyik MI-próféta célkeresztjében van, akkor minden egyes alkalommal, amikor az MI jelenlegi vagy jövőbeli képességeiről dumálsz, segítesz annak a szélhámosnak meggyőzni a főnöködet arról, hogy rúgjon ki téged, és cseréljen le egy MI-re.

De a helyzet ennél is rosszabb. Ha az MI-hakni szövegét szajkózod, azokat az embereket is elidegeníted, akik a munkádból profitálnak. Lesznek, akik hálásak lesznek a nekik készített eszpresszókért, a helyettük megszerkesztett szerződésekért vagy a gyerekeiknek nyújtott oktatásért. De ennek a csoportnak egy jelentős része nem fog könnyeket hullatni a technológiai elavulásod miatt, ha cserébe ugyanahhoz a termékhez vagy szolgáltatáshoz korlátlanul juthat hozzá, olyan áron, amit szinte észre sem vesz.

Erre a legegyértelműbb példa az ügyfélszolgálat. Évtizedek óta a világ legnagyobb és legnyereségesebb cégei külföldi call centerekbe szervezik ki ezt a munkát. Ez együtt járt a szolgáltatásminőség meredek zuhanásával, és egyúttal azzal is, hogy egyre gyakrabban kényszerülünk kapcsolatba lépni az ügyfélszolgálattal. A helyzetet tovább rontja, hogy ezek a kiszervezett ügyfélszolgálati képviselők nem is közvetlenül annak a cégnek dolgoznak, amellyel dolgunk van, így mind a mozgásterük, mind pedig a rugalmasságuk szigorúan korlátozott. Magyarán: többnyire nem tudják megoldani a problémádat.

A nagyvállalatok már jóval az MI előtt is a felelősségelnyelés emberi puffereiként használták ezeket az embereket. Az volt a dolguk, hogy üvöltözhess velük, miközben a cégnek ez a lehető legkevesebbe kerül. Ezért fizetik őket olyan rosszul, és ezért nem tudnak visszatérítést adni, repülőjegyet átfoglalni vagy kártérítést intézni, ha éppen a hotelszobádat metamfetamin és kutyaszőr borította.

Bármilyen fondorlatos is vagy, nehéz ezeket az embereket osztályszövetségesnek tekinteni abban a harcban, ahol egy olyan cég az ellenfeled, amely közvetve ugyan, de őket alkalmazza, téged pedig direktben szívat.

Viszont sokkal könnyebb így látni a helyzetet, amikor ezeket az emberi ügyintézőket chatbotok váltják fel, amelyek még egyértelműbben csak azért vannak ott, hogy elnyeljék a frusztrációdat és az indulataidat – anélkül, hogy segítenének bármiben is.

2022-ben egy Jake Moffatt nevű kanadai férfi felvette a kapcsolatot az Air Canada ügyfélszolgálatával – a gyászjegyekről érdeklődött, mert a nagyanyja temetésére akart utazni. Nem sokkal korábban a cég chatbotokat kötött be az ügyfélszolgálati rendszerébe, az egyikük pedig készségesen elmagyarázta Moffattnak, hogy csak a következőket kell tennie: megveszi a teljes árú jegyet, elutazik a temetésre, majd utólag benyújtja a nagyanyja halálát igazoló dokumentumot, mire a légitársaság visszatéríti a különbséget a teljes árú és a kedvezményes gyászjegy között.

Moffatt pontosan ezt tette. Csakhogy ezután az Air Canada egyik emberi ügyfélszolgálatosa közölte vele: a chatbot egyszerűen „hallucinálta” ezt a gyászjegyes tanácsot. A vállalati szabályzat szerint a halálesetet igazoló dokumentumot még a jegyvásárlás előtt kellett volna bemutatnia, így nem jár neki visszatérítés.

Moffatt végigment az Air Canada minden panaszkezelési szintjén, fáradhatatlanul vitte tovább az ügyet, míg végül kimerített minden fellebbezési lehetőséget. Ezután a British Columbia-i polgári bírósághoz fordult, és több mint két évvel később visszakapott 812,02 kanadai dollárt.

Ahol egy hangya van, ott több is akad. Annak az esélye, hogy az Air Canada chatbotja pontosan ezt az egy hazugságot mondta pontosan ennek az egy ügyfélnek, elenyészően kicsi. Sokkal valószínűbb, hogy az Air Canada ügyfeleinek többsége, aki pénzt veszített amiatt, hogy a cég chatbotja félrevezette, egyszerűen nem akart két évet eltölteni az Air Canada kafkai élő szereplős szerepjátékában azért, hogy visszaszerezze a pénzét. Az ő veszteségük az Air Canada nyeresége.

Történetesen kanadai vagyok – mint minden rendes amerikai, ugye –, így több száz órát töltöttem már az Air Canada várakoztatós poklában, hogy a végén összekapcsoljanak egy külföldi call center alkalmazottjával, akit rendszerszinten akadályoznak abban, hogy valóban megoldja a problémáimat. Én vagyok az utolsó ember a Földön, aki megvédené az Air Canada régi panaszkezelő rendszerét.

De.

Azok az ügyfélszolgálati munkatársak – bármennyire alulfizetettek és eszköztelenek voltak is – újra meg újra őszintén megpróbáltak nekem segíteni. Ha hibáztak, az félreértésből fakadt. És soha senki nem próbálta beadni nekem, hogy az ő hibáik kizárólag kettőnk között keletkeztek, és semmi közük nem volt az Air Canada rendszeréhez.

Valaki eladott az Air Canadának egy chatbotot azzal az ígérettel, hogy ezek az emberek fölöslegessé válnak tőle. Ugyanez a valaki tudta – vagy tudnia kellett volna –, hogy a chatbot egy egész sor hibás tanácsot fog „hallucinálni”, amelyek nagyon is valós pénzébe kerülnek majd a hozzám hasonló utasoknak. Az Air Canada könyörtelen elszaródása elleni háborúban én ugyanazon az oldalon állok, mint azok a szegény call centeresek.

Az elkerülhetetlenség ellen

A technológia köré épülő társadalmi berendezkedés nem elkerülhetetlen végzet, hanem döntések következménye. Vegyük például a pénztárgép különböző iterációit. A pénztárgép elterjedése előtt a bolti eladók olyan szaktudást igénylő munkát végeztek, amelyet nem volt egyszerű kiváltani. Az alapműveletek önmagukban nem bonyolultak, de nyolc órán keresztül soktételes rendeléseket megbízhatóan összeadni, majd hibátlanul visszaadni a visszajárót: ehhez a tehetség és megfelelő habitus ritka kombinációjára volt szükség.

A bolti eladó szaktudása így hatalmat is jelentett. Minél nehezebb pótolni egy ilyen dolgozót, annál többet követelhet a főnökétől – több bért és jobb munkakörülményeket.

Mihelyst azonban a bolt beruház egy pénztárgépbe, az eladó jóval könnyebben válik lecserélhetővé. Azok köre ugyanis, akik megbízhatóan meg tudják nyomni egy automata számológép gombjait, és az eredmény alapján vissza tudnak adni, sokkal szélesebb, mint azoké, akik ugyanezt papírral és ceruzával is biztos kézzel elvégzik.

Ez azt jelenti, hogy a főnök ezek után csökkentheti a béreket, hozzácsaphat új feladatokat a munkanaphoz, vagy kirúghatja az eladószemélyzet felét, és ráterhelheti a munkájukat a többiekre.

De ez nem elkerülhetetlen. Az, hogy egy főnök szabadon elbocsáthat-e egy dolgozót, átírhatja-e a munkaköri leírását, vagy lenyomhatja-e a bérét, nem egy mindentől független dolog. Ez társadalmilag meghatározott: ha a dolgozók szakszervezetbe tömörültek – vagy ha olyan országban élnek, ahol a szakszervezeti mozgalom erős munkajogi védelmeket harcolt ki –, akkor a pénztárgép nyújtotta előnyök igazságosabban oszthatók meg a munka és a tőke között.

Ilyen társadalmi feltételek mellett az a bolti eladó, aki pénztárgéphez jut, megszabadulhat az unalmas részfeladatoktól, és több ideje maradhat a vevőkkel foglalkozni. Ha a bolt emiatt több vásárlót vonz, akkor a pénztárgép munkaerő-megtakarító hatása révén ugyanannyi dolgozó több vásárlót tud kiszolgálni – és az alkalmazott joggal követelheti a rá eső részt abból a többletnyereségből, amely a hatékonyságból keletkezik (úgy, hogy extra embert sem kellett felvenni). Az a főnök, aki azt állítja, hogy a pénztárgép használatának egyetlen értelmes módja az, hogy kirúgja a kollégáidat, és a nyakadba rakja a feladataikat, a legközönségesebb thatcherizmus követője. Az elkerülhetetlenség érzetével próbál elkábítani.