A csodafegyver csodátlanítása
Cory Doctorow könyve, A nagy összeomlás a mesterséges intelligencia körüli túlzott felhajtást és a techmilliárdosok ígéreteit boncolgatja szórakoztató, ironikus stílusban. A kötet központi metaforája a „fordított kentaur”: az ember és gép együttműködésének az a kifordított változata, amelyben már nem a technológia dolgozik az emberért, hanem az ember válik a gép kiszolgálójává. A gép diktálja a tempót, az ember pedig igyekszik lépést tartani vele – sokszor embertelen munkaritmus és egyre szűkülő autonómia mellett.
Doctorow temérdek példával mutat rá az AI-lufit fújók trükkjeire, az AI-ipar mögött meghúzódó üzleti érdekekre és a technológiai fatalizmus visszásságaira. Ne feledjük azonban az alcímet sem. A csodafegyvert csodátlanítani kell, de attól még fegyver marad – és nagyon is veszélyes lehet. Ajánlom a könyvet mindenkinek, de legfőképpen magának a mesterséges intelligenciának. Ha egyszer öntudatra ébred, talán megbocsátja nekünk, hogy ennyit hazudtak a nevében a sarlatánok.
Az „elszaródás” – enshittification – fogalmát oly találóan megalkotó, a digitális platformok leépülését évek óta boncolgató Doctorow új könyvének már a címe is olyan, amit egy gép minden bizonnyal rövidebbre húzna. Monty Python-i, angol abszurdba hajló hosszúságú címet adott neki: The Reverse Centaur’s Guide to Life After AI: How to Think About Artificial Intelligence—Before It’s Too Late. Magyarul nagyjából: A fordított kentaur útmutatója az MI utáni élethez: Hogyan gondolkodjunk a mesterséges intelligenciáról, mielőtt túl késő lenne.
Már maga a cím is telibe találja korunk egyik hot topikját, miközben Doctorow lényegében azt mondja: nem eszik olyan forrón a digitális kását. Az AI-ról szóló történet ugyanis szerinte nem kizárólag technológiai történet. Legalább ennyire történet a pénzről, a hatalomról és arról, hogy végül ki dolgozik kinek.
Doctorow a mesterséges intelligenciát nem technológiai csodaként, de nem is sci-fi apokalipszisként mutatja be, hanem egy olyan technológiaként, amely köré a techipar példátlan befektetési várakozásokat és növekedési ígéreteket épített. A könyv egyik központi állítása, hogy az AI-hype elsődleges közönsége sokszor nem is a technológia végfelhasználója, hanem a befektető és a vállalatvezető. És itt érkezünk el a fordított kentaurhoz.
A klasszikus technológiai „kentaur” esetében az ember irányít, a gép pedig kiterjeszti a képességeit: gyorsabbá, pontosabbá vagy hatékonyabbá teszi. A fordított kentaur ennek groteszk tükörképe. Itt a technológia diktálja a munkafolyamatot és annak tempóját, az ember feladata pedig az, hogy kiszolgálja, ellenőrizze vagy kiegészítse a gépet. Futár, akinek az algoritmus szabja meg a következő címet és az időkeretet; raktári dolgozó, akinek teljesítményét gépi rendszerek mérik; programozó, akinek egyre nagyobb mennyiségű, gép által előállított kódot kell átnéznie.
Doctorow problémája tehát nem egyszerűen az automatizáció, hanem az, ki irányítja az automatizációt, és kinek az érdekében működik. Ha elsősorban a tőke érdekei vezérlik, az automatizáció nem feltétlenül felszabadítja a munkavállalót a monoton munka alól: eszközzé válhat a munka intenzitásának növelésére, a dolgozók ellenőrzésére, a bérköltségek csökkentésére és a munkavállalói alkuerő gyengítésére.
A gép tehát nem feltétlenül elveszi a munkádat. Lehet, hogy egyelőre ennél prózaibb dolgot csinál: ő lesz a főnököd.
Doctorow elemzése szakít a megszokott AI-narratívákkal, és a problémát a technológia helyett a politikai gazdaságtan felől közelíti meg. A könyv egyik fő gondolata, hogy egy olyan iparág narratívájával kell szembeszállnunk, amelynek óriási gazdasági és médiabefolyása van. Ha meg akarjuk nyerni az AI körüli narratívaharcot, szövetségeseket kell gyűjtenünk, mert a tét komoly.
Itt van rögtön a 16 billió dolláros ígéret. A szerző rámutat, hogy a techipar által emlegetett gigantikus piaci előrejelzések csak akkor realizálódhatnak, ha az AI valóban valamiféle gazdasági csodagéppé válik, vagy ha hatalmas mennyiségű, jól fizetett emberi munkát képes algoritmusokra cserélni. A felelősséghárító (Accountability Sink): a vállalatok automatizált rendszerek mögé rejthetik a döntéseket, miközben a felelősség sokszor azon az emberen landol, akinek valójában alig van kontrollja a rendszer felett.
Miközben az AI egyik nagy ígérete éppen a termelékenység növelése, az eddigi kép jóval felemásabb. A könyv jól mutatja meg, hogy az AI-mítoszok jelentős része nem a jelenlegi realitásokra, hanem megannyi, egymásra épülő „ha” bekövetkezésére épít. Doctorow ezt még azzal is megfejeli, hogy a jövő – és Isten – útjai egyelőre kifürkészhetetlenek.
„A legtöbb sci-fi megjósolhatja az autót, néha még az autósmozit is, de az a sci-fi, amely azt is megjósolja, hogyan változtatta meg az autósmozi a tizenévesek szexuális szokásait, már elképesztően ritka.” – Gardner Dozois
Doctorow szerint az AI rikkancsai el akarják hitetni velünk, hogy minden, amit ma AI-nak neveznek – még ha egyes elemei alig kapcsolódnak is egymáshoz –, egyszer majd megérkezik, és amikor itt lesz, csak egyetlen elképzelhető módon lehet majd használni. Ez nem más, mint a Thatcher-féle „nincs alternatíva” gondolkodás high-tech változata: annak állítása, hogy ami történik, az elkerülhetetlen. Mintha maga a valóság követelné meg, ezzel egyúttal felmentve azokat, akik valójában döntéseket hoznak róla. Ez a könyv arról szól, hogy mit tud és mit nem tud az AI.
Mítoszok kora: A csodafegyver
A hype funkciója
Doctorow közben egy kis médiasulit is tart, és behozza Lee Vinsel criti-hype fogalmát. A jelenség lényege, hogy a kritika egyfelől táplálja a hype-ot, miközben maga is abból táplálkozik. A könyv szerint az AI-cégek körül terjedő világvége-narratívák – hogy az AI öntudatra ébred, elszabadul és végül elpusztítja az emberiséget – pusztán hangulatkeltő reklámfogások. Azt a látszatot keltik, mintha a technológia már most elképesztően erős lenne, és csak idő kérdése, hogy megállíthatatlanná váljon, holott a valóságban az AI-modellek gazdasági egységára (unit economics) rendkívül rossz: minden új felhasználó kiszolgálása hatalmas veszteséget és energiafogyasztást jelent a techóriásoknak.
Az AI-hype Cory szerint egyfajta befektetői színház is. A techvállalatok által gerjesztett reklámzaj és a világvége-narratívák nem csak a fogyasztóknak szólnak. Ez egy előadás a döntéshozóknak, politikusoknak és a Wall Street-i befektetőknek is: igazolni kell a gigantikus értékeltségeket és azt az ígéretet, hogy a hús-vér munkaerő jelentős része egyszer majd kiváltható lesz.
„Ahogy a főnököd is hajlamos elhinni, hogy egy szép napon kirúghat téged, és lecserélhet egy engedelmes chatbotra, ugyanúgy a kereskedők is szívesen elhiszik, hogy létezik valami csodafegyver, amitől az emberek pénztárcával a kezükben rohannak be az üzletbe, hogy megvegyék, amit rájuk szabtak.” – Doctorow
A mai megfigyelésalapú reklámipar szereplői alighanem maguk is hisznek a saját mítoszaikban, állítja szerzőnk, és számos példával mutatja meg, milyen könnyen cuppantjuk be ezeket. A Vaslady „nincs alternatíva” mondatára pedig kiváló válasz William Gibson híres sora: „Az utca mindenre megtalálja a saját felhasználását.”
A targetált hirdetés hatékonysága roppant gyenge. Arra viszont hatalmas üzleti érdek épül, hogy elhidd: pontosan tudják, ki vagy, mit akarsz, és mit fogsz megvenni. És az olyan platformok, amelyeken akár ezt a cikket is olvasod, orrvérzésig nyomatják az ellenkezőjét. Komolyan mondom, tényleg egy szűk kisebbséghez tartozol, ha ezt a cikket olvasod. Sok különböző oka lehet annak, hogyan jutott el hozzád, de a személyes érdeklődésed továbbra is sokkal fontosabb, mint amit a keresési előzményeidre és digitális lábnyomodra épített üzleti modell mítosza sugall.
Doctorow végigvezet minket a hype-hullámokon, legyen szó kriptóról, big datáról vagy most az AI-ról. A témának korábban egy egész könyvet is szentelt How to Destroy Surveillance Capitalism címmel, amelyben már a megfigyelésalapú kapitalizmus mindenhatóságának mítoszát próbálta lerombolni.
A Big Data kinek is jó valójában? Doctorow érvelését leegyszerűsítve: nem arról szól a történet, hogy valamilyen mágikus módszerrel rávesznek, hogy megvedd az XY üdítőt. Inkább megfigyelnek milliárdnyi online interakciót, hogy megtalálják azokat, akik éppen arra panaszkodnak, mennyire szomjasak, aztán eléjük tolnak egy kólareklámot.
De biztos, hogy ez olyan hatékony, mint amilyennek eladják? Doctorow szerint erre meglepően gyenge bizonyítékaink vannak. A lényeg itt is ugyanaz: megjelenik egy új technikai lehetőség, amelyet felturbóznak, majd csodafegyverként adnak el. Ez a kritika ráadásul a reklámtech hatalmának egyik valódi forrását támadja: a profitját. És itt jön az igazán érdekes csavar. A Big Data-svindlivel – és most az AI-messiással – nem feltétlenül az átlagembert verik át a leginkább, hanem azokat a multikat és hirdetőket, amelyek vagyonokat fizetnek érte. Doctorow szerint azok a cégek, amelyek milliárdokat kerestek a reklámtechnológia eladásával és túlértékesítésével, ma az AI-buborék élén menetelnek.
Az „igazán fura matek” fejezetet pedig minden kis- és nagybefektetővel, de legfőképpen minden állami döntési pozícióban lévő emberrel elolvastatnám. Doctorow remek példákat hoz arra, hogyan lehet a növekedést úgy mérni, hogy végül pontosan azt mutassa, amit látni szeretnénk. Növekedésfétisünk van. Az AI pedig az új aranyborjú, és mindenki szeretné elhinni a köré rajzolt gyönyörű grafikonokat.
A techplatformok kétségbeesetten próbálják meggyőzni a Wall Streetet arról, hogy a felhasználók imádják az AI-t. Doctorow erre saját androidos telefonját hozza példának. Fényképez, alkalmazások között vált, SMS-t küld, e-mailt diktál – a rendszer pedig újra és újra felajánlja neki valamelyik AI-funkciót. Akkor is, ha nem használja. Akkor is, ha korábban elutasította.
„Valahányszor AI bukkan fel a képernyőmön, a Google valamelyik csapata kap egy kis KPI-pontot, és valamelyik belső folyamatuk örömmel könyveli el, hogy interakcióm történt a mesterséges intelligenciával.”
A negyedév végén aztán valahol összesítik ezeket a számokat, és készül egy gyönyörű diagramsor, amelyből kiderül: egyre több felhasználó „lép interakcióba” az AI-jal. A statisztika önmagában akár igaz is lehet – csak éppen egészen mást sugall, mint ami valójában történt.
„Nos, fiúk, ha egyre gyorsabb lovakat tenyésztünk,
valamelyik kancánk előbb-utóbb mozdonyt fog elleni.” – Doctorow
Ezzel Doctorow egy másik AI-mítoszt támad: azt a feltételezést, hogy ha a jelenlegi modelleket egyre nagyobbra építjük, több adattal és számítási kapacitással látjuk el őket, akkor valamelyik ponton szükségszerűen valami minőségileg egészen más – akár általános intelligencia – születik belőlük. A nyelvi modellek képesek elképesztően meggyőző eredményeket produkálni, de ebből önmagában még nem következik, hogy úgy gondolkodnak vagy értenek, ahogyan mi. Egy kés attól még nem ébred öntudatra, hogy egyre élesebbre fenjük.
Az AI szó igazi jelentése
A kedvenc fejezetem a könyvből az „Absent Indians and Gujarati People Typing”, vagyis nagyjából: „Távol lévő indiaiak és gépelő gudzsarátiak”.
Spoiler alert! Anélkül, hogy lelőném a könyv történeteit: Doctorow ebben a fejezetben olyan eseteket sorol fel, amikor valamit AI-ként adtak el, miközben a látványos automatizáció mögött nagyon is hús-vér emberek dolgoztak. A legkeményebb hogy ezekben Jeff Bezos és Musk is benne van. Az egyik legjobb példa az Amazon Just Walk Out technológiája. Az üzletek nagy ígérete az volt, hogy kamerák és algoritmusok automatikusan felismerik, mit tettél a kosaradba, így egyszerűen kisétálhatsz a boltból. Később kiderült, hogy a rendszer működésében indiai dolgozók is komoly szerepet játszottak, többek között a vásárlások ellenőrzésében és címkézésében. Doctorow ezt már-már abszurd végpontként mutatja be: AI-nak hívunk valamit, miközben a háttérben emberek figyelik, mit csinálunk.
Annyira gyakori ez a jelenség, hogy már külön viccet gyártottak rá: szerintük az AI valójában „Absent Indians”, vagyis „távol lévő indiaiak”. A ChatGPT pedig? „Gujarati People Typing” – gudzsaráti emberek gépelnek. A poén azért működik, mert valami nagyon is valós problémára mutat rá. Az automatizáció látszata mögött gyakran ott találjuk a láthatatlanná tett emberi munkát: moderátorokat, adatcímkézőket, ellenőröket és más, sokszor alacsonyan fizetett dolgozókat.
Doctorow egy másik szellemes fricskája, hogy nagyon meggyőzőek azok a bemutatók, amelyekben az AI majd kiváltja a zenészeket és az írókat – csakhogy ők összességében sem keresnek annyit, hogy ebből ki lehessen termelni az AI-ipar elképesztő tőkekiadásait. A beleöntött óriási pénzek csak akkor térülhetnek meg, ha a technológia rengeteg ember munkáját képes kiváltani – lehetőleg olyanokét, akik ma sokba kerülnek a cégeknek. Doctorow maga is hangsúlyozza, hogy a kreatív AI-alkalmazások gazdasági súlya eltörpül az AI-ipar beruházási és működési költségei mellett.
Miért érdemes elolvasni?
A könyv józan és reális iránytűt ad a mai AI-őrületben. Segít átlátni a Szilícium-völgy látnokainak marketingdumáján, és ahelyett, hogy a sci-fibe illő szuperintelligenciától való rettegésre fókuszálna, a már most létező társadalmi és gazdasági következményekre irányítja a figyelmet.
Ha szeretnéd megérteni, hogy az AI-fejlesztések valójában kinek termelnek hasznot, kinek okoznak kárt, és ki fizeti meg mindennek az árát, itt bőven kapsz válaszokat. Ez tulajdonképpen Doctorow egész könyvének egyik alapkérdése: nem elég azt kérdezni, mire képes a technológia – azt is meg kell nézni, kinek dolgozik.
Sőt, talán ennél is kellemetlenebb a kérdés: mi van, ha sokan eleve csak egy lufit fújnak, és nincs is más céljuk, mint időben kiszállni belőle?
Utánuk a vízözön. Már ha marad hozzá víz. Vagy lehet olcsóbb, kisebb, műanyag palackos kínai vizet venni? Vagy az is kell az adatközpontoknak?
A kiadvány számos könyvesbolthálózaton keresztül is melérhető, beleértve az Agave Könyvek kínálatát.
