Výzvy AI: Automatizace obecné inteligence

Tato kniha předkládá sociální historii umělé inteligence a odhaluje tak její kořeny v prostorových výpočtech průmyslových továren, v principech organizace práce a v dohledu nad kolektivním chováním. Na základní otázku „Co je AI?“ odpovídá, že její vnitřní kód není utvářen napodobováním biologické inteligence (neuronových sítí v mozku), ale že vychází z inteligence práce a sociálních vztahů, jak ji lze nalézt v Babbageových „počítacích strojích“ průmyslového věku i v nedávných algoritmech pro rozpoznávání obrazu. The Eye of the Master tak nabádá k nové gramotnosti v oblasti AI a ukazuje, že její „tajemství“ a klíč k pochopení tkví v nejvyšším stupni automatizace práce, nikoli v inteligenci jako takové.

Shrnutí: Automatizace obecné inteligence

Chceme pokládat ty správné dotazy. Jak tyto nástroje fungují? Kdo je financuje a konstruuje, jakým účelům slouží? Kdo na nich bohatne a kdo z nich zchudne? Jaké budoucnosti umožňují a jaké naopak znemožňují? Nehledáme odpovědi. Hledáme logiku.

Manifest Logic Magazine, 2017[1]

Žijeme v éře digitálních dat, kdy se z matematiky stává sdílený politický projekt. Zákon společnosti se prolíná s modely, teorémy a algoritmy. Digitální data způsobila, že matematika se pro lidi stala hlavní cestou, jak se vztahovat k technologiím […] Matematika je nakonec lidskou aktivitou. A jako jakákoliv lidská aktivita, i ona s sebou přináší možnost emancipace i útisku.

Manifest Politically Mathematics, 2019[2]

Tak jako je struktura vykopaných kostí důležitá pro poznání organisace zaniklých živočišných druhů, tak jsou vykopávky pracovních prostředků důležité pro poznání zaniklých společensko-ekonomických formací. Ekonomické epochy se neliší tím, co se vyrábí, nýbrž tím, jak, jakými pracovními prostředky se vyrábí. Pracovní prostředky jsou nejen měřítkem vývoje lidské pracovní síly, nýbrž i ukazatelem společenských vztahů, za nichž se pracuje.

Karel Marx, Kapitál, 1867[3]

Lukáš Prokop, Untitled (Entomb), 2024. Publikováno se svolením autora.

Přijde den, kdy se na současnou umělou inteligenci bude nahlížet jako na archaismus, jako na jednu z mnoha technologických fosilií. Ve výše citované pasáži z Kapitálu nabízí Marx podobné přirovnání, které se shoduje s poznatky současných studií věd a technologií: stejně jako zkamenělé kosti ukazují povahu vyhynulých druhů a ekosystémů, které obývaly, stejně tak technické artefakty ukazují podobu společnosti, která je obklopuje a provozuje. Tato analogie je, myslím, relevantní pro všechny stroje včetně strojového učení, jehož abstraktní modely ve skutečnosti programují a konkretizují společenské vztahy a kolektivní chování. Tato kniha se přesně tento fakt pokoušela dokázat skrze přeformulování teorie o automatizaci práce z devatenáctého století pro současnou éru umělé inteligence.

Na začátku této knihy stála jednoduchá otázka: jaký vztah existuje mezi prací, pravidly a automatizací, a tedy i vynalézáním nových technologií? Za tímto účelem z různých perspektiv zkoumala praktiky, stroje a algoritmy – od „konkrétních“ aspektů produkce po „abstraktní“ rozměry disciplín, jako je matematika a informatika. Cílem však nebylo opětovně oddělit konkrétní od abstraktního, spíše poukázat na jejich vzájemnou evoluci napříč dějinami: a tím nakonec i zkoumat práci, pravidla a automatizaci dialekticky, tedy jako formy materiální abstrakce. První kapitola ukázala, jak starodávné rituály, počítací nástroje a „společenské algoritmy“ společně vytvářely matematické ideje. Jak píšu v úvodu: poznání, že práce je logická aktivita, nijak neznamená spřáhnutí se s průmyslovými stroji a korporátními algoritmy, ale spíše nám pomáhá uvědomit si, že lidská praxe vyjadřuje svou vlastní logiku (někteří by řekli antilogiku) – jde o samotnou schopnost spekulace a vynalézavosti, které předchází jakémukoliv záboru a odcizení v rukou technovědy.[4]

Předpoklad, že se práce musí stát „mechanickou“ ještě předtím, než ji začnou vykonávat stroje, je základní princip, na který se akorát zapomnělo. Jak ukazuje první část této knihy, zmiňuje ho již Adam Smith ve svém Pojednání o podstatě a původu bohatství národů (1776), o kterém hovořil i Hegel v přednáškách z roku 1805–1806, během svého tzv. jenského období. Hegel chápe práci jako abstraktní, tedy takovou, která propůjčuje formu strojům a staví na britské politické ekonomii – ještě předtím, než tuto koncepci zpracoval Marx jako svou radikální kritiku. Jak však ukazuje druhá kapitola, teprve Charles Babbage systematizuje poznání Adama Smithe do ucelené teorie automatizované práce. Babbage tuto teorii doplnil o princip výpočtu práce (od té doby známý jako „Babbageův princip“), čímž ukázal, že její dělba současně umožňuje přesné počítání vynaložených nákladů na její provedení. První část této knihy tedy lze považovat za exegezi dvou Babbageových principů analýzy pracovní činnosti a jejich vlivu na obecnou historii politické ekonomie, automatizovaných výpočtů a strojové inteligence. Ačkoliv to může vyznít anachronicky, Marxova teorie automatizace i teorie získávání relativní nadhodnoty sdílí obecné základy s prvními projekty zabývajícími se strojovou inteligencí.

Marx tímto způsobem překonal průmyslovou perspektivu – tedy „oko pána“ –, která v Babbageových principech hrála zásadní roli. V Kapitálu tvrdí, že společenské výrobní vztahy (tj. dělba práce v rámci mzdového systému) jsou hnacím motorem tvorby výrobních prostředků (obráběcích strojů, parních kotlů atd.) a že tomu není naopak, jak se nám tehdy i dnes snaží tvrdit technodeterministé, kteří průmyslovou revoluci chápou výhradně skrze prizma technologických inovací. Marx pak z těchto principů teorie práce vyvozuje ještě jednu věc: spolupráci dělníků a dělnic chápe nejen jako princip, kterým lze vysvětlit fungování strojů, ale vyvozuje z ní také koncept tzv. Gesamtarbeiter, tedy souhrnného dělníka, kterému přisuzuje zásadní politickou roli. Figura souhrnného dělníka mu umožnila rozpoznat mechanický rozměr živé práce a tím čelit „velikému automatu“ průmyslové továrny v odpovídajícím měřítku se stejnou mírou komplexity. Později byla tato figura použita k upevnění ambivalentní ideje obecného intelektu,[5] kterou, jak ukazuji ve čtvrté kapitole, dále rozvíjeli socialisté následující Ricarda, jako například William Thompson a Thomas Hodgskin.

[…]

Skoncovat s algoritmickým monopolem

Když přihlédneme k rostoucímu počtu datasetů, vzrůstající ceně trénování velkých modelů a monopolizaci cloudových služeb, které jsou pro hostování takových modelů zapotřebí a které poskytuje jen pár firem, jako jsou Amazon, Google či Microsoft (a jejich asijské obdoby Alibaba a Tencent), je zjevné, že i v geopolitickém měřítku hraje nezávislost umělé inteligence naprosto zásadní roli. Navíc tendence často velmi rozdílných řídících aparátů (klimatická věda, globální logistika či zdravotnictví) využívat stejný typ hardwaru (cloud computing) a softwaru (strojové učení) dále poukazuje na prohlubující se trend monopolizace. I mimo tento obecný problém kumulace moci však vzestup datových monopolů poukazuje na fenomén technologické konvergence, který je pro tezi této knihy naprosto klíčový: pracovní prostředky se stávají totožné s prostředky jejich měření a stejně tak prostředky řízení a logistiky se stávají totožnými s metodami ekonomického plánování.

Lukáš Prokop, Untitled (Cavernous), 2024. Publikováno se svolením autora.

To se jasně ukázalo během nedávné pandemie covidu-19, kdy vznikla velká infrastruktura sledování, měření a předvídání společenského chování.[6] Tato infrastruktura v dějinách zdravotnictví a biopolitiky nemá obdoby, nebyla přitom stvořena ex nihilo, spíše staví na již existujících digitálních platformách, které určují většinu našich společenských vazeb. Hlavně během lockdownů se stejné digitální médium využívalo pro práci, nakupování, komunikaci s rodinou a přáteli, a nakonec i ve zdravotnictví. Digitální metriky společenského těla, jako třeba geolokace a jiná metadata, které se ukázaly jako klíčové pro tvorbu prediktivních modelů globální nákazy, však byly už dlouho předtím využívány pro sledování práce, logistiky, obchodu a vzdělání. Filozofové jako Giorgio Agamben tvrdili, že tato infrastruktura prodloužila výjimečný pandemický stav, ale ve skutečnosti její využití ve zdravotnictví a pro účely biopolitiky jenom staví na desetiletích sledování ekonomické produktivity, které dosud unikalo obecné pozornosti.[7]

Technická konvergence datových infrastruktur také ukazuje, že současná automatizace není jenom o automatizaci jednotlivého dělníka nebo dělnice, stereotypně chápané jako humanoidní robot, ale spíše o automatizaci továrních mistrů a manažerů, jako je tomu například u platforem zakázkové ekonomiky [gig economy]. Od logistických (Amazon, Alibaba, DHL, UPS atd.) a dopravních (Uber, Share Now, Foodora, Deliveroo) gigantů až po sociální média (Facebook, TikTok, Twitter) je kapitalismus platforem jistou formou automatizace, která ve skutečnosti neodsouvá dělníky na druhou kolej, ale spíše zvyšuje jejich počet a řídí je novým způsobem. Tentokrát nejde tolik o automatizaci práce, ale spíše o automatizaci řízení. V této nové formě algoritmického řízení obrovského automatizovaného stroje tvořeného globálními uživateli – „turkery“ [uživateli Amazon Turk], pečovateli, řidiči a pasažéry různých typů – se všichni stáváme dividuálními dělníky a dělnicemi. Strach z umělé inteligence, která má, soudě dle debat, zcela nahradit lidskou práci, je zcestný: v rámci tzv. ekonomiky platforem ve skutečnosti algoritmy nahradí management a znásobí počet nestálých pracovních míst. Ačkoliv příjmy zakázkové ekonomiky ve srovnání s tradičními, lokálními sektory zůstávají minimální, využitím stejné infrastruktury si tyto platformy zajistily po celém světě monopolní pozice. Tento fenomén lze shrnout tvrzením, že síla nového „pána“ netkví v automatizaci individuálních zadání, ale spíše v řízení společenské dělby práce. Na rozdíl od tvrzení Alana Turinga, robot nejdříve ze všeho nahrazuje pána, nikoliv dělníka.[8]

Zůstává otázkou, nakolik může politika intervenovat v takto technicky integrovaném prostoru, a zda volání po „přepracování AI“ [redesign AI] ze strany institucionálních aktérů i lidových hnutí je rozumná či vůbec možná cesta. Tyto snahy by měly ze všeho nejdříve zodpovědět důležitější otázku: do jaké míry je možné „přepracovat“ rozsáhlé monopoly na data a vědění?[9] Vzhledem k tomu, že firmy jako Amazon, Walmart a Google si zajistily jedinečný přístup k potřebám a problémům celé společnosti, existuje čím dál silnější tlak nejen na to, aby se tyto infrastruktury staly transparentnějšími a odpovědnějšími, ale aby se kolektivizovaly do podoby veřejných služeb (jak navrhuje Fredric Jameson a jiní), nebo aby je nahradily veřejné alternativy (jak navrhuje Nick Srnicek).[10] Existuje však jiný způsob konstrukce alternativ?

Tato kniha tvrdí, že jakákoliv technologie a institucionální aparát, včetně umělé inteligence, se zakládá na krystalizaci produktivních společenských procesů. Problémy nastávají tehdy, když taková krystalizace „zkostnatí“ a začne reprodukovat staré struktury, hierarchie a nerovnosti. Kritizovat a dekonstruovat komplexní artefakty, jakými monopoly na umělou inteligenci nepochybně jsou, si žádá důslednou snahu o dekonekcionismus, tedy rozklad společenských a ekonomických vztahů, ze kterých se takové artefakty skládají – krok po kroku, soubor po souboru, dataset po datasetu, metadatum po metadatu, korelaci po korelaci, vzorec po vzorci. Takovou snahu vidíme u nové generace vědců a vědkyň, kteří zkoumají globální produkční proces umělé inteligence, a to zvláště těch, kteří používají metody akčního výzkumu. Zde stojí za zmínku platforma Turkopticon od Lilly Irani, která slouží k „přerušení neviditelnosti dělníků“ na zakázkové platformě Amazon Mechanical Turk; nebo výzkum vstupních datasetů pro rozpoznávání obličejů z dílny Adama Harveyho, v rámci něhož také odhalil rozsáhlé porušování soukromí ze strany AI korporací a akademického výzkumu; nebo dílo indického kolektivu Politically Mathematics, který zkoumá ekonomické dopady prediktivních modelů covidu-19 na nejchudší vrstvy populace a matematiku považuje za obor, který se vrací do středu politického zájmu (viz jejich manifest, který cituji na začátku této stati).[11]

Lukáš Prokop, Untitled (Diffuze), 2024. Publikováno se svolením autora.

Teorie automatizované práce poskytuje analytický princip, na jehož základě lze lépe zkoumat nové „oko pána“, kterým monopoly umělé inteligence disponují. Avšak právě proto, že klade důraz na pracovní procesy a společenské vazby utvářející technické systémy, tak jde současně o syntetický a „sociogenický“ princip (zde používám programový termín Frantze Fanona a Sylvie Wynter).[12] V jádru teorie automatizované práce tkví praxe společenské autonomie. Technologie lze posuzovat, odmítat, přivlastnit si je či je přepracovat, ovšem pouze v případě, že přihlížíme k matici společenských vztahů, ze kterých vycházejí. Alternativní technologie by měly být situovány do těchto společenských vztahů podobně, jako to dělaly družstevní hnutí v minulých staletích. Avšak konstrukce alternativních algoritmů nemusí znamenat, že budou etičtější. Například názor, že by etická pravidla měla být do AI či robotů pevně zakódovaná, se zdá jako zcela nedostatečné a polovičaté řešení, protože se přímo nevztahuje k širší politické roli automatizace, která tvoří jejich nedílnou součást.[13]

Je zbytečné mít víru v technologická řešení, stejně jako technologie zcela odmítat; spíše je zapotřebí kultura vynalézavosti a takový design a plánování, které se zajímají o komunity a kolektivní řešení a nikdy svou inteligenci či schopnost konání nepředají bezezbytku do rukou automatizace. První krok směrem k technopolitice není technologický, ale politický. Jde o emancipaci a dekolonizaci, které však nemají za cíl zcela skoncovat s organizací práce a společenských vztahů, na kterých se komplexní technické systémy, průmysloví roboti a společenské algoritmy zakládají – zvláště s jejich vbudovaným systémem mezd, vlastnického práva a identitární politiky. Nové společenské a pracovní technologie mohou stavět pouze na takovéto politické transformaci. Je jisté, že tento proces se odvíjí nejen skrze technické, ale i politické formy vědění. Jedním z problematických dopadů umělé inteligence na společnost je její vliv na epistemologii – tedy na způsob, jakým se z inteligence dělá implicitně strojová inteligence a z vědění se dělá procedurální vědění. Jakýkoliv projekt politické epistemologie, který by měl za cíl překonat AI, však bude muset změnit i historické formy abstraktního myšlení (matematického, mechanického, algoritmického a statistického) a integrovat je jako sadu nástrojů současného kritického myšlení. Aby bylo možné působit proti epistemologii AI a jejímu extraktivismu vědění, je zapotřebí se naučit nové technické mentalitě, nové protichůdné inteligenci.

[1] Disruption: A Manifesto, Logic Magazine, č. 1, březen 2017.

[2] Politically Mathematics collective, Politically Mathematics Manifesto, 2019, vyhledáno 9. 9. 2024, politicallymath.in.

[3] Karel Marx, Kapitál. Kritika politické ekonomie, vyhledáno 9. 9. 2024, https://www.marxists.org/cestina/marx-engels/1867/kapital/Kapital1.pdf.

[4] Viz debatu o pracovním procesu: Harry Braverman, Labor and Monopoly Capital: The Degradation of Work in the Twentieth Century, New York: Monthly Review Press, 1974; David Noble, Forces of Production: A Social History of Industrial Automation, New York: Oxford University Press, 1984.

[5] Zde bych za konzultaci konečného překladu původního „general intellect“ rád poděkoval za pomoc Václavu Janoščíkovi a Martinovi Tremčinskému. (pozn. překl.)

[6] Viz Breaking Models: Data Governance and New Metrics of Knowledge in the Time of the Pandemic, workshop, Max Planck Institute for the History of Science, Berlín, a KIM research group, University of Arts and Design, Karlsruhe, 24. září 2021, vyhledáno 9. 9. 2024, https://kim.hfg-karlsruhe.de/breaking-models-report/.

[7] Giorgio Agamben, Where Are We Now? The Epidemic as Politics, trans. V. Dani, Lanham, MA: Rowman & Littlefield, 2021.

[8] Viz Min Kyung Lee et al., Working with Machines: The Impact of Algorithmic and Data-Driven Management on Human Workers, in Proceedings of the 33rd Annual ACM Conference on Human Factors in Computing Systems, Association for Computing Machinery, New York, 2015; Sarah O’Connor, When Your Boss Is an Algorithm, Financial Times, 8. září, 2016. Viz také Alex Wood, Algorithmic Management Consequences for Work Organisation and Working Conditions, č. 2021/07, European Commission JRC Technical Report, Working Papers Series on Labour, Education, and Technology, 2021.

[9] Viz Daron Acemoglu (ed.), Redesigning AI, Cambridge, MA: MIT Press, 2021.

[10] Leigh Phillips a Michal Rozworski, The People’s Republic of Walmart: How the World’s Biggest Corporations Are Laying the Foundation for Socialism, Londýn: Verso, 2019. Viz také Frederic Jameson, Archaeologies of the Future: The Desire Called Utopia and Other Science Fictions, Londýn: Verso, 2005, 153n22; Nick Srnicek, Platform Capitalism, Cambridge: Polity Press, 2017, 128.

[11] Viz webové stránky turkopticon.net, exposing.ai, a politicallymath.in.

[12] Sylvia Wynter, Towards the Sociogenic Principle: Fanon, Identity, the Puzzle of Conscious Experience, and What It Is Like to Be “Black”, National Identities and Sociopolitical Changes in Latin America (2001): p. 30–66. Viz také Luciana Parisi, „Interactive Computation and Artificial Epistemologies“, Theory, Culture, and Society 38, č. 7–8 (říjen 2021): p. 33–53.

[13] Viz Frank Pasquale, New Laws of Robotics: Defending Human Expertise in the Age of AI, Cambridge, MA: Harvard University Press, 2020; Dan McQuillan, People’s Councils for Ethical Machine Learning, Social Media + Society 4, č. 2 (2018).

Matteo Pasquinelli, The Eye of the Master: A Social History of Artificial Intelligence, Londýn: Verso Books 2023, s. 209–216. Z originálu přeložil Vít Bohal.

Ilustrace: Lukáš Prokop pro Artalk.