Výzvy AI: Eva Šlesingerová

Eva Šlesingerová: Dekolonizace znamená zcitlivění

Velká část vašeho výzkumu se točí kolem pojmu „afective computing“. Jak byste tento pojem vysvětlila – kde se vzal a kde se s ním můžeme setkat?

To lze říct docela přesně. Jsou to devadesátá léta dvacátého století na Massachusetts Institute of Technology (MIT), když si Rosalind Picard zakládá svoji laboratoř, a poté se přesouvá do Media Labu MIT v Bostonu. Jde vlastně o snahu převést emoce do komputační perspektivy. Co se týče inteligence strojů, nemusíme se bavit jenom o kognitivní inteligenci a problem-solving inteligenci, ale také – a to je to, co je na tom nové, a mně osobně to připadá fascinující –, že inteligence strojů se může zabývat nebo může být inspirována i inteligencí emoční. Tzn. tím, co my lidé nazýváme prostě emoce. Bavíme se o komunikaci, o interaktivitě, intersubjektivitě, tj. o tom, co vzniká ve chvíli, když spolu víc agentů komunikuje. Musí se přizpůsobovat, musí chápat sebe samotné navzájem. Podle Cynthie Breazeal se jedná o snahu inspirovat se lidskou a emoční inteligencí, která je přímo navázána na schopnost komunikovat a vzájemně na sebe nějak reagovat. Což znamená, že stroj, který má simulovat emoční inteligenci, má za úkol nebo má mít na konci svojí snahy schopnost reagovat na podněty, analyzovat je, simulovat emoce. Tento fakt se ukázal jako zajímavý prvek, který do té doby stroje neměly, nebyly na ně kladeny tyto nároky. Ostatně ani jejich design tomu neodpovídal. Historicky byl stereotyp stroje takový, že zkrátka nemá žádné emoce, o emocích se vůbec nemluvilo. Díky „afective computing“ začínáme simulovat inteligenci i tímto způsobem, tedy simulováním empatie. Ukázalo se, že emoce jsou vlastně natolik provázané s lidským tělem a tělesností, že stroje musí zrcadlit nebo by měly simulovat i tělesné reakce ve smyslu designu umělé kůže a jejího tlaku, napětí, responzivity, pocení, červenání se… Ukázalo se jako velice důležité, že vtělený stroj, android, má tělo, se kterým se může nějak angažovat v prostoru.

Vztahuje se to třeba na big data a způsoby, jakými jsou data sbírána?

Big data můžou být sbírána v této souvislosti coby agregáty dat o emočních odpovědích. Co to znamená, když mám radost? Co to znamená, když se skupina lidí zlobí? Jaká je norma toho – je to hodně o normalizaci –, jaké je normální očekávání od skutečnosti, že se člověk bude chovat daným způsobem, když se hněvá, když má vztek, když má radost, když je smutný? V tu chvíli se interpretace dat navazuje na očekávání a na, řekněme si to upřímně, kulturní definice toho, co vlastně je to za emoci a jak se projevuje. Takže data se na jedné straně mohou sbírat, existují celé datasety o emocích, jak se například projevují v obličeji. Jde o obličejové svaly, které nějakým způsobem reagují, anebo tóny hlasu atd. Ale je otázka, co se s daty udělá a jak se to celé vlastně labeluje, jak se data dávají do konkrétních skupin. Což mi připadá z hlediska antropologie a sociologie extrémně zajímavé: jak se vlastně normalizuje emoce jako taková. Protože už dávno jsme přece překonali očekávání, že máme sedm základních emocí, které se daným způsobem projevují. I psychologie s tím nějakým způsobem pracuje, protože je tahle problematika samozřejmě komplexnější než jenom zmiňovaných sedm základních emocí a jejich vrozená a biologická podstata (viz např. zajímavá kniha od Lisy Feldman Barrett – How Emotions Are Made, 2017).

Vy zdůrazňujete, že se vlastně nezabýváte ani tak umělou inteligencí, jako spíš umělým životem (A-life). Ono se totiž souběžně s vaším výzkumem, který teď probíhá, v poslední době objevují zprávy o xenobotech nebo červech ovladatelných pomocí umělé inteligence. Co tyto vědecké úspěchy mění nebo potvrzují na dosavadním uvažování o umělém životě?

Myslím, že se můžeme bavit ze začátku obecně o tom, že umělý život, tak, jak ho naše společnost zpracovává, zejména věda, jde dvěma směry. Jeden je „in vivo“ (wetware), kde jde o rekombinace různých biologických entit; přesně, jak vy říkáte: xenotransplantace, xenoorganismy, syntetická biologie, biologické počítače. Je to snaha pracovat s uhlíkovými matricemi a nějak je rekombinovat. A rekombinace je tady už od poloviny dvacátého století. V druhém případě jde o křemíkovou linii, „in silico“ (hardware a software) – tak, jak o něm mluví Christopher Langton. A to jsou přesně ty umělé entity, programy, bytosti nebo umělý život, který se opravdu má vytvořit na bázi nikoli biologického života, ale prolínáním s životem nebo in silico kvazi životem. Někde mezi nimi jsou samozřejmě hybridní skupiny, jako třeba počítačové simulace a viry, digitální genetické sekvence, entity komputační biologie, ale i simulace aktérů, u nichž se už můžeme bavit o definicích určitého pseudoživota – jak se reprodukují, mutují (viry) a vytváří jakási pseudointeligentní společenstva a digitální organismy (píše o tom např. Stefan Helmreich v Silicon Second Nature). Anebo je řeč o androidech nebo různých dalších typech křemíkových entit.
Ale abych se vrátila k vaší otázce. Ukazuje nám to, že práce s těmito umělými organismy – snaha o vypočítání života – není v rámci kulturní imaginace vůbec nic nového. Představy o umělém životě jsou tady od začátku lidstva; každá kultura přemýšlí o životě, který je „made not born“. V našem kulturním kontextu jsou to Řekové, typicky Pandora a její skříňka nebo robot Talos. To jsou příběhy a mytologie, kulturní imaginace, které pracují s představou, že lidé jednoho dne stvoří umělý život, takový, který nestvořili bohové. Takže se vlastně nejedná o nic nového – a připadá mi důležité tento fakt zmiňovat při různých hypech. Co se ale ukazuje a co by pro nás mohlo být zajímavé a nové, je, že se všechno zmiňované dnes stává realitou a že se tyto výzkumy opravdu mohou stát součástí inženýrské tvorby života. Inženýrská tvorba, kam počítám biotechnologie a robotiku, postupuje rychleji než společenská debata o ní. Takže kulturní normy pak mají potíž ji reflektovat, byť v jedné rovině imaginace ji vytváří samozřejmě, a to jsou různé vize technoimaginace. Nicméně ve druhé rovině často společnost, zdá se, na to není připravená nebo neví, co s tím. Na jedné straně je tím fascinovaná a chce to, na druhé straně to vytváří seizmické otřesy i v oblastech, které s tím zdánlivě nesouvisejí. Je vždy důležité sledovat, kdo o technologiích mluví, v jakém kontextu, na jakých trzích se obchodují a za co se směňují – a to materiálně i symbolicky.

Hermafrodit Caenorhabditis elegans, česky háďátko obecné. Jedná se o významný modelový organismus pro vývoj molekulární a vývojové bilogie, ale také pro rozvoj  robotiky, kybernetiky a umělé inteligence: Dospělec má totiž přesně 302 neuronů, což je dostatečně malý počet, aby tento organismus šlo virtualizovat a syntetizovat v celé jeho funkčnosti. Zdroj: Wikimedia Commons.

Co na zkoumání citovosti robotů otevírá otázky po člověku?

Je to zase jeden z mnoha dalších příběhů o Druhém, o nějaké významné postavě, která je buď imaginární, nebo velice reálná, jako jsou bohové nebo zvířata nebo stroje, nebo prostě ti Druzí, indiáni, mimozemšťané. Je to vlastně jeden z mnoha příběhů o jinakosti a jakémsi odraze antropologického dvojníka, člověka, který se skrze Druhého a jeho jinakost snaží porozumět sám sobě. Není to nic extrémně nového. Pro mě byla vždycky „zdravorozumová“ definice člověka propojená s emocemi, s láskou, nenávistí, zlobou, radostí. Robot byl většinou stereotypně vnímaný jako cosi, co nemá emoce, co nemá cítění, empatii, vědomí. Připadá mi fascinující, do jaké míry se na bázi androidů lidé snaží, aby entity simulovaly a vytvářely dojem, že roboti budou cítit. Když na bázi softwaru vyloženě manipulují s emocemi lidí, vytváří se prostředí, kdy jsou ovlivněni samotní lidé. Takže se může jednat o další příběh hybridizace, tedy že člověk s algoritmy může nějakým symbiotickým způsobem „spolunažívat“.

Je asi snadné vyjmenovat negativa souvislosti mezi autismem a robotikou, myslím necitlivé metafory atp. Přesto, jsou nebo mohla by existovat nějaká pozitiva toho srovnání?

Pokud se opravdu nebavíme o stereotypech a využití, nebo dokonce až zneužití kulturního obrazu zmiňované diagnózy, tak ano. Jsou výzkumy, které říkají, že lidé na spektru lépe reagují na stroje, na prostředí a atmosféru předpověditelnosti a jasnosti odpovědí – protože stroje nepodvádí, nemají ironii. Tohle může mít a už i má velký terapeutický efekt. Což může platit i pro neurotypickou část populace, pro kterou může být jasnost také někdy osvěžující.

Neurodiverzita coby postoj nebo kulturní moment se autismus snaží odmoralizovat a odpatologizovat. V tomhle duchu ani vy autismus nechápete jako vývojovou vadu, kterou bychom rádi odstranili, kdybychom věděli jak, když mluvíte o „autistické kultuře“. Použití výrazu autistická kultura je vlastně strašně afirmativní gesto, politický akt. Jak se na takové gesto dívá současná věda?

Otázka je, co myslíte současnou vědou. Ale ano, například právě sociální antropologie s tímto pojmem přichází. Jsou to antropologové (Solomon, Ochs, Nadesan), kteří často, právě díky tomu, že třeba mají neurodivergentní děti, zkoumají autismus jako kulturní situaci, jinakost, artefakt, a přicházejí se specifickými pojmy autistická socialita nebo kultura autismu. Samotná diagnóza je vlastně velmi heterogenní a bohatá co do symptomů. Zahrnuje celé spektrum od lidí, kteří nemohou mluvit vůbec, až k lidem, kteří mají savant syndrom. Celý narativ výzkumu neurodiverzity je vlastně heterogenní, jak už bylo řečeno, a velmi komplexní, takže pro antropologii je zajímavé popsat tuhle problematiku jako součást příběhu o diagnóze jako sociálním faktu, totální instituci, ale i jako součásti příběhu o emancipaci. Ale ono to není jediné pole, na kterém se bojuje. Můžeme se podívat na další typy neuropotíží jako Tourettův syndrom, ADHD – to nejsou jen autisté nebo lidé s Aspergerem. To už se ale dostáváme k otázce, jak se vytváří diagnóza, a k tomu, že se prostě nejedná o esenciální záležitost. Třeba na příkladu homosexuality si můžeme říct, jakou cestu prodělala: od kriminalizace přes diagnózu až po přijetí. Jde vlastně o dekolonizaci toho pojmu. Jedná se o tentýž proces, kterým prochází spousta tzv. jinakostí.

Já se vlastně ptám, jak se tento přístup prezentuje, řekněme v užších, třeba antropologických kruzích nebo širších vědeckých. Přístup, který by se dal vulgárně označit jako ideologický.

Diskuse jsou různé. My (výzkumný tým projektu EMOROB na FSS, pozn. redakce) jsme měli například konferenci Computing Human, kam přijela Kathleen Richardson, která dělá úžasnou etnografii. Velice se zastávala tvrzení, že diagnóza autismu esenciálně existuje na biologické bázi, kolem čehož vznikla debata. Já mám ráda například texty od paní Joanny Latimer (SATSU, York), socioložky technologií, která říká, že někdy je důležité dospět do fáze diagnostiky, protože se jedná o způsob, jak neurodiverzitním lidem zprostředkujete pomoc nebo podporu a uznání. A to je přesně problém, na který cílí postkoloniální teorie. Uznáme status někoho, kdo je Rom, žid, autista, abychom zviditelnili jejich jinakost. Teprve potom ji můžeme zneviditelnit, už nemá být významuplná a represivní. Ale pak je samozřejmě otázka, kde je hranice, kde už se zviditelnění jinakosti stává parodií sama na sebe a ničemu nepomáhá. Prostě není to černobílé, je to komplexní, organická věc, která si žije svým životem a která je nezávislá na ideologii, která je k tomu přičleněná.

Co vlastně v tomto kontextu znamená pojem dekolonizace? Protože v kontextu výtvarného umění se většinou spojuje s historickými křivdami, je to snaha zajistit, aby byl každý zastupován za svých vlastních podmínek.

Pro mě dekolonizace znamená zcitlivění a zmocnění (empowerment). Já nesnáším násilí, byť je někdy potřeba udělat rámus. Je to příběh zcitlivění v kontrastu k bezohlednosti, s jakou se dané kategorie vytváří. Paradoxně můžete potkat i bezohledného zastánce kultury autismu, protože prostě neuznává práva jiných. Nebo jsou texty, které mluví o pohrdání Aspergerů vůči ostatním autistům, kteří nejsou takzvaně sociálně funkční a nemohou mít tak zvučný hlas ve společnosti. Rasismus a „zjinačení” funguje i v rámci komunity. A když se bavíme třeba o rase nebo o viditelných jinakostech, jako je třeba handicap, tak jde naopak o zneviditelnění. Jako když vás vlastně nezajímá, jestli je člověk puntíkovaný nebo jestli má na zádech tři křídla, to je vlastně irelevantní.

{{obrazek_56154}}

Vy na jednom místě mluvíte o epidemii autismu. Co si pod tím představit?

Třeba sociologie a antropologie medicíny zná některé příklady diagnóz, které se stanou svým způsobem módními; je to prostě takový hype. Zpravidla to nejsou infekční choroby, kde má epidemičnost jiné parametry, ale třeba v případě depresí, nebo, jak říkáme, depky, což nejsou klinicky těžké deprese. V případě autismu někteří říkají, že se jedná o epidemii, protože je čím dál víc lidí diagnostikovaných. Jenže fakt, že je neurodiverzita víc diagnostikována, ještě neznamená, že je jí opravdu víc. Máte lepší diagnostické nástroje, lidi se tomu víc věnují, prostředí a sociální kontext se mění, deinstitucionalizuje se péče o lidi, kteří mohou žít mimo péči ústavů apod.

Někteří neurodivergentní se často setkávají s nepochopením, když jsou označování jako divní, hloupí nebo líní. Myslíte, že v případě úspěchu neurodiverzity jako hnutí nebo iniciativy, pokud se dostane do pozornosti širší veřejnosti, se stane něco jako metodou inkluze „divných, hloupých“?

Myslím si, že by se mohlo jednat o emancipace těch divných. Já mám ráda divnost v každém slova smyslu, takže mně to přijde fajn. Střípek do mozaiky toho, jak se bude definovat divnost.

V čem vidíte největší překážky ve zmiňovaném zcitlivování?

Já mám takový utopický sen. Že bychom si mohli sednout jako komunita a říct si, pojďme zreformovat školství. Transformovat josefinskou vizi – čili „číst, psát, počítat“ – a přijít s novými předměty, což už se možná trochu děje. Ale jedna z linek by mohla být, jak žít v realitě, s tím, že se jí nebudu bát, mít odvahu čelit neznámému, že se budu zcitlivovat vůči světu, přírodě. Že by ve školství nebyl takový důraz na fakta, ale spíš na to, jak s fakty pracovat, aby lidem bylo dobře, aby neubližovali sobě ani ostatním. Jakýsi úvod do psychologie a sociologie by mohl být už na prvním stupni pro malé děti. Takže ačkoliv, paradoxně, pracuji na vysoké škole, myslím si, že největší rezervy jsou právě ve školství. I když škola, tedy systémy a struktury, kterými děti od začátku procházejí, není samospásná. Instituce jsou někdy zatuhlé, v nedobrém slova smyslu konzervativní.

Co vás v souvislosti s neurodiverzitou nebo neurodivergentními za tu dobu, co se tématu věnujete, nejvíce překvapilo nebo překvapuje?

Jak je to všude kolem mě. Což mě vlastně nemůže překvapovat, protože se tomuto tématu věnuji, je to vlastně takové sebenaplňující se proroctví. A jak celé téma souvisí s věcmi, o kterých by to člověk primárně neřekl. Což je přesně idea vzdělávání nebo spravedlivější společnosti.

Myslíte, že angažovaná věda, jakou známe třeba z gender studies, mad studies nebo fat studies, je budoucnost, nebo má zůstat okrajovou?

Ano, je. Já jsem v tomhle možná radikální. Dokonce si nemyslím, že matematika, informatika, fyzika existují mimo společnost, kulturu. Nikdy se nejedná o neposkvrněné početí pravdy, jak o tom mluvil Niklas Luhmann. Medicína je také humanitní věda, jelikož je ovlivněná společenským uspořádáním. Myslím, že to jinak ani nelze dělat. Jiná otázka je, když aktivně vystupujete ve veřejném prostoru. Já třeba na to nadání nemám, neumím zjednodušovat věci a mluvit úderně. Ona i nechuť a agrese vůči sociálním a humanitním vědám o něčem svědčí. Věda, reflexe vědy, analýza překladu a přenosu vědy do společnosti jsou zkrátka vždy politický akt.

Eva Šlesingerová je docentkou působící na katedře sociologie na Fakultě sociálních studií v Brně. Ve svém výzkumu se věnuje antropologii a sociologii medicíny, antropologii těla, technologiím a umělému životu, posthumanismu, biomoci, sociálním a kulturním aspektům DNA/genomu a BioArtu jako biotechnologickému umění. V současnosti pracuje na výzkumu, který zkoumá oblast emočního programování v kontextu léčby autismu. Vydala například publikace Imaginace genů. Sociologická perspektiva (2014) nebo We, Other Utopians: Recombinant DNA, Genome Editing, and Artificial Life (2022).