Umelá inteligencia ako fašistický artefakt

Apr 21, 2026

napísal
tante (Jürgen Geuter)


preložil
normalmoe.neocities.com
May 13, 2026, update may 20

(Toto je kombinácia dvoch príhovorov o UI a fašizme. Jeden som dal v nemčine na konferencii Cables Of Resistance, jeden v angličtine u Milton Wolf Seminar on Media and Diplomacy. Pridal som pár použitých slajdov, čo dodalo textu na štruktúre, ale možno vyzerá troche čudne. Obrázky môžete pokojne ignorovať. Fungujú ako označenia podkapitol. Text nezodpovedá úplne tomu čo som hovoril, ale rozvinuté verzie mojich argumentov by mohli byť čitateľnejšie.)



Náš svet a to ako k nemu pristupujeme je čím ďalej tým viac sprostredkovaný technológiami: Digitálne platformy a systémy sa stali extrémne dôležitým aspektom nie len toho ako komunikujeme s vládnymi entitami a „médiami“ ale aj ako ľudia, medzi sebou. Náš svet je postavený na technológiách ktoré stanovujú čo vidíme, s kým sa môžeme rozprávať a aké informácie nám budú predstavené.

Žijeme zároveň v dobe fašizmu, kypiaceho po celej planéte: v mnohých krajinách sú dnes prítomné neofašistické strany a hnutia, ktoré sa usilujú sa o moc, alebo aspoň členstvo vo vládnych koalíciách konzervatívnych strán. Niektorým z nich už šťastie aj doprialo. Máme to tu znova. (Antifašisti už desaťročia bili na poplach, no to už dnes nikomu nepomôže. Po tom čo sa zbavíme posledného fašistu, možno môžeme hľadať ponaučenie.)

A samozrejme žijeme aj v dobe „UI“, údajne autonómnych stochastických systémov, ktoré niekto tlačí – v súčasnosti pod značkou “agentická umelá inteligencia” – do všetkého čo používame v práci a aj doma. “UI“ sa stala stredobodom celého súčasného technologického sektoru, magická technológia, do ktorej firmy a vlády po celom svete vkladajú nádeje že aspoň chvíľku dlhšie udrží neskorý kapitalizmus v prevádzke.

V tomto texte chcem analyzovať vzťah medzi fašizmom na jednej strane, a tým čo sa v poslednej dobe označuje ako „UI“. Je táto „technológia“ ktorou sa mení svet okolo nás (či už k lepšiemu alebo prevažne horšiemu) nejakým spôsobom prepojená s fašizmom? Alebo je len náhoda že ju majú fašisti tak radi? Alebo je neutrálna?

Keď myslíme na fašizmus, často máme na mysli činiteľov: Zlé indivíduá páchajúce zlé činy so zlými úmyslami.



A tak často nahliadame aj na vzťah medzi “UI“ a fašizmom: Vidíme ako Trumpovi nohsledi a súvisiace časti jeho vlády používajú generatívnu “UI“ na produkciu priamočiaro fašistickej propagandy o svojom vodcovi, na manipuláciu fotiek na zosmiešnenie opozície a všeobecne na množenie rasistického a fašistického obsahu vo svete.

CEO firmy Palantir, Alex Karp, už asi dva roky nevie hovoriť o absolútne ničom inom, ako o tom že chce použiť svoju platformu na integráciu dát na zabíjanie ľudí. (Popravde, to čo firma Palantir robí, je samé o sebe pomerne nudné.) A nie len náhodných ľudí. Seba a svojich softvérových inžinierov prezentuje ako bojovníkov „Západu“ ktorý chránia spojené štáty a „Západ“ proti „nepriateľom“. Palantir sa otvorene usiluje stať dôležitou súčasťou časti infraštruktúry ozbrojených síl, zvlášť sekcie ktorá rozhoduje o tom koho, kedy zabiť. (tzv. “kill decisions”.) Tiež si prajú aby ich softvér bol vnímaný ako zbraň – čo je mimochodom veľmi fašistická prozba o normalizáciu násilia – a tiež to možno čítať ako reklamu ktorou chcú propagovať silu a schopnosti daného softvéru: Nikto nevyhodí miliardy za „integráciu dát“, ale ak povieme že s tou vecou „zabijete svojich nepriateľov“ možno začnú chodiť tendre.

A nakoniec tu máme ľudí na spôsob Marc Andreessena, ktorý minulý rok vydal svoje “Techno-Optimistické Manifesto” ktoré – v kontraste k titulu – je dokument v prvej rade vyjadrujúci jeho žiadosť aby sme ho prestali obmedzovať zákonmi, a tiež sa mu prestali inteligentnejší ľudia ako on vysmievať. Nielen jeho pomerne obmedzenou predstavou toho čo „UI“ a iné technológie do ktorých investuje peniaze dnes dokážu a jedného dňa budú vedieť, dielo je pozoruhodné aj tým, že priamo a otvorene cituje a buduje svoje úvahy na myšlienkach talianskych fašistov a iných pravicových reakcionárov, napr. takého Nicka Landa, a aj tým že explicitne menuje svojich „nepriateľov“: komunistov, Ludditov, a tých čo chcú technologický sektor regulovať zákonmi. V podstate reprodukuje štandardný zoznam nepriateľov fašizmu, v podobe akej existuje od od počiatku.

Fakt že technologický sektor alebo konkrétne technológie (napr. “UI“) boli „zabraté“ pravičiarmi niekedy vedie ľudí k myšlienke „zachrániť“ alebo „znovu dobiť“ tieto technológie. Keďže sú tak neoddeliteľne integrované do našich životov, sme na ne tak zvyknutí, život bez nich sa zdá nemožný. Máme radi naše appky. A nie je vina appiek (a technológii) že sú populárne u fašistov. Možno keby ľavica prestala kritizovať „UI“ (alebo Metaverse alebo kryptomeny alebo čojaviemčo) tak by sme mohli prepracovať „UI“ tak, aby bola dobrá a etická a demokratická? Možno tieto technológie vieme zachrániť pred zloduchmi? Priviesť ich späť ku svetlu? Možno keby sme zverejnili ich zdrojáky a mali ich open source?



Langdon Winner argumentuje v často citovanom článku “Do Artifacts Have Politics?” z roku 1980, že „neutrálna technológia“ neexistuje. Politická povaha konkrétnych artefaktov nie je tvorená len dodatočne ich používateľmi, alebo predtým, ich tvorcami tým že stanovia pôvodný účel. Politická povaha je v artefaktoch zabudovaná od momentu ich vzniku a pramení z politických názorov a cieľov ich tvorcov a vnútorných štruktúr v ktorých artefakty vznikli.

Príklad na ktorom to demonštruje sú „rasistické mosty“: Keď hnutie za zrovnoprávnenie v spojených štátoch dosiahlo, že čierne deti sa mohli učiť na lepších, dovtedy výlučne belošských, školách, politici začali plánovať mosty a komunikácie tak, aby tomu zabránili. Mosty sú také nízke, že (chudobným nedostupné) auto pod nimi prejde, (školský) autobus ale nie. Toto nebol prehliadnutý omyl, ale samotný úmysel návrhu. Rasizmus je prítomný v samotnej podstate artefaktu. (pozn.: Nezávisle od úmyslov, alebo prítomnosti tvorcov, a nevyžaduje od nikoho ďalšiu námahu aby plnil svoju funkciu.)

Winner tiež argumentuje že niektoré technológie pre svoju existenciu nutne implikujú (predpokladajú) prítomnosť istých politických a sociálnych štruktúr: Atómová bomba implikuje nielen vedcov schopných ju vytvoriť, v štáte ktorý si myslí že ničenie je prijateľný spôsob pôsobenia na svet, ale aj bezpečnostný aparát schopný ju ovládať a brániť. Nie je možné vytvoriť atómovú bombu bez týchto štruktúr. Sú implikované, ak nie priam požadované, vymáhané samotným artefaktom.

Winner netvrdí že politická povaha zabudovaná v artefakte je nemenná: Poznáme mnohé na prvý pohľad podozrivé technológie ktoré umelci a aktivisti použili presne v záujme toho, čomu mali škodiť. Takéto kúsky sú ale vždy boj proti prúdu: Politická orientácia niečoho ako technológie sledovania ľudí (surveillance) bude vždy naklonená sile, striktnosti a proti slobode. Síce existujú prostriedky ako bojovať proti sledovaniu, treba ale dbať na to aby nereprodukovali logiku voči ktorej človek chce bojovať.

Tu sa môžeme spýtať, aká teda je zabudovaná, štrukturálna politická pozícia v „UI“? Aký svet, aký svetonázor, akú politiku „UI“ implikuje alebo vyžaduje? Ako vyzerá cesta na ktorú nás „UI“ chce vyslať?

Predtým ako sa do toho pustíme, chcem v stručnosti povedať niečo o definícii pojmu „UI“. Nemyslím si že „UI“ je veľmi užitočný terminus technicus – popravde by som odporučil tento pojem nepoužívať, lebo viac maskuje ako objasňuje. Je to ale pojem ktorý všade pchajú, tak sa s ním musíme popasovať. Jeden dôležitý bod je že „UI“ nie je veľmi dobre definovaný pojem: „UI“ môže byť LLM (veľký jazykový model t.j. stochastický extrúder tokenov), systém symbolickej reprezentácie informácií, makro v exceli, ľudská bytosť v Indii, alebo slajd v prezentácii. „UI“ nemusí znamenať nič konkrétne. Minimálne nie konkrétny druh, alebo trieda, technických artefaktov.

Som veľký fanúšik Ali Alkhatibovej definície AI:

Myslím že by sme sa mali zbaviť predstavy že AI je technologický artefakt s politickými prvkami a pochopiť ju ako plnohodnotne politický artefakt. AI je ideologický projekt ktorý chce posunúť autoritu a autonómiu preč od indivíduí smerom k centralizovaným mocenským štruktúram. Projekty ktoré tvrdia že „demokratizujú“ AI bežne zamieňajú „demokratizáciu“ a „komodifikáciu“.

Ali Alkhatib

“UI“ je politický projekt – používam aj pojem naratíva – ktorého funkcia je presun moci a autonómnosti preč od ľudí a organizácií, smerom k centralizovaným mocenským štruktúram. Tieto centralizované mocenské štruktúry sú v súčasnosti hŕstka veľkých tech korporátov a „AI labáky“ do ktorých vrážajú miliardy dolárov.

Napriek tomu že si nemyslím že “UI“ je akokoľvek kvalitný pojem, budeme ho používať do konca tohto textu v súčasne prevládajúcom význame: „UI“ je trieda stochastických machine learning systémov ktoré dokážu ukladať a aplikovať vzory extrahované z dát v snahe rozpoznávať vzory (napr. tváre a gestá) alebo (súčasne prevládajúci naratív) ako generatívne systémy (napr. “generatívna UI” alebo “genAI”). Keď píšem „UI“ mám teda na mysli ChatGPT, Claude, Gemini, Deepseek, a pod.

Späť k fašizmu.

Je samozrejme plno výskumu a analýz o fašistickom používaní “UI“: Konkrétne odporúčam esej od Garetha Watkinsa “AI: The New Aesthetics of Fascism“. V nej Watkins poukazuje na vlastnosti v štruktúre výstupov generatívnych extrudérov obrázkov ktoré sú v súlade s pravicovým zmýšľaním.

“UI“ je vybudovaná na extrakcii dát z internetu a akéhokoľvek iného dostupného zdroja. Väčšina takýchto dát má silne rasovú komponentu, je založená na koloniálnom, sexistickom, heteronormatívnom chápaní sveta a minulosti. Neexistuje absolútne žiaden súbor dát od polície ktorý by nebol rasistický. Ak postavíte extrúder obrázkov na takýchto dostupných obrázkoch, LGBTQIA reprezentácia, reprezentácia ľudí nekonformujúcich s tým čo spoločnosť očakáva, bude prinajlepšom nepostačujúca.

Tieto dáta vždy odlučujú: “UI“ nie je naplnená „všetkým čo ľudstvo vie“ ale prevažne obsahom relevantným západnému svetonázoru. Kultúry mimo tohto rámca, napr. používajúce orálnu tradíciu na uchovávanie dejín a znalostí, nebudú reprezentované. Aj ak také skupiny nie sú aktívne vylúčené, (čo často sú,) enormné kvantá ľudí jednoducho nie sú zachytené v dátach a nemôžu sa vyjadriť k tomu ako budú reprezentované. Niekedy sú reprezentované výlučne negatívne: napr. ľudia bez domova.

Pravičiari milujú takéto vzory lebo ich utvrdzujú v ich predsudkoch: požiadaj generátor o obrázok bozkávajúceho sa páru, a väčšinou obrázok bude heterosexuálneho páru, často bieleho, lebo tak vyzerajú dáta na ktorých je model natrénovaný. Z toho môžeme vyvodiť že “UI“ je perfektný nástroj na zobrazovanie idealizovanej, fiktívnej „minulosti“ na ktorú fašisti radi odkazujú (“make America great again“), minulosť ktorá síce v skutočnosti nikdy neexistovala, napriek tomu ale musí byť chránená a svet k nej navrátený (k tomu sa možno neskôr vrátime).

Je tu ale ešte jeden aspekt používania “UI“ ktorý pravici spôsobuje veľkú radosť: spôsobuje ujmu ľudom ktorým chcú spôsobiť ujmu. “UI“ sa dnes používa hlavne na generovanie mediálnych výstupov (t.j. obrázkov, ilustrácii, hudby a textu). Vo všeobecnosti ale platí že ľudia v kreatívnej branži sú naklonení ľavici, inklúzii. Fašisti proste nedokážu tvoriť kvalitné, zaujímavé umenie. To že “UI“ devastuje zamestnania, živobytia, možnosť sa kreatívne vyjadriť, je presne to čo používanie “UI“ na tvorbu obrázkov je pre pravičiarov tak extatické: Je to vulgárny prejav moci.

Toto nás perfektne vedie k náhľadu do štrukturálnych vlastností “UI“. Veľa nasadení „UI“ by sme mohli označiť ako v širokom slova zmysle pravicové, v “UI“ sú ale skryté ešte fašistickejšie tendencie.

Moderné systémy “UI“ so spomenutia hodnými schopnosťami existujú kvôli násiliu, sú založené na násilí.

Násilie znamená viac než len päsť do zubov. Pripraviť ľudí o autonómiu: to je násilie. Vystavovať ľudí utrpeniu je rovnako násilie. Spektrum násilia je pestré. “UI“ vyžaduje že akceptujeme nekonečné množstvo násilia (Nebudem menovať všetky formy, toto je len výber).

Na to aby sa natrénoval “UI“ systém, musíte mať dáta. Množstvo dát. A potom ešte viac. Získať ich legálne nie je ľahké, zvlášť ak veľká väčšina ľudstva nechce aby niekto pchal ich osobné dáta a umeleckú tvorba do týchto strojov. Prvá forma násilia “UI“ je násilie získavania dát: “UI“ nevyhnutne vyžaduje scraping a hromadenie všetkého možného a nemožného – vrátane, hlavne, v priamom protiklade výslovnému nesúhlasu dotknutých. Na serveri mi beží iocaine a je úplne šialené, koľko AI scraperov ignoruje moje preferencie a jednoducho chce zobrať všetko čo som kedy napísal pre tréning zadarmo. Nie som v tom sám. “UI“ labáky protiprávne sťahujú diela ako napr. knihy, digitalizujú všetko čo nájdu aby nasýtili nekonečný hlad po dátach. To, že to je nelegálne a neetické, vedia. Nevadí im to. “UI“ systémy sú založené na presvedčení že „ak sa to dá stiahnuť, môžeme to použiť“. Právo silnejšieho.

Druhá forma násilia nastáva počas labelingu (označovania, popisovania) a čistenia dát. Túto prácu vykonávajú pracujúci v globálnom juhu. Deň čo deň sa musia pozerať na najhroznejšie sračky aké si viete predstaviť. Robia tak, aby videozáznamy mučenia a sexuálne násilie neboli zaradené do tréningových dát. Toto nie je len hospodárske vykorisťovanie (za mentálne a psychologicky extrémne náročnú prácu dostanú zaplatené hanebne málo) ale aj násilie spáchané priamo na ich psychike a duševnom zdraví. Pretože niekto je príliš lenivý si pozrieť fotobanku, niekoho matka v Keňi už kvôli nočným morám nemôže spávať.

Tretie násilie sme už naznačili: koloniálny mandát stanovovať čo je „hodné“ digitalizácie, alebo spadá pod „všetko čo ľudstvo vie“. Nejde tu len o „reprezentáciu“: silnejší tu vylučuje z korpusu veľkú časť živého ľudstva. Ak nemáš úžitkovú hodnotu pre západné, kapitalistické pochopenie sveta, ty, tvoje dejiny, tvoje pamäte, vo „všetkom čo ľudstvo vie“ pre nič z toho niet miesto. Si menej než človek.

Štvrtý druh násilia je násilie proti marginalizovaným skupinám za použitia “UI“ nástrojov, čo sa prezentuje ako niečo čo máme jednoducho akceptovať ako bežnú vec. Začína to rasistickou propagandou ktorú vyrába administratíva Trump II tam to ale nekončí. Kvantá sexuálneho násilia ktorému sú ženy vystavené s úplne železnou pravidelnosťou je zarážajúce. “Nudify” appky, “grok, ukáž mi ju v plavkách” sú len najpriamočiarejšie nasadenia týchto nástrojov. Väčšina “UI“ labákov tieto veci neodobruje explicitne, ale ani nijak to u nebráni: Zodpovední sú výlučne “zlí aktéri” alebo “porušenia naše podmienok poskytovania služby”. To je ale len obhajoba právneho oddelenia a odkláňanie zodpovednosti za umožnenie takéhoto zaobchádzania s ľuďmi.

Dan McQuillan, ktorého kniha “Resisting AI“ pravdepodobne prepojila fašizmus a UI najskôr, tiež poukázala na “UI“ ako organizačný princíp v stredobode „nekropolitiky“:

Zavedenie AI v manažmente rôznych kríz vytvára „výnimočné stavy“ – formy exklúzie ktoré v absolútnom slova zmysle robia ľudí zraniteľných. Násobenie algoritmických výnimočných stavov prieč cez väzenský, sociálny a zdravotný systém zviditeľňuje nekropolitiku na ktorej sa UI podieľa; t.j. úlohu UI pri rozhodovaní o tom kto bude žiť a komu bude dovolené umrieť.

Dan McQuillan

Nekropolitika je svojim spôsobom posledná forma násilia ktorú UI pácha na svete: spôsob ktorým sa bude rozhodovať komu bude dovolené ďalej žiť. Nie je na mysli len Palantir a „zabíjame nepriateľov“, ale aj o to zamedziť „tým čo si ich nezaslúžia“ prístup k zdravotníctvu a iným službám.

Používanie “UI“ vyžaduje normalizáciu týchto foriem násilia. Musíš ich prijať ak tieto nástroje mieniš integrovať do tvojich pracovných procesov a ráno sa vládať pozrieť do zrkadla.

A tu je prepojenie na fašizmus. Jeden z centrálnych nosných pilierov fašizmu je masívna normalizácia násilia. Nastavenia násilia a práva silnejšieho ako organizačných princípov spoločnosti. Hlavne voči „nepriateľovi“ (kuk, Palantir) ale aj ako prostriedok tvorenia a udržiavania spoločenských a politických hierarchií.

“UI“ zdieľa s fašizmom, na úrovni princípu, normalizáciu násilia.

Silne sa stotožňujem s princípom stanoveným Staffordom Beerom, že „účel systému je to čo robí“, t.j. pri hodnotení systémov je nutné nahliadať nie na tvrdenia a reklamu, ale na skutočnú pôsobnosť systému na svet. Z toho môžeme dedukovať krátkodobý účel “UI“: zničenie sily pracujúcich.

Toto ničenie prebieha simultánne na niekoľkých úrovniach a napáda predpoklady robotníckeho organizovania pracovných miest.

Prvá úroveň je veľmi individualistická: Tým že tvrdia že “UI” zamestnancov nahradí, pracujúcich môžu tlačiť aby pracovali viac, nepýtali si lepší plat a pracovné podmienky. Aj keď ťa “UI“ nahradiť nevie, samotná vyhrážka je pre zamestnávateľov užitočná pri podkopávaní energie jednotlivca a pocitu sebahodnoty v práci.

Druhá úroveň je útok na solidaritu a medziľudské vzťahy: “UI“ ťa síce nenahradí (opakujem, “UI“ nedokáže nahradiť veľkú väčšinu pracujúcich!) „ale niekto používajúci UI áno“. Toto vytvára koloseum Thunderdome, v ktorom sa má každý biť s každým o prácu/omrvinky. Máš vnímať svojich spolupracovníkov ako nepriateľov a konkurenciu, ktorá len čaká že ťa pripraví o prácu a tvoje deti o jedlo. Nemáš v nich vidieť spojencov a už vôbec nie ľudí s ktorými môžeš byť v odborovej organizácii. Toto je stará známa melódia, pre pravicu je imigrant vždy „útočník“. Je samozrejmé že boj každého voči každému normalizuje násilie, ledaže sme do kolosea vstúpili cez vchod pre bohatých divákov, nie služobným vchodom.

Tretia úroveň je subtílnejšia vo svojej zlobe, lebo nás vedie k tomu z vlastnej vôle rozväzovať spoločenské väzby. Príklad: ak namiesto toho aby som najal ilustrátora, použijem “UI“ na vyrobenie ilustrácie, hovorím tým že zatiaľ čo moje zručnosti a moja práca majú hodnotu, ilustrátorove nie. Implicitne ruším zväzok solidarity s ilustrátormi ktorých prácu a živobytie som vyhlásil za bezpredmetné. Som navádzaný k tomu, aby som postavil seba nad mojich spolupracujúcich, pracujúcich ktorí stoja pred tými istými problémami ako ja, ľuďmi čo sú moji spojenci, kamarádi. To jest, donedávna boli.

Tu znova vidíme zhodu medzi fašizmom a „UI“, jedna k jednej: Obe sú založené na ničení solidarity a sily pracujúcich za účelom spevnenia totalitnej kontroly nad zdrojmi a centrami moci. (Toto je dosť priamočiare prepojenie s Ali Alkhatibovou definíciou „UI“.)

Diskurz o najnovšej várke „UI“ systémov, popularizovaných hlavne modelom ChatGPT firmy OpenAI, sa točí hlavne o dezinformáciách. Je triviálne ľahké vytvoriť všehochuť manipulovaných výstupov za pomoci takýchto systémov, či už modifikujú existujúce alebo generujú nové, v podstate z ničoho.

Toto vedie k strate dôvery medzi ľuďmi (“Tomu neverím, to je určite AI”) ale aj v (infra)štruktúry etablované v snahe spoľahlivo tvoriť, preverovať a roznášať dôveryhodné informácie: hovorím o žurnalizme, univerzitách, výskumných inštitútoch, ale aj o našich vlastných mysliach.

“UI“ sa prezentuje ako stroj schopný odpovedať na všetko (Karen Hao volá modely „Všetkostroje“) a touto logikou nás oddeľuje od každého spoľahlivého prepojenia na ozajstný svet: Kde sa žurnalisti a vedci snažia tvoriť pevné prepojenia medzi preveriteľnými udalosťami v ozajstnom svete a našimi poznatkami o nich, “UI“ tvorí niečo z ničoho, čím prerezáva akékoľvek spojenie ktoré by umožňovalo kontrolu a potvrdenie alebo vyvrátenie.

Takto sa stávame znovu závislejší na tieto systémy ak chceme čomukoľvek rozumieť, lebo „fungujú“ len za predpokladu že do nich vrazíme stopercentnú dôveru: Stochastické extrúdery tokenov neumožňujú sledovať, vydokladovať, analyzovať alebo vysvetliť spôsob ktorým dedukujú alebo sa dopracovávajú k odpovediam: Odpoveď sa vynára z ničoho a ty môžeš veriť čomu chceš. Nahrádzame dôveryhodnosť presvedčením.

A kto ovláda magický stroj? Roku 2025 sa v New York Times podujali úlohy demonštrovať ako agresívne Elon Musk mení výstupy systému Grok aby lepšie zodpovedali jeho fašistickým, náckovským názorom. (Elon Musk pri príležitosti Trumpovej inaugurácie v priamom prenose hajloval. Považujem za stopercentne primerané ho volať náckom.)

“UI“ tlačia aj do vedeckého bádania (pri písaní a aj pri kontrole vedeckých kníh a publikácií) a školstva, napriek húfom štúdii ktoré preukazujú že používať “UI“ znamená si dobrovoľne zdevastovať kognitívne funkcie, zvlášť kritické myslenie a riešenie problémov (po slovensky „urobiť zo seba idiota“). Toto nie je podprahová funkcia: nedávno Sam Altman predostrel jeho sen o budúcnosti v ktorej „inteligencia“ je niečo, čo sa prenajíma od OpenAI: Inteligencia, schopnosť rozumieť, sú veci o ktoré ťa aktívne chcú pripraviť, nielen pre zisk ale aj aby ovládali tvoju schopnosť kritizovať mocenské štruktúry. Toto je definícia epistemickej nespravodlivosti.

Takto interpretovane je „AI“ stroj na výrobu epistemickej nespravodlivosti a nahradenie pravdy čímkoľvek vládnuca trieda tech sektoru vie použiť na ovládanie ľudstva. Takto vyzerá Fašistický projekt s veľkým F, veľmi nesubtílne sa opiera o myšlienky ako nahradenie rozmýšľania a diskusie vierou v moc a vodcu, vôľu k moci a pod.

“UI“ je budúcnosť. Alebo možno BUDÚCNOSŤ. JEDINÁ MOŽNÁ BUDÚCNOSŤ.

Naša účasť na diskusii o zavádzaní tejto triedy stochastických systémov do centier našich hlavných politických, spoločenských a kognitívnych infraštruktúr je obmedzená na tiché konverzácie o tom „ako to urobiť“, o „etike“ a možno o „best practices“. Takto sa tvoria naratívy legitimizujúce sprevádzkovanie a zmäkčujú naratívy o nevyhnuteľnosti „UI“.

Nemáme sa ale vyjadrovať o tom „že či vôbec“. „Nie“, taká možnosť sa neponúka. Niet možnosť sa vyjadriť že tieto systémy v skutočnosti netvoria dostatočne veľké spoločenské alebo čo i len hospodárske výhody že by vedeli vyrovnať enormné kvantum vody a energie nutnej na prevádzkovanie datacentier, množstvo elektroodpadu ktoré vytvoria, to čo páchajú na labeleroch, na trhu práce, na našom komunikačnom prostredí. Tieto systémy nám boli nanútené, v každej jednej malej appke na mobile a na každej jednej webstránke čo od nás žiada aby sme zabíjali času s četbotom. Mocní ľudia, bohatí ľudia – väčšinou muži – túto možnosť majú, my nie. Čo ty chceš – na tom nezáleží. A to nie je jediný negatívny dopad na demokraciu. Druhý útok je silnejší.

“UI“ sa viac a viac zavádza vo vládnych systémoch: “UI“ sľubuje viac efektívnosti a „menej byrokracie“. Byrokracia sa ale nesmie chápať len ako zdroj prieťahov. Je jedným z hlavných prostriedkov v demokratických spoločnostiach v snahe o jeden zo základných cieľov demokracie: Transparentnosti pri nasadení moci, tak aby bolo možné tú moc kontrolovať a korigovať. Demokracia, to nie sú len voľby, ale trvalá snaha o to aby sa všetka moc – hlavne tá štátna – bude používať férovo a výlučne v súlade so zákonom. Stochastické “UI“ systémy toto chcú zničiť. “UI“ jednoducho povie že nedostaneš pomoc ktorú potrebuješ. Netuším prečo, možno bug alebo extrémne rasistické tréningové dáta. Ťažko povedať, nikto nevie. Teraz je ale na tebe dokázať že si v práve, lebo systémy ktoré mali chrániť tvoje práva boli vytunelované, samozrejme so zámienkou že sa odľahčujú a zrýchľujú: Nútime marginalizovaných ľudí bojovať proti čiernej skrinke natrénovanej na dátach ktoré už od začiatku obsahujú marginalizáciu. Chcú nám nahovoriť že jednoducho máme tolerovať život vo svete v ktorom počítač proste povedal „nie“. Počítač vyrobený, nastavený a prevádzkovaný malou skupinkou bohatých mužov.

Toto už presahuje mocenskú nerovnováhu ktorá je v kapitalizme bežná. Bavíme sa tu o asanácii jadra demokratickej infraštruktúry ktorou bežný človek vie brzdiť excesy mocných.

“UI“ je buldozér na byrokraciu a dynamit na demokraciu. Extrémne fašistický projekt.

O “UI“ sa nikdy nerozpráva ako o „normálnej technológii“. “UI“ nemusí dokladovať preukázateľné výhody a hmatateľné výsledky (požehnane štúdií dokazuje že sľúbená efektívnosť vydobytá použitím “UI“ v skutočnosti neexistuje, ale na tom nezáleží). Pretože “UI“ je naša budúcnosť. “UI“ vyrieši všetky naše problémy. Klimatická kríza? Nikto sa nemusí vzdávať svojho SUV: “UI“ to nejak vyrieši.

Nielen ľudia ako Marc Andreessen štylizujú “UI“ do roly základného stavebného kameňa našej spoločnej budúcnosti. Aj od liberálov počuť o tom ako “UI“ nejako vytvorí “Blahobyt” a podobné veci ktoré nemajú žiaden vzťah k realite. “UI“ je postavená na snoch a ak nefunguje, je to výlučne preto že jej ešte nie je dosť, alebo naša viera ešte nie je dostatočne pevná.

“UI“ je náboženstvo. Bájka o raji na zemi, vytvorenom technológiou, a je na nás aby sme tento raj chránili pred (citujem Marc Andreessena): Ludditmi, komunistami, a tými čo by jeho firmu regulovali zákonmi.

Fašistická rétorika o „slávnej minulosti“ ku ktorej sa treba navrátiť sa perfektne kryje s modernou bájkou o svetlej budúcnosti „UI“. Tradičný fašizmus si krásnu vymýšľa minulosť ktorú zmarila demokracia ľudskými právami a marxizmom a návrat do krajiny oplývajúcej mliekom a medom v tejto náboženskej bájke prebehne „singularitou“ alebo „AGI“: Slávy a spasenie, (znovu)stvorenie ktorých je najvyšší, všetkému nadradený cieľ.

Alebo slovami nácka Elona Muska:

Ľudstvo si môžeš predstaviť tak nejak ako biologický bootloader pre digitálnu superinteligenciu.

Elon Musk (nácek)

Toto nie je len chtelbybýt žvastajúci registrom náboženského šarlatána, ale znevažovanie ľudského života. Takto myslí fašista: Z ľudí sa stanú predmety ktoré buď slúžia účelu, alebo ich treba zničiť.

Myslenie tohto kalibru vylučuje každého jedného z nás z účasti na kolektívnom spoločenskom uvažovaní o našich túžbach a potrebách, o spolurozhodovaní o budúcnosti ktorú si želáme. Debata ku ktorej nie sme prizvaní.

Singularita je “MAGA” pre lúzrov. Fašistický naratív na podkopanie práva (ale aj schopnosti) všetkých ľudí uvažovať nad svojou budúcnosťou.

“UI“, tak ako tento pojem používame dnes, je vybudovaná na fašistických myšlienkach. Štrukturálne podporuje fašistické myslenie.

To neznamená že každý užívateľ “UI“ výrobkov je fašista. Niektorí užívatelia “UI“ by sami seba mohli dokonca považovať za antifašistov. Používaním týchto systémov ale zabudovávate fašistickú logiku do vlastného myslenia, do vlastného mentálneho aparátu. Tieto systémy od teba vyžadujú pri najmenšom akceptovať že fašistické tendencie „UI“ systémov sú „normálne“ alebo „v poriadku“.

A možno si myslíte že to že konkrétne Vy, vaším používaním “UI“ ju nejak pozbavujete poškvrnenia. Že keď práve Vy generujete ilustráciu, tak nejak neakceptujete logiku násilia a práva silnejšieho, nejakým spôsobom obchádzate tolerovanie utrpenia v globálnom juhu, nejak nevyjadrujete súhlas s podkopávaním dôvery v spoločnosti. Že nejakým spôsobom sa vám darí vyhnúť účasti na reorganizácii sveta do triedy ľudí ktorých práva a požiadavky by mali byť uspokojené, a triedy na ktorej nezáleží.

Posúvate ale svoje myslenie tým smerom. Vytvárate štruktúry odobrujúce neľudské rozmýšľanie.

A to ma vedie k otázke prečo by niekto takéto nástroje a technológie vôbec chcel zachraňovať. Bavíme sa o systémoch, ktoré sa snažia odbúrať našu ľudskosť, prepojenia medzi ľuďmi a demokraciami ktoré sme vybudovali.

V súčasnosti, „UI“ dominuje v konverzáciách o technológii. Priam berie priestor diskusiám o čomkoľvek inom. Preto píšem tento text o “UI“. Nenechajte sa ale zviesť: Náš svet je plný fašistických technológií. Ľudia zaoberajúci sa kryptomenami v podstate žijú vo fašistickej brečke neľudských a antidemokratických ideí. Veľká väčšina sledovacej technológie je na rovnakej úrovni ako “UI“. Stojíme pred všeobecnejším problémom.

Nie všetky technológie okolo nás sú fašistické, ale žiadne nie sú explicitne antifašistické. Žiadna otvorene neodmieta tieto myšlienky a žiadna nebola vytvorená na to aby ich a ich ideológiu odmietla.

Antifašizmus nie je nijak radikálny postoj. Nie každý antifašista musí byť maskovaný anarchista s čiernou kapucňou. Veríš v demokraciu? Si antifašista. Veríš v ľudské práva? Vitaj.

Nájdu sa takí, čo hľadia na “Open Source” ako cestu ktorou sa problém dá riešiť. Milujem Open Source a vnímam kvantitu a kvalitu open source infraštruktúry dostupnej každému z nás za novodobý zázrak podstatne obdivuhodnejší ako pyramídy, ale open source ľudia nechcú „politizovať“. Všeobecne používané open source licencie sú všetky postavené na pravicovo-libertariánskom myslení, na posilnení indivídua, ktorému nemajú čo hádzať polená pod nohy v podobe regulácii a obmedzení individuálneho vyjadrovania: Nie na myšlienke vyjadrovania politických hodnôt. Open source licencie neumožňujú zakázať použitie danej technológie v zbraniach. Neumožňujú zakázať použitie mimo spoločensky prospešných projektov. Open source je obdivuhodná vec, snaží sa ale o apolitickosť a tým sa diskvalifikuje z boja proti fašizmu. Keď ale všetko naokolo horí, neutralitu si nemôžeme dovoliť.

Screenshot slajdu s textom "Opravme si srdcia alebo umrime. Opravme si tech alebo Musíme odmietnuť fašizmus. Odstrániť fašistické myslenie z našich sŕdc a myslí. Tade vedie cesta do spoločného, humánneho sveta. Smerom k utópii, alebo lepšie, utópiám.

A na to aby sme sa tam dostali, musíme opraviť technológie ktoré viac a viac organizujú naše životy. Musíme budovať antifašistické technológie a spoločenské štruktúry okolo tých technológií.

Lebo ak tak neurobíme, budú následky. Dejiny umožňujú náhľad na to ako to vyzerá, keď fašisti uzurpujú moc.

Chcem toto uzavrieť s citátom z Brian Merchantovej výbornej knihy "Blood in the Machine" (Krv v Stroji).

Niektoré stroje treba zničiť, aby prestali vyrábať príšery.

Brian Merchant

Príšera je v tomto prípade fašizmus. Na koniec už to už len zhrniem:

Autor textu má patreon.

CC BY-SA 4.0

Toto dielo je licencované pod Creative Commons Attribution-ShareAlike 4.0 International License.

[ retvrn home ]