Hinjena briga o apokalipsi

Citati iz prethodnog paragrafa nasumično su odabrani naslovi nekih od tekstova o “umjetnoj inteligenciji” objavljenih u raznim hrvatskim medijima tijekom prva četiri dana lipnja. Sama količina članaka pokazuje koliko se pozornosti svakodnevno posvećuje toj temi, kao što i njihov sadržaj opravdava određene zaključke o prevladavajućim pristupima i narativima o umjetnoj inteligenciji – primjerice da dominiraju hype, zabrinutost i nova laka novinarska forma “pitali smo umjetnu inteligenciju da…”. Dominiraju i narativi o novim proizvodima, najavama i inicijativama koje na neki način uključuju “umjetnu inteligenciju” – od pametnih telefona, chatbotova ili tenisica do seks robota, dronova i digitalnog očuvanja mozga. Primjerice, prema već pet godina staroj studiji iz Reutersovog Instituta za proučavanje novinarstva, gotovo je 60 posto medijskih sadržaja o umjetnoj inteligenciji u Ujedinjenom kraljevstvu bilo usredotočeno na nove proizvode, a jedna trećina članaka temeljila se na industrijskim izvorima – uglavnom izvršnim direktorima ili drugim višim rukovoditeljima. Medijsko pokrivanje teme dakle prenosi i prenaglašava samointeresne tvrdnje industrije o vrijednosti i potencijalu umjetne inteligencije, dok ju istovremeno pozicionira kao prvenstveno privatni i komercijalni pothvat, zaključeno je u Reutersovoj studiji.

Štetnost nekritičkog preuzimanja narativa tehnoloških koorporacija osim u novinskim naslovima vidljiva je i u načinima na koje razmišljamo o novoj tehnologiji. Primjerice, direktori kompanija, tehnološki poduzetnici i oni koji se vole tako predstavljati – u muškom rodu jer se često baš radi o stereotipnim bijelim i bogatim muškarcima-stručnjacima-genijalcima-izumiteljima – osim njene revolucionarne inovativnosti, vole isticati i potencijalne opasnosti umjetne inteligencije. Uglavnom spominju apstraktne apokaliptične bojazni o kraju svijeta. Iako ona zvuče ozbiljno i alarmantno, teško je oteti se dojmu da se radi o hinjenoj brizi, a ne o još jednom načinu cinične proizvodnje hypea koji se oslanja na prepoznatljivost lekcija iz žanra distopijske znanstvene fantastike – “vidite kako smo stvorili naprednu i opasnu tehnologiju, toliko je napredna da je Skynet možda iza ugla, sva sreća da je u dobrim rukama i da cijene dionica moje kompanije rastu”. Skepticizam opravdava i činjenica da se zbog apstraktnih apokaliptičnih narativa mnogo manje pozornosti posvećuje konkretnim i aktualnim problemima koje implementacija automatiziranih sustava povlači sa sobom: perpetuiranje rodnih, rasnih i klasnih nejednakosti, centralizaciju tehnologije, utjecaja na rad, algoritamske pristranosti, kompenzacije za autorska prava, veliku potrošnju energije, automatizirano kreiranje lažnih informacija i nebrojenih drugih. Drugim riječima, skretanje pozornosti od konkretnih problema prema onima apstraktnim i dugoročnim važna je ideološka poluga u kreiranju tehnološkog hypea.

Tehnologija kao diskurs

Stoga, kako ne bi dalje pridonosili mistifikaciji teme, odmaknimo se korak unatrag i postavimo pitanje: što je uopće umjetna inteligencija? Alati poput sada već famoznog ChatGPT-ja počivaju na konceptu neuralnih mreža i takozvanom strojnom učenju. Ukratko, radi se o nizu matematičkih operacija i tehnika koje omogućuje prepoznavanje uzoraka u digitalnim podacima. Detektirani uzorci formiraju se u modele iz kojih je moguće generirati i nov sadržaj. Na primjer, ako programeri u neuralnu mrežu ubace veliku količinu slika mačaka, on će izgraditi vlastitu “ideju” ili softverski model kako izgleda slika mačke, na temelju kojeg može prepoznati nove slike ili pak stvarati vlastite rekombinacijom “naučenih” značajki. (Tehnički iscrpan opis tehnologije možete pronaći ovdje.) Međutim, tehnologija nije monolitna pojava odvojena od društvenih odnosa, a pogotovo to nije kada govorimo o aktualnim automatiziranim sustavima, jer da bi uopće mogli prepoznati uzorke i na temelju njih generirati sadržaj, trebalo ih je “istrenirati” na podacima koje su proizveli stvarni ljudi. Valja i spomenuti da su ti podaci preuzeti s interneta bez izričitog pristanka vlasnika_ca – primjerice, proizvodi mnogih umjetnica_ka korišteni su za treniranje modela koji će potencijalno smanjiti vrijednost njihova rada – kao i da se za označivanje podataka kako bi uopće bili upotrebljivi izrabljuje milijune osoba s globalnog juga. 

Upravo zbog pobrojanih karakteristika, autori i tehnološki teoretičari poput Evgenija Morozova, Coryja Docktrowa i Jamesa Bridlea nedavno su kritizirali sam termin zato što “umjetna inteligencija” zapravo nije ni umjetna, a ni inteligentna. U grubim crtama, budući da se automatizirani sustavi temelje na minulom radu stvarnih ljudi, kao i na bazičnoj logici usklađivanja uzoraka neusporedivim sa složenosti i kreativnosti ljudske inteligencije, naziv “umjetna inteligencija” tek antropomorfizira i dodatno mistificira komade softwarea. Sličan su argument istaknule i teoretičarke Timnit Gebru i Margaret Mitchell nazvavši velike jezične modele stohastičkim papigama – drugim riječima, sofisticiranim sustavima za statističko pogađanje sljedeće riječi u rečenici bez bilo kakve reference na njihovo značenje – što je 2020. godine pridonijelo njihovom otkazu u Googleu, ironično u tamošnjem odjelu za etičku umjetnu inteligenciju. Iako nije teško složiti se s navedenim argumentima, oni ne umanjuju nužno značaj termina “umjetna inteligencija”, već samo ukazuju na njegovu korisniju primjenu. Termin zapravo možemo promatrati kao ime za niz metafora, narativa i diskursa – uostalom, predodžbe o umjetnoj inteligenciji mnogo toga duguju žanru spekulativne fikcije, žanra s tradicijom znatno bogatijom od aktualnog hypea, tako da ionako originalno riječ o metafori.

Automatizacija opresije

Dakle, umjetna inteligencija je široko korišten, ali labavo definiran pojam koji pokriva izuzetno raznolik spektar ideja, predodžbi, teorija, ideologija, tehnologija i tehnika. Sama ovisnost softverskih modela o podacima koje generiraju stvarne osobe pokazuje koliko su aktualni automatizirani sustavi uronjeni u postojeće ekonomske, društvene i kulturne odnose – i koliko te odnose reproduciraju i reificiraju. Postoje mnogobrojna upozorenja na veliku opasnost da automatizirani sustavi dodatno pojačavaju i osificiraju postojeće društvene nepravde, kao i da prioritiziraju zapadnjačke perspektive, npr. time što su većinom izgrađeni i najbolje funkcioniraju na engleskom jeziku, čime pridonose održavanju neokolonijalnih odnosa moći. 

Međutim, problemi nisu ograničeni samo na reprezentaciju, već postoje i u samim temeljnim pretpostavkama automatiziranih sustava. Primjerice, korisno je prisjetiti se kako je sama koncepcija inteligencije ukorijenjena u eugenici i ideji bjelačke nadmoći. Kako u članku Eugenics Powers IQ and AI navodi psihologinja Natasha Stovall, pojam inteligencije kao mjerljive, fiksne i hijerarhijske osobine koja varira među etničkim skupinama popularizirali su eugeničari poput Lewisa Termana. Njegova definicija inteligencije još uvijek oblikuje suvremeno znanstveno i popularno razumijevanje ljudskih sposobnosti te utječe na obrazovne, psihološke i profesionalne prakse. Prema Stovall, Termanove koncepcije posredno su utjecale i na formiranje ideoloških pretpostavki koncepta umjetne inteligencije: “Eugenika potajno sjedi u srcu ne samo koncepta IQ-a nego i umjetne inteligencije. Ukoliko ne dođe do radikalnih promjena, sljedeće stoljeće donijet će zalaganje za superiornost umjetne bijele inteligencije i reifikaciju njezine moći.”

Mistični prizvuk koji koncept “umjetne inteligencije” donosi za sobom zaslužan je za niz pretpostavki i zabluda o tome što ona može, a što ne može učiniti, kao i o tome kako se može dizajnirati, regulirati i integrirati u društvo. Kada se toj mistici pridruži vjerovanje u tehnološki solucionizam – ideološko shvaćanje kako društveni, klimatski i ekonomski problemi nisu politička pitanja, već izazovi koji se mogu riješiti pronalaskom odgovarajućih tehnoloških rješenja pod vodstvom uskog shvaćanja racionalnosti i inteligencije – onda postaje bjelodano u kojoj je mjeri diskurs o tehnologiji depolitiziran i prilagođen potrebama velikih kompanija. Možda bismo upravo u kolopletu svih spomenutih okolnosti mogli pronaći razlog aktualnoj fascinaciji automatiziranim sustavima. Naime, u jednom konceptu sadržana su nebrojena prijeporna područja iz raznoraznih disciplina: pitanja o svijesti, regulaciji tehnoloških kompanija, mogućim rješenjima klimatskih promjena, privatnosti podataka, novim oblicima rada, autorskim pravima, značenju kreativnosti, životu, mogućnosti većeg slobodnog vremena, bulšit poslovima, digitalnoj reprodukciji patrijarhata, rasizma i nejednakosti, praksi znanstvenog rada…

Zaslužujemo bolje od alata koje koristimo

Interes koji pokazujemo za problem umjetne inteligencije zapravo je velikim dijelom vezan za aktualne društvene probleme i načine na koje ih možemo riješiti. No kada o navedenim problemima govorimo u kontekstu tehnologije, nerijetko se ograničavamo na liberalnu i solucionističku etičku perspektivu. Primjerice, kritički glasovi koje možemo čuti o automatiziranim sustavima pozivaju upravo na potrebu za uvođenjem neke vrste etičnosti. Čak i ako zanemarimo da ne postoji konsenzus o tome što je etično, takav pristup odgovara velikim kompanijama jer suštinski ne mijenja postojeće odnose moći u kojima ih nekolicina kontrolira ključne tehnologije, kao i infrastrukturu potrebnu za njihov razvoj. Korisnije automatizirane sustave čiji će razvoj biti vođen s ciljem smanjenja društvenih nepravdi, kao i repetitivnog i značajnim dijelom beskorisnog rada, moguće je graditi samo izvan okvira velikih korporacija, a za to nam nisu potrebni apstraktni misaoni eksperimenti i etika, već  kolektivno političko djelovanje.

Kako je to u svom nedavnom tekstu Glupost umjetne inteligencije zaključio James Bridle: “Pouka trenutnog vala ‘umjetne inteligencije’ jest da je inteligencija jadna stvar kada je zamišljaju korporacije. Ako je vaš pogled na svijet onaj u kojem je maksimiziranje profita središnja vrlina, kao i onaj da sve stvari treba mjeriti prema standardu vrijednosti za dioničare, tada će, naravno, vaši umjetnički, maštoviti, estetski i emocionalni izričaji biti jako osiromašeni. Zaslužujemo bolje od alata koje koristimo, medija koje koristimo i zajednica u kojima živimo, a dobit ćemo ono što zaslužujemo samo kada budemo sposobni u potpunosti sudjelovati u njima. I nemojte ih se prestrašiti – stvarno nisu tako komplicirani. Kao što je napisala legenda znanstvene fantastike Ursula K Le Guin: ‘Tehnologija je ono što možemo naučiti raditi.'”

Ovaj članak objavljen je u sklopu projekta Ekosustavima uključive kulture koji je sufinanciran sredstvima Fonda za poticanje pluralizma i raznovrsnosti elektroničkih medija.