AI despotizam

Fašizam u stvarnosti nikada nije pobijeđen. No, pored jačanja autoritativnih režima, jačanja ultra-desnih i klerikalnih pokreta, kada pogledamo već na susjednu Hrvatsku, i jačanje Domovinskog pokreta koji postaju novi „kraljotvorci“, pored pokreta sličnih manira i ciljeva u Srbiji, kakvi su Živim za Srbiju, Dveri i Zavetnici (Oathkeepers), pored kriptokonzervativizma bosanskih čaršija i mahala, postoji još jedan novi izvor opresije i fašizma – nehumana i megalomanska upotreba umjetne inteligencije (vještačka inteligencija, AI), isključivo u cilju sticanja profita.

„Umjetna inteligencija je posvuda, ali nanosi štetu društvu na načine koji se ne mogu popraviti. AI uzrokuje podjele koje ograničavaju životne šanse ljudi, pa čak i predlaže fašistička rješenja društvenih problema“, navodi se u najavi za knjigu Resisting AI Dana McQuillan iz 2022.

Dok mi radimo fizikanerske poslove, umjetna inteligencija se bavi kreativom

Negdje eterima interneta kruži mim u kojem se govori kako je umjetna inteligencija trebala pomoći ljudima da jednostavnije rade kućne poslove i repetitivne zamorne poslove, a ljudi da se posvete kreativnom i duhovnom radu, a događa se suprotno – umjetna inteligencija se bavi kreativnim poslovima, a ljudi prekarno i prekovremeno drniče besmislene poslove bez vremena za duhovnu nadogradnju.

Pri tome, ispada da jedini poslovi u kojima nas AI ne može zamijeniti jesu fizikanerski, težački sezonski poslovi, poput gradnje cesta i zgrada ili branja malina. Ali, svakako za fizičke poslove postoje migranti, zar ne? I ovo nije nimalo smiješno, kao što donji mim predstavlja:

Umjesto da nam pomogne u rješavanju trenutnih kriza, poput klimatske krize ili da nas oslobodi fizički poslova, umjetna inteligencija uzrokuje podjele i polarizaciju koje ograničavaju životne perspektive niza ljudi. Ona nije neutralna i pravedna kako bi samo naivni zaključili – postoji algoritamska pristranost, algoritamska diskriminacija, a nedavno je pokazano i kako je AI, recimo Meta-in Cicero, sklon obmanama i varanju.

Jasno je kako postojei dosta korisnih stvari koje umjetna inteligencija može uraditi – predviđanje strukture molekula, in silico testiranja lijekova i razvoj lijekova, pogotovo itekako potrebnih antibiotika, u svemirskim misijama, pa kao pomoć prilikom rekonstrukcije drevnih spisa.

Ili u medicini u dijagnostičkim procesima, održavanju medicinskih evidencija, pomoć u obradi podataka, tamo gdje je potreban repetitivni rad, recimo pregled rendgenskih ili MRI slika i slično te u analizi sistema zdravstvene zaštite, primjerice kako bi se smanjile nepotrebne hospitalizacije.

Ovo su sve važne upotrebne umjetne inteligencije, i ovaj članak nije poziv na to da AI treba u potpunosti izbjegavati ili zabraniti. Ovo je kritika neracionalne, besmislene i štetne upotrebe umjetne inteligencije. Generativna umjetna inteligencija danas kao da se više koristi za besmislene i opasne stvari, poput kreiranja realističnih videa i sprdačinu, a ne za stvari koje stvarno mogu pomoći čovječanstvu. Tu je i kreiranje AI glasova i AI avatara, koji se sve češće koriste u marketinške svrhe, bez da iko spoemne kako ti mehanički glasovi zapravo djeluju odbojno i potencijalno tjeraju klijente. I te isprazne upotrebe AI ne samo da mogu biti štetne zbog širenja dezinformacija, nego su i potpuno besmisleno trošenje resursa i energije.

AI je sistem koji treba resurse

Umjetna inteligencija traži i resurse za razvoj i normalno funkcionisanje, odnosno električnu energiju – čime utječe na povećanje ugljičnog otiska i doprinosi klimatskim promjenama. Već sad smo u nekoj vrsti Matrixa – radimo kako bi mašine imale dovoljno energije i podčinjavamo se začaranom krugu potreba sredstava za proizvodnju. Odnosno, sredstvo za proizvodnju postaju u ovakvom sistemu vrednije od čovjeka, baš kao što je su automobili u industrijskoj revoluciji postali vredniji od ljudskog života. Drugim riječima – postajemo robovi mašina.

Umjetna inteligencija počiva na kolonijalizaciji i eksploataciji u svojoj osnovi, jer troši energiju i ima priličan ugljični otisak (ovo se nastoji smanjiti, doduše) i počiva eksploataciji određenih metala potrebnih za stvaranje i održavanje ovih sistema.

Problem umjetne inteligencije je i u tome što je ovisna o podacima i prilikom „hranjenja” može pokupiti negativne šablone, pristranosti i diskriminacije, naročito kod nesuperviziranog treniranja. Prije ere ChatGPT-ija, Microsoft je (2016. godine) testirao Chatbota @TayAndYou na (tadašnjem) Twitteru. U roku od 24 sata, bot je, hranjen govorom mržnje, postao naci i Microsoft ga je ugasio.

AI pogoršava problem prekarnosti

Tu je i problem koji već spomenuti Dan McQuillan spominje u Resisting AI – problem da umjetna inteligencija pogoduje prekarizaciji poslova, odnosno stvaranju kratkoričnih radnih mjesta na kojima radnici nemaju optimalna ili nemaju nikakva čak radnička prava, stanju u kojem su ljudi izloženi večoj eksploataciji i ugroženosti. Monetarizacija podataka i prekarni rad, smanjenje nivoa ljudskih i radničkih prava imaju jednu tajnu vezu o kojoj se malo priča i slabo je vidljiva i razumljiva većini ljudi.

Također, već sad se pokušava da plate radnika budu kontrolisane nekim AI skorom, poput slučaja kada je AI mjerio koliko barmen kafa može poslužiti mušterijama(na 1:00.00), kao i problem nadzora ljudi.

AI modeli prepoznavanja lica su više trenirani na licima bijelaca, pa ne prepoznaju dobro lica druge boje i zamjenjuju ih, primjerice, sa gorilama. Neinkluzivnost i loši setovi podataka na kojima se deriviraju modeli dovode do algoritamske pristranosti.  Setovi podataka nisu vjerne, umanjene kopije stvarnog svijeta, nego prosto setovi do kojih su kompanije i institucije koje razvijaju tehnologiju uspjele doći. obično besplatno. Dakle, srednja žalost.

Dječije bolesti ili ne?

AI industrija nas pokušava uvjeriti kako je algoritamska (AI) nepravednost tek dječija boljka, to je nešto što će proći samo „dok se sistemi malo bolje utreniranju”. Da je to moguće, nepravednost bi nestala i u stvarnom životu. Pokušavaju nas uvjeriti da će bolji pravni okviri i regulacija AI dovesti do manje nepravde. Međutim, AI despotizam je produkt jedne dublje boljke – kasnog kapitalizma.

Ono što nam ne govore jeste da će nepravda najviše pogoditi one već marginalizirane, one na čijoj strani nisu ni institucije koje donose regulative. Pri tome, sve što čine zapravo je naduvavanje investicionog balona venture kapitalizma i (prečesto) prodavanje muda pod bubrege. Naime, AI sistemi (prečesto) ne rade ono što bi trebali raditi, baš zato što su derivirani na lošim i nepotpunim podacima.

A informacije je roba mase nula koja može imati enormnu vrijednost. To su shvatili u NYT i još neki izdavači su pokrenuli tužbe protiv OpenAI i Microsofta vezane za autorska prava i način korištenja. Ovi izdavači ne žele da se njihovi članci koriste kao hrana za vještačku inteligenciju.

Zagovornici AI predstavljaju kao način na koji izvodi duboke uvide svijeta, ali postoji mnogo znakova da su ti uvidi mogu biti iskrivljeni i nepouzdani. Statistička priroda strojeva

AI ima utjecaja i na izbore te je  političke učinke umjetne inteligencije potrebno pratiti, kao i načine na koje ona rezonira sa savremenim političkim i društvenim strujanjima, od globalne štednje do uspona krajnje desnice. Umjetna inteligencija je već postala sistem opresije.

U svijetu danas postoje stručnjaci koji nas pozivaju da se odupremo umjetnoj inteligenciji kakvu poznajemo i restruktuišemo je dajući prioritet opštem dobru nad algoritamskom optimizacijom. Potrebno je, prema autorima kao što je Dan McQuillan, postaviti antifašistički pristup umjetnoj inteligenciji i daje nove mehanizme koji bi se prilagodili promjenjivim vremenima podupirući kolektivnu i individualnu  slobodu. Zapravo, novo društveno uređenje u kojem monetarizacija nije imperativ opstanka. 

Napomena: naslovna ilustracija je kreirana, paradoksalno, baš alatima generativne umjetne inteligencije. Namjerno.

The post AI despotizam appeared first on Nauka govori.