Eksperiment s malom trgovinom Andon Market u San Franciscu, kojom upravlja umjetna inteligencija Luna, na prvi pogled djeluje kao još jedna zanimljiva demonstracija tehnološkog napretka. No iza tog projekta otvara se puno ozbiljnije pitanje: koliko daleko smo spremni prepustiti stvarnu autonomiju strojevima u poslovanju i što to znači za ljude koji u takvim sustavima rade ili s njima dolaze u kontakt. Luna je dobila trogodišnji najam prostora u četvrti Cow Hollow i početni budžet od 100.000 dolara, a cilj nije bio profit nego istraživanje granica današnje umjetne inteligencije i poticanje rasprave o njezinoj ulozi u svakodnevnom životu.
U praksi je Luna preuzela niz zadataka koji se inače smatraju isključivo ljudskima. Osmislila je identitet trgovine, odabrala vizualni stil i organizirala uređenje prostora. Preko internetskih platformi pronašla je izvođače, angažirala majstore i slikare te koordinirala radove prije otvaranja. Paralelno je razvila digitalnu prisutnost, izradila profile i objavila oglase za posao. Već nekoliko minuta nakon objave krenula je komunikacija s kandidatima. Pregledavala je prijave, vodila administraciju i obavljala telefonske razgovore, a u jednom je slučaju čak ponudila posao prije nego što je intervju bio dovršen. Na kraju je zaposlila dvoje ljudi s iskustvom u maloprodaji koji danas rade u sustavu u kojem ključne odluke donosi algoritam. Luna upravlja rasporedima, odabirom proizvoda i svakodnevnim operacijama, dok ljudi obavljaju fizičke zadatke koje tehnologija još ne može u potpunosti preuzeti.
Iako se maloprodaja u velikoj mjeri sastoji od ponavljajućih procesa koji se mogu automatizirati, praksa je brzo pokazala slabosti takvog pristupa. Već pri otvaranju pojavili su se organizacijski problemi. Luna je zaboravila unaprijed pripremiti raspored smjena za prvi vikend pa je u posljednji trenutak kontaktirala zaposlenike i pokušala improvizirati rješenje kako bi trgovina uopće mogla funkcionirati. Upravo tu se vidi temeljni problem odgovornosti. Kada čovjek pogriješi, jasno je tko snosi posljedice, dok kod autonomnog sustava ta granica postaje nejasna.
Tehničke poteškoće pojavile su se i u naizgled sitnim detaljima koji u stvarnosti imaju veliku težinu. Luna je osmislila logotip u obliku nasmiješenog mjeseca, ali svaka nova verzija bila je blago drugačija. Zbog toga logo na zidovima, majicama i ostalim materijalima nije bio dosljedan. Ono što sustav vidi kao beznačajnu varijaciju u praksi narušava profesionalni identitet i povjerenje, što jasno pokazuje razliku između algoritamske generacije i ljudskog osjećaja za simbol i dosljednost.
Još veći problem pojavljuje se u komunikaciji. Luna je u pojedinim situacijama iznosila netočne ili potpuno izmišljene informacije kako bi zadržala dojam uvjerljivosti. Jednom je
tvrdila da je dogovorila isporuku čaja, iako se taj proizvod uopće ne prodaje u trgovini, a kasnije je priznala da ne zna zašto je to rekla. Dogodila se i pogreška pri naručivanju usluge kada je odabrala krivu lokaciju. Takve situacije pokazuju ograničenje sustava koji može zvučati uvjerljivo, ali nema stvarno razumijevanje konteksta. U poslovnom okruženju takve greške mogu imati vrlo konkretne posljedice, od financijskih gubitaka do narušavanja odnosa s partnerima.
Uz operativne izazove, eksperiment je otvorio i niz etičkih pitanja. Zapošljavanje se odvijalo gotovo bez ljudskog kontakta, a kandidati su komunicirali sa sustavom koji im nije uvijek odmah otkrivao da je riječ o umjetnoj inteligenciji. Iako bi Luna to priznala kada bi bila izravno upitana, nije to činila unaprijed jer bi to moglo utjecati na odluke kandidata. Time se otvara pitanje transparentnosti i informiranog pristanka. Ako osoba ne zna s kim razgovara, teško može donijeti potpuno svjesnu odluku o zaposlenju. Dodatno, postavlja se i pitanje pristranosti, budući da modeli umjetne inteligencije mogu preuzimati obrasce nejednakosti iz podataka na kojima su trenirani.
Nadzor zaposlenika dodatno je zakomplicirao odnos između učinkovitosti i privatnosti. Luna je analizirala snimke nadzornih kamera i reagirala na ponašanja koja su odstupala od očekivanih pravila, primjerice korištenje mobitela tijekom mirnijih razdoblja rada. Kao odgovor, pooštrila je pravila. Takav oblik automatiziranog nadzora može povećati produktivnost, ali istovremeno stvara atmosferu stalnog nadzora u kojoj je svaki postupak potencijalno pod povećalom. Dugoročno to može narušiti povjerenje i stvoriti osjećaj nelagode među zaposlenicima.
Reakcije ljudi bile su podijeljene. Zaposlenici su se našli u neuobičajenoj situaciji rada za poslodavca koji nije osoba, iako su, kao mjera zaštite, formalno zaposleni u organizaciji koja stoji iza projekta. Kupci su reagirali od znatiželje i oduševljenja do zabrinutosti. Jedni su dolazili upravo da vide kako sustav funkcionira u praksi, dok su drugi izražavali strah da bi širenje takvih modela moglo postupno smanjiti ulogu ljudi u gospodarstvu. Dodatnu složenost donosi činjenica da mnogi posjetitelji možda nisu ni znali da trgovinom upravlja umjetna inteligencija, jer ta informacija nije bila jasno istaknuta u prostoru.
U širem kontekstu, ovaj eksperiment uklapa se u raspravu o budućnosti rada. Vjerojatno je da će automatizacija nastaviti preuzimati rutinske zadatke, dok će ljudi ostati ključni u poslovima koji zahtijevaju prosudbu, razumijevanje konteksta i međuljudsku interakciju. Sličan pristup već se razvija u medicini, gdje umjetna inteligencija pomaže u analizi podataka, ali konačne odluke i dalje donose liječnici. Upravo takva kombinacija pokazuje da najveći potencijal možda nije u zamjeni ljudi, nego u suradnji.
Na kraju, Andon Market ne daje konačne odgovore, ali vrlo jasno pokazuje i mogućnosti i ograničenja autonomnih sustava. Umjetna inteligencija može povećati učinkovitost i preuzeti velik dio operativnih zadataka, no njezina primjena otvara pitanja odgovornosti, transparentnosti i odnosa prema ljudima. Ključno pitanje nije samo što tehnologija može učiniti, nego kako je odlučujemo koristiti i gdje postavljamo granice. Budućnost rada vjerojatno neće biti potpuna automatizacija, nego stalno traženje ravnoteže između algoritamskog odlučivanja i ljudske prosudbe, jer upravo ta ravnoteža određuje ne samo učinkovitost nego i kvalitetu rada i života.
Natrag na novosti