Odločitev, kateri film bomo gledali, kateri izdelek bomo kupili, katero novico bomo odprli ali katero vsebino bomo prebrali, pogosto doživljamo kot svojo. In v pomembnem smislu tudi je. Toda digitalno okolje, v katerem izbiramo, ni nevtralno.
Algoritmi razvrščajo informacije, priporočajo izdelke, izbirajo vsebine, določajo vrstni red rezultatov in našo pozornost usmerjajo k nekaterim možnostim, medtem ko druge ostajajo skoraj nevidne. Raziskave priporočilnih sistemov zato opozarjajo, da algoritmi ne vplivajo samo na to, kaj nam je na voljo, temveč tudi na arhitekturo okolja, v katerem se odločamo.
Algoritmi in naše odločitve zato odpirajo pomembno psihološko vprašanje: koliko je odločitev res samo naša, če nekdo ali nekaj že pred nami določi, katere možnosti bomo najprej videli?
Odgovor ni preprost. Algoritem praviloma ne odloči namesto nas. Lahko pa pomembno oblikuje prostor, znotraj katerega se odločamo.
Odločamo sami, vendar ne v praznem prostoru
Predstavljajmo si, da želimo zvečer pogledati film.
Odpre se platforma. Pred nami je nekaj priporočil. Prvi film ima oznako, da je posebej primeren za nas. Drugi se pojavi med najbolj gledanimi. Tretjega platforma izpostavi z veliko fotografijo. Nekje globlje v katalogu je na tisoče drugih možnosti.
Na koncu kliknemo sami.
Toda ali smo izbirali med vsemi filmi?
Ne.
Izbirali smo predvsem med možnostmi, ki so postale dovolj vidne, da smo jih sploh vključili v svojo presojo.
Prav to je ena ključnih značilnosti priporočilnih sistemov. Jesse in Jannach opozarjata, da avtomatizirana selekcija in razvrščanje informacij vplivata na njihovo dostopnost ter s tem na proces odločanja. Zaradi tega lahko priporočilne sisteme razumemo tudi kot obliko digitalne arhitekture izbire.
To ne pomeni, da smo izgubili svobodno voljo. Pomeni nekaj psihološko zanimivejšega:
naša odločitev je lahko svobodna, čeprav okolje, v katerem jo sprejemamo, ni nevtralno.
Algoritem ne potrebuje ukaza, da bi vplival na nas
Vplivanje pogosto razumemo preveč ozko. Predstavljamo si osebo, ki nas želi v nekaj prepričati.
Toda vpliv je lahko veliko subtilnejši.
Že vrstni red informacij usmerja pozornost. Priporočilo določeni možnosti pripiše večji pomen. Primerjava ustvari referenčni okvir. Izpostavljena možnost postane kognitivno dostopnejša.
V Elegantni prodaji podobno opisujem psihologijo vplivanja: že vprašanje usmeri pozornost, priporočilo določeni možnosti poveča njeno težo, primerjava spremeni referenčni okvir, način predstavitve tveganja pa lahko spremeni doživljanje odločitve.
Digitalno okolje lahko uporablja podobna psihološka načela, le da jih pogosto izvaja avtomatizirano in v velikem obsegu.
Algoritmu nam ni treba prepustiti končne odločitve.
Dovolj je, da vpliva na to:
kaj bomo najprej opazili,
kaj bomo primerjali,
kaj bomo razumeli kot relevantno,
kaj bomo zaznali kot priljubljeno,
in katere možnosti bomo sploh vključili v razmišljanje.
Tu se začne psihologija algoritmičnega vpliva.
Ko algoritem določa arhitekturo izbire
Vedenjska znanost uporablja pojem arhitektura izbire za opis načina, kako je okolje odločanja strukturirano.
Možnosti namreč nikoli niso predstavljene popolnoma nevtralno.
Nekaj mora biti prvo.
Nekaj je poudarjeno.
Nekaj je privzeto.
Nekaj je predstavljeno kot priporočeno.
Nekaj zahteva en klik, nekaj drugega pet.
V digitalnem okolju imajo takšne podrobnosti posebno težo, saj lahko sistemi izbiro prilagajajo posameznemu uporabniku.
Raziskave digitalnega usmerjanja opozarjajo, da lahko vrstni red, privzete možnosti, poenostavljanje in okvirjanje vplivajo na vedenje, ne da bi uporabniku formalno odvzeli možnost izbire.
Zato pomembno vprašanje ni samo:
Ali lahko izberem drugače?
Pomembno je tudi:
Kako je okolje oblikovano, preden začnem izbirati?
Personalizacija spreminja tradicionalno vplivanje
Klasičen oglas je enak za veliko ljudi.
Priporočilni sistem je drugačen.
Lahko upošteva preteklo vedenje, klike, oglede, nakupe, čas zadrževanja pri določeni vsebini in druge podatke, odvisno od sistema in njegove zasnove.
S tem nastane pomembna sprememba.
Digitalno okolje ni več samo okolje, v katerem izbiramo. Lahko postaja okolje, ki se prilagaja našemu preteklemu vedenju.
Če pogosto gledamo določeno vrsto vsebine, jo sistem lahko začne prikazovati pogosteje. Ker jo pogosteje vidimo, jo lahko pogosteje izbiramo. Naše prihodnje vedenje nato postane nov podatek za naslednja priporočila.
Tako lahko nastane povratna zanka:
vedenje → podatki → priporočilo → pozornost → nova odločitev → novi podatki
Toda pri tem je potrebna previdnost.
Ni utemeljeno sklepati, da algoritmi preprosto ustvarjajo naše preference. Sodobne raziskave poudarjajo tudi aktivno vlogo uporabnika. Algoritmično okolje in človeške preference se lahko medsebojno oblikujejo, zato je preprosta zgodba, po kateri je človek zgolj pasivna žrtev algoritma, znanstveno preozka.
Okvirjanje: ista informacija, drugačen psihološki pomen
Eden najpomembnejših mehanizmov pri odločanju je okvirjanje.
V Elegantni prodaji uporabljam preprost primer.
Če rečemo, da 90 odstotkov uporabnikov uspešno zaključi proces, ali da 10 odstotkov uporabnikov procesa ne zaključi, opisujemo isto razmerje. Psihološki vtis pa ni nujno enak.
Tversky in Kahneman sta že v klasičnih raziskavah pokazala, da lahko način predstavitve alternativ vpliva na izbiro.
Digitalno okolje odpira dodatno možnost: okvir ni nujno enak za vse.
Informacija je lahko predstavljena na način, ki poveča njeno opaznost, poudari določeno korist, zmanjša kompleksnost ali uporabnika usmeri k eni možnosti.
To samo po sebi še ni manipulacija.
Vsaka predstavitev informacij ustvarja določen okvir.
Ključno vprašanje je, ali okvir človeku pomaga razumeti odločitev ali pa pomembne informacije prikriva.
V Elegantni prodaji to povzamem z načelom:
»Poenostavi razumevanje, ne resničnosti.«
Danijel Horvat, psiholog
Enako merilo lahko uporabimo pri digitalnih sistemih.
Priporočilo ni isto kot odločitev
Ko sistem napiše:
Priporočeno za vas
se lahko zgodi nekaj zelo človeškega.
Ni nam treba pregledati vseh možnosti. Nekdo je del dela že opravil.
To je lahko izjemno koristno.
Če bi morali na pretočni platformi pregledati deset tisoč naslovov ali v spletni trgovini primerjati tisoč podobnih izdelkov, bi bila odločitev izčrpavajoča.
Algoritem zmanjša kompleksnost.
Toda zmanjšanje kompleksnosti ima svojo psihološko ceno: zoži prostor, ki ga dejansko pregledamo.
Zato priporočilo ni zgolj informacija o možnosti. Lahko postane tudi filter pozornosti.
Pomembna pa je razlika med:
»Sistem mi je to priporočil.«
in
»To je zame najboljša možnost.«
Prva trditev opisuje priporočilo.
Druga že vsebuje presojo.
Med njima je prostor, v katerem bi moral ostati človek.
Več izbire lahko okrepi občutek avtonomije
Zanimivo je, da ljudje algoritmičnih priporočil ne zavračamo nujno zato, ker prihajajo od algoritma.
Pomembno je tudi, kako so predstavljena.
Fink, Newman in Haran so v treh spletnih eksperimentih preučevali odločanje ob algoritmičnih priporočilih. Ugotovili so, da so udeleženci priporočila pogosteje sprejeli, kadar jim je sistem ponudil več priporočenih možnosti namesto ene. Pomembno vlogo je imela zaznana avtonomija pri izbiri.
To je pomembno spoznanje.
Človek pogosto ne potrebuje popolne odsotnosti vpliva.
Potrebuje občutek in dejansko možnost, da lahko:
primerja,
dvomi,
zavrne,
poišče drugo možnost,
in sprejme odločitev po lastnih kriterijih.
Prav zato dobra podpora odločanju ni nujno tista, ki odloča namesto nas.
Lahko je tista, ki nam pomaga odločati kakovostneje.
Kdaj pomoč postane usmerjanje?
Meja ni vedno očitna.
Če navigacija predlaga najhitrejšo pot, nam pomaga.
Če spletna trgovina razvrsti tisoč izdelkov glede na naše kriterije, nam pomaga.
Če sistem opozori na informacijo, ki smo jo spregledali, nam lahko pomaga.
Toda psihološko vprašanje se spremeni, kadar sistem ne optimizira predvsem kakovosti naše odločitve, temveč drug cilj.
Na primer:
daljši čas uporabe,
več klikov,
več ogledov,
več nakupov,
več odzivov.
Takrat priporočilo, ki je dobro za sistem, ni nujno enako priporočilu, ki je dobro za uporabnika.
Hildebrandt pri analizi priporočilnih sistemov opozarja prav na problem ciljev in približkov, na podlagi katerih sistemi sklepajo o preferencah uporabnika.
Zato bi morali ob priporočilu poleg vprašanja »Zakaj mi sistem kaže to?« postaviti še eno:
»Kaj sistem s tem priporočilom pravzaprav optimizira?«
Informacijska asimetrija se seli v digitalni svet
V Elegantni prodaji informacijsko asimetrijo opisujem kot položaj, v katerem ena stran ve več od druge. Takšna informacijska prednost pomeni tudi večjo odgovornost.
Pri algoritmih se pojavi podobna, vendar kompleksnejša težava.
Uporabnik pogosto ne ve natančno:
zakaj vidi določeno priporočilo,
katere informacije so vplivale nanj,
katere možnosti niso bile prikazane,
kako so bile alternative razvrščene,
in kateri cilj sistem optimizira.
Zato obstaja asimetrija med uporabnikom in sistemom oziroma organizacijo, ki sistem upravlja.
To še ne pomeni, da je vsako priporočilo problematično.
Pomeni pa, da postane transparentnost pomemben del kakovosti odločanja.
Če ne razumemo, zakaj je nekaj predlagano, težje presodimo, koliko teže naj priporočilu pripišemo.
Ali algoritmi zmanjšujejo našo avtonomijo?
Odgovor je odvisen od tega, kaj razumemo pod avtonomijo.
Če avtonomija pomeni samo možnost klikniti drugo možnost, potem je lahko formalno ohranjena tudi v zelo močno strukturiranem okolju.
Toda psihološka avtonomija vključuje še nekaj drugega: sposobnost razumeti možnosti, razmisliti o njih in odločitev povezati z lastnimi cilji ter kriteriji.
Pregled raziskav o arhitekturi izbire zato razlikuje med razpoložljivostjo alternativ in dejansko zmožnostjo človeka, da o njih premišljuje ter izbira.
To razlikovanje je ključno.
Možnost izbire še ne zagotavlja kakovosti izbire.
Hkrati pa vpliv še ne pomeni odsotnosti avtonomije.
Pomembnejše vprašanje je:
Ali sistem podpira našo presojo ali jo poskuša obiti?
Kako ohraniti svojo presojo v algoritmičnem okolju
Popolna odpoved algoritmom ni realističen niti nujno smiseln odgovor.
Priporočilni sistemi lahko zmanjšujejo informacijsko preobremenjenost, pomagajo odkrivati relevantne vsebine in skrajšajo pot do možnosti, ki bi jih sicer težko našli.
Bolj smiselno je razvijati drugačen odnos do priporočil.
Ko nam algoritem nekaj predlaga, lahko naredimo kratek miselni premor.
Vprašamo se:
Zakaj je ta možnost pred menoj?
Kateri moj kriterij naj bi zadovoljila?
Kaj bi izbral, če oznake »priporočeno« ne bi bilo?
Katere možnosti morda niso prikazane?
Ali priporočilo rešuje moj problem ali cilj sistema?
Ali bi pri pomembni odločitvi preveril še drug vir?
Takšna vprašanja algoritma ne odstranijo iz odločanja.
Človeka pa ponovno postavijo v aktivnejšo vlogo.
Od algoritmične pomoči do algoritmične odvisnosti
Meja med njima ni določena s številom priporočil, ki jih uporabljamo.
Pomembneje je, kaj ob njih še počnemo sami.
Če sistem uporabimo za zbiranje možnosti, primerjanje ali zmanjševanje kompleksnosti, lahko podpira presojo.
Če priporočilo postane avtomatičen nadomestek za lastne kriterije, se odnos spremeni.
Podoben princip sem v Elegantni prodaji zapisal pri strokovnem priporočanju: strokovnjak lahko vodi proces, ne sme pa prevzeti pravice do odločitve namesto človeka.
Pri algoritmih bi lahko rekli podobno:
naj nam pomagajo pri odločanju, ne pa neopazno določajo, po katerih kriterijih bomo odločali.
Algoritmi in naše odločitve: koliko torej odločamo sami?
Verjetno več, kot nakazuje najbolj črnogled pogled na algoritme, in hkrati v drugačnem okolju, kot si pogosto predstavljamo.
Algoritem lahko razvrsti možnosti.
Lahko predlaga.
Lahko poudari.
Lahko poenostavi.
Lahko personalizira.
Lahko usmeri pozornost.
Toda med priporočilom in dejanjem še vedno obstaja psihološki prostor.
V njem človek primerja, dvomi, preverja, sprejema ali zavrača.
Prav kakovost tega prostora bo verjetno postajala eno pomembnejših vprašanj psihologije človeka v digitalnem svetu.
Tehnologija namreč ne spreminja samo možnosti, ki jih imamo.
Spreminja tudi okolje, v katerem možnosti postanejo naše odločitve.
Zaključek
Algoritmi niso nevidni upravljavci, ki bi preprosto prevzeli človekovo voljo. Prav tako niso nevtralna orodja, ki bi zgolj prikazovala informacije brez vpliva na našo presojo.
So del okolja odločanja.
Z razvrščanjem, priporočanjem, personalizacijo, okvirjanjem in zmanjševanjem kompleksnosti lahko vplivajo na to, čemu namenimo pozornost in katere možnosti sploh vključimo v presojo. Raziskave hkrati kažejo, da človek pri tem ni zgolj pasiven. Njegove preference, cilji, način uporabe sistema in stopnja avtonomije ostajajo pomemben del procesa.
Zato prihodnje vprašanje verjetno ne bo samo, koliko odločitev bomo prepustili algoritmom.
Pomembnejše bo, ali bomo ob vedno kakovostnejših priporočilih ohranili sposobnost vprašati:
Zakaj prav ta možnost in ali jo želim izbrati tudi jaz?
»Svoboda odločanja ni samo možnost, da izberemo. Je tudi sposobnost razumeti, kdo in kaj je oblikovalo prostor, v katerem izbiramo.«
Danijel Horvat, psiholog
Nadaljujte z raziskovanjem
Če želite širše razumeti, kako umetna inteligenca posega v človekove kognitivne procese, nadaljujte s člankom Umetna inteligenca in človek: kako UI spreminja naše razmišljanje?. Članek odpira širše vprašanje odnosa med tehnologijo, presojo, ustvarjalnostjo in človeškim razmišljanjem.
Pomemben del algoritmičnega vpliva je tudi vprašanje, koliko miselnega dela prenesemo na tehnologijo. To podrobneje obravnavam v članku Ali zaradi umetne inteligence razmišljamo manj?.
Z algoritmičnimi priporočili je tesno povezano tudi vprašanje zaupanja. V članku Zaupanje v umetno inteligenco: zakaj nastane tako hitro? raziskujem, zakaj lahko prepričljivost, način komunikacije in zaznana kompetentnost vplivajo na naš odnos do odgovorov UI. Ker mi v tej fazi še nisi posredoval potrjenega javnega URL tega članka, povezave namenoma ne vstavljam.
Naslednji članek v tem vsebinskem sklopu bo Umetna inteligenca in kritično mišljenje.
Več o strokovnem delu in možnostih sodelovanja najdete na strani Storitve Psihovizije.
O avtorju
Danijel Horvat, magister psihologije
Psiholog, raziskovalec in avtor. Na Psihoviziji povezuje psihološko znanje, raziskovalni pristop in praktične izkušnje ter psihološka spoznanja približuje posameznikom in organizacijam na strokoven, razumljiv in uporaben način.
Njegovo poslanstvo je pomagati ljudem bolje razumeti sebe in svoje situacije, prepoznavati ter razvijati potenciale in premagovati notranje ovire, ki jih omejujejo pri osebnem in poklicnem razvoju.
S svojim delom psihologijo približuje resničnemu življenju ter ustvarja znanje, ideje in praktična orodja, ki posameznikom pomagajo bolje razumeti sebe, sprejemati kakovostnejše odločitve, ustvarjati pozitivne spremembe ter živeti bolj zavestno, kakovostno in izpolnjeno.
V ospredju njegovega dela je prepričanje, da pravo razumevanje človeka ni samo cilj psihologije, temveč tudi izhodišče za njegov razvoj.
Viri in literatura
Fink, L., Newman, L., & Haran, U. (2024). Let me decide: Increasing user autonomy increases recommendation acceptance. Computers in Human Behavior, 156, 108244. DOI
Hildebrandt, M. (2022). The issue of proxies and choice architectures. Why EU law matters for recommender systems. Frontiers in Artificial Intelligence, 5, 789076. DOI
Jesse, M., & Jannach, D. (2021). Digital nudging with recommender systems: Survey and future directions. Computers in Human Behavior Reports, 3, 100052. DOI
Lemken, D., Erhard, A., & Wahnschafft, S. (2024). A choice architect’s guide to the (autonomous) galaxy: A systematic scoping review of nudge intrusiveness in food choices. Humanities and Social Sciences Communications, 11, 1030. Članek
Horvat, D. (2026). Elegantna prodaja. Psihovizija.