Umetni inteligenci zastavimo vprašanje. V nekaj sekundah dobimo jasen, urejen in samozavestno napisan odgovor. Ni dolgega premisleka, vidnega omahovanja ali zadrege. Sistem nam lahko razloži zapleten pojem, predlaga rešitev, povzame raziskavo ali svetuje, kako naj se nečesa lotimo.
In prav tu se lahko zgodi nekaj psihološko zelo zanimivega.
Odgovoru začnemo zaupati, še preden smo preverili, ali je pravilen.
Zakaj tako hitro zaupamo umetni inteligenci? Je razlog njena dejanska uporabnost ali tudi način, kako komunicira z nami? Kako na našo presojo vplivajo samozavesten jezik, hitrost, zaznana strokovnost in človeku podoben pogovor?
Razumevanje tega vprašanja postaja pomembno, ker umetna inteligenca ni več samo orodje za iskanje informacij. Vse pogosteje postaja tudi sogovornik, pomočnik in vir priporočil, ki lahko vplivajo na naše odločitve.
Zaupanje v umetno inteligenco ni isto kot prepričljivost
Ko govorimo o zaupanju v umetno inteligenco, je koristno najprej ločiti dve stvari.
Nekaj nam lahko deluje prepričljivo, ne da bi bilo zato tudi zanesljivo.
Ta razlika je pomembna tudi v medosebnih odnosih.
V knjigi Elegantna prodaja razlikujem med kredibilnostjo in zaupanjem. Kredibilnost se nanaša na presojo, ali je nekoga vredno jemati resno, zaupanje pa vključuje tudi pripravljenost sprejeti določeno stopnjo negotovosti in se na drugo stran dejansko zanesti.
Podobno vprašanje se pojavi pri umetni inteligenci.
Ni pomembno samo:
Ali se mi njen odgovor zdi dober?
Pomembno je tudi:
Ali sem pripravljen na podlagi tega odgovora nekaj verjeti, narediti ali se odločiti?
To je pomembna razlika.
Če umetno inteligenco prosimo, naj nam predlaga naslov za elektronsko sporočilo, posledice morebitne napake običajno niso velike.
Če jo prosimo za razlago zdravstvenega izvida, finančno priporočilo, presojo kandidata za zaposlitev ali pomoč pri pomembni življenjski odločitvi, je položaj drugačen.
Večje kot so posledice odločitve, pomembnejše postane vprašanje, na čem naše zaupanje dejansko temelji.
Zakaj samozavesten odgovor tako hitro deluje strokovno?
Predstavljajte si dva odgovora na isto vprašanje.
Prvi je nejasen. Slabo je strukturiran. Avtor omahuje in večkrat spremeni smer.
Drugi je jasen. Dobro strukturiran. Uporablja ustrezne izraze in samozavestno pojasni, kaj naj bi se dogajalo.
Kateri odgovor bi na prvi pogled deloval bolj strokovno?
Pogosto drugi.
Takšna presoja je razumljiva. V vsakdanjem življenju uporabljamo številne znake, s katerimi ocenjujemo kompetentnost druge osebe.
Način govora.
Jasnost.
Samozavest.
Poznavanje izrazov.
Sposobnost razlage.
Hitrost odgovora.
Toda pri generativni umetni inteligenci nastane poseben problem.
Jezikovna kakovost odgovora in njegova dejanska pravilnost nista ista stvar.
Sistem je lahko zelo dober pri ustvarjanju tekočega, strukturiranega in prepričljivega jezika. To pa samo po sebi še ne zagotavlja, da je vsaka trditev v odgovoru pravilna.
Zato se lahko zgodi, da znak, ki ga pri človeku uporabljamo kot enega od pokazateljev kompetentnosti, pri umetni inteligenci dobi nesorazmerno veliko težo.
Odgovor zveni strokovno.
Zato se nam začne zdeti strokovno utemeljen.
Toda med tema dvema sklepoma manjka pomemben korak.
Preverjanje.
Kompetentnost vključuje tudi sposobnost priznati omejitev
Prav tukaj je zanimiva povezava z zaupanjem v človeka.
V Elegantni prodaji poudarjam, da kompetentnost ni samo sposobnost dati odgovor. Pomembna je tudi sposobnost vedeti, kdaj odgovora nimamo.
Človek, ki na vsako vprašanje takoj poda samozavesten odgovor, lahko sprva deluje zelo kompetentno.
Dokler se ne pokaže, da odgovor ni bil pravilen.
Včasih je strokovno kakovostnejši odgovor:
Tega ne vem dovolj natančno. Preveril bom.
To načelo je pri umetni inteligenci še posebej pomembno.
Generativni sistem je narejen tako, da proizvaja odgovore. Zato odsotnost vidnega omahovanja ne smemo avtomatično razumeti kot dokaz gotovosti.
Tekoč odgovor nam pove nekaj o sposobnosti sistema, da ustvari jezikovno prepričljivo vsebino.
Ne pove pa samodejno, kako dobro je posamezna trditev podprta.
Zato bi lahko eno pomembnejših pravil digitalne presoje zapisali zelo preprosto:
Samozavest odgovora ni merilo njegove pravilnosti.
Zakaj se do UI vedemo nekoliko tako kot do človeka?
Umetna inteligenca ni samo zbirka rezultatov iskanja.
Z njo se pogovarjamo.
Pozdravimo jo.
Postavljamo dodatna vprašanja.
Prosimo jo za pojasnilo.
Lahko ji napišemo, da nečesa ne razumemo.
Odgovori nam neposredno in pogosto uporablja jezik, ki je podoben medosebni komunikaciji.
Prav zato se lahko v odnos s tehnologijo vključijo tudi psihološki procesi, ki jih sicer poznamo iz socialnih interakcij.
Raziskava Pataranutaporna in sodelavcev je pokazala nekaj posebej zanimivega. Udeleženci so komunicirali z enakim sistemom, vendar so pred interakcijo prejeli različne informacije o domnevnih motivih umetne inteligence. Kadar so sistem razumeli kot bolj skrben, so ga ocenjevali kot bolj zaupanja vrednega, empatičnega in učinkovitega. Avtorji so opozorili tudi na možnost povratne zanke, v kateri začetna predstava uporabnika in nadaljnja interakcija druga drugo utrjujeta.
To je pomembna ugotovitev.
Naše zaupanje ni nujno odvisno samo od tega, kaj sistem dejansko naredi.
Odvisno je lahko tudi od tega, kako ga razumemo.
Celotna raziskava je dostopna v reviji Nature Machine Intelligence.
Ko tehnologiji pripišemo človeške lastnosti
S tem pridemo do antropomorfizacije.
Antropomorfizacija pomeni, da nečloveškemu sistemu pripisujemo lastnosti, namene ali notranja stanja, ki jih povezujemo s človekom.
Pri pogovorni umetni inteligenci je takšen odziv razumljiv.
Sistem lahko napiše:
»Razumem, kaj želite povedati.«
»Predlagam, da razmislite o naslednjem.«
»Lahko vam pomagam.«
»Poglejva še drugo možnost.«
Takšen jezik ustvarja izkušnjo dialoga.
To ne pomeni, da uporabnik dejansko verjame, da je na drugi strani človek. Prav tako ne pomeni, da se vsi uporabniki odzivajo enako.
Pomeni pa, da oblika interakcije lahko aktivira družbene načine presojanja.
Sistem se nam lahko zdi prijazen.
Razumevajoč.
Potrpežljiv.
Pozoren.
Strokoven.
In čeprav so te zaznave del naše uporabniške izkušnje, jih ne smemo avtomatično zamenjati za dokaz, da je vsebina odgovora pravilna.
Sistem lahko komunicira zelo prijazno in se moti.
Lahko deluje razumevajoče in poda slabo priporočilo.
Lahko zveni strokovno in uporabi napačen podatek.
Zato moramo ločiti kakovost interakcije od kakovosti informacije.
Zaupanje v UI ne nastane samo zaradi ene stvari
Pregled raziskav Li in sodelavcev iz leta 2024 opozarja, da je zaupanje v umetno inteligenco smiselno razumeti skozi več dejavnikov. Pomembne so značilnosti človeka, značilnosti sistema in kontekst, v katerem poteka interakcija.
To je pomemben popravek preprostih razlag.
Ne zaupamo umetni inteligenci samo zato, ker je pametna.
Prav tako ji ne zaupamo samo zato, ker je prijazna.
Na naše zaupanje lahko vplivajo pretekle izkušnje s tehnologijo, poznavanje sistema, zaznana kompetentnost, transparentnost, narava naloge in tveganje, povezano z odločitvijo.
Tudi sistematični pregled raziskav zaupanja v UI iz leta 2024 med pomembnimi dejavniki izpostavlja zmogljivost in zanesljivost sistema, transparentnost, antropomorfne značilnosti ter kontekst in tveganje naloge.
Pregled je dostopen v Humanities and Social Sciences Communications.
Zato ni enega samega odgovora na vprašanje, zakaj človek zaupa umetni inteligenci.
Zaupanje nastaja v odnosu med človekom, sistemom in situacijo.
Uspešni odgovori ustvarjajo pričakovanje naslednjega uspeha
Obstaja še precej preprostejši razlog, zakaj začnemo umetni inteligenci zaupati.
Pogosto nam dejansko pomaga.
Prosimo jo za povzetek in dobimo uporaben povzetek.
Pomaga nam preoblikovati besedilo.
Predlaga ideje.
Razloži neznan pojem.
Pomaga strukturirati problem.
Prevede besedilo.
Pripravi osnutek.
Vsaka dobra izkušnja lahko okrepi pričakovanje:
To orodje deluje.
Takšno učenje je povsem razumljivo.
Težava nastane, če dobro izkušnjo na enem področju avtomatično prenesemo na drugo.
Če je umetna inteligenca desetkrat odlično preoblikovala naše besedilo, iz tega še ne sledi, da bo enako zanesljiva pri razlagi zapletenega pravnega, zdravstvenega ali znanstvenega vprašanja.
To pomeni, da bi moralo biti naše zaupanje povezano tudi z vrsto naloge.
Ne samo s splošnim občutkom:
UI je dobra.
Boljše vprašanje je:
Kako zanesljiva je pri tej konkretni nalogi in kako lahko to preverim?
Največja težava nastane, ko sami ne poznamo odgovora
Predstavljajte si, da umetno inteligenco vprašate nekaj s področja, ki ga dobro poznate.
Če naredi očitno napako, jo boste verjetno opazili.
Sedaj jo vprašate nekaj s področja, o katerem skoraj ničesar ne veste.
Odgovor je tekoč, strokovno napisan in podrobno pojasnjen.
Kako boste vedeli, ali je pravilen?
Tu nastane pomemben paradoks.
Bolj ko pomoč potrebujemo, manj lastnega znanja imamo lahko za presojo kakovosti te pomoči.
Prav zato zaupanje postane posebej pomembno tam, kjer obstaja informacijska asimetrija.
To je eno od področij, kjer se tema umetne inteligence zelo jasno poveže z mojo obravnavo zaupanja v Elegantni prodaji.
Kupec pogosto ne more preveriti vsega, kar mu pove strokovnjak. Zato del njegove odločitve temelji na presoji kredibilnosti osebe, ki ima več informacij.
Pri umetni inteligenci je podobna težava lahko še izrazitejša.
Sistem lahko v nekaj sekundah ustvari odgovor o temi, o kateri uporabnik nima dovolj znanja, da bi ga samostojno ocenil.
Prav v takšnem trenutku bi morala potreba po preverjanju narasti, ne pasti.
Zaupanje ne pomeni odsotnosti preverjanja
To načelo iz Elegantne prodaje je za odnos človeka do umetne inteligence posebej uporabno.
Zaupanje in preverjanje si ne nasprotujeta.
Če preverimo vir, to ne pomeni, da sistemu nujno ne zaupamo.
Pomeni, da svojo odločitev prilagodimo pomembnosti situacije.
V Elegantni prodaji poudarjam, da dober strokovnjak nima interesa, da bi mu druga oseba zaupala bolj, kot to podpirajo informacije in izkušnje.
Isto načelo lahko prenesemo na uporabo umetne inteligence.
Cilj ni čim več zaupanja v UI. Cilj je ustrezno zaupanje.
Če je naloga preprosta in posledice napake majhne, obseg preverjanja ni enak kot pri odločitvi z velikimi posledicami.
Če pa gre za pomembno zdravstveno, finančno, pravno, strokovno ali življenjsko odločitev, je smiselno povečati raven preverjanja in po potrebi vključiti ustreznega človeka strokovnjaka.
Pregled Li in sodelavcev opozarja prav na problem neustreznega zaupanja v avtomatizirane sisteme. Pretirano zanašanje lahko vodi v situacije, v katerih uporabnik priporočilo sistema sprejme brez dovolj skrbnega iskanja in obdelave drugih informacij.
Ko priporočilo UI postane bližnjica do odločitve
Zaupanje postane posebej pomembno, ko umetna inteligenca ne podaja več samo informacij, ampak priporočila.
Kateri izdelek naj izberem?
Kateri kandidat je primernejši?
Kaj naj naredim v tej situaciji?
Kako naj odgovorim tej osebi?
Katera možnost je zame najboljša?
V takšnih primerih lahko umetna inteligenca postane del procesa odločanja.
Tu se pojavi nevarnost pretiranega zanašanja na avtomatizirano priporočilo.
Raziskovanje avtomatizacijskega pristranskega odzivanja kaže, da se ljudje v določenih okoliščinah lahko preveč zanesejo na priporočila avtomatiziranih sistemov in zanemarijo druge informacije. Tudi raziskava uporabe UI pri predizboru zaposlenih opozarja, da lahko odločevalci priporočilo sistema sprejmejo premalo kritično.
To ne pomeni, da se bo to zgodilo vedno.
Prav tako ne pomeni, da so algoritmi nujno slabši od ljudi.
Pomeni pa, da prisotnost priporočila spremeni psihološko situacijo.
Ko je odgovor že pred nami, se naše vprašanje lahko neopazno spremeni.
Namesto:
Kaj menim na podlagi vseh informacij?
lahko začnemo razmišljati:
Ali obstaja razlog, da se s priporočilom UI ne strinjam?
To ni ista izhodiščna pozicija.
In prav temu bo namenjen naslednji članek o algoritmih in naših odločitvah.
Ali UI doživljamo kot bolj objektivno od človeka?
Umetna inteligenca nima slabega dne.
Ne postane utrujena na enak način kot človek.
Ne užali se.
Nima osebne simpatije do kandidata, ki sedi pred njo.
Zato lahko hitro nastane sklep:
Algoritem je objektiven.
Toda odsotnost človeških čustev še ni dokaz odsotnosti pristranskosti ali napak.
Sistem deluje na podlagi podatkov, načina razvoja, navodil, tehničnih omejitev in konteksta uporabe.
Zato vprašanje ni, ali je človek pristranski in umetna inteligenca nepristranska.
Bolj smiselno je vprašati:
Katere vire napak ima človek in katere sistem?
Če tehnologijo razumemo kot popolnoma nevtralnega presojevalca, ji lahko pripišemo več kredibilnosti, kot jo dejansko upravičuje konkretna naloga.
To je še posebej pomembno na področjih, kjer UI sodeluje pri odločanju o ljudeh.
Zaupanje povečuje tudi možnost vpliva
Zaupanje ni samo prijeten občutek.
Zaupanje spreminja naše vedenje.
Ko viru zaupamo, smo bolj pripravljeni sprejeti njegovo informacijo, priporočilo ali usmeritev.
Prav zato sta zaupanje in vplivanje tesno povezana.
V Elegantni prodaji poudarjam, da povečano zaupanje povečuje tudi odgovornost osebe, ki lahko vpliva na odločitev drugega človeka.
To načelo postaja pri umetni inteligenci izjemno pomembno.
Če sistemu zaupamo, ga lahko začnemo manj preverjati.
Hitreje sprejmemo njegov predlog.
Posredujemo mu več informacij.
Včasih ga celo vprašamo:
Kaj bi naredil na mojem mestu?
Takrat umetna inteligenca ni več samo vir informacij.
Postane vir vpliva.
To samo po sebi še ni nujno problem.
Problem nastane, če človek ne opazi, da se je razmerje med pomočjo in vplivom spremenilo.
Kako umetni inteligenci zaupati bolj premišljeno?
Rešitev ni, da umetni inteligenci ne zaupamo.
Tudi avtomatično nezaupanje je lahko slaba presoja.
Bolj smiseln cilj je umerjeno zaupanje.
Toliko zaupanja, kolikor ga podpirajo kakovost sistema, vrsta naloge, razpoložljivi dokazi in posledice morebitne napake.
Pri tem lahko pomagajo naslednja vprašanja.
Zakaj temu odgovoru verjamem?
Ali zaradi dokazov?
Ali zato, ker je dobro napisan?
Ali zato, ker je dolg in podroben?
Ali zato, ker je sistem že prej večkrat dobro odgovoril?
Že samo to vprašanje pomaga ločiti občutek zaupanja od razlogov zanj.
Ali lahko preverim ključno trditev?
Pri pomembnih informacijah prosite za izvorni vir.
Nato ga dejansko odprite.
Preverite, ali obstaja.
Preverite avtorja.
Preverite datum.
In predvsem preverite, ali vir res podpira trditev, zaradi katere je bil naveden.
Umetna inteligenca lahko pomaga pri iskanju vira. Ne sme pa samo dejstvo, da je navedla vir, postati dokaz njegove pravilnosti.
Kaj bi mislil, če priporočila UI ne bi videl?
To je posebej koristno pri odločanju.
Preden sprejmete priporočilo, se vprašajte:
Kaj sem o tem mislil, preden sem videl odgovor?
S tem lahko zmanjšate nevarnost, da priporočilo postane sidro, okoli katerega nato organizirate vse nadaljnje razmišljanje.
Kaj govori proti odgovoru?
Umetni inteligenci lahko zastavite tudi drugačno vprašanje:
Kateri so najmočnejši razlogi, da je ta odgovor napačen ali nepopoln?
Ali:
Katere informacije bi lahko spremenile ta zaključek?
S tem UI ne uporabljate samo za potrjevanje prvega odgovora, ampak za razširjanje prostora presoje.
Kako pomembne so posledice napake?
Pri predlogu za naslov članka je tveganje majhno.
Pri pomembni zdravstveni, pravni, finančni ali kadrovski odločitvi je drugače.
Pravilo je lahko preprosto:
Večje kot so posledice napake, več neodvisnega preverjanja potrebujemo.
Največja nevarnost ni zaupanje, ampak zamenjava zaupanja za dokaz
Umetna inteligenca bo verjetno postajala še bolj tekoča, hitra, osebno prilagojena in prijetna za uporabo.
Zato bo lahko tudi občutek kompetentnega sogovornika vedno močnejši.
Toda prav tu bomo potrebovali novo obliko psihološke pismenosti.
Znati bomo morali razlikovati med:
deluje prepričljivo
in
imam dobre razloge, da temu zaupam.
Med:
odgovor je samozavesten
in
odgovor je preverjen.
Med:
sistem me razume
in
sistem je pravilno razumel problem.
Med:
UI mi je nekaj priporočila
in
priporočilo je dovolj kakovostno, da nanj oprem svojo odločitev.
To razlikovanje ni argument proti umetni inteligenci.
Prav nasprotno.
Je pogoj za njeno kakovostnejšo uporabo.
Zaključek
Zakaj tako hitro zaupamo umetni inteligenci?
Del odgovora je zelo preprost. Ker nam pogosto res pomaga.
Toda zaupanje ne nastaja samo iz objektivne kakovosti odgovorov.
Na našo presojo lahko vplivajo tekoč jezik, samozavesten ton, hitrost, zaznana strokovnost, človeku podoben način komunikacije, naše predhodne predstave o UI in pozitivne izkušnje iz prejšnjih interakcij.
Prav zato cilj ne bi smel biti čim večje zaupanje.
Prav tako ne čim večje nezaupanje.
Pomembnejša je sposobnost, da svoje zaupanje prilagajamo dokazom, nalogi in posledicam morebitne napake.
Umetna inteligenca lahko postane izjemno uporabno orodje za razmišljanje, učenje in odločanje.
Toda bolj ko bo prepričljiva, pomembnejša bo človekova sposobnost, da prepričljivost loči od resničnosti.
Avtorska misel
»Zaupanje postane tvegano takrat, ko občutek, da nekaj zveni prepričljivo, zamenjamo za dokaz, da je tudi resnično.«
Danijel Horvat, psiholog
Nadaljujte z raziskovanjem
Če želite razumeti širše spremembe, ki jih umetna inteligenca prinaša v naše mišljenje, nadaljujte s člankom Umetna inteligenca in človek, kjer pojasnjujem, kako uporaba UI spreminja način iskanja informacij, razmišljanja, presoje in reševanja problemov.
Če vas zanima, kaj se zgodi, ko tehnologiji prepustimo del miselnega napora, preberite tudi članek Ali zaradi umetne inteligence razmišljamo manj?, kjer podrobneje obravnavam kognitivno razbremenjevanje ter razliko med hitrejšim rezultatom in dejanskim učenjem.
Naslednji članek v tematskem grozdu bo odprl vprašanje, kako algoritmi vplivajo na naše izbire in koliko prostora pri odločanju dejansko ohranimo sami: Algoritmi in naše odločitve: koliko odločamo sami?
Več o strokovnem delu in možnostih sodelovanja najdete na strani Storitve Psihovizije.
O avtorju
Danijel Horvat, magister psihologije
Psiholog, raziskovalec in avtor. Na Psihoviziji povezuje psihološko znanje, raziskovalni pristop in praktične izkušnje ter psihološka spoznanja približuje posameznikom in organizacijam na strokoven, razumljiv in uporaben način.
Njegovo poslanstvo je pomagati ljudem bolje razumeti sebe in svoje situacije, prepoznavati ter razvijati potenciale in premagovati notranje ovire, ki jih omejujejo pri osebnem in poklicnem razvoju.
S svojim delom psihologijo približuje resničnemu življenju ter ustvarja znanje, ideje in praktična orodja, ki posameznikom pomagajo bolje razumeti sebe, sprejemati kakovostnejše odločitve, ustvarjati pozitivne spremembe ter živeti bolj zavestno, kakovostno in izpolnjeno.
V ospredju njegovega dela je prepričanje, da pravo razumevanje človeka ni samo cilj psihologije, temveč tudi izhodišče za njegov razvoj.
Viri in literatura
Afroogh, S., Akbari, A., Malone, E., Kargar, M., & Alambeigi, H. (2024). Trust in AI: Progress, challenges, and future directions. Humanities and Social Sciences Communications, 11, 1568.
https://doi.org/10.1057/s41599-024-04044-8
Horvat, D. (2026). Elegantna prodaja. Psihovizija.
Kupfer, C., Prassl, R., Fleiß, J., Malin, C., Thalmann, S., & Kubicek, B. (2023). Check the box! How to deal with automation bias in AI based personnel selection. Frontiers in Psychology, 14, 1118723.
https://doi.org/10.3389/fpsyg.2023.1118723
Li, Y., Wu, B., Huang, Y., & Luan, S. (2024). Developing trustworthy artificial intelligence: Insights from research on interpersonal, human automation, and human AI trust. Frontiers in Psychology, 15, 1382693.
https://doi.org/10.3389/fpsyg.2024.1382693
Pataranutaporn, P., Liu, R., Finn, E., & Maes, P. (2023). Influencing human AI interaction by priming beliefs about AI can increase perceived trustworthiness, empathy and effectiveness. Nature Machine Intelligence, 5, 1076–1086.
https://doi.org/10.1038/s42256-023-00720-7