POVZETEK

Umetna inteligenca (UI) se poleg vse širše vsakdanje uporabe vse bolj uveljavlja tudi v zdravstvu, kjer odpira možnosti za hitrejšo obravnavo, razbremenitev osebja in podporo kliničnemu odločanju. Njeno uvajanje pa poleg vprašanja tehnične zanesljivosti odpira tudi vprašanja zaupanja, varovanja podatkov in ohranjanja človeške presoje. Namen članka je obravnavati, kako uporabniki dojemajo UI pri različnih zdravstvenih nalogah ter kako se njihovo zaupanje povezuje z zaznanimi koristmi in tveganji. Teoretični del povezuje pregled področij uporabe z domačimi in mednarodnimi raziskavami o sprejemanju tehnologije ter njenimi etičnimi, pravnimi in varnostnimi vidiki. Posebej izpostavlja razliko med uporabo UI kot podpore zdravstvenemu delavcu in njenim samostojnim odločanjem. Empirični del na podlagi analize spletne ankete primerja zaupanje v posamezne storitve ter obravnava pomen človeškega nadzora in obveščenosti. Članek poudarja, da sprejemljivost UI ni odvisna le od pričakovanih koristi, temveč tudi od pogojev njene uporabe in vloge človeka v zdravstveni obravnavi.

Ključne besede: umetna inteligenca, zdravstvo, zaupanje, človeški nadzor, zaznana tveganja.

ABSTRACT

Artificial intelligence (AI) is becoming increasingly integrated into healthcare alongside its growing use in everyday life, offering opportunities for faster care, reduced staff workload and support for clinical decision-making. Beyond technical reliability, its adoption raises questions of trust, data protection and human judgement. This article examines how users perceive AI across healthcare tasks and how trust relates to perceived benefits and risks. The theoretical section combines an overview of applications with Slovenian and international research on technology acceptance and on the ethical, legal and security implications of AI. Particular attention is paid to the distinction between AI supporting healthcare professionals and making decisions independently. The empirical section uses an online survey to compare trust across services and examine the importance of human oversight and notification. The article emphasises that AI acceptance depends not only on anticipated benefits but also on the conditions of use and the role of human professionals in healthcare.

Keywords: artificial intelligence, healthcare, trust, human oversight, perceived risks.

UVOD

Umetna inteligenca (UI) je v nekaj letih prešla iz pretežno strokovnega in raziskovalnega okolja v vsakdanjo uporabo. Orodja za ustvarjanje besedil, slik in drugih vsebin so postala dostopna širši javnosti, njihova navzočnost pa vpliva tudi na pričakovanja ljudi glede drugih družbenih področij. Slovenska raziskava Centra za družboslovno informatiko Fakultete za družbene vede je maja 2025 pokazala, da je generativno UI v preteklih treh mesecih uporabljalo 48 odstotkov odraslih uporabnikov interneta, med njimi pa jih je 83 odstotkov kot glavno besedilno orodje uporabljalo ChatGPT (Center za družboslovno informatiko, 2025). Ti podatki kažejo, da UI za velik del prebivalstva ni več oddaljen tehnološki pojem, temveč orodje, s katerim se srečuje pri delu, učenju ali iskanju informacij.

Posebej občutljivo področje uporabe je zdravstvo. V njem lahko sistemi UI analizirajo medicinske slike in elektronske zdravstvene zapise, ocenjujejo tveganja, podpirajo triažo, pomagajo pri zgodnjem odkrivanju bolezni, pripravljajo povzetke obravnav ter avtomatizirajo administrativna opravila. Njihova obljuba je privlačna: hitrejša obravnava, boljša uporaba velike količine podatkov, razbremenitev zdravstvenega osebja in možnost, da bi bila kakovostna strokovna pomoč dostopnejša. Ob pomanjkanju kadra in naraščajočih potrebah prebivalstva so to pomembne koristi. Toda odločitev o zdravju se bistveno razlikuje od običajne uporabe generativnega klepetalnika. Napačen ali pristranski rezultat lahko vpliva na diagnozo, zdravljenje in varnost posameznika, pri obdelavi pa so pogosto vključeni najobčutljivejši osebni podatki.

Zato tehnična uspešnost sama po sebi še ne zagotavlja družbene sprejemljivosti. Uporabniki se lahko strinjajo z uporabo UI za naročanje, urejanje dokumentacije ali opozarjanje na možne interakcije zdravil, hkrati pa zavračajo možnost, da bi sistem samostojno postavil diagnozo ali izbral zdravljenje. Raziskave javnega mnenja dosledno kažejo, da ljudje praviloma bolje sprejemajo UI kot podporo zdravstvenemu delavcu kakor kot njegovo zamenjavo (Young in drugi, 2021; Vo in drugi, 2023). Za razumevanje odnosa uporabnikov je zato treba razlikovati med posameznimi nalogami, stopnjami tveganja ter med uporabo UI z zdravniškim nadzorom in brez njega.

Namen članka je predstaviti najpomembnejša področja uporabe UI v zdravstvu ter pojasniti, kako zaznane koristi, tveganja in institucionalni pogoji vplivajo na zaupanje ljudi. Teoretični del povezuje pregled medicinskih možnosti z ugotovitvami raziskav o odnosu pacientov in javnosti. Posebna pozornost je namenjena hitrosti obravnave, razbremenitvi osebja, kakovosti in objektivnosti odločitev, varstvu zdravstvenih podatkov, pristranskosti, razložljivosti, odgovornosti ter vlogi človeškega nadzora. Ta okvir je podlaga za anketo in analizo mnenj uporabnikov v empiričnem delu članka.

Osrednja hipoteza članka je, da je sprejemljivost uporabe UI višja pri administrativnih in podpornih nalogah kakor pri samostojnem postavljanju diagnoze ali izbiri zdravljenja ter da je zaupanje uporabnikov višje, kadar odločitev UI preveri zdravnik. Hipoteza tako povezuje vrsto zdravstvene naloge in vlogo zdravstvenega delavca. Namesto splošne naklonjenosti tehnologiji nas zanimajo konkretni načini njene uporabe z različnimi posledicami in stopnjami samostojnosti.

Iz tega izhajajo tri raziskovalna vprašanja. Najprej nas zanima, kako se sprejemljivost UI razlikuje med administrativnimi, diagnostičnimi in terapevtskimi nalogami. Drugo vprašanje se nanaša na povezanost zaznanih koristi, predvsem hitrejše obravnave, zgodnejšega odkrivanja bolezni in razbremenitve zdravstvenega osebja, z zaupanjem v UI. Tretje vprašanje obravnava, kako so s sprejemljivostjo povezani pomisleki glede zasebnosti in varnosti podatkov, možnosti napak, pristranskosti, odgovornosti ter odsotnosti človeškega nadzora. Na ta vprašanja odgovarjamo z analizo spletne ankete; ugotovitve razumemo kot vpogled v zajeti vzorec in ne kot reprezentativno oceno celotnega prebivalstva.

UMETNA INTELIGENCA V ZDRAVSTVU

UI v zdravstvu ni enotna tehnologija. Izraz zajema različne statistične in računalniške pristope, ki v podatkih prepoznavajo vzorce ter na tej podlagi razvrščajo primere, napovedujejo izide, priporočajo naslednje korake ali ustvarjajo nove vsebine. Mednje sodijo strojno in globoko učenje, obdelava naravnega jezika, računalniški vid ter generativni modeli. Smisel njihove uporabe ni v posnemanju zdravnika kot celote, temveč predvsem v podpori natančno določenim nalogam. Zanesljivost sistema je zato vedno vezana na namen uporabe, kakovost podatkov, populacijo, v kateri je bil preverjen, in način vključitve v klinični proces (Rajpurkar in drugi, 2022).

Prvo večje področje je administrativna in organizacijska podpora. Sistemi lahko pomagajo pri razporejanju terminov, pripravi zapisov, povzemanju dokumentacije, kodiranju storitev, upravljanju zalog in načrtovanju razpoložljivih zmogljivosti. Gričnik in Zore (2024) poudarjata, da lahko UI prispeva k učinkovitejši alokaciji virov in razbremenitvi zaposlenih, vendar je uvajanje odvisno od kakovosti informacijskih sistemov, znanja zaposlenih ter organizacijske pripravljenosti. Ker gre pri teh nalogah večinoma za posredno podporo obravnavi, jih uporabniki pogosto dojemajo kot manj tvegane, čeprav lahko tudi napaka pri razvrščanju ali naročanju vpliva na dostopnost storitve.

Drugo področje obsega spremljanje pacientov, napovedovanje tveganj in triažo. Algoritmi lahko združujejo podatke iz laboratorijskih izvidov, elektronskega kartona in nosljivih naprav ter opozorijo na možnost poslabšanja stanja. V bolnišnici lahko na primer podprejo zgodnje prepoznavanje sepse ali ocenijo verjetnost ponovnega sprejema, pri kroničnih boleznih pa pomagajo spremljati dolgoročne spremembe. Prednost je v hitrosti obdelave in v tem, da sistem neprekinjeno pregleduje več podatkov, kot jih lahko posameznik hkrati obvlada. Vendar napoved ni diagnoza: lažno pozitiven rezultat lahko povzroči nepotrebne preiskave in stisko, lažno negativen pa ustvari nevaren občutek varnosti.

Tretje področje je diagnostika, zlasti analiza medicinskih slik, signalov in vzorcev. Računalniški vid se uporablja pri radioloških, dermatoloških, oftalmoloških in patoloških posnetkih, modeli pa lahko opozorijo na spremembe, ki jih je treba dodatno pregledati. Pomembna je tudi možnost zgodnejšega odkrivanja, saj lahko računalniška analiza zazna drobne vzorce v velikih zbirkah podatkov. Slovenski primer raziskovanja razložljivega modela pri analizi spirografije ponazarja, da je poleg pravilnosti napovedi pomembno tudi pojasnilo, na katerih značilnostih temelji rezultat (Hočevar, 2026). Takšne rešitve lahko delujejo kot dodatno mnenje oziroma opozorilni sistem, ki zdravniku pomaga usmeriti pozornost in dopolnjuje njegovo strokovno presojo.

Četrto področje je klinična podpora odločanju in prilagajanje zdravljenja. UI lahko primerja pacientove značilnosti z velikim številom preteklih primerov, predlaga možne diagnoze, opozori na interakcije zdravil ali oceni verjetnost odziva na terapijo. Pri tem se pogosto omenja večja objektivnost, ker algoritem uporablja vnaprej določene postopke in lahko dosledno upošteva veliko število spremenljivk. Vendar objektivnost ni samoumevna. Če so učni podatki nepopolni ali nereprezentativni, se lahko pretekle neenakosti prenesejo v rezultate. Tudi zelo natančen model lahko odpove pri pacientih ali v okoliščinah, ki se razlikujejo od okolja, v katerem je bil razvit.

Generativna UI dodaja novo plast možnosti. Jezikovni modeli lahko pripravijo osnutke izvidov in odpustnih pisem, prevedejo strokovna pojasnila v bolj razumljiv jezik ter pomagajo pri iskanju informacij. Za paciente lahko predstavljajo hitro dostopen prvi vir usmeritev. Toda njihovi odgovori so oblikovani verjetnostno in lahko vsebujejo prepričljivo oblikovane, vendar napačne trditve. Zaradi tega generativno orodje ni zanesljiv nadomestek za strokovno presojo, še posebej pri nujnih stanjih, postavljanju diagnoze ali spreminjanju zdravljenja. Korist nastane šele, ko so namen, omejitve in odgovornost jasno določeni ter ko je rezultat ustrezno preverjen.

Največji potencial UI tako ni nujno v popolni avtomatizaciji zdravstvene obravnave, temveč v razdelitvi dela. Računalniški sistem je lahko hiter pri pregledovanju velikih količin podatkov in ponavljajočih se nalogah, zdravstveni delavec pa prispeva klinično presojo, razumevanje širšega življenjskega položaja, komunikacijo, empatijo in odgovornost. Takšna dopolnilna vloga je pomembna tudi za uporabnike: koristi tehnologije so bolj prepričljive, kadar je jasno, da končna odločitev ostaja v rokah usposobljenega človeka.

ZAUPANJE IN SPREJEMANJE UMETNE INTELIGENCE V ZDRAVSTVU

Zaupanje je osrednji pogoj za uporabo UI v zdravstvu, vendar ne pomeni nekritične vere v tehnologijo. Ustrezno zaupanje pomeni, da uporabnik razume, za katero nalogo se sistem uporablja, kakšne so njegove omejitve, kdo nadzira rezultat in kam se lahko obrne ob napaki. Prenizko zaupanje lahko vodi v zavračanje koristnega orodja, previsoko pa v nevarno avtomatizirano sledenje priporočilu. Zato cilj uvajanja ne bi smel biti čim večje zaupanje, temveč zaupanje, ki je sorazmerno z dokazano zanesljivostjo in tveganjem konkretne uporabe.

Sistematični pregled Younga in drugih (2021), ki je vključil 23 raziskav o stališčih pacientov in splošne javnosti, je pokazal razmeroma pozitivna pričakovanja, vendar tudi vztrajne pomisleke ter željo po človeškem nadzoru. Obsežnejši pregled Voja in drugih (2023), ki je zajel 105 raziskav različnih deležnikov, je izpostavil podobno dvojnost: ljudje prepoznavajo potencial za hitrejšo in kakovostnejšo obravnavo, obenem pa jih skrbijo zasebnost, izguba avtonomije, pristranskost, neenak dostop, pomanjkanje empatije in nejasna odgovornost. Sprejemanje je torej odvisno od pogojev uporabe, ne le od splošnega odnosa do tehnologije.

Pomemben psihološki razlog za odpor je občutek, da algoritem posameznika ne more obravnavati kot edinstveno osebo. Longoni, Bonezzi in Morewedge (2019) so v enajstih raziskavah pokazali, da so bili udeleženci manj pripravljeni izbrati zdravstveno storitev, ki jo zagotavlja UI. Odpor se je zmanjšal, ko je bila storitev predstavljena kot prilagojena posamezniku in ko je UI odločanje zgolj podpirala, namesto da bi nadomestila zdravstvenega delavca. Ugotovitev je neposredno pomembna za oblikovanje zdravstvenih storitev: uporabniku ni dovolj povedati, da je sistem natančen, temveč mora videti tudi, kako se upoštevajo njegove posebnosti in kdo bo rezultat strokovno presodil.

Raziskava Rojahn in drugih (2023) na reprezentativnem vzorcu 203 odraslih v Združenih državah Amerike je pokazala močno prednost človeškim odločevalcem pri triaži in odpustu iz bolnišnice. Udeležencem je bilo manj prijetno, če naj bi njihove zdravstvene zapise brala UI, skoraj enakomerno pa so bili razdeljeni glede zaupanja v lastnega zdravnika, ki bi UI uporabil pri postavljanju diagnoze. Hkrati so pričakovali, da bo tehnologija v prihodnosti izboljšala zdravljenje. Rezultati kažejo, da zadržanost ne pomeni nujno zavračanja razvoja, ampak pogosto zahtevo po postopnem in nadzorovanem uvajanju.

Novejši podatki dodatno potrjujejo vlogo zdravnika in upravljanja sistema. Bracic in drugi (2026) so v raziskavi s 3000 odraslimi primerjali hipotetične obiske, ki so se razlikovali po uspešnosti UI, prisotnosti zdravnika, kakovosti učnih podatkov ter različnih oblikah odobritve. Prisotnost zdravstvenega delavca je verjetnost izbire obiska povečala za 18,4 odstotne točke, pomembni pa so bili tudi dokazano delovanje, reprezentativni podatki in institucionalni nadzor. To pomeni, da uporabniki zaupanje oblikujejo iz več signalov: ne ocenjujejo le algoritma, temveč tudi strokovnjaka in ustanovo, ki ga uporabljata.

Zaupanje v UI je zato tesno povezano s širšim zaupanjem v zdravstveni sistem. Nong in Platt (2025) sta pri 2039 odraslih ugotovila, da je 65,8 odstotka vprašanih izražalo nizko zaupanje, da bo njihov zdravstveni sistem UI uporabljal odgovorno, 57,7 odstotka pa nizko zaupanje, da jih bo zaščitil pred škodo. Predhodne izkušnje diskriminacije so bile povezane z nižjim zaupanjem, medtem ko samo poznavanje UI ni imelo jasne povezave z obema izidoma. Izobraževanje javnosti je pomembno, vendar ne more nadomestiti preglednih pravil, preverljive kakovosti in izkušenj pravične obravnave.

Za sprejemljivost je pomembna tudi razlika med nalogami. Administrativna pomoč, priprava povzetka ali opozorilo zdravniku praviloma puščajo več prostora za preverjanje in imajo manj neposreden vpliv na pacienta. Samostojna diagnoza, razvrščanje nujnosti ali izbor zdravljenja pa posegajo v odločitve z večjimi posledicami. Pri anketiranju zato ni smiselno vprašati samo, ali ljudje »zaupajo UI v zdravstvu«. Natančnejši vpogled dobimo, če ocenjujejo konkretne primere z različnimi stopnjami tveganja, samostojnosti sistema in človeškega nadzora.

ETIČNA, PRAVNA IN VARNOSTNA TVEGANJA

Zdravstveni podatki razkrivajo informacije o telesnem in duševnem zdravju, diagnozah, zdravilih, genetskih značilnostih in življenjskih navadah. Njihova uporaba za razvoj ali delovanje UI zato odpira vprašanja zakonitosti, omejitve namena, varnosti in nadzora nad nadaljnjo uporabo. Tudi če so iz podatkov odstranjeni neposredni identifikatorji, lahko povezovanje več zbirk poveča možnost ponovne prepoznave posameznika. Uporabnik mora vedeti, kdo podatke obdeluje, zakaj jih potrebuje, koliko časa jih hrani in ali se uporabljajo tudi za učenje novega modela. Brez jasnih odgovorov lahko obljuba hitrejše obravnave deluje kot menjava zasebnosti za storitev, v kateri pacient nima resnične izbire.

Drugo tveganje je pristranskost. Model se uči iz preteklih podatkov, ti pa niso nevtralna slika sveta. Določene skupine so lahko v njih slabše zastopane, meritve so lahko manj kakovostne ali pa podatki odražajo pretekle razlike v dostopu do obravnave. Sistem je lahko v povprečju zelo uspešen, vendar bistveno manj zanesljiv pri manjšinski skupini. Zato je treba rezultate preverjati med relevantnimi skupinami in tudi po uvedbi spremljati, ali se delovanje zaradi sprememb v populaciji ali klinični praksi poslabšuje. Namen takšnega preverjanja ni zahtevati enakih rezultatov za vse skupine, temveč ugotoviti, ali sistem neupravičeno povečuje zdravstvene neenakosti.

Tretje vprašanje je razložljivost. Pri enostavnem pravilu je mogoče razumeti, zakaj je nastalo opozorilo, pri kompleksnem modelu pa je pot od vhodnih podatkov do rezultata težje predstaviti. Popolna tehnična razlaga pacientu pogosto ne bi koristila, vendar mora prejeti smiselne informacije: kakšna je vloga sistema, katere podatke uporablja, kako zanesljiv je za podobne primere, kakšne so njegove omejitve in kdo je odločitev preveril. Razložljivost mora biti prilagojena naslovniku. Razvijalec potrebuje podatke za odpravljanje napak, zdravnik klinično utemeljitev, pacient pa razumljivo podlago za informirano sodelovanje.

S preglednostjo je povezana obveščenost o uporabi UI. Platt in drugi (2024) so pri 2021 odraslih ugotovili, da jih je 62,7 odstotka menilo, da je zelo pomembno biti obveščen o uporabi UI v lastni zdravstveni oskrbi. Obvestilo samo po sebi še ne rešuje vseh etičnih vprašanj, vendar je pogoj za pošten odnos. Smiselno mora razložiti, ali UI zgolj pomaga pri dokumentaciji, daje priporočilo zdravniku ali sprejema odločitev z neposrednim učinkom. Bolj ko je uporaba tvegana in samostojna, večja je potreba po jasni razlagi, možnosti vprašanj in človeškem pregledu.

Pomembna je tudi odgovornost. Če se zaradi napačnega priporočila zgodi škoda, so lahko v proces vključeni razvijalec, dobavitelj, zdravstvena ustanova in zdravstveni delavec. Pavleković in Petrovič (2021) opozarjata, da običajna civilnopravna pravila pri sistemih UI odpirajo zahtevna vprašanja glede dokazovanja napake, vzročne zveze in porazdelitve odgovornosti. Za uporabnika mora biti ne glede na tehnično zapletenost jasno, kdo je pristojen za odločitev, komu lahko prijavi težavo in kako se napaka obravnava. Nejasna odgovornost spodkopava zaupanje tudi takrat, ko je verjetnost napake majhna.

Svetovna zdravstvena organizacija (2021) predlaga šest temeljnih načel odgovorne UI za zdravje: varovanje človekove avtonomije; spodbujanje dobrega počutja, varnosti in javnega interesa; preglednost, razložljivost in razumljivost; odgovornost in možnost pravnega varstva; vključevanje in pravičnost ter odzivnost in trajnost. Načela opozarjajo, da dober sistem ni samo tehnično natančen. Biti mora vključen v proces, ki ščiti pacienta, omogoča nadzor, meri učinke in se odziva na ugotovljene napake.

V Evropski uniji to področje dopolnjuje Akt o umetni inteligenci – Uredba (EU) 2024/1689, ki določa pristop glede na raven tveganja. Med visokotvegane se lahko uvrstijo tudi sistemi UI, ki so varnostna komponenta medicinskega pripomočka ali so sami medicinski pripomoček, če izpolnjujejo pogoje iz uredbe. Za takšne uporabe so pomembne zahteve glede upravljanja tveganj, kakovosti podatkov, dokumentacije, sledljivosti, človeškega nadzora, natančnosti in kibernetske varnosti. Pravni okvir ne odpravlja potrebe po presoji posameznega primera, vendar postavlja minimalne pogoje, na katerih lahko zdravstvene ustanove in uporabniki gradijo preverljivo zaupanje.

Koristi in tveganja UI v zdravstvu zato niso dve ločeni strani razprave. Hitra obravnava je korist le, če ne zmanjša kakovosti; večja objektivnost je korist le, če so podatki dovolj reprezentativni; avtomatizacija je korist le, če osebje razume rezultat in ga lahko izpodbija; uporaba velike količine podatkov je korist le, če je njihova obdelava varna in upravičena. Sprejemljivost tehnologije bo odvisna od tega, ali bodo uporabniki te pogoje prepoznali v konkretni zdravstveni izkušnji.

RAZISKOVALNI IN METODOLOŠKI OKVIR

Raziskovalni okvir izhaja iz razlikovanja med vrsto zdravstvene naloge in stopnjo samostojnosti UI. Zaupanje v konkretne storitve obravnavamo v povezavi z zaznanimi koristmi in pomisleki, dodatno pa upoštevamo poznavanje UI, pogostost njene uporabe ter izkušnje z zdravstvenim sistemom. Tak pristop omogoča razlikovanje med splošnimi pričakovanji do tehnologije in pripravljenostjo, da bi jo uporabniki sprejeli pri lastni zdravstveni obravnavi.

Empirični del temelji na presečni spletni anketi na platformi 1KA. Analizirani izvoz je vseboval 197 vnosov. En vnos, izpolnjen le do vprašanja o izobrazbi, smo izločili; končni analitični vzorec tako sestavlja 196 popolnih vprašalnikov. Neobvezno besedilno dopolnilo pri izobrazbi ni bilo pogoj za vključitev. Analiza je neutežena, vsi navedeni deleži pa imajo imenovalec 196. Vzorec obravnavamo kot priložnosten in nereprezentativen; iz izvoza ni mogoče izračunati stopnje odziva.

Vprašalnik je zajel demografske značilnosti, samooceno poznavanja UI, pogostost uporabe, iskanje zdravstvenih informacij in izkušnje z zdravstvom. Sledile so ocene zaupanja v devet storitev ter ocene šestih možnih koristi, šestih pomislekov in pomembnosti obveščanja. Uporabljene so bile petstopenjske lestvice: višje vrednosti pomenijo več zaupanja, strinjanja, zaskrbljenosti oziroma pomembnosti. Sprejemljivost smo presojali prek zaupanja v scenarije in neposrednih vprašanj o pripravljenosti za uporabo; pojma zato nista povsem zamenljiva. Pristranskost, omenjena v tretjem raziskovalnem vprašanju, ni bila merjena s samostojno postavko.

Izračunali smo deleže, aritmetične sredine (M) in standardne odklone (SD). Za primerjavo vrst nalog smo za vsakega udeleženca izračunali povprečje štirih podpornih scenarijev (naročanje, dokumentacija, razlaga in spremljanje), treh kliničnih scenarijev s človeško potrditvijo ter dveh samostojnih kliničnih scenarijev. Hipotezo smo preverili s štirimi parnimi primerjavami, pri čemer smo uporabili dvostranski Wilcoxonov test predznačenih rangov in Holmov popravek za večkratno testiranje. Povezave smo raziskovalno opisali s Spearmanovim koeficientom ρ.

Povprečja vseh devetih ocen zaupanja, šestih koristi in šestih pomislekov so zgolj opisni kazalniki. Njihova notranja skladnost je nizka: Cronbachov α znaša 0,33, 0,17 oziroma 0,16. Ne gre torej za potrjene enodimenzionalne lestvice; korelacije njihovih povprečij je treba razlagati zadržano. Osrednje ugotovitve zato temeljijo na posameznih scenarijih in neposrednih parnih primerjavah.

REZULTATI RAZISKAVE MED UPORABNIKI

V vzorcu je bilo 152 moških (77,6 %), 42 žensk (21,4 %) in dve osebi, ki sta izbrali drugo možnost (1,0 %). Največ udeležencev je bilo starih 20–29 let (54,1 %), sledile so skupine 30–49 let (21,4 %), 15–19 let (16,8 %) in 50 let ali več (7,7 %). Študenti so predstavljali 43,4 %, zaposleni 31,1 % in dijaki 16,3 % vzorca; drugi statusi skupaj 9,2 %. Višjo šolo oziroma diplomo je navedlo 44,9 %, srednjo šolo 32,7 %, osnovno šolo 10,7 %, magisterij 9,7 %, doktorat 0,5 % in drugo izobrazbo 1,5 % udeležencev.

Najbolj zastopano področje dela ali izobraževanja je bilo računalništvo, informatika oziroma tehnika (42,9 %), sledila sta naravoslovje oziroma matematika (16,8 %) in izobraževanje (12,8 %). Iz zdravstva oziroma sociale so prihajali le štirje udeleženci (2,0 %). Izsledki zato predvsem opisujejo mlajši, pretežno moški in tehnično usmerjen del doseženih uporabnikov, ne pa stališč zdravstvenega osebja ali reprezentativnega preseka prebivalstva.

UI je vsak dan ali skoraj vsak dan uporabljalo 41,3 % vprašanih, nekajkrat tedensko 33,7 %, nekajkrat mesečno 18,4 %, redkeje 3,6 %, nikoli pa 3,1 %. Za iskanje informacij o zdravju jo je že uporabilo 67,3 % udeležencev. Povprečna samoocena poznavanja delovanja UI je znašala 3,54 (SD = 0,86), ocena dosedanjih izkušenj z zdravstvenim sistemom pa 3,36 (SD = 0,94). Pogosta uporaba splošnih orodij sama po sebi ne pomeni izkušenj s klinično UI.

Primerjava storitev odgovarja na prvo raziskovalno vprašanje. Najvišje povprečje je doseglo spremljanje podatkov iz naprav z opozarjanjem zdravnika (M = 3,62), tik za njim pa naročanje pacientov (M = 3,60). Pri pripravi dokumentacije s strokovnim pregledom je povprečje znašalo 3,41; oceni 4 ali 5 je izbralo 64,3 %, oceni 1 ali 2 pa 28,6 % vprašanih, kar kaže precejšnjo razdeljenost. Razlaga izvidov, triaža, predlog diagnoze in predlog zdravljenja s človeško potrditvijo so bili bližje sredini lestvice. Najnižji oceni sta prejeli samostojna diagnoza (2,08) in samostojna izbira zdravljenja (1,69). Pri slednji je 79,1 % vprašanih z ocenama 1 ali 2 izrazilo nezaupanje. Slika 1 prikazuje vseh devet povprečij.

Slika 1: Povprečno zaupanje v uporabo UI pri zdravstvenih storitvah (n = 196). Višja ocena pomeni več zaupanja; rdeči točki označujeta odločanje brez zdravniške potrditve. Oznake postavk so skrajšane. Vir: lastna analiza ankete 1KA.

Podporne naloge so bile v povprečju ocenjene s 3,44 (SD = 0,60), klinične naloge s človeško potrditvijo s 3,09 (SD = 0,75), samostojne klinične naloge pa z 1,88 (SD = 0,75). Podpornim nalogam je bolj kot samostojnim kliničnim nalogam zaupalo 181 udeležencev (92,3 %). Še neposrednejša je primerjava enake vrste storitve: diagnoza iz medicinske slike je ob zdravniškem preverjanju dosegla 3,05, brez njega pa 2,08; predlog zdravljenja z zdravnikovo končno odločitvijo je dosegel 3,07, samostojna izbira pa 1,69. Vse štiri preverjene parne razlike, vključno s primerjavo nadzorovanih in samostojnih kliničnih nalog, so bile statistično značilne tudi po Holmovem popravku (p < 0,001). Hipoteza je zato v tem vzorcu podprta v smeri pričakovanih razlik. Ker ne gre za randomiziran poskus, rezultat ne dokazuje vzročnega učinka nadzora na dejansko vedenje.

Pri zaznanih koristih je izstopala administrativna razbremenitev osebja (M = 4,29; 82,1 % ocen 4 ali 5). Sledile so naslednje koristi: zgodnejše odkrivanje bolezni (3,78), boljši dostop do informacij in storitev (3,74), krajše čakalne dobe (3,71), manj spregledanih podatkov ali napak (3,66) ter doslednejša obravnava (3,47). Povprečje koristi je bilo šibko pozitivno povezano s povprečnim zaupanjem (ρ = 0,22). Glede drugega raziskovalnega vprašanja to nakazuje, da so ugodnejša pričakovanja nekoliko povezana z več zaupanja, ne pa, da ga povzročajo.

Največ skrbi je povzročala napačna diagnoza ali priporočilo (M = 4,04; 74,0 % ocen 4 ali 5). Sledili so pomisleki glede nejasne odgovornosti (3,91), uporabe podatkov brez seznanjenosti pacienta (3,78), zmanjšanja osebnega stika in empatije (3,74), nerazumljivosti odločanja (3,68) ter nepooblaščenega dostopa do podatkov (3,52). Kljub izrazitim pomislekom povezava njihovega skupnega povprečja s povprečnim zaupanjem ni bila opazna (ρ = −0,01). Pri tretjem raziskovalnem vprašanju zato ni mogoče sklepati, da višja skupna zaskrbljenost nujno pomeni nižje zaupanje. Nizka notranja skladnost kazalnika dodatno omejuje takšno razlago.

Pomembnost obveščanja o uporabi UI je dosegla povprečje 4,47; oceni 4 ali 5 je izbralo 178 udeležencev (90,8 %). Hitrejšo obravnavo z UI bi brez dodatnih pogojev sprejeli le trije (1,5 %), 67 (34,2 %) samo ob preverjanju zdravstvenega delavca, 104 (53,1 %) pa bi se odločili glede na vrsto storitve. Uporabo je zavrnilo 7,1 %, neopredeljenih je bilo 4,1 %. Odgovor »morda« ni enakovreden sprejemanju: hitrost je za večino predmet pogojnega tehtanja.

Pri želeni vlogi UI je 41,3 % izbralo pomoč pri analizah in odločanju, 37,8 % samo administrativne naloge in 10,7 % skupno odločanje z zdravstvenim delavcem. Samostojnost pri preverjenih nalogah je podprlo 1,5 %, večinsko samostojnost 0,5 %, popolno izključitev UI pa 2,6 %; 5,6 % se jih ni opredelilo. Prevladuje torej podpora omejeni ali sodelovalni vlogi, vendar z različnimi predstavami o tem, kako daleč naj ta sega.

Dodatni opisni pregled je pokazal pozitivni povezavi povprečnega zaupanja s pogostostjo uporabe (ρ = 0,30) in samooceno poznavanja UI (ρ = 0,26); z oceno izkušenj z zdravstvom je bila povezava šibkejša (ρ = 0,12). Povprečje zaupanja se je med starostnimi skupinami gibalo od 3,08 pri najmlajših do 2,59 pri starih 50 let ali več. Zaradi majhne najstarejše skupine, nizke skladnosti kazalnika in odsotnosti nadzora drugih dejavnikov teh razlik ne razlagamo kot samostojen učinek starosti ali znanja.

Prednost človeškega nadzora je vsebinsko skladna z raziskavama Rojahn in drugih (2023) ter Bracic in drugih (2026), izražena potreba po obveščanju pa z raziskavo Platt in drugih (2024). Povezava samoocenjenega poznavanja z zaupanjem se razlikuje od odsotnosti povezave pri Nong in Platt (2025), vendar sta avtorja merila drugačno obliko znanja in zaupanje v zdravstveni sistem, ne pa istih scenarijev. Različni vzorci, vprašanja in lestvice ne dopuščajo neposrednega enačenja odstotkov ali trditve, da smo tuje rezultate ponovili.

ZAKLJUČEK

Rezultati kažejo, da je sprejemanje umetne inteligence v zdravstvu odvisno predvsem od vrste naloge in samostojnosti sistema. Udeleženci so najugodnejše ocenili podporne naloge (M = 3,44), nekoliko nižje klinične naloge pod nadzorom zdravstvenega delavca (M = 3,09), najmanj pa samostojne klinične odločitve (M = 1,88). Največ zaupanja sta prejela spremljanje podatkov iz naprav z opozarjanjem zdravnika (M = 3,62) in naročanje pacientov (M = 3,60), najmanj pa samostojna izbira zdravljenja (M = 1,69). Zdravniško preverjanje je bilo povezano z višjo sprejemljivostjo diagnoze in zdravljenja, zato je hipoteza v analiziranem vzorcu podprta, vendar rezultat ne dokazuje vzročnega učinka v dejanski oskrbi.

Najbolj prepoznana korist je bila administrativna razbremenitev osebja (M = 4,29), največ pomislekov pa sta vzbudili napačna diagnoza (M = 4,04) in nejasna odgovornost ob napaki (M = 3,91). Koristi so bile z zaupanjem povezane le šibko, skupni kazalnik pomislekov pa skoraj nič. Kar 90,8 % udeležencev je obveščanje o uporabi UI ocenilo z oceno 4 ali 5. Hitrejšo obravnavo bi brez dodatnih pogojev sprejelo le 1,5 % vprašanih; večina bi odločitev prilagodila vrsti storitve ali zahtevala preverjanje zdravstvenega delavca.

Ugotovitve članka so pomembne za zdravstvene delavce, vodstva ustanov, razvijalce zdravstvenih rešitev, strokovnjake za varstvo podatkov, odločevalce in organizacije pacientov. Rezultati jim pomagajo presoditi, pri katerih uporabah je sprejemanje UI verjetnejše in kje je treba več pozornosti nameniti razlagi, nadzoru in odgovornosti.

Za stroko je bistveno, da UI uvaja po posameznih nalogah in sorazmerno z njihovim tveganjem. Podpora administrativni razbremenitvi in spremljanju podatkov upravičuje preizkušanje takšnih rešitev, ne potrjuje pa še njihove učinkovitosti ali varnosti. Pri diagnozi in zdravljenju naj UI pripravi predlog, končno presojo in odgovornost pa ohrani zdravstveni delavec. Ustanova mora določiti namen sistema, odgovorno osebo, način preverjanja rezultatov in postopek ob napaki. Pacient mora razumeti, kdaj se UI uporablja, katere podatke obdeluje in kdo preveri rezultat. Po uvedbi je treba spremljati kakovost odločitev, napake, razlike med skupinami pacientov in vpliv na potek dela. Zaupanje se gradi s preverljivo kakovostjo in jasno odgovornostjo, ne le z obljubo hitrejše obravnave.

Glavne omejitve so priložnostni spletni vzorec s prevlado moških, mlajših in tehnično usmerjenih oseb, malo sodelujočih iz zdravstva, samoocene ter hipotetični scenariji. Rezultatov zato ni mogoče posplošiti na vse prebivalce Slovenije ali enačiti z dejanskim vedenjem pacientov. Nizka notranja skladnost skupin postavk omejuje razlago skupnih kazalnikov, pristranskost sistemov ni bila neposredno izmerjena, presečna zasnova pa ne omogoča sklepanja o vzročnosti.

Raziskavo bi izboljšali večji in bolj uravnotežen vzorec, načrtno vključevanje pacientov in zdravstvenih delavcev, pilotno preverjen vprašalnik ter zanesljivejše merske lestvice. Pri nadaljnjem raziskovanju bi bilo smiselno primerjati enake storitve z različnimi stopnjami zdravniškega nadzora ter anketne odgovore povezati s preizkusi v resničnem okolju. Ti naj poleg zaupanja merijo čakalni čas, obremenitev osebja, uspešnost odločitev in varnostne dogodke. Intervjuji in daljše spremljanje bi pojasnili, zakaj se stališča spreminjajo. Ugotovitve podpirajo pregledno in nadzorovano uporabo UI, ki dopolnjuje strokovno presojo.

 

 

LITERATURA

Svetovna zdravstvena organizacija. (2021). Ethics and governance of artificial intelligence for health: WHO guidance. Svetovna zdravstvena organizacija. https://www.who.int/publications/i/item/9789240029200. [18. 8. 2026]

Center za družboslovno informatiko. (2025). Survey: Artificial intelligence in Slovenia. Fakulteta za družbene vede Univerze v Ljubljani: https://www.fdv.uni-lj.si/en/research/research-centres/department-of-sociology/centre-for-social-informatics/news/survey-artificial-intelligence-in-slovenia. [5. 8. 2026]

Evropski parlament in Svet Evropske unije. (2024). Uredba (EU) 2024/1689 Evropskega parlamenta in Sveta z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci. Uradni list Evropske unije, L(2024/1689). https://eur-lex.europa.eu/legal-content/SL/TXT/?uri=CELEX:32024R1689. [18. 8. 2026]

Bracic, A., Spector-Bagdady, K., Towle, S., Zhang, R., James, C. A., & Price, W. N. (2026). Factors for Patient Trust and Acceptance of Medical Artificial Intelligence. JAMA Network Open, 9(3), e260815. doi:10.1001/jamanetworkopen.2026.0815

Gričnik, A. M., & Zore, M. (2024). Umetna inteligenca v zdravstvu. Izzivi managementu, 16(1–2), 66–77. https://sam-d.si/wp-content/uploads/2025/02/Izzivi-Managementu-2024-st01-Splet-Clanek-8.pdf. [21. 8. 2026]

Hočevar, T. (2026). Učenje razložljivega modela stisnjenosti spiral pri spirografiji. Univerza v Ljubljani. Repozitorij Univerze v Ljubljani: https://repozitorij.uni-lj.si/IzpisGradiva.php?id=179158&lang=slv. [23. 8. 2026]

Longoni, C., Bonezzi, A., & Morewedge, C. K. (2019). Resistance to Medical Artificial Intelligence. Journal of Consumer Research, 46(4), 629–650. doi:10.1093/jcr/ucz013

Nong, P., & Platt, J. E. (2025). Patients’ Trust in Health Systems to Use Artificial Intelligence. JAMA Network Open, 8(2), e2460628. doi:10.1001/jamanetworkopen.2024.60628

Pavleković, B., & Petrovič, J. (2021). Civilnopravni vidiki umetne inteligence v zdravstvu/medicini. Pravni letopis, 2021, 103–122. https://www.dlib.si/stream/URN%3ANBN%3ASI%3Adoc-WJ6VC571/daedb943-fa26-41ca-a43d-c0bfcc188861/PDF. [17. 8. 2026]

Platt, J., Nong, P., Carmona, G., & Kardia, S. (2024). Public Attitudes Toward Notification of Use of Artificial Intelligence in Health Care. JAMA Network Open, 7(12), e2450102. doi:10.1001/jamanetworkopen.2024.50102

Rajpurkar, P., Chen, E., Banerjee, O., & Topol, E. J. (2022). AI in health and medicine. Nature Medicine, 28, 31–38. doi:10.1038/s41591-021-01614-0

Rojahn, J., Palu, A., Skiena, S., & Jones, J. J. (2023). American public opinion on artificial intelligence in healthcare. PLOS ONE, 18(11), e0294028. doi:10.1371/journal.pone.0294028

Vo, V., Chen, G., Aquino, Y. S., Carter, S. M., Do, Q. N., & Woode, M. E. (2023). Multi-stakeholder preferences for the use of artificial intelligence in healthcare: A systematic review and thematic analysis. Social Science & Medicine, 338, 116357. doi:10.1016/j.socscimed.2023.116357

Young, A. T., Amara, D., Bhattacharya, A., & Wei, M. L. (2021). Patient and general public attitudes towards clinical artificial intelligence: a mixed methods systematic review. The Lancet Digital Health, 3(9), e599–e611. doi:10.1016/S2589-7500(21)00132-1