Mislil je, da mu AI pomaga, a resnica je bila usodna: Razkrivamo, zakaj vas lahko digitalni nasvet stane življenja!

18. 02. 2026 ob 06:30

V času, ko je umetna inteligenca le nekaj klikov stran, je za mnoge postala prvi sogovornik ob zdravstvenih težavah.

Ob pojavu simptomov vse pogosteje najprej vprašamo umetno inteligenco – šele nato zdravnika. A vprašanje ostaja: koliko je to varno? Ko je 37-letni Warren začel opažati težave pri požiranju, ni posumil na nič resnega. Morda vnetje grla, morda refluks – nič, kar bi zahtevalo posebno skrb. Namesto obiska pri zdravniku se je obrnil na umetno inteligenco. Ta ga je pomirila: možnost raka naj bi bila »zelo majhna«. Nekaj mesecev kasneje je prejel diagnozo – rak požiralnika v četrtem stadiju. Takšni primeri niso osamljeni. Kot poroča The Economic Times, je moški v Iraku ob hudih bolečinah v trebuhu namesto zdravnika povprašal umetno inteligenco, katero zdravilo naj vzame. Umrl je le nekaj ur pozneje.Ko je odgovor prepričljiv, a napačenUmetna inteligenca zna delovati samozavestno – tudi kadar se moti. Raziskava, objavljena v strokovni reviji JAMA Pediatrics, je pokazala, da je ChatGPT napačno diagnosticiral 72 od 100 pediatričnih primerov, v dodatnih 11 primerih pa je podal preveč splošne odgovore. V Londonu je sistem umetne inteligence z imenom »Annie« bolnika pomotoma označil kot diabetika in srčnega bolnika ter mu poslal vabilo na pregled za bolezen, ki je sploh ni imel. Navedel je celo bolnišnico, ki ne obstaja. Kritike so doletele tudi tehnološkega velikana Google, ko je njihov model Med-Gemini v raziskovalni objavi uporabil izmišljen medicinski izraz. Strokovnjaki ob tem opozarjajo na pojav tako imenovanega »automation bias« – našo nagnjenost, da presoji stroja zaupamo bolj kot lastni presoji ali dvomu, tudi kadar je napačna. Pri zdravju pa napačna odločitev ni zgolj neprijetnost, temveč lahko pomeni izgubljen čas – in zamujeno zdravljenje.A zgodba ni zgolj negativnaUmetna inteligenca v zdravstvu ni le vir tveganj. Ob pravilni uporabi že danes pomembno prispeva k reševanju življenj. Evropska komisija jo v svojih poročilih opisuje kot prelomno tehnologijo, ki lahko izboljša učinkovitost, dostopnost in vzdržnost zdravstvenih sistemov. V enotah intenzivne terapije sistemi na osnovi umetne inteligence že danes zaznavajo tveganje za sepso več ur, preden se pojavijo klinični znaki. Pri mamografijah lahko pomagajo prepoznati zgodnje znake raka dojke z izjemno natančnostjo. V farmacevtski industriji pospešujejo razvoj novih zdravil in optimizirajo klinična preskušanja. Njena prednost je sposobnost analize ogromnih količin podatkov v zelo kratkem času. To lahko pomeni hitrejše diagnoze, bolj prilagojeno zdravljenje in učinkovitejšo rabo zdravstvenih virov. Toda ključno je, da ostaja pod človeškim nadzorom.Tehnologija brez nadzora pomeni tveganjeEvropska unija je 1. avgusta 2024 sprejela Akt o umetni inteligenci (AI Act), ki uvaja stroga pravila za sisteme z visokim tveganjem – mednje sodi tudi medicinska programska oprema (Uredba (EU) 2024/1689). Takšni sistemi morajo zagotavljati: visoko kakovost podatkov, obvladovanje in zmanjševanje tveganj, jasne in razumljive informacije za uporabnike, obvezen človeški nadzor. Nova Direktiva o odgovornosti za proizvode dodatno določa, da je tudi programska oprema – vključno z umetno inteligenco – pravno opredeljena kot proizvod. Če povzroči škodo, lahko za to odgovarja proizvajalec.Empatije ni mogoče programiratiAlgoritem ne opazi utrujenosti v očeh. Ne zazna spremembe polti. Ne sliši negotovosti v glasu. Raziskovalci s Harvard Medical School in Stanford University opozarjajo, da modeli umetne inteligence lahko uspešno rešujejo medicinske teste, vendar se pogosto zapletejo v resničnih pogovorih s pacienti, kjer sta ključna kontekst in človeška dimenzija. Zdravnik poleg simptomov upošteva širšo sliko: družinsko anamnezo, življenjski slog, pretekle bolezni. Postavlja dodatna vprašanja, preverja, dvomi. Umetna inteligenca analizira podatke – ne prevzema pa odgovornosti.Kako jo uporabljati varno?Strokovnjaki se strinjajo: umetna inteligenca je lahko dragoceno podporno orodje, ne sme pa nadomestiti zdravniške presoje. Uporabna je lahko pri: razlagi medicinskih izrazov, pripravi vprašanj za posvet z zdravnikom, boljšem razumevanju izvidov. Ne sme pa postati edini vir odločanja. Resni ali dolgotrajni simptomi vedno zahtevajo osebni pregled. Digitalni nasvet je lahko prvi korak – nikoli pa zadnji. Ključne besede: Umetna inteligenca, AI, nasvet, zdravstvo