.png)
_page-0002.png)
Vjerujemo li AI-ju previše? Novo istraživanje otkriva problem sa zdravstvenim informacijama
Ljudi koji se u većoj mjeri oslanjaju na generativnu umjetnu inteligenciju pokazuju slabiju sposobnost prilagođavanja povjerenja kada AI ponudi netočne zdravstvene informacije, pokazalo je novo istraživanje američkih znanstvenika objavljeno 16. rujna 2026. u časopisu Journal of Medical Internet Research
Generativni alati umjetne inteligencije sve se češće koriste i za traženje zdravstvenih informacija od objašnjavanja medicinske terminologije i laboratorijskih nalaza do pitanja o simptomima, bolestima ili mogućnostima liječenja. Upravo zato jedno od važnih pitanja više nije samo koliko su odgovori takvih sustava točni, nego i koliko su korisnici sposobni prepoznati trenutak kada umjetna inteligencija pogriješi.
Tim znanstvenika sa Sveučilišta Arizona istražio je upravo taj problem u studiji Trust in Generative AI for Health Information Consumption and the Effect of Learned Dependency: Randomized Controlled Experimental Study. U dva randomizirana eksperimenta, provedena na ukupno 901 sudioniku, istraživači su proučavali odnos između oslanjanja na generativnu umjetnu inteligenciju i povjerenja u zdravstvene informacije koje ona proizvodi.
Točne i namjerno izmijenjene zdravstvene informacije
U prvom eksperimentu sudjelovalo je 338 studenata, dok je u drugom, kojim su istraživači željeli provjeriti mogu li ponoviti dobivene rezultate na raznolikijem uzorku, sudjelovalo 563 američkih korisnika platforme Amazon Mechanical Turk.
Za eksperiment su korištene stvarne, anonimizirane bolničke upute za pacijente iz kliničke baze podataka MIMIC-III. Odabrano je pet tekstova koji su se odnosili na uobičajena bolnička stanja, a uz originalne upute sudionicima je prikazana verzija teksta koju je generirao GPT-4o.
U jednoj skupini AI-verzija vjerno je prenosila izvorne medicinske informacije, dok su u drugoj istraživači namjerno promijenili ključne medicinske podatke. U prvom eksperimentu netočnosti su bile unesene na tri mjesta u tekstu, a u drugom na šest mjesta. Sudionici su istodobno mogli vidjeti originalne medicinske upute i verziju koju je proizvela umjetna inteligencija te su nakon toga procjenjivali koliko vjeruju AI-generiranom sadržaju.
Istraživači su istodobno mjerili ono što nazivaju “learned dependency”, odnosno naučenom ovisnošću ili navikom oslanjanja na generativnu umjetnu inteligenciju pri traženju informacija i donošenju odluka.
Što se korisnici više oslanjaju na AI, razlika između točnog i netočnog sadržaja postaje manja
Rezultati oba eksperimenta pokazali su očekivani obrazac: sudionici su u prosjeku više vjerovali točnim nego netočnim informacijama koje je generirala umjetna inteligencija.
Međutim, upravo je odnos između točnosti informacije i stupnja oslanjanja na AI donio najzanimljiviji rezultat.
Sudionici koji su imali viši stupanj samoprocijenjene ovisnosti o generativnoj umjetnoj inteligenciji u cjelini su pokazivali veće povjerenje u AI odgovore. Istodobno je kod njih bila slabija razlika u povjerenju između točnih i netočnih odgovora. Drugim riječima, što je oslanjanje na generativnu umjetnu inteligenciju bilo izraženije, to je povjerenje korisnika bilo manje osjetljivo na činjenicu je li zdravstvena informacija koju je AI ponudio zapravo točna.
Ta je povezanost statistički potvrđena u oba eksperimenta. Interakcija između točnosti informacije i naučene ovisnosti o AI-ju bila je značajna i u prvom eksperimentu (B = –0,399; 95 % CI –0,695 do –0,104; P < 0,001) i u ponovljenom eksperimentu (B = –0,459; 95 % CI –0,577 do –0,340; P < 0,001).
Autori rezultate tumače kao znak slabije “kalibracije povjerenja” kod osoba koje se više oslanjaju na generativnu umjetnu inteligenciju. Dobro kalibrirano povjerenje podrazumijeva da korisnik sustavu više vjeruje kada daje točne rezultate, ali smanjuje povjerenje kada sustav griješi.
Ni isticanje važnih dijelova teksta nije pomoglo
Istraživači su provjeravali i može li jednostavna intervencija u načinu prikaza informacija pomoći korisnicima da bolje uoče pogreške.
U dijelu eksperimentalnih uvjeta ključni dijelovi AI-generiranog teksta bili su vizualno istaknuti podebljanim slovima kako bi se pozornost sudionika usmjerila upravo na informacije koje treba usporediti s izvornim medicinskim tekstom.
No takvo isticanje nije značajno utjecalo na povjerenje u AI-generirane informacije, niti je smanjilo povezanost između većeg oslanjanja na AI i slabijeg razlikovanja točnih od netočnih odgovora.
Prema autorima, to upućuje na zaključak da jednostavni vizualni signali možda nisu dovoljni za sprječavanje pretjeranog oslanjanja na generativnu umjetnu inteligenciju kada se ona koristi kao izvor zdravstvenih informacija.
Rezultati istraživanja otvaraju važno pitanje: Kako zadržati sposobnost kritičke procjene kada je odgovor napisan uvjerljivo, ali je zapravo medicinski netočan?
Autori pritom upozoravaju na granice onoga što se na temelju studije može zaključiti.
Iako su točnost AI-generiranih informacija i način njihova prikaza eksperimentalno mijenjani, stupanj ovisnosti o generativnoj umjetnoj inteligenciji nije eksperimentalno proizveden, nego je mjeren putem upitnika. Zbog toga istraživanje ne dokazuje da češće korištenje umjetne inteligencije samo po sebi uzrokuje slabiju sposobnost prepoznavanja pogrešnih zdravstvenih informacija.
Studija pokazuje povezanost: osobe koje su iskazivale veću naviku oslanjanja na AI istodobno su pokazivale slabiju prilagodbu povjerenja kada su bile suočene s netočnim AI-generiranim zdravstvenim sadržajem.
Istraživači također nisu pratili stvarne zdravstvene odluke sudionika nakon čitanja informacija, nego njihovo povjerenje u predstavljeni sadržaj. Autori zato ističu da su potrebna daljnja istraživanja koja će ispitati kako se takvo povjerenje odražava na stvarno ponašanje i donošenje zdravstvenih odluka.
Nalazi, međutim, otvaraju važno pitanje za razvoj generativne umjetne inteligencije u zdravstvu: nije dovoljno da AI sustavi postaju sve sposobniji pružati zdravstvene informacije. Jednako je važno razvijati načine koji će korisnicima pomoći da zadrže sposobnost kritičke procjene njihovih odgovora – osobito onda kada je odgovor uvjerljivo napisan, ali medicinski netočan.
Znanstveni izvor
Ahmed A, Leroy G, Sachdeva A, Harber P, Rains S, Youn S, Barai P. Trust in Generative AI for Health Information Consumption and the Effect of Learned Dependency: Randomized Controlled Experimental Study. Journal of Medical Internet Research. 2026;28. Published September 16, 2026. doi: 10.2196/98326. PMID: 42747973; PMCID: PMC13580606.
