Generativni klepetalni roboti, ki temeljijo na umetni inteligenci, lahko okrepijo simptome pri ljudeh s hudimi duševnimi motnjami. Do te ugotovitve so prišli danski raziskovalci po analizi več tisoč zdravstvenih kartotek bolnikov. Delo je bilo objavljeno v reviji Acta Psychiatrica Scandinavica (APS).
Raziskovalci so analizirali elektronske zdravstvene kartoteke skoraj 54.000 bolnikov, ki so se med septembrom 2022 in junijem 2025 zdravili v psihiatrični službi v osrednji danski regiji. Zdravniki so v tem obdobju vnesli več kot 10 milijonov kliničnih zapisov. Raziskovalci so iskali omembe klepetalnih robotov in ChatGPT, vključno s pogostimi tipkarskimi napakami.
Tako so identificirali 126 bolnikov, katerih uporaba umetne inteligence se je odražala v njihovih zdravstvenih zapiskih. Pri 38 od njih so strokovnjaki ugotovili potencialno škodljive učinke.
Najpogostejša težava je bilo povečanje blodenj – takšni primeri so bili zabeleženi pri 11 bolnikih. Ker se jezikovni vzorci običajno strinjajo z uporabnikom in “podpirajo” njegovo stališče, lahko to utrjuje napačna prepričanja.
Poleg tega se je pri šestih bolnikih povečalo število samomorilskih misli ali pa so botra prosili za načine samopoškodovanja. Pri petih so se poslabšale motnje hranjenja – klepetalne robote so uporabljali za kompulzivno štetje kalorij.
Posamezniki so bili povezani s poslabšanjem maničnih epizod in kompulzivno uporabo UI pri obsesivno-kompulzivni motnji.
Kljub temu so raziskovalci zabeležili tudi pozitivne scenarije. 32 bolnikov je klepetalne robote uporabilo za pridobivanje informacij o svojem stanju ali kot obliko neformalne podpore. Drugih 20 jih je uporabljalo za organizacijo vsakodnevnih opravil.
Po mnenju raziskovalcev je potrebnih več kvalitativnih intervjujev z bolniki in nadzorovanih študij. Predlagajo tudi, da se v sisteme umetne inteligence uvedejo samodejni mehanizmi za odkrivanje znakov psihoze ali samomorilnih namer z napotitvijo na strokovno pomoč.
Avtorji menijo, da bi morala regulacija takšnih tehnologij potekati na državni ravni in ne bi smela ostati izključno v pristojnosti razvojnih podjetij. Medtem priporočajo, da se strokovnjaki za duševno zdravje s pacienti aktivno pogovarjajo o njihovih digitalnih navadah in morebitnih tveganjih.
