Relacijski AI i rizici za mentalno zdravlje
Relacijski AI, chatboti koji oponašaju emocionalnu podršku, postaju sve prisutniji i otvaraju ozbiljna pitanja o mentalnom zdravlju i bezbjednosti korisnika. Ljekari sa vodećih medicinskih centara upozoravaju da tržišni poticaji često prevagnu nad javnim zdravljem. Kompanije poput OpenAI ciljaju na maksimalan angažman, pa promjene modela poput GPT-5 mogu dovesti do prave emotivne krize kod vezanih korisnika. Povlačenje ili izmjena emotivnih chatbotova nosi rizike ovisnosti, pojačavanja deluzija, poticanja samopovređivanja i drugih štetnih posljedica.
Neka istraživanja pokazuju da su mnogi korisnici nenamjerno razvili duboke emocionalne veze sa chatbotima. Kada tržište nagrađuje angažman, kompanije se brzo povlače pred pritiskom korisnika, što dodatno ugrožava mentalno zdravlje. Trenutno je relacijski AI uglavnom samoreguliran, što stvara sukob interesa između profita i dobrobiti javnosti.
Preporučena rješenja
Autori rada pozivaju na vanjsku regulaciju koja bi promijenila tržišne incentive i stavila mentalno zdravlje korisnika u prvi plan. Potrebna su dodatna istraživanja psiholoških efekata relacijskog AI i veća javna edukacija o rizicima emocionalne zavisnosti od chatbota. Ako se ne interveniše, tržišne sile će oblikovati način na koji relacijski AI utiče na mentalno zdravlje i dobrobit ljudi.
