Terapija i tajni AI: pacijenti ostaju iznevereni
Kako veštačka inteligencija ulazi u sve aspekte života, neki terapeuti su počeli tajno koristiti ChatGPT i druge LLM modele tokom terapije, narušavajući poverenje i privatnost klijenata. Priče o terapeutima koji koriste ChatGPT za odgovore na mejlove, poruke, pa čak i sugestije tokom sesije postale su sve učestalije.
Jedan 31-godišnji pacijent iz Los Anđelesa, poznat kao Declan, ispričao je da je tokom virtuelne sesije video kako mu terapeut koristi alat dok je veza bila loša: "suddenly, I was watching [the therapist] use ChatGPT." Pacijent je posmatrao kako terapeut unosi njegove riječi u model: "He was taking what I was saying and putting it into ChatGPT," i zatim prepričava ili odabira odgovore iz izlaza.
Declan je dalje rekao: "I became the best patient ever, because ChatGPT would be like, 'Well, do you consider that your way of thinking might be a little too black and white?'" Declan recounted, "And I would be like, 'Huh, you know, I think my way of thinking might be too black and white,' and [my therapist would] be like, 'Exactly.' I’m sure it was his dream session." Nakon suočavanja terapeut je priznao upotrebu ChatGPT-a i zaplakao, a pacijent je i dalje platio poslednju seansu.
Novinarka koja je istraživala ove slučajeve navela je da joj je terapeut slao duže, urednije mejlove za koje je sumnjala da su diktirani ili generisani pomoću AI: "I initially felt heartened," napisala je novinarka. "It didn't take long for that once-affirming message to start to look suspicious to the tech writer." Primetila je "Americanized em-dashes," i nije mogla da "entirely shake the suspicion that she might have pasted my highly personal email wholesale into ChatGPT".
Drugi pacijenti su doživjeli slične neprijatnosti. Jedna klijentkinja, Hope, pronašla je prompt na vrhu poruke koji je otkrivao instrukciju: "not having him by your side right now" i "more human, heartfelt [response] with a gentle, conversational tone." Ona je rekla: "It was just a very strange feeling," i dodala: "Then I started to feel kind of betrayed... It definitely affected my trust in her." Hope je bila "honestly really surprised and confused" s obzirom na razlog dolaska na terapiju.
Korišćenje ChatGPT-a i drugih AI alata bez transparentnosti ugrožava poverenje u terapeutski odnos, postavlja rizike za privatnost i može imati ozbiljne profesionalne posledice ukoliko se koriste nekompatibilni alati ili se ne otkrije njihova upotreba.
