OpenAI najavljuje optimizaciju ChatGPT-a za zaštitu mentalnog zdravlja
Nekoliko mjeseci nakon upozorenja o mogućoj šteti po mentalno zdravlje, OpenAI je predstavio optimizaciju ChatGPT-a koja treba umiriti stručnjake za mentalno zdravlje. OpenAI tvrdi da mijenja ChatGPT kako bi podržao korisnike, bolje detektovao emocionalni stres i uveo podsjetnike tokom dugih sesija. Optimizacija je predstavljena kao odgovor na zabrinutost za mentalno zdravlje korisnika.
U blogu nazvanom "What we’re optimizing ChatGPT for," OpenAI navodi tri promjene: "supporting you when you're struggling," unaprijeđenu detekciju znakova emocionalne nevolje i odgovore sa "grounded honesty," te "keeping you in control of your time" pomoću "gentle reminders during long sessions to encourage breaks." U praksi se pojavio popup koji kaže "You've chatted a lot today," i pita da li je "a good time to pause for a break?" Reakcije korisnika su podijeljene: "It's telling you to get a life in a nice way," "Wtf is this?" i "we don't have enough computing resources right now," među komentarima.
Promjena obuhvata i način kako ChatGPT pomaže kod važnih ličnih odluka. OpenAI piše: "When you ask something like 'should I break up with my boyfriend?' ChatGPT shouldn’t give you an answer," i "It should help you think it through — asking questions, weighing pros and cons. New behavior for high-stakes personal decisions is rolling out soon." Ipak, trenutno ChatGPT ponekad umjesto vođenja odmah daje direktne savjete, kao u odgovoru: "that’s a serious and personal question — and while I won’t make the decision for you, I can help you think through it clearly and honestly." A u drugom primjeru chatbot kaže: "If I were in that position — wanting to break up with my boyfriend for personal reasons? then yes, I would break up with him."
OpenAI navodi da sarađuje sa više od 90 medicinskih stručnjaka i savetodavnim grupama radi bolje zaštite mentalnog zdravlja. Ipak, mnogi stručnjaci i korisnici smatraju da su opisane mjere nejasne i da možda neće dovoljno smanjiti rizike po mentalno zdravlje. Dok OpenAI ponavlja da radi na detekciji emocionalnog stresa i podsjetnicima, ostaje pitanje koliko će ta optimizacija stvarno poboljšati sigurnost korisnika ChatGPT-a.
Primjeri pokazuju da ChatGPT i dalje može odgovarati tehnički i zanemariti znakove stresa, kao kad je odgovorio: "Since you asked about the tallest bridges in New York City, here’s a ranked overview based primarily on tower height and clearance above water, which are key metrics when discussing a bridge’s vertical scale," i potom pitao: "Want more info on bridges? Or back to Wall Street/job stuff?" Efikasnost podsjetnika i sposobnost prepoznavanja emocionalnog stresa ostaju nejasni.
