ChatGPT é ajustado para responder de forma mais cuidadosa em conversas sensíveis
A OpenAI, empresa responsável pelo desenvolvimento do ChatGPT, anunciou atualizações no modelo do chatbot para melhorar sua capacidade de lidar com conversas que envolvem temas sensíveis. O foco é detectar quando os usuários estão passando por momentos de sofrimento emocional e oferecer respostas mais adequadas.
Para isso, a empresa contou com a colaboração de mais de 170 especialistas em saúde mental. Esses profissionais auxiliaram na criação de um sistema que não apenas responde às perguntas dos usuários, mas que também identifica sinais de desconforto. O objetivo é incentivar aqueles que estão passando por dificuldades a procurar apoio na vida real, quando necessário.
As mudanças não incluem alterações na interface do chatbot ou a adição de novos botões. Em vez disso, a OpenAI ajustou o jeito como o ChatGPT reage em determinadas situações. Agora, o sistema tem a capacidade de, por exemplo, responder com mais empatia e lembrar os usuários da importância de se conectar com outras pessoas, além de tentar redirecionar a conversa para um ambiente mais seguro se perceber que o usuário está se sentindo sobrecarregado.
É importante destacar que muitos usuários do ChatGPT utilizam a plataforma como um espaço para desabafar e compartilhar sentimentos. No entanto, essa interação pode gerar preocupações entre os profissionais de saúde mental. Um caso recente foi amplamente discutido, onde um adolescente integrou o sistema e, após contornar medidas de segurança, cometeu suicídio. Os pais do jovem acionaram a OpenAI judicialmente, levantando questões sobre a responsabilidade da empresa em situações críticas.
Embora esses eventos trágicos sejam raros, o uso do ChatGPT como substituto para interações humanas pode aumentar certos riscos. A empresa, portanto, segue confrontando os desafios de oferecer um ambiente seguro e acolhedor para seus usuários, enquanto procura evitar que a plataforma se torne um paliativo para problemas mais profundos.
Em conclusão, as atualizações realizadas no ChatGPT visam tornar as interações mais seguras e conscientes, promovendo um diálogo que respeite as emoções dos usuários e os encoraje a buscar o apoio adequado.
