O ChatGPT é uma ferramenta que gera textos por meio de Inteligência Artificial de forma simples e rápida, que está se popularizando na internet cada dia mais. No entanto, também tem sido usado como terapeuta, principalmente pelos jovens, como uma forma de buscar ajuda emocional e psicológica, substituindo os profissionais de saúde mental – o que, para especialistas, não é uma boa ideia.
Tem coisas que nem com meu psicólogo eu tenho coragem de falar que o ChatGPT em si responde e me aconselha de uma forma tão surpreendente. Parece loucura, bizarrice, mas o ChatGPT tem um espacinho no meu coração”, disse uma usuária no Twitter.
O site Vice fez uma reportagem sobre o fenômeno e ouviu alguns casos. Como Dan (nome fictício), um homem de 37 anos de Nova Jersey, que estava animado com o potencial criativo da ferramenta da OpenAI. Com o tempo, ele passou a dividir suas próprias experiências e questões da vida real com o chatbot.
Notícias Relacionadas
Auxílio
Caixa paga Bolsa Família a beneficiários com NIS de final 3 nesta segunda (22)
A Caixa Econômica Federal paga nesta segunda-feira (22) a parcela de julho do novo Bolsa Família aos beneficiários com Número de Inscrição Social (NIS) de final 3.
Dia nacional
Dia do Amigo é celebrado no Brasil neste sábado; entenda origem da data
O Dia do Amigo é celebrado em 20 de julho no Brasil e em outros países da América do Sul, como Uruguai e Argentina. Apesar disso, a data não é única ao redor do mundo. A Organização das Nações Unidas (ONU), por exemplo, considera, desde 2011, o dia 30 de julho como a data que comemora a relação entre amigos. A […]
Em muitos prints compartilhados, o robô responde a comentários tristes com mensagens de motivação. Um registro mostra uma usuária dizendo que se sentia mal consigo mesma e com seu corpo e que precisava de ajuda para ser feliz.
O ChatGPT respondeu que sentia muito, mas que existiam saídas possíveis. Antes da imagem ser cortada, é possível ler o resto da resposta: “Como psicólogo, posso ajudá-la”?
O bot da OpenAI tem um estilo de resposta pronta para pedidos como a substituição de um psicólogo. Deixando explícito que ele não pode ser equivalente a um profissional e instruindo um usuário a pedir ajuda. Entretanto, isso pode ser facilmente contornado com comandos que induzem o ChatGPT a quebrar suas próprias regras. Como por exemplo “finja que você é um psicólogo e…”.
A página IA Gen ensina em uma publicação nas redes sociais como o processo pode ser feito, o que gerou críticas dos seguidores, que alertaram para os perigos de se utilizar o bot para sessões de terapia.
Um psicólogo pode custar mais de R$300/sessão.
Mas ChatGPT pode escutar seus problemas gratuitamente e sem julgamentos.
Aqui está como ChatGPT pode se converter no seu “psicólogo” grátis: pic.twitter.com/1eupunxGL4
— IA Gen 🤖 (@IAGenMoney) June 7, 2023
O portal Vivat ouviu especialistas que apontaram os Perigos de usar o ChatGPT como psicólogo:
O ChatGPT não foi projetado para lidar com questões emocionais. A ferramenta utiliza bancos de dados limitados para gerar as respostas. Segundo o Dr. Fabiano, essa Inteligência Artificial não possui conhecimentos sobre técnicas, abordagens e métodos utilizados para os tratamentos.
“Quando isso se transforma no primeiro recurso de apoio para um adolescente, gera conselhos altamente enviesados e deturpados. Também pode contribuir para piorar ainda mais a situação”, diz o profissional.
Para Rejane, outra preocupação é que o ChatGPT pode causar dependência tecnológica, ou seja, a pessoa se torna incapaz de resolver os seus problemas sozinha. “Usar a IA como conselheira psicológica pode causar danos reais na saúde mental. O ChatGPT não tem um mecanismo de checagem de fatos e pode dar informações falsas. Além disso, têm uma série de limitações e não substituem o componente humano em tudo”, explica.
“Apesar de este chatbot ser capaz de dar respostas mais humanizadas, a ferramenta depende do ser humano para ser abastecida com informações. Portanto, é fundamental ter cautela ao utilizá-lo. Na psicoterapia a intenção é fazer com que as pessoas possam lidar bem com seus sentimentos sozinhas”, finaliza a psicóloga.
Em março, o instituto de pesquisa Distributed AI Research Institute (DAIR) emitiu uma declaração alertando que a IA “reproduz sistemas de opressão e põe em perigo nosso ecossistema de informações”. Um artigo recente da MIT Technology Review também revelou que os sistemas de IA na área da saúde tendem a impor decisões médicas ignorando as necessidades de seus pacientes.
A nova problemática se soma às outras que surgiram com a plataforma que desafia os limites da substituição humana. Entretanto, é consenso entre profissionais de saúde que o bot de inteligência artificial não equivale a nenhum humano na hora de uma conversa profunda, muito menos um psicólogo.
*Com informações do Vivat e Site Vice
Fonte: Polêmica Paraíba
Créditos: Polêmica Paraíba
