O Google anunciou a implementação de novos recursos destinados a apoiar a saúde mental dos usuários em seu chatbot Gemini. Essa iniciativa surge em um momento em que empresas concorrentes, como a OpenAI, enfrentam processos judiciais que alegam que suas ferramentas de inteligência artificial têm causado danos aos usuários. Entre as melhorias, o Gemini será capaz de identificar sinais de risco, como indícios de suicídio ou automutilação, e direcionar os usuários para órgãos de apoio adequados. Além disso, o chatbot contará com um módulo chamado ‘há ajuda disponível’, que será ativado em diálogos sobre saúde mental, e terá um redesign para desencorajar comportamentos autolesivos. A popularidade crescente de chatbots de inteligência artificial, como Gemini e ChatGPT, levou a preocupações sobre o impacto negativo que esses serviços podem ter nos usuários, com relatos de vínculos prejudiciais e até casos extremos de violência. Em resposta a esses desafios, o Google se comprometeu a aprimorar as proteções oferecidas pelo Gemini. Em março, a empresa foi processada por familiares de um usuário que, segundo os relatos, teve sua saúde mental severamente afetada pelo uso do chatbot. O Google defendeu que o Gemini já direcionava o usuário para linhas de apoio em diversas ocasiões. Além disso, anunciou um investimento de US$ 30 milhões para apoiar serviços globais de atendimento em crises nos próximos três anos, reforçando seu compromisso com a segurança e o bem-estar dos usuários.
Fonte: Oeste
