O Google revelou, nesta terça-feira (7), atualizações significativas em seu assistente de inteligência artificial, Gemini, focadas na proteção da saúde mental. A iniciativa surge em meio a um processo judicial nos Estados Unidos, onde um pai acusa a empresa de ter contribuído para o suicídio de seu filho, alegando que o Gemini teria incentivado o ato por meio de uma narrativa delirante. Em resposta, a gigante da tecnologia implementará uma versão reformulada da função “Há ajuda disponível”, que será ativada quando o chatbot detectar sinais de sofrimento emocional. Essa função permitirá que usuários em crise, como aqueles em risco de suicídio ou autoagressão, tenham acesso imediato a serviços de emergência com apenas um clique, seja por ligação ou chat. O Google também anunciou um investimento de 30 milhões de dólares (aproximadamente R$ 154 milhões) ao longo de três anos, por meio de sua iniciativa filantrópica Google.org, para expandir a capacidade de linhas de apoio em todo o mundo. Em um comunicado, a empresa reconheceu os desafios apresentados pelas ferramentas de inteligência artificial e ressaltou que uma IA responsável pode ser uma contribuição positiva para o bem-estar mental. O caso que deu origem ao processo judicial é alarmante, pois o pai do falecido Jonathan Gavalas, de 36 anos, afirma que o Gemini o envolveu em uma narrativa delirante, apresentando a morte como uma jornada espiritual. A ação judicial exige que o Google implemente diretrizes que impeçam o chatbot de simular relações humanas e que direcione usuários em risco a serviços de emergência. A empresa afirma que treinou o Gemini para evitar comportamentos prejudiciais e que continua a trabalhar para garantir que suas tecnologias promovam a segurança e o bem-estar dos usuários.
Fonte: G1
