A Google anunciou um conjunto de atualizações ao Gemini com foco na saúde mental, introduzindo novas salvaguardas e mecanismos de apoio destinados a utilizadores em situações de maior vulnerabilidade. As funcionalidades assentam em investigação clínica e foram desenvolvidas em colaboração com especialistas, procurando assegurar respostas alinhadas com evidência científica.
Uma das principais novidades destacadas é a introdução de um módulo dedicado, "A ajuda está disponível", que surge automaticamente quando o sistema identifica sinais de sofrimento psicológico durante uma interação. Este módulo permite acesso direto, com um único clique, a serviços de apoio em crise e linhas de assistência especializadas, reduzindo a fricção no encaminhamento para ajuda qualificada.
A tecnológica anunciou também um novo compromisso financeiro de 30 milhões de dólares, através da Google.org, destinado a reforçar a capacidade de organizações de saúde mental a nível global. O objetivo é expandir o acesso a serviços de apoio, num contexto de aumento da procura por recursos nesta área.
No plano tecnológico, a Google detalhou a evolução dos processos de treino dos modelos do Gemini, com ênfase na segurança e na qualidade das respostas. O sistema foi concebido para evitar recomendações potencialmente inadequadas e para fornecer informação baseada em práticas clínicas reconhecidas, reduzindo o risco de respostas incorretas em contextos sensíveis.
As atualizações incluem ainda salvaguardas específicas para utilizadores mais jovens, com mecanismos adicionais de proteção adaptados a este segmento. Esta abordagem reflete preocupações crescentes sobre o impacto das tecnologias digitais na saúde mental de crianças e adolescentes, particularmente num contexto de interação direta com sistemas de IA.
A iniciativa insere-se numa estratégia mais ampla de desenvolvimento responsável da inteligência artificial, em que a mitigação de riscos e a proteção dos utilizadores assumem um papel central. A Google disponibilizou também uma conversa em vídeo com Megan Jones Bell, diretora clínica, e Laurie Richardson, responsável de Trust and Safety, onde são detalhados os princípios que orientam estas funcionalidades.
O reforço destas capacidades ocorre num momento em que os sistemas de IA passam a desempenhar um papel mais ativo na interação com utilizadores, incluindo em situações de maior fragilidade emocional, aumentando a necessidade de mecanismos robustos de segurança e encaminhamento para apoio especializado.
