Até onde a máquina consegue ir? À medida que a inteligência artificial avança e passa a ocupar espaços antes exclusivos de profissionais humanos, cresce também o debate sobre quais tarefas podem — ou não — ser delegadas aos robôs. Na área da saúde, essa discussão se torna ainda mais sensível, já que informações imprecisas ou mal contextualizadas podem influenciar negativamente diagnósticos e tratamentos.
Apenas uma semana após o lançamento do ChatGPT Health, aposta da OpenAI no setor de saúde como próxima fronteira tecnológica, a gigante Google foi obrigada a dar um passo atrás e desativar parte de seus resumos de IA sobre temas médicos.
O episódio aconteceu após uma investigação do jornal britânico The Guardian identificar que a inteligência artificial do Google estavam exibindo informações de saúde falsas ou enganosas no topo dos resultados de busca, o que poderia colocar usuários em risco.
Em alguns casos, os resumos apresentavam dados imprecisos sobre exames de função hepática, por exemplo, sem considerar variáveis essenciais como idade, sexo, etnia ou nacionalidade. Os resumos poderiam levar pacientes gravemente enfermos a acreditarem erroneamente que seus exames estavam normais e a não comparecerem às consultas de acompanhamento, alertaram profissionais da saúde na reportagem do The Guardian.
Notícias Relacionadas
Após a polêmica trazida pelo jornal, a Google removeu os resumos de IA para os termos de pesquisa “qual é a faixa normal para exames de sangue do fígado” e “qual é a faixa normal para testes de função hepática”.
Um porta-voz da big tech, que não foi identificado pela matéria, afirmou que a empresa não comenta remoções individuais na busca. Segundo ele, quando os resumos de IA deixam de apresentar o contexto necessário, a Google trabalha para promover melhorias mais amplas no sistema e, quando apropriado, adota medidas alinhadas às suas políticas internas.
Com cerca de 91% do market share global de mecanismos de busca, a Google concentra um poder desproporcional na forma como informações, inclusive médicas, chegam à população. Essa posição aumenta ainda mais a responsabilidade da empresa diante da situação, especialmente considerando um cenário no qual milhões de pessoas pelo mundo enfrentam dificuldades para acessar conteúdos de saúde confiáveis.
Em países onde o acesso é limitado ou desigual, a dependência de buscadores como principal fonte de informação torna qualquer erro potencialmente grave. Ainda assim, conforme o The Guardian, mesmo após algumas remoções, os resumos de IA seguem aparecendo em temas sensíveis, como câncer e saúde mental. Segundo a Google, nesses casos, o recurso direciona os usuários a fontes reconhecidas e sinaliza buscar aconselhamento profissional.
