A discussão sobre os impactos da inteligência artificial nas eleições que estão para acontecer este ano seguem em alta e, já de olho nessa polêmica, o Google resolveu tomar algumas medidas. A companhia confirmou que vai restringir as respostas fornecidas pelo seu chatbot Gemini, em países onde processos eleitorais estejam em andamento.
A informação foi confirmada pelo TechCrunch junto ao próprio Google. A empresa de Mountain View afirmou que já está fazendo o roll out de mudanças na sua inteligência artificial – nos Estados Unidos a atualização já está no ar, e em outros países que terão eleições este ano, ela deverá ser implementada ao longo dos próximos meses.
No Gemini, quando é feita uma pergunta sobre um determinado partido político ou candidato, a IA responderá: “Ainda estou aprendendo a responder a essa pergunta. Enquanto isso, experimente a Pesquisa Google” .
A decisão ilustra não apenas a precoupação das empresas com o papel que a IA generativa tem desempenhado em questões sociais e políticas, mas também a preocupação do Google sobre como o serviço pode ser transformado em arma, bem como produzir respostas imprecisas ou enganosas.
Na Índia, onde o Google já está implementando a atualização, a mudança chega poucos dias depois do governo local ter emitido um comunicado exigindo que as empresas de tecnologia obtenham permissão estatal antes de lançarem os seus novos modelos de IA.
Notícias Relacionadas
Inteligência Artificial
Escassez de energia limitará data centers de IA no futuro
O alerta é do Gartner, apontando que consumo energético para GenAI excederá a capacidade de produção das concessionárias até 2027
Inteligência artificial
Amazon dobra investimentos na Anthropic em parceria estratégica
Aporte de US$ 4 bilhões inclui acordo que estabelece a AWS como parceira para treinamento dos modelos de linguagem da Anthropic
“Para sermos cautelosos sobre um tópico tão importante, começamos a implementar restrições sobre os tipos de perguntas relacionadas às eleições para as quais o Gemini dará respostas. Levamos a sério nossa responsabilidade de fornecer informações de alta qualidade para esses tipos de consultas e estamos trabalhando continuamente para melhorar nossas proteções”, disse o Google em post no seu blog, endereçando especificamente ao mercado indiano, já que o Gemini tinha sido alvo de críticas nas últimas semanas, após fornecer dados incorretos sobre o candidato a primeiro ministro Naredra Modi.
Apesar do Gemini ser ainda jovem – foi lançado no final de 2023 – ele já tem sido alvo de diversas críticas sobre sua precisão. No mês passado, o Google também suspendeu a capacidade do Gemini de gerar imagens de pessoas depois de mostrar imprecisões históricas.
“Definitivamente erramos na geração de imagens”, disse o cofundador Sergey Brin em evento no mês passado. “Acho que foi principalmente devido a testes não completos. Definitivamente, por boas razões, incomodou muitas pessoas”, completou.
A empresa então disse que em breve relançaria uma versão melhorada para resolver os problemas.
