O chatbot chinês DeepSeek estremeceu o mercado de inteligência artificial esta semana com um modelo mais barato e eficiente em relação ao seu rival norte-americano, o ChatGPT, da OpenAI. Passada a euforia, porém, alguns pontos têm sido levantados sobre os riscos envolvendo esse assistente virtual.
Na Itália, o aplicativo não está mais disponível para download nas lojas da Apple e do Google, desde que a Autoridade de Proteção de Dados Pessoais do país enviou à empresa chinesa uma série de questionamentos sobre a coleta de dados pessoais e como essas informações são usadas pelo DeepSeek.
Os dados pessoais dos usuários da IA são armazenados em servidores na China, segundo a política de privacidade do DeekSeek, disponível de forma pública.
“Coletamos suas informações de três maneiras: informações fornecidas por você, informações coletadas automaticamente e informações de outras fontes”, diz a página.
As informações fornecidas pelos usuários incluem dados pessoais, como data de nascimento, nome de usuário, e-mail e senha; além das informações de texto, áudio e imagem colocadas no chat, por exemplo.
Notícias Relacionadas
Dealflow
PIPE Ventures abre rodada de R$ 1,5M na Captable
Recursos serão usados principalmente para alavancar operação da PIPE Ventures e sustentar o fluxo de caixa da gestora, que lança novo fundo
DeepSeek
Janus-Pro: DeepSeek anuncia IA geradora de imagens
Tecnologia ainda está em fase de testes, mas já é possível experimentar o modelo por meio da plataforma HuggingFace, uma comunidade especializada em IA
Os dados coletados automaticamente incluem número do IP e outras informações técnicas da rede, cookies, informações de pagamento etc. Já as informações de outras fontes são coletadas quando o usuário faz login utilizando o seu perfil em outras redes, como Gmail ou LinkedIn, além de informações de anunciantes ou outros parceiros, como sites ou apps de lojas.
Segundo a plataforma, essas informações são usadas para aplicação dos termos e condições do chatbot, “proteger a segurança e o bem-estar da comunidade”, identificar falhas, aprimorar o serviço e cumprir com obrigações legais.
Além das dúvidas sobre a privacidade e o uso dos dados pessoais dos usuários, há especulações sobre o nível de precisão e veracidade das informações disponibilizadas pelo DeepSeek.
Um relatório da PromptFoo, startup investida pela Andreessen Horowitz que ajuda empresas a encontrar vulnerabilidades em aplicativos de IA, descobriu que o modelo R1 do DeepSeek se recusou a responder cerca de 85% dos 1.360 “prompts” de assuntos considerados sensíveis para o governo chinês. Segundo o estudo, as respostas do chatbot traziam muitas vezes um “tom nacionalista exagerado”.
“O DeepSeek-R1 é impressionante, mas sua utilidade é obscurecida por preocupações com a censura e o uso de dados do usuário para treinamento. A censura não é incomum nos modelos chineses. Parece ser aplicado por força bruta, o que facilita o teste e a detecção. Será menos importante quando modelos semelhantes ao R1 forem reproduzidos sem essas restrições (o que provavelmente acontecerá em uma semana ou mais)”, avalia o relatório.
