Agentes autônomos de IA são inimigos da privacidade, diz CEO da Signal

Os agentes autônomos, a chamada próxima onda da IA generativa, não impressionam a CEO da Signal, Meredith Whittaker. Na verdade, para a executiva, eles representam um grande perigo para a segurança e privacidade dos usuários.

Enquanto empresas como Oracle, Salesforce e outras grandes do mercado estão vendendo os benefícios do uso de agentes que são capazes de não apenas processar dados a partir de simples comandos, mas o de executar cadeias de tarefas, Meredith aproveitou o palco do South By Southwest para expor suas preocupações com toda essa “praticidade”

“Há um problema sério de privacidade e segurança que assombra esse hype dos agentes de IA. Estamos dando controle demais para estes sistemas, e eles precisarão de acesso a mais dados”, explica a CEO do app de mensagens. “A vantagem parece ótima, de um sistema que pode buscar o melhor preço de um ingresso de show, fazer a compra, colocar na sua agenda e enviar uma mensagem para seus amigos. Você pode colocar o seu cérebro em um pote e não fazer nada”, brincou.

Entretanto, segundo explica Meredith, para fazer tudo isso, um agente precisa ter acesso a contas de email, número de cartão de crédito, calendário e agenda de contatos, e assumir o comando disso de forma autônoma. “E tudo isso, para funcionar, precisa ser feito de forma aberto. Não tem como fazer isso com criptografia, nem dentro de um dispositivo. Isso teria que ser processado na nuvem”. Isso , disparou a CEO.

Para Meredith, esse é apenas o capítulo mais recente de como a adoção da inteligência artificial pode trazer riscos à privacidade dos usuários. “A história da IA generativa é baseada no modelo de vigilância dos dados usado pelas big techs. Há um problema real sobre o uso da IA e suas premissas de segurança e privacidade, tudo isso em nome de um bot mágico que vai se responsabilizar pelas suas tarefas do dia a dia”, disse Meredith, antes de uma salva de aplausos em um Ballroom D lotado.

Hora de repensar a IA

Durante o seu keynote no SXSW, Meredith reforçou seu posicionamento contra o atual modelo das empresas de IA. Segundo ela, ele é totalmente baseado em princípios que vão contra a privacidade dos dados de seus usuários.

“É um modelo que vive da coleta massiva de dados. Quanto mais, melhor. E isso está concentrado nas mãos de poucas companhias. Há um problema de vigilância e poder concentrado no coração do atual paradigma de ‘maior e melhor’ da IA, e eu não acho isso nada bom. Temos que repensar a IA”, afirmou a CEO.