Open source faz com que IA seja democrática, diz CEO da The Atlantic

Para quem acompanha de perto os avanços na inteligência artificial, os sentimentos de deslumbramento e medo diante das possibilidades da tecnologia normalmente caminham lado a lado. Com regimes autoritários ganhando espaço em todo o mundo, a centralização de poder promovida pela IA representa um risco à democracia, mas, felizmente, há uma solução: o open source.

O argumento foi defendido por Nicholas Thompson, CEO da revista The Atlantic – publicação norte-americana que recentemente divulgou planos de ataque do governo de Donald Trump ao Iêmen, após as informações terem sido enviadas acidentalmente a um jornalista do veículo.

Em palestra no evento Zendesk Relate, que se encerra nesta quinta-feira em Las Vegas, Nicholas disse que o mundo tem subestimado o potencial da IA e as mudanças que essa tecnologia irá promover. Além de jornalista, ele também é co-founder da plataforma SpeakEasy AI, adquirida pela Amplica Labs em abril de 2024.

“É um pouco difícil dizer exatamente o quão rápida a IA está avançando. Mas se você olhar para o poder de processamento, para a quantidade de computação que está sendo usada, para o output, a IA parece estar crescendo cerca de 10 vezes a cada dois anos. Então as máquinas que temos agora são as máquinas mais burras que o ser humano já encontrou. E as próximas máquinas inventarão as máquinas depois disso, e você terá máquinas auto-replicantes. E então você tem essa explosão de inteligência”, afirmou.

Em meio à velocidade em que a tecnologia avança, fica cada vez mais difícil entender os mecanismos por trás desses modelos e questionar os vieses que podem ser replicados pelas máquinas. Nicholas cita como exemplo as redes sociais, que cada vez mais têm utilizado a inteligência artificial para “sugar” os usuários para dentro desses ambientes.

“O Facebook tem experimentado criar personagens fake para ver como você reage a eles no Instagram. Essa é, na verdade, uma das coisas com as quais mais me preocupo, que seremos sugados para esse mundo”, admitiu.

Segundo ele, um dos problemas é que ainda se sabe pouco sobre como essas tecnologias funcionam. “Nós entendemos a arquitetura dos modelos. Sabemos que se você os treinar com mais dados, eles se sairão melhor. Entendemos a lógica de como você pode melhorá-los. Entendemos muitas coisas. Entendemos o consumo de energia. Mas nós não entendemos realmente como a memória desses sistemas funciona, por que eles dão certas respostas. Seria melhor se entendêssemos como funciona, porque assim poderíamos controlá-los melhor”.

Um dos alertas que o CEO da The Atlantic faz é com relação ao monopólio das big techs norte-americanas na inteligência artificial – que têm incorporado diversas startups e empresas menores do segmento como prática para acabar com a concorrência. Segundo ele, o domínio de poucas empresas sobre este mercado representa um risco para a democracia, considerando que a IA tem sido cada vez mais usada pelos indivíduos para obter informações.

“Se você olhar para os últimos 20 anos, a democracia está em declínio, a autocracia está em ascensão. A tecnologia até agora não tem sido uma ferramenta boa para a democracia. Então a questão com a IA é: será diferente? Ou vai piorar? Eu me preocupo que piore. Ela centralizará o poder em um pequeno número de empresas, em um pequeno número de países. E esse poder, quando centralizado, dará a esses países a capacidade de vigiar, de manipular fluxos de informação. Eu sou totalmente a favor do open source, em parte porque acredito que é a única maneira de combater a centralização do poder”, explicou.

*A jornalista viajou a convite da Zendesk

Assuntos