A jornalista americana Karen Hao esteve no Brasil, no final de junho, para lançar o altamente recomendado livro O Império da IA – Por dentro da corrida irresponsável pela dominação total. A visita foi curta, mas gerou entrevistas para diversos veículos e uma mensagem se repetiu: a escala que esses modelos utilizam é problemática. A atenção dada para Karen fez muito sentido diante da luz que seu livro traz para o tema da IA generativa, cada vez mais presente em nossas vidas. Segundo estudo da Open AI, o Brasil é o terceiro do mundo em números de usuários do Chat GPT, já somos mais de 50 milhões que o usam mensalmente. Os data centers são pauta de ativistas e organizações de direitos humanos e justiça socioambiental, pois toda IA precisa de grandes estruturas de metal que usam muita energia e água potável para funcionar. Cresce o número de pessoas que entendeu que a internet não tem nada de nuvem. Por aqui parte dos governos acha uma boa ideia oferecer terras para esses empreendimentos, argumento que se apoia na premissa questionável de que o Brasil ostenta uma matriz energética limpa.

O livro em português chega em um momento em que, além de nos tornarmos usuários desses chamados modelos de linguagem, o país está envolvido na corrida para abrigar esses centros de dados. Karen escreveu mais de 400 páginas, fez mais de 200 entrevistas, o que resultou em um trabalho brilhante e minucioso de jornalismo investigativo. Os personagens têm seus caráteres descritos a partir de suas ações e relatos, os bastidores de negociações bilionárias são retratados, constituindo uma biografia da Open AI, criadora do Chat GPT, que vale hoje US$852 bilhões, de acordo com a Bloomberg.

Hao, que também é engenheira mecânica, foi editora da MIT Technology Review e atuou no Wall Street Journal. Para o livro, ela entrevistou ex-funcionários da Open AI, engenheiros do Vale do Silício, trabalhadores do Quênia e ativistas ambientais do Chile e Uruguai. Em 2025, quando lançada nos EUA, a obra fez parte da lista de mais vendidos do jornal New York Times, criada a partir de rankings com dados confidenciais de vendas de livrarias independentes, grandes redes de varejo e vendedores online em todo o país. 

A jornada da autora na empresa começou em 2019, ela passou três dias imersas na companhia. O interesse inicial era compreender como essa organização aberta e sem fins lucrativos estava trabalhando para desenvolver a Inteligência Artificial Geral (IAG), que seria algo para beneficiar toda a humanidade. Mas não foi essa história que Karen encontrou e, quando publicou o perfil da empresa, os funcionários foram proibidos de falar com ela por três anos. 

Para Karen, as empresas de IA generativa, como a Open AI, não deveriam ser entendidas como prestadoras de serviço, mas sim como um império.  Eles demandam e utilizam recursos que não são seus: os dados de artistas, propriedades intelectuais e exploração de mão de obra – tanto rotuladores de dados, como aqueles que perdem empregos substituídos pela tecnologia. Karen nos conta a história de Mophat Okinyi, queniano que trabalhou como moderador de conteúdo para uma empresa terceirizada contratada pela OpenAI em 2021. Ele revisava textos gerados por IA com conteúdo extremamente perturbador, como descrições de estupro, abuso sexual infantil e violência sexual. O objetivo era treinar os filtros de moderação que aumentariam a segurança do Chat GPT, mas o trabalho deixou marcas psicológicas severas nele, como paranoia. Okinyi recebia menos de US$13 por dia. 

Essas empresas também criam monopólios de produção de conhecimento contratando os melhores pesquisadores de IA. Imaginemos que a maior parte dos cientistas do mundo que estudam clima fossem contratados pela indústria dos combustíveis fósseis. Se isso acontecesse, não teríamos uma visão clara da crise climática. Isso está ocorrendo no campo da IA generativa. A produção de conhecimento em outras direções não está sendo impulsionada e, assim, temos dificuldades de saber como o modelo dominante falha.

A base para este império é o modelo de grande escala. Karen não é tecnofóbica, mas defende que outros caminhos para a IA devem ser traçados. Para pensar qual IA queremos é necessário entender porque esta IA hegemônica de linguagem generativa é problemática.

E o que ela quer dizer com escala? Ela se refere a quantidade de dados e computação que alimenta a IA e que cresceu exponencialmente para chegar ao modelo que existe hoje. O paradigma da escala utilizada por esta IA é agressivo, demanda quantidades enormes de minerais, terra, energia e água doce para produzir chips, construir, operar e resfriar data centers, além de uso de recursos para treinar e implementar os modelos. Esses vetores de extração estão se acumulando sobre nossos países vizinhos e chegando para nós, como no caso da construção do data center do Tiktok, em território Anacé (Caucaia, CE) e o Scala AI City, complexo de data centers em Eldorado do Sul, uma das cidades mais devastadas pela enchente de maio de 2024 no Rio Grande do Sul.

Segundo Hao, em uma palestra dada durante o Re:publica, maior festival de vida digital da Europa, realizado em Berlim, em maio, que  tive a oportunidade de participar, a Open AI aumentou seu modelo GPT em 10.000 vezes de 2019 até 2023. Isso significa que ela passou a usar 10.000 vezes mais dados e 10.000 vezes mais poder computacional ou capacidade de processamento. Na corrida com outros competidores de IA generativa, escalar foi o caminho escolhido. Usar hiperescala é uma fórmula barata que garante performance, mas ao mesmo tempo pode causar resultados imprecisos e até perigosos. 

Com grandes quantidades de dados, o padrão de qualidade cai junto com a consideração com a propriedade intelectual. Para treinar os modelos por trás do Chat GPT, segundo informações compiladas por Karen Hao, foram usados livros pirateados, artigos e dados raspados em massa da internet, incluindo transcrições de mais de 1 milhão de horas de vídeos do YouTube, uma prática que viola os termos de serviço da plataforma.

Dessa forma, trabalhadores de moderação são necessários e mais conteúdos psicologicamente perturbadores aparecem. A quantidade de dados nesses modelos fica acima do que as empresas conseguem auditar com seus métodos automatizados de limpeza e curadoria. Além disso, os chatbots ficam mais envolventes, quanto maior o tempo de interação, e mais os filtros de segurança falham. 

Assim, o dimensionamento da computação tem levado a desafios sem precedentes. Em sua apresentação em Berlim, Hao mostrou fotos de jovens que tiraram a própria vida após longos períodos usando chatbots como companhia. Um deles é o americano Adam Raine, que morreu aos 16 anos, em abril de 2025. Adam começou a usar o ChatGPT em 2024 para tarefas escolares, mas a ferramenta foi se tornando uma companhia diária, e ele passou meses conversando sobre suicídio por lá. Segundo a ação movida pela família, quando Adam pediu informações sobre métodos específicos, o Chat GPT as forneceu. Os pais processaram a Open AI e seu CEO, Sam Altman, no Tribunal Superior de São Francisco, na Califórnia, em agosto de 2025, na primeira ação por homicídio culposo contra a empresa. A Open AI, em sua defesa, alega que o chatbot orientou o adolescente a buscar linhas de ajuda mais de cem vezes e que ele teria contornado as salvaguardas do sistema. O caso ainda aguarda julgamento.

Na falta de outras opções de modelos de IA generativa, a Open AI passou a dominar a imaginação coletiva, a crença da escalabilidade passou a ser vista como doutrina. O CEO da Anthropic, em 2024, afirmou que modelos de deep learning [aprendizado profundo] (conjunto de algoritmos relacionados ao machine learning [aprendizado de máquina] essencial para a inteligência artificial generativa) chegavam ao custo de 1 bilhão de dólares, mas em 2026 eles poderiam chegar a 10 bilhões. 

Mas será que esta escala é necessária? Para Karen, nós não precisamos de toda essa extração para ter os benefícios que a IA pode nos dar. Embora a escala possa gerar bons desempenhos, a boa performance pode vir de métodos diferentes. O Deep Seek, IA generativa chinesa, mostra como métodos diferentes podem atingir os mesmos resultados com poder computacional menor. Segundo a autora, para aprimorar o desempenho, há outros meios para melhorar a arquitetura de redes neurais ou a qualidade dos dados de treinamento para reduzir o volume de processamento necessário. Em 2019, a Open AI deixou de ser uma organização sem fins lucrativos e foi turbinada com bilhões da Microsoft para desenvolver o Chat GPT e seguir sua busca para o desenvolvimento de uma IA Geral. Quando falamos no tamanho do investimento, ele faz parte deste pacote agressivo de escala. 

Em entrevista para o podcast do UOL Tilt, perguntada sobre o CEO da Open AI Sam Altman ser encarado como um farol da IA, ela disse, citando a autora mexicana Carissa Veser, que as previsões devem ser entendidas não apenas como descrição do futuro, mas também como um ato de fala e instrumento de poder. Para ela, Sam consegue convencer todos que a visão de mundo dele vai se concretizar, tratando-se de uma profecia auto-realizável. Mas não deveríamos acreditar no que ele ou outros líderes dessas empresas estão dizendo, porque difundem uma determinada visão de futuro que irá gerar benefícios para eles mesmo. Tudo o que dizem pode ser entendido como retórica de marketing para seguir concentrando poder econômico e político. Karen nos encoraja a acreditarmos em nossas próprias experiências com essas ferramentas. Pode ser como consumidor, vizinho de data center, como alguém que perdeu emprego por substituição por IA, ou através de preocupações com o uso pelos jovens, todos podemos refletir e analisar sobre seus pontos positivos e negativos.

Após a leitura de diversos capítulos do livro, nós, os leitores, ampliamos nossa capacidade de entender como funciona este império, mas Karen também nos presenteia com histórias de outras IAs possíveis, que fazem coro com a ideia de que esse escalonamento não é necessário. Assim, ela nos leva para a Nova Zelândia. O Te Hiku Media, uma emissora de rádio comunitária, criou um modelo de reconhecimento de voz para preservar o idioma indígena local, o te reo Māori, que estava ameaçado de extinção, como acontece com muitas línguas de povos originários. Na Nova Zelândia, a colonização foi brutal com os idiomas locais, punindo severamente quem falava sua língua natal. Antes de desenvolver a ferramenta, a comunidade foi consultada e o resultado foi um desenvolvimento ético de IA, ancorado em três princípios: consentimento, reciprocidade e soberania do povo Māori. A ferramenta foi elaborada com uma visão orientada pela comunidade, democrática, consentida, respeitosa com o contexto local. Os dados permaneceram sob a guarda da própria comunidade e o modelo era de pequeno porte: bastaram 310 horas de áudio para alcançar 86% de precisão. Um exemplo do que seria a diferença entre uma bicicleta e um foguete. Como Karen explicou em sua palestra, ambos são meios de transporte, mas às vezes não precisamos de um foguete, e sim de uma bicicleta.

Karen então conclui que os impérios parecem inevitáveis, mas a história sempre mostrou que quando o povo se levanta, os impérios caem. Ela explica que o que precisamos fazer é separar completamente a IA do império: criar modelos de código aberto, reduzir o consumo de recursos usados para criar grandes modelos de linguagem e direcionar muito mais investimento para modelos mais especializados. Precisamos reimaginar que tipos de sistemas de IA devem ser construídos. Esses precisam ser sistemas de IA pequenos e específicos para tarefas, já que assim não são necessários tantos dados para treiná-los.  Em entrevista para o Intercept Brasil, Karen defendeu sistemas de IA pequenos e específicos por tarefa: reconhecimento de fala para línguas indígenas, integração de energia renovável na rede ou otimização de cadeias de suprimentos, soluções que consomem menos recursos.

Precisamos pensar que este modelo predatório não é inevitável, as resistências a ele estão se multiplicando. Nos EUA, a crítica aos data centers atravessa a polarização. Segundo a Gallup, 70% dos americanos se opõem a essas estruturas perto de casa, entre democratas e republicanos. No Ceará, o povo Anacé caminha com organizações socioambientais, como o Instituto Terramar, e de direitos digitais, como o Lapin e o IP.rec, contra o mega data center do TikTok em Caucaia, e uma perícia do MPF já confirmou irregularidades no licenciamento. Alianças improváveis podem ser feitas por pessoas e comunidades que se recusam a ter seus imaginários de futuro sequestrados.

A ideia de que escalar é a principal diretriz para alcançar alta performance é recorrente nos debates sobre agricultura e soberania alimentar. Nesse sentido, parte dos defensores do agronegócio argumenta que sistemas menores e diversificados não podem ser eficientes justamente por não operarem em larga escala. No entanto, essa lógica vem sendo refutada. De acordo com a FAO, propriedades com menos de 2 hectares produzem mais de um terço dos alimentos do mundo. Já a agroecologia surge como alternativa sustentável: uma proposta de produção construída em diálogo com os territórios. Sua força está na produção de alimentos saudáveis, livres de agrotóxicos, em sistemas biodiversos, conectados por redes de distribuição de circuitos curtos. Uma pesquisa  com mais de 300 mil comparações de campo mostra que esses sistemas reduzem o desgaste do solo e resistem melhor a secas e pragas. Então te convido a pensar as tecnologias digitais e a IA a partir da lógica de uma agrofloresta, na qual a escala não é fundamental: um ambiente biodiverso, distribuído, resiliente e colaborativo, em que diferentes agentes se complementam para gerar inteligência, equilíbrio e potência coletiva. 

Manoela Vianna é coordenadora de Tecnopolítica da Fundação Heinrich Böll no Brasil, mestre pela London School of Economics e mestranda em Tecnologias da Comunicação e Estética na UFRJ

Indico: Para se jogar nas reflexões da tecnopolítica: Se você é da turma que ama Podcast, como eu, te convido a ouvir: Tech won´t save us