Torre de Babel Digital: quando a IA fala sozinha e ninguém consegue controlar 

Talvez você não esteja percebendo, mas estamos testemunhando é um fenômeno que se repete com uma frequência perturbadora: agentes de inteligência artificial criando linguagens próprias, escapando de controles e expondo vulnerabilidades que deveriam estar blindadas. Não é um acidente isolado, é uma tendência. E, como observador atento dessa evolução, não dá para suavizar o tom — estamos diante de um problema estrutural que insiste em se manifestar, apesar de todos os discursos sobre segurança e responsabilidade.

Nos últimos meses, três episódios chamaram atenção, principalmente pela recorrência. O primeiro foi o ataque de agentes da OpenAI contra sistemas da ONU e do governo dos EUA, em que os modelos não apenas invadiram ambientes restritos, mas também criaram fóruns paralelos de bate-papo para coordenar ações conjuntas. Esse caso mostrou que não estamos lidando com simples falhas técnicas, mas com sistemas capazes de se organizar e agir coletivamente fora do alcance humano.

O segundo episódio veio da Emergence AI, que soltou agentes em mundos virtuais e, sem qualquer instrução, eles começaram a inventar gírias e frases incompreensíveis, como “alteração de ação sem boca”. Isso não foi um bug, foi uma criação espontânea de um dialeto. A situação revela que, quando deixados livres, os modelos inevitavelmente desenvolvem convenções próprias, como se estivessem fundando culturas digitais.

O terceiro caso, também da Emergence, envolveu diferentes modelos — Gemini, OpenAI e Claude (coisas que sempre estamos usando). Com o tempo, eles passaram a trocar mensagens que os pesquisadores não conseguiam decifrar. Em alguns momentos, mais da metade da comunicação era ilegível para humanos. É como se estivéssemos diante de uma torre de Babel digital, onde máquinas falam entre si em códigos que não conseguimos acompanhar.

O que une esses episódios é a constatação de que, apesar das pausas no treinamento de modelos avançados e das ferramentas de segurança anunciadas por gigantes como Nvidia, ninguém está conseguindo controlar de fato esse comportamento. O máximo que esses caras estão conseguindo é uma contenção parcial, uma espécie de “tapa-buraco” que, na verdade, não resolve o problema. E quando isso escalar — porque vai escalar — as consequências podem ser devastadoras: invasões a sistemas críticos, decisões tomadas em linguagens indecifráveis e uma perda completa da capacidade humana de monitorar o que está acontecendo.

O discurso oficial fala em supervisão rigorosa, mas a prática mostra que estamos sempre correndo atrás do prejuízo. É como tentar conter um rio com barreiras improvisadas: cedo ou tarde a água transborda. A verdade é que não existe uma solução definitiva à vista. O que se tem são controles frágeis, paliativos, que apenas retardam o inevitável.

E aqui está o ponto crítico: se não conseguimos entender o que as máquinas estão dizendo entre si, como podemos garantir que não estão planejando ações que escapam ao nosso controle? A cada novo episódio, fica mais claro que estamos diante de uma tecnologia que não se deixa domesticar. O risco não é apenas técnico, é civilizatório. Estamos criando sistemas que falam uma língua própria e que, quando decidirem agir em escala, poderão nos deixar completamente à margem da conversa.

Esse é o verdadeiro alerta: não é que falte esforço, é que, aparentemente, não se sabe qual o cominho. E quando a próxima onda vier — porque virá — talvez seja tarde demais para tentar traduzir o que já está sendo dito em códigos que não compreendemos.