Bolha da Confiança – Em quem você acredita quando a realidade é sintética?

Por Cassio Betine

Até pouco tempo atrás, nosso cérebro operava sob uma regrinha básica herdada de séculos de evolução visual: o tal ver para crer. Se havia uma foto ou um vídeo, o fato havia acontecido – lembra da máxima: tem foto? Se havia uma mensagem de áudio com a voz inconfundível de alguém próximo, da família ou do trabalho, pedindo urgência em alguma coisa, tratava-se da pessoa mesmo, real. Agora, essa âncora psicológica acaba de ser arrancada.

Hoje, qualquer computador doméstico ou smartphone é capaz de clonar um timbre de voz com alta fidelidade a partir de uma amostra de poucos segundos. Geradores de vídeo criam cenas hiper-realistas de eventos que nunca existiram, com iluminação natural, microexpressões faciais e ruídos de fundo perfeitamente calculados – quem já não viu um monte desses? Entramos, meus senhores e senhoras, oficialmente na era da realidade sintética.

O primeiro instinto coletivo diante desse fenômeno foi o medo dos grandes escândalos: eleições sabotadas, manipulações geopolíticas ou exposições íntimas de celebridades. Mas o perigo real e imediato não está nos palácios de Brasília ou em Hollywood. Ele tá bem pertinho da gente, ele bate à porta das empresas e das famílias de cidades como as nossas, aqui no interior ou em qualquer lugar que possa imaginar.

Golpes com clonagem de voz já deixaram de ser roteiro de ficção científica. Secretárias recebem ligações com o tom de voz idêntico ao do diretor da empresa autorizando transferências; parentes recebem áudios desesperados de supostos acidentes. Mas há um efeito colateral ainda mais discreto, e raramente discutido, que os teóricos da tecnologia chamam de “o dividendo do mentiroso”.

Funciona assim: a partir do momento em que qualquer coisa em foto, vídeo ou áudio pode ser inventada por inteligência artificial, pessoas mal-intencionadas ganham uma desculpa universal para escapar de provas reais. A gravação comprometedora de uma fraude, o áudio de um suborno ou a imagem flagrando um delito passam a ser descartados com facilidade: “Isso não fui eu, foi uma IA.” Esse é o grande B.O.

Quando a mentira se torna perfeita, é a verdade que perde o valor. Isso nos coloca diante de uma baita crise de confiança institucional – e pessoal. Nos negócios, por exemplo, contratos e autorizações baseados em simples mensagens de WhatsApp ou telefonemas tornam-se vulnerabilidades críticas. Entre amigos e conhecidos, a desconfiança generalizada corrói a capacidade de diálogo, criando um ambiente onde cada um escolhe apenas a versão sintética que confirma seus próprios preconceitos.

A resposta para essa situação não virá apenas de softwares de detecção — que vivem em uma eterna corrida de gato e rato com os modelos de geração – quando descobrem um antivírus, um novo vírus surge, e assim por diante. Na verdade, a resposta exige uma mudança cultural.

Assim como aprendemos a não clicar em links suspeitos por e-mail nos primórdios da internet, precisaremos aprender novos protocolos de validação humana, como identificação de palavras-chave de segurança, checagem dupla, tripla ou quádrupla, se necessário e, além, claro, uso de tecnologias que possam ajudar a desvendar essas produções artificiais. 

Cautela pode ser a palavra mais adequada para isso. E, por incrível que possa parecer, isso poderia desdobrar numa desaceleração das coisas em tempos de agilidade e urgência. Sacou?

A tecnologia avança com velocidade implacável, mas a base de qualquer economia — do pequeno comércio local às grandes indústrias — continua sendo a mesma desde a Antiguidade: a confiança mútua.  Preservá-la em tempos de inteligência artificial não é apenas uma questão de segurança cibernética; é o principal desafio ético da nossa geração. Daí pode surgir a desaceleração. Então, bem vindos à nova dicotomia tecnológica evolucional.