Celular sobre uma mesa de madeira mostra uma chamada telefônica recebida em ambiente doméstico.

Ela ouviu a filha pedir socorro. Mas a voz que reconheceu podia ser uma falsificação muito convincente

20/10/2026 Por Caroline Borja

Vídeos e vozes criados por inteligência artificial estão tão convincentes que até os tribunais americanos discutem como distinguir o verdadeiro do falso. E o perigo já chegou aos telefonemas e às redes sociais.

Jennifer DeStefano estava em um estúdio de dança, no Arizona, Estados Unidos, quando recebeu uma ligação que transformaria aquele dia em um pesadelo.

Do outro lado da linha, ouviu a voz de Briana, sua filha de 15 anos.

A menina parecia desesperada. Chorava, pedia ajuda e dizia estar nas mãos de homens perigosos.

Jennifer reconheceu a voz. Não apenas as palavras, mas o jeito de falar, os soluços, a aflição. Era sua filha. Pelo menos, era isso que todos os seus sentidos lhe diziam.

Então, um homem assumiu a ligação.

Ele afirmou que havia sequestrado Briana e ameaçou machucá-la caso Jennifer procurasse a polícia. Exigiu um milhão de dólares pelo resgate.

A mãe entrou em pânico.

Com a mão trêmula, abriu a porta do estúdio e começou a pedir ajuda. Outras mães se aproximaram. Uma delas telefonou para a emergência. Outra ajudou a família a tentar localizar Briana.

Enquanto isso, o suposto sequestrador continuava fazendo ameaças. Diante da impossibilidade de receber um milhão de dólares, reduziu a exigência para 50 mil.

Foi então que surgiu uma explicação que Jennifer inicialmente se recusou a aceitar: talvez aquela voz tivesse sido produzida por inteligência artificial.

Como seria possível? Ela conhecia a voz da filha desde o nascimento. Conhecia seu choro, suas emoções, suas maneiras de se expressar.

Mas Briana não havia sido sequestrada.

A adolescente estava em segurança. A família conseguiu confirmar isso, e Jennifer não pagou o resgate.

O alívio, porém, não apagou a experiência.

Meses depois, em junho de 2023, Jennifer compareceu ao Senado dos Estados Unidos para contar o que havia acontecido. Seu depoimento trouxe uma pergunta que ultrapassava em muito o golpe que havia sofrido.

Se uma mãe já não pode confiar na voz da própria filha, em que poderá confiar?

O que é deepfake, afinal?

A palavra deepfake é usada para descrever imagens, vídeos ou áudios falsificados com recursos de inteligência artificial, capazes de fazer uma pessoa parecer dizer ou fazer algo que nunca disse ou fez.

Pode ser a imagem de um artista anunciando um produto que desconhece. Um político fazendo uma declaração que jamais pronunciou. Ou uma voz que parece pertencer a um filho, pedindo ajuda pelo telefone.

A tecnologia pode reproduzir características de uma pessoa real, incluindo sua aparência, seu timbre de voz e suas expressões.

Nem todo conteúdo artificial é criado para enganar. A mesma tecnologia pode ser utilizada em filmes, dublagens e outras produções legítimas.

O problema começa quando a falsificação é apresentada como verdadeira.

No caso de Jennifer, o golpe foi tratado pelas autoridades e pelo Senado americano como um episódio de clonagem de voz por inteligência artificial. Não foi divulgada, porém, uma perícia que demonstrasse exatamente como aquela voz havia sido produzida.

O que não deixa dúvidas é a experiência vivida pela mãe: ela ouviu alguém que acreditou ser sua filha, em uma situação de desespero, e quase foi convencida de que um sequestro estava acontecendo.

Agora, até os juízes estão preocupados

Em 15 de outubro de 2026, mais de três anos depois da ligação recebida por Jennifer, especialistas de duas gigantes da tecnologia participaram de uma reunião em Boston, nos Estados Unidos.

De um lado estava a OpenAI, empresa criadora do ChatGPT. Do outro, a Meta, responsável por plataformas como Facebook, Instagram e WhatsApp.

O encontro não tratava especificamente de golpes contra famílias.

A preocupação era outra: como os tribunais poderão saber se uma gravação apresentada como prova é verdadeira?

Imagine um julgamento em que alguém apresente um vídeo mostrando o acusado cometendo um crime. Ou uma gravação em que uma pessoa aparentemente confessa algo.

E se tudo tiver sido fabricado?

Shira Anderson, representante da OpenAI, alertou que as imagens artificiais estão melhorando continuamente e manifestou dúvidas de que algum método científico consiga identificar todas as falsificações no futuro.

Devin Norder, da Meta, afirmou que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de gravações autênticas para os olhos humanos.

O problema também atinge os programas desenvolvidos para detectar falsificações. Não existe uma ferramenta universal capaz de verificar, com segurança absoluta, qualquer vídeo ou áudio.

Isso não significa que os tribunais americanos estejam sendo inundados por provas falsas. Uma pesquisa com 931 juízes encontrou apenas 15 que haviam enfrentado questionamentos sobre possíveis deepfakes.

Mas os especialistas querem se preparar antes que o problema se torne maior.

A discussão revela uma mudança profunda.

Durante muito tempo, uma fotografia ou uma gravação eram vistas como evidências especialmente convincentes. Hoje, podem ser o começo de uma investigação sobre o que realmente aconteceu.

Roberto Carlos precisou avisar que não era ele

O perigo não está restrito aos Estados Unidos nem às salas de audiência.

Em julho de 2026, Roberto Carlos fez um alerta público sobre vídeos que circulavam nas redes sociais utilizando sua imagem e uma voz semelhante à sua para anunciar supostos tratamentos médicos.

O cantor esclareceu que não havia gravado aquelas mensagens, não autorizara o uso de sua imagem e não tinha relação com os produtos anunciados.

O caso mostra uma das maneiras pelas quais a tecnologia pode explorar algo muito humano: a confiança em um rosto familiar.

Quem acompanha um artista há décadas conhece sua voz, suas expressões, seus gestos. Ao vê-lo recomendar alguma coisa, pode acreditar que está diante de uma declaração autêntica.

Mas reconhecer o rosto já não é suficiente.

Naquele mesmo mês, a atriz Fernanda Montenegro também denunciou o uso indevido de sua imagem em publicidade de um suposto medicamento que prometia até curar Alzheimer.

São situações especialmente perigosas porque a falsificação não procura apenas parecer real. Ela procura aproveitar a credibilidade de quem aparece na gravação.

A polícia encontrou vítimas que acreditaram nos vídeos

Em agosto de 2026, a Polícia Civil do Distrito Federal realizou uma operação contra um esquema suspeito de utilizar vídeos falsificados por inteligência artificial para vender um suposto tratamento natural para disfunção erétil.

Segundo a investigação, os vídeos mostravam personalidades conhecidas, como cantores e jornalistas, aparentemente contando experiências pessoais com o produto.

Mas aquelas declarações eram fabricadas.

A polícia encontrou comprovantes de vendas e entregas a moradores de Brasília. Um suspeito foi identificado, e uma operação de busca e apreensão ocorreu em Guarulhos, na Grande São Paulo.

Além do prejuízo financeiro, havia outra preocupação: não se sabia com segurança quais substâncias estavam presentes nos produtos comercializados.

A investigação demonstrava que a falsificação não precisava ser perfeita para produzir consequências reais.

Bastava convencer alguém.

E como reconhecer uma falsificação?

Durante algum tempo, circularam orientações para observar defeitos em vídeos artificiais: movimentos estranhos dos lábios, expressões pouco naturais, mãos deformadas ou vozes com entonação mecânica.

Esses sinais ainda podem revelar manipulações.

Mas a tecnologia avançou. Um vídeo falso pode não apresentar nenhum defeito evidente. Uma voz artificial pode reproduzir emoções e maneiras de falar que pareciam impossíveis de imitar.

Por isso, tentar descobrir uma falsificação apenas olhando ou ouvindo está se tornando uma estratégia cada vez menos confiável.

Existe, porém, uma diferença importante entre reconhecer uma voz e confirmar uma informação.

Se alguém telefonar dizendo ser um familiar em perigo e pedir dinheiro com urgência, o mais seguro é interromper a ligação e tentar falar com essa pessoa por um número que você já conhece.

Se um artista aparecer recomendando um tratamento, vale procurar a declaração em seus canais oficiais e verificar se há informações confiáveis sobre o produto.

E, diante de um vídeo surpreendente recebido pelas redes sociais, convém descobrir de onde ele veio antes de acreditar ou compartilhar.

Não se trata de desconfiar de tudo o tempo inteiro.

Trata-se de reconhecer que uma imagem convincente e uma voz familiar já não são, por si só, garantias de autenticidade.

O que acontece quando deixamos de confiar nos próprios sentidos?

No depoimento ao Senado, Jennifer DeStefano levantou uma questão desconcertante.

Seria esse o futuro? Quando uma mãe recebesse uma ligação do filho pedindo ajuda, teria de desligar e telefonar novamente para confirmar que era realmente ele?

A pergunta revela algo que nenhuma explicação técnica consegue transmitir tão bem.

A inteligência artificial não está mudando apenas a maneira como imagens e vozes são produzidas. Está alterando a relação de confiança que construímos com aquilo que vemos e ouvimos.

Há algumas décadas, ouvir a voz de alguém querido era uma forma de reconhecer sua presença, mesmo a quilômetros de distância.

Hoje, aquela voz pode ser reproduzida sem que a pessoa esteja participando da conversa.

Jennifer teve a sorte de descobrir a verdade antes de perder dinheiro. Sua filha estava bem. O sequestro não existia.

Mas a experiência deixou uma lição que agora alcança muito mais gente.

Ver com os próprios olhos e ouvir com os próprios ouvidos continuam sendo experiências humanas poderosas. O que mudou é que, para saber se alguma coisa realmente aconteceu, talvez já não sejam suficientes.