🤖 Deepfake na empresa: como evitar fraudes com voz e vídeo falsificados

Deepfake na empresa: como evitar fraudes com voz e vídeo falsificados

Criminosos podem simular sócios, diretores e fornecedores para solicitar pagamentos ou informações; proteção depende menos de reconhecer a falsificação e mais de criar processos seguros de confirmação

Por Cleiton Celini e Gledson Alves, sócios e contadores da AUDICONT Contabilidade

Uma mensagem de áudio com a voz do sócio, uma ligação do suposto diretor ou até uma videoconferência aparentemente legítima já não são suficientes para confirmar a identidade de quem solicita um pagamento.

Com ferramentas de inteligência artificial capazes de reproduzir vozes, rostos, expressões e movimentos, empresas precisam rever procedimentos baseados apenas no reconhecimento visual ou auditivo de uma pessoa.

Essa manipulação é conhecida como deepfake: conteúdo sintético ou alterado com inteligência artificial para fazer parecer que alguém disse ou fez algo que, na realidade, não aconteceu.

O Radar Tecnológico sobre Deepfakes, publicado pela Agência Nacional de Proteção de Dados, a ANPD, identifica riscos relacionados à clonagem de voz, às falsas validações de identidade, às chamadas de vídeo sintéticas e às fraudes financeiras corporativas. O estudo menciona situações em que criminosos simulam executivos para solicitar transferências bancárias a trabalhadores ou parceiros comerciais.

O problema, portanto, não deve ser tratado apenas como uma ameaça à imagem ou à reputação. Ele já faz parte dos riscos financeiros, operacionais e de segurança da informação enfrentados pelas organizações.

Como o deepfake pode ser usado contra uma empresa

Os golpes normalmente combinam tecnologia com engenharia social - técnica de manipulação utilizada para induzir uma pessoa a executar determinada ação.

O fraudador não precisa necessariamente invadir o sistema financeiro da empresa. Em muitos casos, ele tenta convencer um trabalhador autorizado a realizar o pagamento.

A abordagem pode simular:

• um sócio solicitando uma transferência urgente;
• um diretor pedindo o pagamento sigiloso de uma operação;
• um fornecedor comunicando alteração dos dados bancários;
• um cliente solicitando o envio de documentos;
• um gestor pedindo senha, código de autenticação ou liberação de acesso;
• um executivo participando de uma chamada de vídeo;
• um responsável autorizando uma operação fora da rotina.

A falsificação pode utilizar informações disponíveis publicamente, como vídeos institucionais, entrevistas, apresentações, redes sociais, nomes de trabalhadores e dados sobre a estrutura da empresa.

O conteúdo manipulado não precisa ser perfeito. Basta que pareça convincente no contexto de urgência criado pelo criminoso.

A clonagem de voz é um risco especialmente relevante

A clonagem de voz utiliza inteligência artificial para reproduzir características como tom, ritmo, vocabulário e estilo de fala de uma pessoa.

O material produzido pode ser usado para criar frases que nunca foram pronunciadas pelo titular da voz. Segundo a ANPD, esse tipo de deepfake pode combinar a reprodução do tom com a síntese de texto, aumentando a credibilidade da simulação.

Isso muda uma prática ainda comum nas empresas: considerar uma mensagem de áudio como confirmação suficiente porque a voz parece ser de uma pessoa conhecida.

Áudios recebidos por aplicativos de mensagens, chamadas telefônicas e reuniões virtuais devem ser tratados como meios de comunicação, não como mecanismos definitivos de autenticação.

O mesmo cuidado vale para vídeos. A presença de rosto, voz e movimentos aparentemente naturais não elimina a necessidade de validação adicional quando a conversa envolve dinheiro, documentos confidenciais, credenciais ou alterações cadastrais.

O maior erro é depender da capacidade de reconhecer a falsificação

Alguns deepfakes ainda apresentam falhas perceptíveis, como movimentos pouco naturais, alteração da sincronia entre voz e imagem ou inconsistências na iluminação.

No entanto, orientar a equipe a procurar apenas esses sinais não é suficiente.

A tecnologia de geração evolui continuamente, assim como os mecanismos de detecção. A própria ANPD observa que ainda não existe um sistema infalível para identificar conteúdos manipulados e recomenda a combinação de ferramentas automatizadas com avaliação humana.

Na prática, a empresa não deve estruturar sua segurança com base na expectativa de que algum trabalhador perceberá que a voz ou o vídeo são falsos.

O processo precisa continuar seguro mesmo quando o deepfake parecer autêntico.

Voz, rosto e número de telefone não bastam para confirmar identidade

A voz pode ser clonada. O rosto pode ser manipulado. A conta de e-mail pode ser comprometida. O número de telefone exibido na tela também não garante que a comunicação tenha partido da pessoa esperada.

Por isso, toda operação sensível deve passar por mecanismos independentes de validação.

Segundo Cleiton Celini e Gledson Alves, sócios e contadores da AUDICONT Contabilidade, o avanço dos deepfakes exige uma mudança nos controles internos das empresas.

“A principal proteção não está em tentar descobrir se todo áudio ou vídeo é falso. Está em impedir que uma única mensagem, ligação ou videoconferência seja suficiente para autorizar um pagamento ou liberar uma informação sensível.”

A empresa precisa definir previamente:

• quais operações exigem validação adicional;
• quem pode autorizar cada tipo de transação;
• quais canais devem ser utilizados;
• quais valores dependem de dupla aprovação;
• como serão confirmadas alterações bancárias;
• como agir diante de uma solicitação fora da rotina;
• quem deve ser comunicado em caso de suspeita.

Essas regras precisam valer também para sócios e diretores. Um procedimento pode perder sua eficácia quando a própria liderança costuma pedir exceções.

Como criar um processo seguro de confirmação

Use um canal independente

A confirmação deve ocorrer por um canal diferente daquele utilizado para fazer a solicitação.

Quando o pedido chegar por mensagem, a empresa pode confirmar por ligação para um número previamente cadastrado. Se chegar por ligação, pode exigir uma aprovação registrada no sistema corporativo.

Não se deve usar como referência o telefone, o e-mail ou o link informado na própria comunicação suspeita.

Exija dupla aprovação para operações críticas

Pagamentos acima de determinados valores, transferências fora do padrão e mudanças de dados bancários podem depender da conferência de duas pessoas.

A segregação de funções reduz a possibilidade de uma única abordagem resultar em prejuízo.

O responsável por cadastrar ou alterar os dados de pagamento, por exemplo, não deveria ser a única pessoa a aprovar a transferência.

Crie limites por tipo de operação

O nível de controle deve ser proporcional ao risco.

Uma despesa recorrente, prevista em contrato e destinada a uma conta já validada apresenta risco diferente de uma transferência urgente para um novo favorecido.

A empresa pode estabelecer critérios diferenciados para:

• novos beneficiários;
• pagamentos antecipados;
• operações fora do horário habitual;
• valores acima da média;
• alteração de contas bancárias;
• solicitações feitas durante viagens;
• pagamentos classificados como confidenciais;
• transferências internacionais;
• movimentações sem documentação de suporte.

Formalize as exceções

Solicitações urgentes não devem eliminar os controles. Elas precisam seguir um procedimento específico.

A empresa pode determinar que toda exceção seja registrada, justificada e posteriormente revisada.

Quando a urgência se torna motivo para ignorar o processo, ela passa a ser uma vulnerabilidade conhecida por quem pretende aplicar o golpe.

Alteração bancária de fornecedor exige cuidado reforçado

A troca dos dados bancários de fornecedores é um dos pontos mais sensíveis do processo de pagamentos.

Um e-mail aparentemente legítimo pode informar que a empresa fornecedora mudou de banco ou passou a utilizar uma nova conta. Caso a alteração seja aceita sem validação independente, pagamentos verdadeiros podem ser enviados ao fraudador.

Antes de modificar o cadastro, a empresa deve:

1. entrar em contato com uma pessoa conhecida do fornecedor;
2. utilizar telefone ou e-mail já registrado;
3. confirmar a alteração por canal independente;
4. verificar os dados cadastrais do beneficiário;
5. registrar quem solicitou e quem aprovou a mudança;
6. impedir que uma única pessoa altere o cadastro e libere o pagamento;
7. redobrar a conferência na primeira transferência para a nova conta.

O retorno à própria mensagem recebida não representa confirmação independente.

Urgência, autoridade e sigilo são sinais de alerta

Mesmo com tecnologia sofisticada, os golpes continuam explorando comportamentos humanos.

As mensagens costumam pressionar o destinatário com frases como:

• “faça o pagamento imediatamente”;
• “estou em reunião e não posso conversar”;
• “não envolva outras pessoas”;
• “depois eu envio a documentação”;
• “é uma operação confidencial”;
• “preciso que ignore o procedimento desta vez”;
• “o banco fecha em poucos minutos”.

A urgência reduz o tempo de análise. A autoridade aparente dificulta o questionamento. O sigilo impede que outra pessoa participe da conferência.

Por isso, a política interna deve assegurar que nenhum trabalhador será punido por interromper uma operação para cumprir o procedimento de validação.

Questionar uma solicitação atípica não é desrespeitar a hierarquia. É proteger a empresa.

Quais áreas precisam participar

A prevenção de fraudes com deepfakes não é responsabilidade exclusiva da tecnologia da informação.

Financeiro

Deve mapear pagamentos, limites, aprovações e operações fora do padrão.

Compras e contas a pagar

Precisam validar fornecedores, alterações bancárias e documentos de suporte.

Tecnologia da informação

Deve controlar acessos, autenticações, registros, dispositivos e resposta a incidentes.

Departamento pessoal

Precisa proteger dados de trabalhadores e ficar atento a pedidos falsos de documentos, alterações cadastrais ou movimentações relacionadas à folha.

Contabilidade

Pode identificar lançamentos incompatíveis com a operação, documentos insuficientes e movimentações que destoem do histórico.

Direção

Deve apoiar os controles e evitar criar exceções informais que enfraqueçam o processo.

O combate à fraude depende da integração dessas áreas. Um sistema protegido não resolve sozinho o problema quando o procedimento de autorização é frágil.

A conciliação ajuda, mas não substitui a prevenção

A conciliação bancária e contábil permite comparar as movimentações financeiras com documentos, registros e fatos econômicos.

Esse controle pode ajudar a identificar:

• pagamentos não reconhecidos;
• duplicidades;
• valores divergentes;
• transferências sem documentação;
• beneficiários desconhecidos;
• movimentações fora do padrão.

Entretanto, a conciliação normalmente identifica o problema depois da saída do dinheiro.

Ela é uma camada importante de controle, mas não substitui a validação anterior ao pagamento.

Quanto menor o intervalo entre a movimentação e a conciliação, maior a possibilidade de reação. Empresas que deixam essa análise apenas para o fim do mês podem descobrir uma irregularidade tarde demais.

Deepfakes também envolvem proteção de dados

A produção e a circulação de deepfakes podem envolver tratamento de dados pessoais, especialmente quando utilizam informações que permitem identificar uma pessoa.

A LGPD define como dado pessoal qualquer informação relacionada a pessoa natural identificada ou identificável. A lei também classifica como sensível o dado biométrico quando vinculado a uma pessoa natural. (Presidência da República)

Isso não significa que toda fotografia ou gravação de voz seja automaticamente um dado biométrico sensível. Essa classificação depende do contexto e da forma de tratamento, especialmente quando a informação é utilizada para identificação ou autenticação biométrica.

A ANPD aponta que a manipulação de rostos e vozes pode envolver dados pessoais sensíveis e que os riscos aparecem em diferentes etapas: treinamento dos modelos, geração ou manipulação do conteúdo e sua disseminação.

Quando a própria empresa utiliza ferramentas de geração ou edição de voz e imagem, precisa avaliar:

• finalidade do tratamento;
• hipótese legal aplicável;
• necessidade dos dados utilizados;
• transparência com os titulares;
• acesso aos arquivos;
• período de armazenamento;
• compartilhamento com fornecedores;
• eventual transferência internacional;
• utilização dos dados para treinamento da ferramenta;
• procedimento de exclusão;
• medidas de segurança;
• responsabilidades contratuais.

O consentimento não é a única hipótese legal prevista na LGPD. A base adequada depende da finalidade e das características de cada operação.

O que verificar antes de contratar uma ferramenta de IA

Ferramentas capazes de gerar, editar, traduzir ou reproduzir voz e imagem podem ter aplicações legítimas em publicidade, treinamento, acessibilidade e produção de conteúdo.

Antes da contratação, a empresa deve verificar:

• onde os dados serão processados;
• se os arquivos serão armazenados;
• se o fornecedor poderá reutilizá-los;
• se o conteúdo servirá para treinamento de modelos;
• como solicitar a exclusão;
• quais medidas de segurança são adotadas;
• como são tratados incidentes;
• se existem subcontratados;
• em quais países os dados poderão ser processados;
• como as responsabilidades estão distribuídas no contrato.

Também deve haver uma política interna sobre quais conteúdos podem ser enviados para a plataforma.

Não devem ser inseridos em ferramentas não autorizadas:

• senhas;
• certificados digitais;
• dados bancários;
• folhas de pagamento;
• documentos pessoais;
• declarações fiscais;
• contratos confidenciais;
• informações de clientes;
• dados de saúde;
• segredos comerciais;
• credenciais de acesso.

Como proteger a imagem e a voz dos dirigentes

A presença digital de sócios e executivos pode ser importante para a comunicação da empresa, mas aumenta a quantidade de materiais públicos que podem ser utilizados em falsificações.

A solução não é necessariamente retirar essas pessoas das redes sociais. O mais importante é reduzir a exposição desnecessária e preparar a organização para possíveis abusos.

Algumas medidas práticas incluem:

• evitar divulgar rotinas internas de autorização;
• não mostrar senhas, documentos ou telas de sistemas;
• revisar vídeos antes da publicação;
• definir canais oficiais de comunicação;
• orientar trabalhadores sobre solicitações feitas em nome dos dirigentes;
• monitorar perfis falsos;
• documentar tentativas de falsificação;
• manter um procedimento de resposta a incidentes;
• comunicar rapidamente clientes e fornecedores quando houver risco de fraude.

A conscientização sobre deepfakes pode reduzir a vulnerabilidade a golpes e estimular a adoção de métodos complementares de autenticação, conforme destaca a ANPD.

O que fazer diante de uma solicitação suspeita

Ao receber uma ligação, áudio, vídeo ou mensagem fora do padrão, a empresa deve:

1. interromper temporariamente a operação;
2. não responder com dados ou credenciais;
3. confirmar a solicitação por canal independente;
4. preservar mensagens, arquivos e registros;
5. comunicar o responsável financeiro e a área de tecnologia;
6. verificar se contas ou acessos foram comprometidos;
7. revisar operações recentes relacionadas;
8. alertar outras pessoas que possam receber a mesma abordagem;
9. avaliar medidas bancárias, jurídicas e de proteção de dados;
10. registrar o incidente e revisar o procedimento que foi explorado.

Quando já houver transferência, o contato com a instituição financeira deve ser imediato.

Se o episódio envolver dados pessoais, a empresa também deverá avaliar a existência de incidente de segurança, seus riscos aos titulares e as obrigações aplicáveis ao caso concreto.

Perguntas frequentes

O que é deepfake?

Deepfake é um áudio, imagem ou vídeo produzido ou manipulado com inteligência artificial para simular uma pessoa, sua aparência, sua voz ou suas ações. A tecnologia pode ter usos legítimos, mas também pode ser empregada em fraudes, falsificação de identidade, desinformação e ataques de engenharia social.

É possível clonar a voz de um sócio ou diretor?

Sim. Sistemas de inteligência artificial podem reproduzir características como tom, ritmo e estilo de fala. Por isso, um áudio com voz aparentemente conhecida não deve ser considerado confirmação suficiente para pagamentos, compartilhamento de dados ou liberação de acessos.

Uma videochamada comprova a identidade de quem participa?

Não necessariamente. Voz, rosto e movimentos podem ser manipulados. Quando a conversa envolver uma operação sensível, a identidade deve ser confirmada por outro canal ou por um procedimento corporativo previamente definido.

Como confirmar uma solicitação de pagamento?

A empresa deve utilizar um canal independente e previamente cadastrado. Também pode exigir dupla aprovação, conferência documental, validação do beneficiário e registro no sistema. O telefone ou e-mail informado na própria mensagem suspeita não deve ser usado como única referência.

Ferramentas conseguem detectar todos os deepfakes?

Não. Sistemas de detecção podem auxiliar, mas ainda apresentam limitações. A ANPD afirma que não existe método infalível e destaca a importância de combinar tecnologia, avaliação humana, conscientização e autenticação complementar.

Foto e voz são dados pessoais sensíveis?

Foto e voz podem ser dados pessoais quando permitem identificar alguém. Serão dados biométricos sensíveis quando tratados tecnicamente com finalidade de identificação ou autenticação vinculada a uma pessoa natural. A classificação depende da finalidade e do contexto do tratamento.

Quem deve aprovar uma alteração bancária de fornecedor?

A empresa deve definir responsáveis e aplicar segregação de funções. O ideal é que a pessoa que altera o cadastro não seja a única responsável pela aprovação do pagamento. A mudança também deve ser confirmada com contato conhecido do fornecedor, por canal independente.

Fontes consultadas

Agência Nacional de Proteção de Dados - ANPD
Radar Tecnológico sobre Deepfakes. Estudo sobre conceitos, funcionamento, usos, riscos, proteção de dados, fraudes financeiras, engenharia social, detecção e medidas de enfrentamento.

Presidência da República
Lei nº 13.709, de 14 de agosto de 2018 - Lei Geral de Proteção de Dados Pessoais.