Os deepfakes emergem como uma preocupação séria para governos em todo o mundo, não apenas como um desafio nas redes sociais, mas como uma questão estratégica que impacta a segurança digital. De acordo com previsões do Gartner, estima-se que até 2028, 40% das organizações governamentais criarão estruturas dedicadas a TrustOps para combater as ameaças associadas à falsificação de identidades digitais e desinformação advinda da inteligência artificial.
Esse crescimento de conteúdos sintéticos gerados por IA, que podem imitar com precisão vozes e rostos, exige uma reavaliação urgente das estratégias de segurança digital adotadas por órgãos públicos. A mudança de abordagem é essencial, já que, conforme observa Daniel Nieto, Diretor Analista Sênior do Gartner, é necessário abandonar modelos de verificação reativa e implementar arquiteturas de confiança mais robustas e preventivas.
A natureza dos atacantes se torna ainda mais complexa. Nieto ressalta que os deepfakes podem degradar a noção de identidade digital, comprometendo a credibilidade das instituições. Se cidadãos não forem capazes de distinguir entre informações legítimas, como anúncios de líderes governamentais, e falsificações, a própria estrutura da verdade se torna instável.
As ameaças dos deepfakes transcendem a desinformação em redes sociais. Os ataques podem direcionar-se a sistemas internos de governos, principalmente aqueles que dependem de autenticação biométrica, como reconhecimento facial e por voz. Além disso, há o risco de golpes de engenharia social, onde criminosos utilizam vozes clonadas de figuras de autoridade para manipular funcionários em ações que podem resultar em perdas financeiras ou na liberação indevida de informações.
A consultoria alerta que esses eventos podem afetar negativamente o retorno sobre os investimentos em transformação digital, levando a uma possível regressão digital. Isto é, a necessidade de voltar a interações presenciais e uso de documentos físicos, se as tecnologias digitais não forem aprimoradas para lidar com as novas ameaças.
O conceito de TrustOps envolve a criação de estruturas internas focadas na proteção da confiança digital dentro das organizações. Na prática, isso significaria o reúno de equipes de TI, jurídico, comunicação, recursos humanos e governança para desenvolver uma resposta coordenada às campanhas de desinformação e tentativas de fraudes digitais. O Gartner enfatiza que o problema deve ser encarado como uma crise multidisciplinar, não meramente uma questão técnica de cibersegurança.
Entre as principais recomendações do Gartner estão:
- Estabelecimento de conselhos internos de confiança digital;
- Reforço de processos críticos, como aprovações financeiras;
- Adoção de autenticação multifator e validações adicionais;
- Desenvolvimento de protocolos específicos para detectar deepfakes;
- Implementação de tecnologias de proveniência criptográfica para garantir a autenticidade de conteúdos oficiais.
No horizonte, a adoção de soluções como o protocolo C2PA pode se tornar uma realidade. Essa tecnologia possibilita a inclusão de metadados criptográficos em conteúdos digitais, validando sua autenticidade e origem. A ideia é criar uma forma de “assinatura digital” que dificulte adulterações e falsificações geradas por inteligência artificial.
Os temas de confiança digital, governança de IA e gestão de riscos estarão em destaque no evento Gartner Segurança & Gestão de Risco, que acontecerá nos dias 4 e 5 de agosto em São Paulo, trazendo à tona a importância da segurança digital em um cenário em constante evolução.
Crédito da imagem: divulgação/reprodução
