Como diferenciar uma imagem real de um DeepFake?

Os peritos em segurança há muito que advertem que a tecnologia capaz de criar deepfakes – vídeos indistinguíveis da realidade – poderia ser utilizada para prejudicar reputações, influenciar eleições, e até mesmo lançar ciberataques. Mas até há pouco tempo, não havia muito que alguém pudesse fazer a esse respeito. Isto é, até agora. Grandes empresas do sector tecnológico criaram um consórcio.—Adobe, Arm, BBC, Intel, Microsoft e Truepic— lançaram a Coalition for Content Provenance and Authenticity (C2PA). O movimento reúne o trabalho da Iniciativa de Autenticidade de Conteúdo (CAI). Então, o que significa isto para o futuro da segurança online? E como podemos proteger-nos contra ataques de DeepFake?

O que é um DeepFake?

Já viu Barack Obama chamar “completo idiota” a Donald Trump, ou Mark Zuckerberg gabar-se de ter “o controlo total de milhares de milhões de dados roubados“, ou testemunhou o comovente pedido de desculpas de Jon Snow pelo final sombrio da Guerra dos Tronos? Responda sim e viu um DeepFake. A resposta do século XXI ao Photoshopping,

Talvez se lembre deste caso. Há pouco menos de um ano, em Maio de 2021, Jonas Bendiksen, um fotojornalista norueguês, publicou um livro intitulado “O Livro de Veles”. Era um conjunto de imagens tiradas na cidade de Veles, no Norte da Macedónia. Curioso e muito evocativo, sim; mas pouco mais. Isso era o que parecia, é claro. Na realidade, Bendiksen tinha falsificado as fotografias com software, incluindo mesmo personagens geradas com modelos 3D semelhantes aos utilizados nos jogos de vídeo, numa tentativa de abrir um debate sobre a manipulação de imagens.

Para espanto de Bendiksen, porém, o livro foi distribuído como uma obra de fotojornalismo, uma série de imagens alegadamente verdadeiras mostrando a realidade do antigo subordinado soviético. Chegou mesmo a fazê-lo através dos filtros do prestigioso festival internacional Visa Pour L’Image em França, sem que ninguém reparasse na mais pequena falsificação. Só no fim de tudo é que acabou por se revelar.

O que queria demonstrar era algo que os media, a classe política e, cada vez mais, a própria sociedade, já sabiam: manipular imagens e vídeos é muito fácil. E eficaz. De tal forma que se está a tornar um problema demasiado comum.

Um estudo da Sensity publicado no ano passado concluiu que, numa questão de seis meses, o número de Deepfakes em circulação tinha duplicado. O que é mais grave é que apenas 7% tinham sido feitos para “entretenimento”. Obama e Trump têm sido protagonistas de um tipo de manipulação que é frequentemente utilizada para fins tão questionáveis e ilícitos como a geração de pornografia, sobrepondo os rostos das vítimas involuntárias ou a realização de esquemas fraudulentos.

Numa tentativa de resolver o problema ou pelo menos criar ferramentas que permitam aos meios de comunicação e aos indivíduos descobrir as manipulações, há algum tempo atrás grandes empresas do sector tecnológico criaram um consórcio.—Adobe, Arm, BBC, Intel, Microsoft e Truepic— lançaram a Coalition for Content Provenance and Authenticity (C2PA). O movimento reúne o trabalho da Iniciativa de Autenticidade de Conteúdo (CAI), liderado pela Adobe, e o Projecto Origin, por sua vez liderado pela Microsoft e a BBC. Acaba de dar os seus primeiros frutos: a versão inicial de uma norma, uma espécie de “selo de aprovação” que endossa material verdadeiro e, desta forma, ajuda a apanhar Deepfakes .

@deeptomcruiseKeep your hands clean.♬ original sound – Tom

A ideia é permitir um padrão aberto que possa ser integrado em qualquer software, dispositivo ou plataforma online e ajudar a acreditar a origem e estrutura do material, definir a informação associada a cada imagem, vídeo ou áudio, por exemplo, e como é armazenada.

Objectivo: Confiar

“C2PA permite aos autores ligarem de forma segura as declarações de dados de proveniência usando as suas credenciais únicas. Estas declarações são chamadas asserções por C2PA. Podem incluir afirmações sobre quem, como, quando e onde o conteúdo foi criado. Também sobre quando e como foi editado. O autor e editor do conteúdo – se for o autor dos dados- tem sempre controlo sobre se deve ou não incluir dados de origem, bem como que informações são acrescentadas,” a coligação de empresas tecnológicas detalha na sua página web oficial.

Os responsáveis pelo projecto advertem que, actualmente, os criadores que desejam incluir metadados sobre o seu trabalho – autoria, por exemplo – “não o podem fazer de uma forma segura, à prova de adulteração e normalizada em todas as plataformas”. Isto torna difícil aos editores ter um “contexto crítico” para confiar na autenticidade do material. Para resolver isto, a Adobe e as outras empresas envolvidas na C2PA procuram oferecer “indicadores de autenticidade” que ajudarão a saber, quando chegar o momento, quem alterou uma fotografia e o que foi exatamente alterado.

“Esta capacidade de fornecer proveniência é essencial para facilitar a confiança”, reflecte o C2PA, que esclarece que o seu objectivo é “permitir a adopção global e voluntária de técnicas de proveniência digital através da criação de um rico ecossistema de aplicações”

Imagen: C2PA

A questão do milhão de dólares é: Como se consegue?

Isso, e como é que a C2PA pretende estabelecer a confiança?

O segredo é em grande parte a utilização de credenciais de assinatura únicas que, graças a uma autoridade certificadora (AC), certificam que uma pessoa é quem afirma ser. O processo não é diferente do já utilizado na World Wide Web (WWW) e destina-se a impedir que os atacantes se façam passar por uma identidade. Por exemplo, antes de emitir um certificado para o c2pa.org/, a AC verificou que o requerente controlou de facto o nome de domínio C2PA antes de emitir um certificado para esse nome web”, diz a coligação a título de exemplo.

“Os dados de proveniência e o activo são duas partes do mesmo puzzle. A hipótese de qualquer outra peça corresponder, quer por coincidência, quer por criação intencional, é tão baixa que seria virtualmente impossível. Isto é conhecido como ligação difícil. Por outras palavras, qualquer alteração do bem ou da proveniência alteraria o algoritmo matemático, a forma da peça do puzzle, de tal forma que deixaria de corresponder”.

Para que serve esta garantia na prática?

Bem, basicamente para ter uma ideia precisa de quem criou o ficheiro ou se este foi modificado. Imagine, por exemplo, que um amigo lhe envia um vídeo com um conteúdo controverso. Se cumprir a norma C2PA, poderá ver – com uma aplicação C2PA – se foi validado por uma organização em que pode confiar. Poderá fazê-lo porque o vídeo terá sido gravado com uma câmara que, entre outras coisas, terá criado um manifesto com informações sobre o próprio dispositivo e hashes criptográficos.

Algo semelhante aconteceria com uma rede social. Graças à proveniência da C2PA, a plataforma pode verificar se uma fotografia provém da mesma fonte que originalmente a publicou. O objectivo: “Estabelecer confiança”.

“Este é um passo monumental para criadores, editores e consumidores de todo o mundo”, refere Andy Parsons, CAI da Adobe, pouco depois do lançamento do C2PA. “Continuaremos a sensibilizar a indústria para a importância da proveniência e a trabalhar para procurar uma ampla adopção para combater o aumento de conteúdos não autênticos”. O desafio agora é conseguir uma utilização generalizada da norma”.

Esta não é a primeira vez que a Adobe demonstra interesse em combater os DeepFakes. No Outono passado, por exemplo, introduziu o Projecto Morpheus, que permite ajustar a aparência das pessoas em vídeos, alterando as suas expressões faciais. A ferramenta tem aplicações interessantes, por exemplo, para editores profissionais; mas também pode ser utilizada em propaganda política.