Como você resolve o problema Deepfake?

QuHarrison Terry em FutureSin Seg. 8 de jul · 4 min ler

Notícias sobre deepfakes não pararam nas últimas duas semanas e provavelmente não vão desacelerar tão cedo. Infelizmente, as histórias da mídia são consolidadas em torno de “deepfakes causam conflitos políticos”, com a única solução possível sendo a tecnologia.

Essa narrativa é importante, mas limitada em escopo, e é por isso que continuarei a propor novas maneiras de pensar em deepfakes (lembre-se de deepfakes em marketing ).

Aqui está o porquê eu acredito que deepfakes não são um problema tecnológico:

Um problema tecnológico?

É natural considerar os deepfakes como uma solução tecnológica, considerando que isso parece ser um problema tecnológico. Essa linha de pensamento é o que Evgeny Morozov chamou de “solucionador tecnológico” – basicamente uma ideologia em que tudo pode ser resolvido com o algoritmo certo ou com a tecnologia certa.

Sob esta linha de pensamento, estaremos para sempre no meio de uma Corrida de Armas Deepfakes .

Hoje, pesquisadores da UC Berkeley e USC têm uma solução para detectar deepfakes de pessoas com muito material de vídeo público para referência (basicamente celebridades e figuras políticas). Mas amanhã, esse processo não funcionará mais, porque novos deepfakes serão responsáveis por esses métodos de detecção.

É absolutamente necessário que haja adesão de pesquisadores e plataformas de mídia social para acompanhar tecnologicamente a detecção de deepfakes. Mas isso não é um problema puramente tecnológico.

Um problema político?

Acho que todos sabemos que a resposta para isso é "não". A política se move muito devagar para ficar à frente de deepfakes, mesmo que tenha havido uma audiência do comitê sobre deepfakes na semana passada que fez alguns pontos positivos.

O problema de aplicar uma solução política diretamente a deepfakes é que é extremamente difícil criar uma política que distingue uma falsa profecia satírica (como The Fakenings ) de uma falsa intenção de trazer terror ao mundo.

O Washington Post criou um guia para ajudar a colocar todos na mesma página, linguisticamente, sobre como classificar deepfakes. Ainda assim, a lei terá dificuldade em ser eficaz aqui.

Um problema social?

Mais do que tudo, acredito que as profundezas (especificamente as divisivas) são uma questão social. Em seu núcleo, são apenas mentiras. As profundezas que têm a chance de minar toda a nossa democracia são as mentiras que nós, como população, não podemos detectar.

Esse problema social (profundos, desinformação, discursos de ódio, linguagem de divisão, etc.) é amplificado e acelerado pelo anonimato. As plataformas de mídia social permitem a transmissão anônima – algo que simplesmente não existe no mundo real.

Para descrever como a transmissão anônima é absurda, criei um equivalente no mundo real:

Você está em um dos últimos shows de Elton John, curtindo as músicas com 50.000 outros fãs, quando um homem mascarado pula no palco e rouba o microfone.

Ele começa a falar sobre como Elton John é um adorador do diabo e suas letras estão trazendo o fim do mundo. Não apenas ninguém faz nada para impedir essa pessoa, todos twitam exatamente o que a pessoa está dizendo, sem saber quem é essa pessoa ou por que ela acredita nisso.

O homem pula do palco, foge e nunca mais é ouvido. Mas sua mensagem foi compartilhada.

Isso é o equivalente de transmissão anônima no mundo real. Absurdo, certo?

No mundo real, seguranças teriam parado o homem. A polícia teria identificado o homem. A notícia teria relatado em seu passado. E o público teria debatido sobre como seus antecedentes levaram a suas ações.

Por que, novamente, permitimos a transmissão anônima?

Terminando transmissão anônima

Acreditamos que o anonimato precisa existir para criar uma Internet segura onde não tenhamos medo de compartilhar opiniões, evitar o cyberbullying, acabar com crimes de ódio e evitar a vigilância. Bem, todos esses existem sob nossa atual situação de anonimato permitido. Então isso não é verdade.

Realisticamente, contas anônimas de mídia social são permitidas para que as empresas de silício possam inflacionar seus números e melhorar a aparência dos investidores. Você acha que haveria 2,7 bilhões de contas ativas no Facebook se o Facebook verificasse a identidade de todos por meio de um documento de identidade, passaporte ou cartão de crédito? De jeito nenhum. Quase todas as crianças menores de 18 anos como “rinsta” e “finsta” – uma conta real e falsa no Instagram. É muito mais fácil crescer sem a necessidade de verificar identidades.

Não me entenda mal, o anonimato na Internet é bom para transações peer-to-peer e consumo de conteúdo. Eu não me importo com o que você compra ou assiste. Isso não é da minha conta. Mas, no momento em que você pressiona esse botão de compartilhamento ou postagem, o público tem todo o direito de saber quem você é.

Se você vai compartilhar uma opinião ou criação na Internet, então você deve mostrar seu rosto. É assim que funciona no mundo real.

A transmissão anônima na Internet não impedirá as pessoas de criar e espalhar mentiras. No entanto, isso fará com que as pessoas pensem duas vezes sobre o efeito que terá em sua identidade e, pelo menos, conseguiremos rastrear essas forças negativas até suas fontes.

Isso seria um passo na direção correta e seria complementado por algumas das outras soluções que mencionamos :

  • Monitoramento de hits virais e postes de alta prioridade para verificação de fatos
  • Criando uma equipe de resposta rápida à mídia
  • Rotular o conteúdo deepfake para permitir que o espectador decida
  • Impressão digital de mídia digital

A resposta curta para um longo post é que os deepfakes precisarão de uma mistura de soluções sociais, tecnológicas e políticas. Agora não é hora de ser tímido sobre potenciais remédios para esse problema.