Startup de IA pilota máscaras digitais que combatem o reconhecimento facial

Alethea IA, uma empresa de mídia sintética está testando “peles faciais que preservam a privacidade”, ou máscaras digitais que neutralizam algoritmos de reconhecimento facial e ajudam os usuários a preservar a Política de Privacidade em vídeos pré-gravados.

A mudança ocorre no momento em que empresas como IBM, Microsoft e Amazon anunciaram que iriamsuspender a venda de sua Tecnologia de reconhecimento facial para agências de segurança pública.

"Esta é uma nova técnica que desenvolvemos internamente que envolve um rosto com nossos algoritmos de IA", disse o CEO da Alethea AI, Arif Khan. "Avatares são divertidos de brincar e desenvolver, mas essas 'máscaras/peles' são um animal diferente e mais potente para preservar a Política de Privacidade."

Veja também:Fundação de Direitos Human financia ferramentas de Política de Privacidade do Bitcoin apesar do estigma legal de "mistura de moedas"

A startup sediada em Los Angeles foi lançada em 2019 com foco na criação de avatares para criadores de conteúdo que os criadores poderiam licenciar para obter receita. A ideia surge à medida que os deepfakes, ou mídia manipulada que pode fazer alguém parecer que está fazendo ou dizendo qualquer coisa, se tornam mais acessíveis e disseminados.

De acordo com umRelatório de 2019 da Deep Trace,uma empresa que detecta e monitora deepfakes, houve mais de 14.000 deepfakes online em 2019 e mais de 850 pessoas foram alvos deles. A Alethea AI quer deixar os criadores usarem seus próprios avatares de mídia sintética para fins de marketing, em um sentido tentando deixar as pessoas alavancarem deepfakes de si mesmas por dinheiro.

Khan compara a proliferação de dados de reconhecimento facial agora à explosão de pirataria musical no estilo Napster no início dos anos 2000. Empresas comoClearview IA, já recolheram grandes quantidades de dados de pessoas para algoritmos de reconhecimento facial, revendendo depois esses dados a serviços de segurança sem consentimento, e com todo o preconceito inerente aos algoritmos de reconhecimento facial, que sãogeralmente menos preciso em mulheres e pessoas de cor.

Clearview IA, se promoveu para autoridades policiais e extraiu bilhões de imagens de sites como Facebook, Youtube e Venmo. A empresa está sendo processada por isso.

“Chegaremos a um ponto em que será necessário um tipo de camada do iTunes, onde seus dados de rosto e voz sejam protegidos de alguma forma”, disse Khan.

Uma parte disso é que os criadores licenciam sua imagem por uma taxa. O empreendedor de Cripto Alex Masmej foi oprimeiro avatar desse tipo, e por US$ 99 você pode contratar o avatar para dizer 200 palavras do que você quiser, desde que o verdadeiro Masmej aprove o texto.

Chegaremos a um ponto em que... em que seus dados de rosto e voz serão protegidos de alguma forma

A Alethea AI também fez uma parceria com a empresa de software Oasis Labs, para que todo o conteúdo gerado para o mercado de mídia sintética da Alethea AI seja verificado usando o blockchain seguro da Oasis Lab, semelhante à marca de seleção azul "verificado" do Twitter.

“Há muitos cenários de Black Mirror quando pensamos em deepfakes, mas se minha aprovação pessoal for necessária para meus deepfakes e ela for então carimbada em um blockchain público para que qualquer um verifique os vídeos que eu realmente quero lançar, isso fornece uma proteção que os deepfakes não têm atualmente”, disse Masmej.

O projeto piloto de Política de Privacidade leva essa ideia um passo adiante, não apenas criando uma licença falsa, mas também impedindo que empresas ou qualquer pessoa obtenham seus dados faciais de uma gravação.

Há duas partes no componente de Política de Privacidade . A primeira, atualmente em fase piloto, envolve vídeos pré-gravados. Os usuários carregam um vídeo, identificam onde e qual pele do rosto eles gostariam de sobrepor em seu próprio rosto, e então os algoritmos da Alethea AI mapeiam os pontos-chave em seu próprio rosto, e envolvem a MASK em torno deste mapa de pontos-chave que é criado. O vídeo é então enviado de volta para um cliente.

Veja também:Notícias falsas sobre esteroides: Deepfakes estão chegando – os líderes mundiais estão preparados?

A Alethea AI também quer habilitar o mascaramento facial durante comunicações em tempo real, como em uma chamada do Zoom. Mas Khan diz que o poder da computação ainda T permite isso, embora deva ser possível em um ano, ele espera.

A Alethea AI pilotou um exemplo da tecnologia com a Cripto AI Profit, uma influenciadora de blockchain e IA, que a usou durante um Vídeo do Youtube.

Deepfakes,falsificação de voz, e outras imitações tecnológicas parecem ter vindo para ficar, mas Khan ainda está otimista de que ainda não chegamos ao ponto sem volta quando se trata de nos proteger.

“Estou esperançoso de que o indivíduo receba algum tipo de estrutura em todo esse cenário emergente”, disse Khan. “Vai ser uma jornada muito interessante. T acho que a batalha esteja totalmente decidida, embora os sistemas existentes sejam orientados para preservar uma contribuição maior e mais corporativa.”