Facebook desafia pesquisadores a criar um detector Deepfakes

Os Deepfakes estão se tornando tão convincentes que é difícil diferenciá-los de vídeos reais. E isso pode em breve significar um desastre, corroendo a confiança no que vemos online.

É por isso que o Facebook está se unindo a um consórcio de pesquisadores da Microsoft e a várias universidades de pesquisa proeminentes para um “Desafio de detecção do Deepfake”.

A idéia é construir um conjunto de dados, com a ajuda da entrada do usuário humano, que ajudará as redes neurais a detectar o que é e o que não é um deepfake. O resultado final, se tudo correr bem, será um sistema que pode falsificar vídeos online de maneira confiável.

Conjuntos de dados semelhantes já existem para reconhecimento de objeto ou fala, mas ainda não existe um especificamente criado para a detecção de falhas profundas.

A equipe vencedora receberá até um prêmio – presumivelmente uma parte dos US $ 10 milhões do Facebook está investindo no desafio.

Os Deepfakes “têm implicações significativas para determinar a legitimidade das informações apresentadas on-line”, diz uma declaração do Facebook. “No entanto, o setor não possui um ótimo conjunto de dados ou benchmark para detectá-los.”

Para contribuir com o desafio, o Facebook decidiu contratar atores pagos para criar um conjunto de dados realista .

“Esse é um problema em constante evolução, como spam ou outros desafios adversos, e nossa esperança é que, ao ajudar a indústria e a comunidade de IA a se unir, possamos progredir mais rapidamente”, diz o comunicado.

Fonte: Futurism