A criação de vídeos deepfake vem crescendo na internet nos últimos anos e até começou a se espalhar no dia a dia das pessoas. Embora na maior parte usado para diversão, como quando um canal do YouTubefalsificou Hideo Kojima em todos os personagens deDeath Strandingno trailer do jogo, o potencial para o abuso nefasto da tecnologia tornou-se cada vez mais aparente.
Para aqueles que não estão familiarizados com o termo deepfake, é um método para substituir a imagem e/ou voz de uma pessoa em uma imagem ou vídeo existente pela de outra pessoa. No mundo dos jogos, isso geralmente significa algo inócuo e divertido, como quando um Redditortransformou seu personagem emThe Division 2em Chuck Norris. No entanto, em março, a mãe de uma líder de torcida da Pensilvânia usou a tecnologia para criar vídeos falsos de rivais de sua filha bebendo álcool e vaping para expulsá-los do time.
Esse uso mais embaraçoso e até perigoso de deepfakes provavelmente se tornará mais difundido à medida que a tecnologia se tornar mais facilmente acessível. Existem até tutoriais disponíveis no YouTube e em aplicativos de smartphone para simplificar o processo para leigos. Um pedido de patente publicado pelaSonyem 22 de abril de 2021 revela que a empresa está tentando desenvolver IA que detectará se um vídeo foi falsificado ou adulterado.
O pedido de patente categoriza a tecnologia deepfake como “interessante e divertida, mas potencialmente sinistra”. No entanto, existem métodos para investigar uma imagem ou vídeo e determinar se foi alterado, porque certos artefatos ou irregularidades são deixados para trás. Esses artefatos podem incluir irregularidades de iluminação ou textura em uma imagem falsificada que não estão presentes no original. Alguns deles podem ser discerníveis a um olho treinado; outros são indetectáveis, a menos que sejam processados por meio de uma rede neural ou programa de IA.
Embora a tecnologia discutida na patente tenha amplas aplicações mundiais, a publicação da patente menciona especificamente “dispositivos de computação, incluindoconsoles de jogos como Sony PlayStation… ou outros fabricantes de headsets de realidade virtual” e depois explica que a imagem falsificada pode ser “um I-frame um fluxo de vídeo.” A tecnologia da Sony, portanto, seria capaz de impedir deepfakes benignos e maliciosos de streamers de jogos. Parece apenas uma questão de tempo até que as pessoas comecem a fazer deepfake de streamers, o que pode ter muitas consequências negativas.
O mundo dos jogos tende a ser alegre, mas nem tudo são risadas e bons momentos, dando origem à potencial necessidade de tecnologia de detecção de deepfake. Alguns jogadores levam as coisas para o próximo nível, enviando policiais para as casas de streamers que não gostam ou jogadores para os quais perderam partidas. Recentemente, o criador de conteúdodo Call of Dutyno YouTube,Driftor, mencionou que vários incidentes de golpequase resultaram em sua morte quatro ou cinco vezes. De fato, em 2017, um homem chamado Tyler Barris fez um boletim de ocorrência falso contra um jogador diferentede Call of Dutye forneceu o endereço errado, o que resultou em uma equipe da SWAT matando Andrew Finch, um homem sem envolvimento na disputa.