Em uma postagem de blog lançada recentemente,Twitchabordou a última controvérsia do deepfake em uma tentativa de proteger suas streamers femininas. A postagem vem como uma resposta a um infeliz incidente ocorrido em janeiro, quando várias streamers femininas do Twitch tiveram suaimagem explorada para serem usadas em conteúdo explícito.
Para os não iniciados, deepfaking é o processo de usar inteligência artificial para criar imagens, vídeos e áudio convincentes de pessoas dizendo ou fazendo coisas que nunca disseram ou fizeram. Deepfakes são uma tecnologia poderosa e em rápida evolução que tem o potencial de entreter e enganar. Emborapossa haver alguns usos positivos para deepfakes, também há preocupações significativas sobre o potencial de uso indevido. A tecnologia também pode ser usada para criar conteúdo malicioso direcionado a indivíduos específicos, como a criação de vídeos falsos de pessoas fazendo ou dizendo algo que na verdade não fizeram. Isso pode levar à perda de confiança, danos à reputação e até ramificações legais.
O Twitch abordou seu problema explícito de conteúdo deepfake primeiro colocando um rótulo no termo e chamando-o de “imagem de exploração sintética não consensual” ou “NCEI sintético”. No próximo mês, o Twitch atualizará sua política de violência e exploração sexual adulta para enfatizar que promover, criar ou compartilhar intencionalmente NCEIs sintéticos resultará em suspensão indefinida na primeira ofensa.A política de nudez adulta da Twitchtambém está sendo atualizada para incluir NCEIs sintéticos. No futuro, mostrar um NCEI na plataforma de streaming levará à aplicação imediata das políticas do site de streaming, independentemente do contexto.
Twitchtambém organizará um Creator Camp em 14 de março para educar os espectadores sobre o importante problema social. A streamer Zara Ward, especialista em NCEIs, será acompanhada por um membro da equipe de segurança do Twitch e cobrirá tudo o que há para saber sobre NCEIs sintéticos.
A ascensão da tecnologia deepfaking está se tornando cada vez mais preocupante e suas implicações são de longo alcance. Além do conteúdo explícito não consensual, ele também pode ser usado para manipular a opinião pública, espalhar informações falsas, influenciar eleições e ser usado para criar conteúdo malicioso que pode ter um impacto negativo nos indivíduos e na sociedade. Embora o Twitch esteja tomando algumas medidas importantes para resolver o problema, a fim de proteger seus usuários e manter um ambiente seguro e protegido, resta saber comooutras empresas lidarão com a crescente ameaça de deepfaking.