Nos últimos anos, os vídeos com inteligência artificial (IA) começaram como truques divertidos na internet. Tinha deepfakes mostrando o Tom Cruise fazendo truques de mágica ou o Morgan Freeman narrando textos engraçados. No entanto, a situação mudou e ficou mais séria. Estima-se que os vídeos deepfake podem aumentar de 500 mil em 2023 para 8 milhões em 2025, segundo previsões. Isso indica que eles estão se espalhando mais rápido do que os sites conseguem controlar.
O YouTube, que abriga bilhões de vídeos e criadores, tornou-se um ponto crítico dessa questão. Muitos criadores perceberam que suas imagens estavam sendo usadas em vídeos manipulados, promovendo produtos duvidosos ou falando coisas que nunca disseram. Isso é preocupante.
Os legisladores em várias partes do mundo começaram a se preocupar mais com essa situação. Eles estão alarmados com os riscos de desinformação e abuso de identidade. Curiosamente, as próprias ferramentas de IA do Google, que deveriam ser inovadoras, acabaram contribuindo para esse problema.
O YouTube começou a se mexer para resolver a questão. Em 2024, surgiram notícias de que a plataforma estava criando duas ferramentas novas para segurança: uma para detectar deepfakes de figuras públicas e outra chamada tecnologia de identificação de vozes sintéticas. Essa última foi projetada para identificar vozes geradas por IA usadas sem permissão.
Recentemente, a empresa lançou um sistema de detecção de imagem. Esse recurso permite que criadores rastreiem e removam vídeos gerados por IA que imitam suas faces ou vozes. É como um sistema de identificação de conteúdo, só que para rostos. Ele escaneia os uploads, identifica possíveis falsificações e dá aos criadores verificados uma chance de decidir o que deve ou não ficar no ar.
Para usar essa nova ferramenta, os criadores têm que comprovar sua identidade enviando uma foto de documento e um vídeo curto deles mesmos. Algumas pessoas acham isso meio invasivo, mas o YouTube destaca que é essencial para resultados precisos. Mesmo assim, o sistema não é perfeito. Ele pode sinalizar clipes de paródia ou de uso justo junto com falsificações prejudiciais, e os revisores ainda precisam decidir o que realmente ultrapassa os limites.
Esse processo pode parecer um pouco confuso, especialmente se comparado à rapidez das remoções de direitos autorais, que são resolvidas em minutos. Os criadores sempre conseguiram fazer essas solicitações rapidamente, mas o que conta como “uso indevido” com a imagem artificial é mais complicado. Um clipe satírico com uma voz gerada por IA pode permanecer online, enquanto um endosse de marca falso pode ser removido imediatamente. Essa é uma situação difícil, que depende tanto da avaliação humana quanto da detecção automatizada.
O que se percebe é que o YouTube está entrando em um território novo. É a primeira plataforma do seu tamanho a oferecer ferramentas diretas para os criadores combaterem a imitação por IA, enquanto concorrentes como TikTok e X ainda estão tentando encontrar soluções. Além disso, com o novo modelo Veo 3.1 do Google integrando diretamente com o YouTube, a empresa está ciente de que a onda de vídeos gerados por IA está prestes a crescer ainda mais.
Embora esse novo sistema não vá resolver todos os problemas, indica que o YouTube entende a importância da situação. Em um mundo onde o rosto de qualquer pessoa pode ser copiado em questão de segundos, dar um pouco de controle aos criadores pode ser uma das coisas mais humanas que a plataforma pode fazer.
O YouTube também está buscando quebrar barreiras de idioma com um novo recurso de IA. Essa nova ferramenta pode ajudar os criadores a alcançar milhões de novos fãs de forma instantânea, sem ter que regravar nenhum vídeo. É uma oportunidade interessante para quem produz conteúdo e quer expandir seu público.
Durante essa transição, é importante que os criadores estejam atentos e se informem sobre as ferramentas disponíveis. Aprender a usar essa tecnologia da melhor forma pode ser a chave para proteger seu conteúdo e sua imagem. É um momento desafiador, mas também repleto de novas possibilidades.
Além disso, com a popularização da IA, a responsabilidade dos criadores e das plataformas só aumenta. Eles precisam garantir que suas vozes e seus rostos não sejam usados de maneira indevida. A conscientização sobre esse tema é essencial para todos os envolvidos.
No fim das contas, o futuro dos vídeos gerados por IA ainda é incerto. Para se proteger, quem cria conteúdo deve estar sempre atualizado e ciente das novidades que surgem na plataforma. O YouTube tem um papel importante ao tentar proporcionar segurança com essas novas ferramentas, mas a ação dos criadores também é fundamental nesse cenário.
Portanto, fiquem atentos, criadores! As ferramentas estão surgindo, e a tecnologia avança rapidamente. Manter-se informado e aprender a usar esses novos recursos pode ajudar a garantir que seus direitos e sua identidade sejam respeitados. O mundo digital nunca foi tão complexo, mas também oferece muitas oportunidades para quem está disposto a se adaptar e inovar.
