YouTube agora pode remover IA que imita rosto ou voz sem ponto final.

O YouTube, propriedade do Google, implementou recentemente uma nova funcionalidade que permite aos usuários solicitar a remoção de conteúdo gerado por inteligência artificial que imite seus rostos ou vozes. Essa atualização do formulário de reclamação de privacidade do YouTube foi destacada pela Autoridade Android, em resposta à crescente preocupação sobre o uso da IA para reproduzir indivíduos.

Aqueles que abusarem do formulário de reclamação de privacidade enfrentarão consequências severas, incluindo a possibilidade de serem banidos do YouTube. A plataforma reconhece o potencial de uso inadequado, especialmente em situações em que pessoas possam explorar esse sistema para assediar criadores de conteúdo. O formulário atualizado alerta claramente que tal abuso pode resultar na suspensão das contas dos infratores.

O YouTube se comprometeu a revisar manualmente cada solicitação de remoção. Esse processo de análise visa determinar se o conteúdo denunciado se enquadra em categorias como paródia ou sátira, especialmente quando envolve figuras públicas.

Com o avanço rápido da tecnologia de IA generativa, o YouTube está adotando medidas proativas para prevenir o uso indevido desse recurso. Como uma plataforma de destaque, o YouTube e serviços similares têm a responsabilidade de proteger os usuários contra conteúdos enganosos ou prejudiciais. No início deste ano, o YouTube passou a exigir que os criadores identificassem qualquer conteúdo gerado por IA que modificasse eventos reais ou falsificasse ações de indivíduos.

Visando a transparência, os criadores devem rotular o conteúdo gerado por IA nas descrições dos aplicativos do YouTube para Android, iOS e web. O descumprimento desses requisitos de divulgação pode resultar na remoção do conteúdo ou na expulsão do Programa de Parcerias do YouTube.

O uso crescente de ferramentas geradoras de IA tem levantado preocupações éticas em todo o mundo. Artistas têm acusado grandes empresas de tecnologia de utilizarem suas obras sem consentimento para treinar modelos de IA. A capacidade da IA em criar imagens e textos extremamente realistas também tem suscitado preocupações sobre sua capacidade de propagar informações falsas e desinformativas através de plataformas digitais.