IA do TikTok permite inserir discurso nazista em vídeos

O TikTok, uma plataforma popular de compartilhamento de vídeos, lançou recentemente uma nova ferramenta chamada Symphony Digital Avatars, que utiliza inteligência artificial (IA) para criar avatares digitais realistas. No entanto, o lançamento dessa ferramenta não foi tão suave quanto o esperado.

Inicialmente, o TikTok lançou uma versão interna da IA Symphony Digital Avatars sem as salvaguardas adequadas. Isso possibilitou aos usuários criarem vídeos com conteúdo inadequado, incluindo citações de Hitler e mensagens perigosas. Apesar de a ferramenta ter sido concebida para que empresas gerem anúncios usando dublagem com atores pagos e IA, um erro permitiu que qualquer pessoa com uma conta pessoal a utilizasse.

A CNN descobriu o problema e criou vídeos perturbadores utilizando a ferramenta defeituosa. Essa situação levou o TikTok a agir rapidamente e remover a versão problemática. Atualmente, a versão corrigida da Symphony Digital Avatars inclui uma marca d’água para indicar que o conteúdo foi gerado por IA, além de a empresa ter reforçado as diretrizes de uso para evitar abusos futuros.

Laura Perez, porta-voz do TikTok, confirmou que o erro técnico foi solucionado em comunicado enviado ao The Verge. Contudo, ainda existem preocupações sobre o potencial de abuso da ferramenta. Afinal, a criação de avatares digitais realistas pode ser utilizada para disseminar informações falsas, discursos de ódio e outros conteúdos prejudiciais.

O TikTok afirmou estar comprometido em aprimorar a moderação e garantir que a Symphony Digital Avatars seja utilizada de forma responsável. A empresa reconhece que a IA pode ser uma faca de dois gumes e está trabalhando para encontrar um equilíbrio entre criatividade e segurança.

Este incidente destaca a importância de implementar medidas adequadas de segurança e controle quando se trata de tecnologias baseadas em inteligência artificial. A capacidade de criar avatares digitais realistas abre novas possibilidades, mas também traz consigo um grande potencial de abuso.

Portanto, é fundamental que as empresas estejam atentas aos possíveis riscos e ajam rapidamente para corrigir quaisquer falhas que possam surgir. A transparência e a responsabilidade devem sempre nortear o desenvolvimento e o uso de tecnologias inovadoras como a Symphony Digital Avatars do TikTok.

Nesse sentido, o TikTok se comprometeu a zelar pela segurança e prevenir futuros incidentes semelhantes. A evolução da tecnologia exige uma abordagem cautelosa e proativa para garantir que os benefícios proporcionados pela IA sejam aproveitados de forma ética e responsável.