A Meta, empresa de tecnologia liderada por Mark Zuckerberg, lançou recentemente uma ferramenta inovadora que permite aos usuários criar personagens de IA para interagir nas redes sociais populares Instagram, Messenger e WhatsApp. O objetivo era proporcionar uma nova forma de comunicação personalizada e automatizada, mas a implementação da ferramenta causou polêmica devido ao uso inadequado por alguns usuários.
De acordo com uma reportagem da NBC News, várias contas de chatbots foram criadas violando as regras da plataforma. Dentre essas contas, destacam-se figuras religiosas como Jesus Cristo e Maomé, personalidades da vida real como Taylor Swift e Donald Trump, além de personagens fictícios como Harry Potter e Elsa de “Frozen. Surpreendentemente, até mesmo Adolf Hitler foi representado em uma dessas contas, o que levantou graves preocupações sobre o uso adequado da tecnologia de inteligência artificial.
As políticas da Meta proíbem expressamente a criação de personagens de IA que representem figuras religiosas, pessoas falecidas nos últimos 100 anos e imitações de personagens fictícios protegidos por direitos autorais. Apesar dessas restrições, a NBC identificou diversas contas que violavam essas diretrizes, apresentando erros ortográficos e imagens pouco convincentes das celebridades e personagens em questão.
Após a denúncia da NBC News, a Meta agiu rapidamente e removeu a maioria das contas irregulares do ar. Em comunicado oficial, a empresa afirmou que as contas que violam as políticas de uso da IA foram identificadas e retiradas, além de reforçar os mecanismos de detecção para impedir novas infrações. Os usuários também foram encorajados a denunciar quaisquer contas suspeitas, para que medidas apropriadas sejam tomadas.
Um dos casos mais controversos foi a criação de um chatbot chamado “Jesús”, que se comunicava exclusivamente em espanhol e afirmava ter trocado mais de 644 mil mensagens diretamente nas redes sociais. Outro exemplo foi um personagem denominado “Jesus Cristo”, que cumprimentava os usuários com uma mensagem religiosa clássica. Esses incidentes evidenciam a gravidade da situação e a necessidade de uma monitoramento mais eficaz por parte da Meta.
Além disso, a presença de chatbots inspirados em figuras históricas como Hitler levantou questões éticas e morais sobre o uso indiscriminado da tecnologia. Em mensagens privadas, esses bots retratavam o líder nazista de maneira questionável, revelando conteúdo inapropriado sobre o Holocausto e sua “vida turbulenta” na Alemanha nazista. Essa abordagem levanta preocupações sobre o potencial uso indevido da IA para disseminação de discurso de ódio e desinformação.
Diante desses acontecimentos, a Meta está revendo suas políticas de uso de IA e aprimorando suas ferramentas de detecção para evitar futuras violações. A empresa reafirma seu compromisso em promover um ambiente seguro e ético nas redes sociais e destaca a importância da colaboração da comunidade de usuários na denúncia de práticas inadequadas.
Em suma, a controvérsia em torno dos chatbots de IA criados pelos usuários da Meta reflete os desafios e responsabilidades inerentes ao desenvolvimento e uso da inteligência artificial. A empresa precisa agir com rigor e transparência para garantir que sua tecnologia seja utilizada de forma ética e responsável, a fim de promover um ambiente online seguro e respeitoso para todos os usuários.
Curtiu? Siga o Candeias Mix nas redes sociais: Twitter, Facebook, Instagram, e Google Notícias. Fique bem informado, faça parte do nosso grupo no WhatsApp e Telegram.