Recentemente, Meta, TikTok e Snap uniram forças como membros fundadores de uma nova plataforma chamada Thrive, lançada oficialmente em 12 de setembro de 2024 pela organização sem fins lucrativos Mental Health Coalition (MHC). A proposta da Thrive é combater a disseminação de conteúdo prejudicial ligado a suicídio e automutilação nas redes sociais, apresentando uma abordagem colaborativa para lidar com esses problemas cruciais.
Essa plataforma tem como objetivo facilitar a identificação e remoção de material nocivo, possibilitando que as empresas de mídia social troquem informações sobre conteúdo problemático de maneira mais eficaz. Esse processo se dará por meio do compartilhamento de “hashes”, sequências únicas de caracteres que identificam de forma específica arquivos ou conteúdos associados a suicídio e automutilação. Com isso, as plataformas conseguirão reconhecer e reagir rapidamente contra o material prejudicial sem divulgar informações pessoais identificáveis sobre os usuários responsáveis pela publicação desse conteúdo.
A Meta, que forneceu a infraestrutura técnica para a Thrive, emprega uma tecnologia similar à utilizada em seu programa de segurança infantil Lantern, lançado no ano anterior. A Thrive permitirá que empresas participantes, como o Snapchat, recebam alertas assim que um conteúdo for sinalizado como promotor de automutilação. Com base nessas advertências, as plataformas terão a possibilidade de revisar e tomar as medidas necessárias para eliminar o conteúdo problemático e resguardar os usuários envolvidos.
Os membros da Thrive terão a capacidade de fazer upload, revisar e agir diante de conteúdo relativamente a suicídio e automutilação. Além disso, será publicado anualmente um relatório avaliando o impacto da plataforma na prevenção desses problemas, fornecendo insights sobre como otimizar a abordagem colaborativa.
Kenneth Cole, fundador da Mental Health Coalition, demonstrou entusiasmo diante da parceria estabelecida, destacando a importância da união das principais plataformas de mídia social no enfrentamento ao conteúdo prejudicial. Ele afirmou que essa iniciativa representa um passo significativo em direção a uma abordagem mais eficaz e coordenada para proteger os usuários e salvar vidas.
O lançamento definitivo da Thrive acontece em um contexto de crescente inquietude com o impacto das redes sociais na saúde mental dos usuários, sobretudo entre adolescentes. Há dois anos, autoridades do Reino Unido responsabilizaram o Instagram, pertencente à Meta, pela morte por suicídio de uma adolescente de 14 anos chamada Molly Russell. A jovem foi exposta a conteúdos que incentivavam a automutilação na plataforma, o que gerou uma pressão crescente sobre as empresas de tecnologia para adotarem medidas mais rígidas no combate ao conteúdo prejudicial e para proteger a saúde mental dos usuários.
Em suma, a iniciativa da Thrive surge como um marco no cenário das redes sociais, promovendo uma união entre gigantes da indústria para combater problemas sérios como o conteúdo relacionado a suicídio e automutilação. Com a implantação e efetiva utilização dessa plataforma, espera-se um impacto positivo na proteção dos usuários e na promoção da saúde mental dentro do ambiente digital.