Plataformas digitais na mira do Governo sobre moderação de conteúdos

Plataformas digitais como Meta, Tiktok, X (antigo Twitter) e Kwai receberam ofício do Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda) para responder solicitação de informações sobre como elas têm atuado na moderação de conteúdos consumidos pelas crianças e adolescentes na internet. 

O Conanda — faz parte da estrutura do Ministério dos Direitos Humanos e da Cidadania (MDHC) — e busca saber sobre os mecanismos de controle parental utilizados pelas redes sociais, denúncia de violações e como essas medidas de proteção têm funcionado, bem como o seu impacto na proteção do público infantojuvenil.

Os ofícios foram assinados em 7 de fevereiro, e também pedem que as redes sociais forneçam informações sobre as “estratégias, ações e divulgações desses mecanismos tanto para os usuários quanto para as famílias, comunidade escolar e ao público em geral”.

Orientação para os pais

Desde outubro do ano passado, o Ministério da Justiça e Segurança Pública divulgou uma página na internet De Boa na Rede, na qual dá orientações sobre ferramentas tecnológicas e dispositivos legais para proteger crianças e adolescentes na internet. O conteúdo da cartilha virtual foi desenvolvido em conjunto com outros órgãos públicos e alguma empresas globais de tecnologia.

Uma pesquisa realizada em 2021 pelo Núcleo de Informação e Coordenação do Ponto BR – NIC. Br aponta que 80% das crianças de 9 a 17 anos utilizam internet mais de uma vez por dia. Dessas, 40% já sofreram algum tipo de ofensa no ambiente virtual e 14% delas já viram imagens ou vídeos de conteúdo sexual na internet nos últimos doze meses.

Além disso, dados do Disque 100, da Ouvidoria Nacional de Direitos Humanos, do MDHC, demonstram que a internet está entre os ambientes com mais denúncias de violações contra crianças e adolescentes. Das 430 mil denúncias de violações de direitos humanos registradas pelo Disque 100 em 2023, 228 mil (53%) envolvem casos de violência contra crianças e adolescentes, totalizando 1,3 milhão de violações, números retratam a importância da proteção a esse e outros grupos vulneráveis dentro e fora do ambiente digital.

Advogada formada pela UFRN, Mirella dos Santos Silva estudou a superexposição da imagem de crianças nas redes sociais e o papel das plataformas de mídia na moderação do conteúdo em sua monografia apresentada em 2022. À Agência SAIBA MAIS, ela conta que toda comunidade virtual estipula regras do que é aceito ou não dentro delas. 

“A moderação de conteúdo está relacionada com impulsionamento, engajamento e alcance de dados. É uma autorregulação”, afirma.

“A professora Ana Frazão é referência nos estudos de direito digital aqui no Brasil e fala sobre o mito da neutralidade das plataformas digitais. Essas sustentam uma posição passiva no fluxo de informações de seus usuários, quando, na verdade, não só classificam e ordenam conteúdos, mas também os priorizam e os direcionam para determinadas pessoas. Conteúdos envolvendo crianças são impulsionados rapidamente. Podem atingir milhões de pessoas em horas. Esse alcance faz parte do lucrativo modelo de negócios das plataformas digitais”, aponta a advogada.

Para Mirella, ao se tratar de grupos vulneráveis, como crianças, a moderação de conteúdo nas redes sociais precisa existir. 

“É um dever dessas plataformas de, por ato unilateral, interferir no fluxo de dados e de gerenciar o modo de apresentação e remoção de informações sobre crianças e para crianças, seja de forma preventiva, por meio da edição de política de privacidade e tratamento de dados pessoais, seja de forma concreta, como bloqueio, remoção, filtros, entre outros”, defende.

A profissional ainda aponta as responsabilidades da família, para além da necessidade de educar digitalmente.

“[A família] também precisa ter um olhar mais cuidadoso quanto a exibição pública de fatos de caráter privado — envolvendo crianças, seus dados e imagens — em que não existe nenhum tipo de interesse público e muito menos desejo da criança de dar publicidade ao fato, que, na maioria das vezes, sequer tem a compreensão necessária para entender o alcance das redes”, explica.

Denúncias de imagens de abuso e exploração sexual infantil alcança recorde histórico, diz Safernet

O número de denúncias de imagens de abuso e exploração sexual infantil online bateu o recorde histórico em 2023 segundo a Safernet, ONG que atua em defesa dos direitos humanos na internet.

No ano passado, a organização recebeu 71.867 novas denúncias de imagens de abuso e exploração sexual infantil online, recorde absoluto de denúncias novas (não repetidas) desse tipo de crime que a ONG recebeu ao longo de 18 anos de funcionamento da Central Nacional de Denúncias de Crimes Cibernéticos.

A marca histórica anterior era de 2008, quando a Safernet havia recebido 56.115 denúncias. O ano marcou o auge da disputa jurídica do Ministério Público Federal com a Google em virtude dos crimes reportados no Orkut e foi o ano da assinatura do acordo judicial que obrigou a companhia a entregar dados para a investigação de crimes.

As denúncias de imagens de abuso e exploração sexual infantil online, somadas a outras violações de direitos humanos na internet recebidas pela Safernet, também registraram outro recorde histórico. Em 2023, a Safernet recebeu um total de 101.313 denúncias únicas. O recorde anterior também era de 2008, quando a ONG recebeu 89.247 denúncias. 

Denúncias novas ou únicas são links nunca antes reportados pelos usuários da internet à Safernet, que as pré-processa e disponibiliza ao Ministério Público Federal para análise e investigação. Os duplicados (aqueles denunciados repetidamente) são agrupados e/ou descartados para evitar duplicidade de investigações. 

As denúncias únicas de imagens de abuso e exploração sexual infantil em 2023 cresceram 77,13% em relação a 2022. O total de denúncias novas de violações de direitos humanos recebidas pela Safernet em 2023 cresceu 48,7% em relação ao ano anterior.

Na avaliação de Thiago Tavares, fundador e diretor-presidente da Safernet, três fatores pesaram no aumento de denúncias de imagens de abuso e exploração sexual infantil: 

“Uma combinação de fatores explicam o aumento: 1) a introdução da IA generativa para a criação desse tipo de conteúdo; 2) a proliferação da venda de packs com imagens de nudez e sexo auto-geradas por adolescentes; 3) demissões em massa anunciadas pelas big techs, que atingiram as equipes de segurança, integridade e moderação de conteúdo de algumas plataformas", afirma.