A Justiça Federal determinou que o Discord adote uma série de medidas para reforçar a proteção de crianças e adolescentes na plataforma, sob pena de multa diária de R$ 100 mil em caso de descumprimento injustificado.
A decisão da 14ª Vara Federal Cível do Distrito Federal atende parcialmente a um pedido de tutela de urgência apresentado pela União em ação civil pública e estabelece obrigações que envolvem controle etário, supervisão parental, moderação de conteúdo e comunicação de situações de risco às autoridades.
“O perigo de dano decorre da natureza dos bens jurídicos envolvidos. Não se cuida de risco meramente patrimonial, mas de possíveis ameaças à vida, à integridade física e à saúde mental de pessoas em desenvolvimento, bens submetidos ao regime constitucional de prioridade absoluta.”
A ação foi apresentada pela União contra a Discord Inc. com o objetivo de obrigar a empresa a adotar medidas de prevenção, segurança, moderação, aferição de idade, supervisão parental, preservação de dados e comunicação às autoridades. A iniciativa se baseou, entre outros documentos, em uma nota técnica da Secretaria Nacional de Direitos Digitais e em relatório técnico que reúne elementos de investigações policiais.
Morte de adolescente de 13 anos
No centro da ação está um episódio ocorrido em 22 de julho, envolvendo duas adolescentes, de 13 e 17 anos. Segundo os elementos apresentados pela União à Justiça, ambas teriam sido submetidas a ameaças, coação e indução a atos contra a própria integridade.
A menina de 13 anos morreu, enquanto a outra teria sido instigada à automutilação. Os documentos também mencionaram risco envolvendo uma criança de 7 anos e registros de crueldade contra animais relacionados às mesmas comunidades.
Os fatos subsidiaram a chamada Operação Lívia, deflagrada em 4 de agosto. A União argumentou que o episódio não seria isolado e apontou outras ocorrências envolvendo aliciamento de menores, violência sexual, automutilação, suicídio, planejamento de atos violentos e maus-tratos a animais. Também contestou os mecanismos utilizados pelo Discord para verificar a idade dos usuários e a efetividade das ferramentas de controle parental.
A decisão, contudo, ressaltou que ainda não é possível atribuir à plataforma responsabilidade direta pela morte. O Discord contestou a reconstrução apresentada pela União e afirmou que a transmissão do ato fatal ocorreu posteriormente em outra plataforma, depois de sua intervenção e da remoção do ambiente utilizado no serviço. Para a Justiça, essa divergência deve ser esclarecida durante a instrução do processo.
Mesmo assim, o juízo considerou haver elementos suficientes, nesta etapa, de que funcionalidades do Discord foram utilizadas em momentos relevantes das interações anteriores e de que menores ficaram expostos a ambientes relacionados a “ameaças, coação, aliciamento, automutilação e outras práticas graves”.
O que o Discord terá de fazer
- Impedir a recriação de servidores, canais e comunidades removidos em razão dos fatos investigados, inclusive por meio de novas identidades, além de evitar o retorno fraudulento de contas suspensas ou banidas vinculadas a esses espaços;
- Preservar por pelo menos seis meses registros de moderação, contas, servidores, comunidades, comunicações e notificações relacionados aos fatos investigados;
- Criar ou comprovar a existência de protocolo específico para casos de sextorsão (ameaça de se divulgar imagens íntimas para forçar alguém a fazer algo) envolvendo crianças ou adolescentes, com previsão de comunicação às autoridades;
- Incluir conteúdos de maus-tratos, mutilação ou crueldade contra animais nos mecanismos de avaliação e moderação quando estiverem associados a riscos para crianças e adolescentes, sem imposição de monitoramento geral e indiscriminado;
- Comprovar capacidade operacional em língua portuguesa para atividades de segurança, moderação, recebimento de denúncias e comunicação relacionadas à proteção de menores no Brasil. A Justiça não fixou número mínimo de funcionários nem determinou onde as equipes deverão estar localizadas.
Verificação de idade e controle dos pais
Outro ponto da decisão atinge diretamente a forma como a plataforma identifica a idade dos usuários. Em cinco dias, a empresa deverá informar à Justiça quais mecanismos utiliza atualmente e, se necessário, apresentar em 30 dias um plano de adequação à legislação. A ordem veda o uso exclusivo da autodeclaração nos casos em que a lei não admite esse método.
Em até 30 dias, a empresa também deve comprovar as providências adotadas para vincular contas de crianças e adolescentes de até 16 anos às contas ou aos usuários de seus responsáveis legais. No mesmo prazo, terá de demonstrar a disponibilidade e a eficácia das ferramentas de supervisão parental e das configurações protetivas exigidas pela legislação.
A Justiça exigiu ainda uma avaliação de impacto sobre a segurança e a saúde dos menores, com análise específica dos riscos de aliciamento, coação, violência, automutilação e suicídio, além das medidas adotadas para preveni-los e mitigá-los.
Nos casos em que os próprios mecanismos da plataforma detectarem — ou quando forem regularmente comunicadas — interações que indiquem aliciamento ou recrutamento de menores para situações de risco grave, automutilação ou suicídio, o Discord deverá preservar dados e conteúdos e comunicar os órgãos competentes. A decisão deixa expresso, entretanto, que a determinação não autoriza o monitoramento indiscriminado das comunicações privadas.
Discord contestou acusações
Durante o processo, o Discord sustentou que funciona como um serviço de comunicação, e não como uma rede social, e afirmou possuir mecanismos próprios de segurança e moderação. A empresa disse ainda ter atuado de forma rápida e colaborativa depois de tomar conhecimento dos fatos e questionou a viabilidade técnica e jurídica de parte das medidas pedidas pela União.
A Justiça entendeu, porém, que a discussão sobre a classificação do serviço não afasta, nesta fase, a aplicação das regras de proteção a crianças e adolescentes.
Segundo a decisão, as funcionalidades de mensagens diretas, comunicações em grupo e servidores com canais de texto, voz e vídeo, somadas à utilização efetiva por adolescentes, são suficientes para enquadrar o Discord entre os serviços de tecnologia com acesso provável por esse público.
Nem todos os pedidos da União foram aceitos. A Justiça rejeitou, por ora, a imposição de protocolo para transmissões ao vivo, cuja funcionalidade nativa permanece suspensa por medida administrativa da Agência Nacional de Proteção de Dados (ANPD).
A justiça também afastou exigências de tecnologias específicas, quantidade ou localização de equipes, monitoramento indiscriminado de mensagens privadas, identificação “em tempo real” de perfis adultos e instalação de uma sede do Discord no Brasil.
A empresa ainda terá de comprovar que mantém representante legal no país e demonstrar a existência e o funcionamento de um canal de denúncias em português. O descumprimento injustificado das determinações poderá resultar na multa diária global de R$ 100 mil.
