A decisão do Facebook de restaurar o conteúdo também não torna esse caso
encerrado, como a empresa afirma. Além de decisões de cumprimento obrigatório
sobre a restauração de conteúdo, o Conselho também oferece aos usuários uma
explicação completa do motivo pelo qual a publicação foi removida.
O uso de moderação automatizada do Facebook levanta algumas questões de direitos
humanos. A detecção e remoção dessa publicação foi automatizada. Os sistemas
automatizados do Facebook falharam em reconhecer as palavras "Câncer de Mama",
que apareciam na imagem em português, e a publicação foi removida incorretamente.
Como as regras do Facebook tratam mamilos femininos e masculinos de maneira
diferente, usar automação imprecisa para aplicar essas regras afeta a liberdade de
expressão das mulheres de forma desproporcional. A aplicação baseada apenas em
moderação automatizada, sem análise humana, interfere na liberdade de expressão.
Nesse caso, o usuário foi informado de que a publicação violava as Diretrizes da
Comunidade do Instagram, implicando que o compartilhamento de fotos de mamilos
femininos descobertos para aumentar a conscientização sobre o câncer de mama não
é permitido. No entanto, o Padrão da Comunidade sobre Nudez Adulta e Atividade
Sexual do Facebook expressamente permite a nudez quando o usuário busca
"aumentar a conscientização sobre uma causa ou por motivos educacionais ou
médicos" e especificamente permite que mamilos femininos descobertos avancem na
"conscientização sobre o câncer de mama". Como os Padrões da Comunidade do
Facebook se aplicam ao Instagram, a publicação do usuário é coberta pela exceção
acima. Portanto, a remoção do conteúdo pelo Facebook era inconsistente com os
Padrões da Comunidade.
A decisão do Conselho de Supervisão
A decisão do Conselho de Supervisão anula a decisão original do Facebook de
remover o conteúdo e exige que a publicação seja restaurada. O Conselho observa que
o Facebook já tomou medidas para esse efeito.
Em uma recomendação de políticas, o Conselho recomenda que o Facebook:
Informe aos usuários quando a aplicação automatizada é usada para moderar o
conteúdo, garanta que os usuários possam recorrer de decisões automatizadas a
um humano em determinados casos e melhore a detecção automática de imagens
com sobreposição de texto, para que as publicações que visam aumentar a
conscientização sobre os sintomas do câncer de mama não sejam sinalizadas
•