O patriarcado dos algoritmos

Clique aqui e contribua para um jornalismo livre e financiado pelos seus próprios leitores.

Nos Estados Unidos, mulheres que praticam pole dance, instrutoras de fitness e trabalhadoras sexuais que usam o Instagram estão começando a mudar seu gênero para masculino na rede social ― e o fazem em resposta a uma política sexista introduzida este ano no aplicativo pelo Facebook, gigante tecnológico.

Em abril deste ano o Instagram começou a esconder fotos e vídeos que considera “inapropriados” sem explicitar que tipos de conteúdos estão entram nessa categoria e sem alertar os usuários afetados. Os posts em questão são algoritmicamente obstruídos de modo que não podem aparecer no feed de buscas “Explore” e em suas páginas de hashtags, por exemplo, que ajudam a promover as contas das pessoas, dando-lhes maior visibilidade.

O “shadow banning”, ou proibição oculta, é um tipo de censura sigilosa vem afetando de maneira desproporcional as mulheres e os membros de comunidades marginalizadas, incluindo aquelas cuja subsistência depende do Instagram. Por isso mesmo, muitos estão procurando urgentemente por maneiras de restaurar sua visibilidade na plataforma.

“Muitas de nós na comunidade do pole dancing dependemos do Instagram para crescer”, comentou a australiana Michelle, que é dançarina, professora e dona de um estúdio de pole dance. Ela, como outras mulheres citadas nesta reportagem, pediu para ser identificada apenas pelo primeiro nome, para proteger sua privacidade ao HuffPost US. “Usamos o Instagram para compartilhar vídeos de treinos, nos conectar com as pessoas. E muitas de nós o usamos para promover nosso negócio.”

No final de outubro deste ano, depois de ver o interesse por seu conteúdo declinar constantemente havia meses, Michelle resolveu mudar seu perfil para “homem”. Ela havia visto pesquisas sugerindo que o algoritmo do Instagram é enviesado contra mulheres. Achou que não tinha nada a perder.

Ela contou que três dias depois de mudar seu perfil, as coisas voltaram ao normal: através da ferramenta analítica do Instagram ela descobriu que seus posts estavam recebendo muito mais likes e sendo vistos mais vezes, indicando que o Instagram havia voltado a mostrá-los para um público maior.

“É um absurdo que tenhamos que recorrer a táticas desse tipo”, se queixou.

Apesar de ser apenas experimental, a tática de troca do gênero em suas informações pessoais no Instagram está começando a proliferar entre outras mulheres sujeitas ao “shadow banning”, graças à sua divulgação recente em páginas de ativismo anticensura nos EUA como @everybodyvisible.

Como Michelle, várias outras mulheres já relataram mudanças positivas na performance de seus conteúdos desde que elas começaram a fazer de conta que são homens – uma ação que muitas devem ter adotado a contragosto.

“É chatíssimo e absurdo que as mulheres estejam tendo que mudar seu gênero no Instagram para evitar ser censuradas”, comentou Carolina, uma das fundadoras do @everybodyvisible. Ela estuda a moderação de conteúdos online como parte de seus estudos doutorais em Londres.

“O apoio da comunidade que encontrei no Instagram é o que me dá confiança, e com muitas outras mulheres é a mesma coisa”, disse Carolina, que também pratica pole dance. “Mas agora, com o Instagram escolhendo quem é ou não é ‘apropriado’, é difícil a gente se sentir bem-vinda lá.”

Em declaração enviada ao HuffPost US, um porta-voz do Facebook negou que o algoritmo do Instagram tenha um viés que prejudica as mulheres.

“A informação de gênero dos perfis não tem impacto sobre os conteúdos que filtramos das hashtags ou da página Explore”, disse o porta-voz. “Queremos assegurar que os conteúdos que recomendamos no Instagram sejam seguros e apropriados para todos. Garantir que as mulheres sejam ouvidas é uma parte essencial desse esforço.”

Mas a plataforma admitiu anteriormente que restringe alguns conteúdos postados, especialmente os de pole dancers.

Este ano, pole dancers de todo o mundo notaram que posts contendo hashtags populares como #PoleFitness, #PoleTrick e #FemaleFitness, ou Fitness Feminino (mas, fato bizarro, não #MaleFitness, ou Fitness Masculino) estavam sendo sujeitos a “shadow banning” no Instagram.

Em um primeiro momento o Instagram teria negado que isso estava acontecendo, mas depois que uma petição sobre o assunto viralizou, a empresa admitiu que de fato estava escondendo conteúdos postados por pole dancers e pediu desculpas por fazê-lo.

Usuárias do Instagram que tentam se pautar pelas regras e entender o que são autorizadas a postar na plataforma sem ser sujeitas a shadow banning não vão encontrar muitas respostas. Por isso mesmo, não surpreende que estejam tentando enganar o sistema.

Diferentemente da política do Instagram em relação a posts que contêm nudez, que estão sujeitos a ser removidos – posts que incluam imagens de relações sexuais, genitália, “closes de nádegas totalmente nuas” e mamilos de mulheres ―, a política da plataforma em relação a conteúdos limítrofes que sejam sujeitos a ser censurados é nebulosa e expressa em termos vagos. O Instagram se nega a definir o que seriam imagens “inapropriadas”. O único exemplo incluído em suas diretrizes é o de materiais “sexualmente sugestivos”.

A única indicação pública do que o Instagram considera ser “sexualmente sugestivo” está nas páginas de política de anúncios de sua empresa mãe, que proíbem conteúdos “adultos” mas entram em maior detalhe sobre o que isso abrange. O Facebook inclui várias fotos nessas páginas para ilustrar para os anunciantes o que interpreta como sendo “sexualmente sugestivo”, “sexualmente provocante”, “nudez implícita” e “de natureza sexual”.

Quase todas as fotos são de mulheres, incluindo uma modelo debruçada para frente de blusa muito decotada e outra que está comendo uma banana.

O Instagram também é um pouco mais explícito quanto rejeita anunciantes. Quando rejeitou um anúncio da empresa de Michelle que trazia alunas de pole dance de shorts e top curtinho, a plataforma lhe enviou uma notificação explicando que o anúncio era inaceitável porque mostrava “pele demais”. Só que o contato de pele com o poste é essencial nessa modalidade, para que a dançarina possa se agarrar ao poste.

O fato de que o Instagram tem o poder de decidir arbitrariamente quais conteúdos e de quem podem ser visíveis em sua plataforma imensa deveria preocupar a todos, e não apenas às mulheres que estão sendo sujeitas ao shadow banning, disse Carolina, da @everybodyvisible.

“Os gigantes da mídia social, incluindo o Instagram, têm o monopólio de nossos dados e nossas interações sociais”, ela disse. “Está em jogo aqui a liberdade de expressão. As usuárias realmente não temos voz – somos obrigadas a nos adequar às políticas das plataformas, e, infelizmente para nós, qualquer coisa que guarde a menor relação com sexo mete medo no Instagram.”

Trabalhadoras sexuais que conversaram com o HuffPost descreveram uma repressão a seus posts no Instagram que começou após a aprovação da FOSTA-SESTA (lei americana contra o tráfico sexual online), em 2018. A lei proíbe que se ajude, facilite ou apoie o tráfico sexual e acaba com a imunidade que as plataformas tinham, sob os termos da Lei de Decência nas Comunicações, contra a possibilidade de serem responsabilizadas por conteúdos postados por usuários que cometam qualquer uma dessas coisas. Depois da aprovação da FOSTA-SESTA, as grandes empresas de tecnologia mudaram completamente o modo como policiam os conteúdos sexuais, tendo incluído modificado seus algoritmos.

Em novembro de 2018, meses depois da promulgação da FOSTA-SESTA, o CEO do Facebook, Mark Zuckerberg, observou que os sistemas de inteligência artificial de sua empresa assinalam proativamente 96% dos posts contendo nudez que são removidos. Ele estava aplaudindo a eficácia dos sistemas, mas especialistas acham preocupante a dependência excessiva de algoritmos para realizar a moderação de conteúdos, isso devido aos vieses humanos muitas vezes inscritos nesses algoritmos.

No início deste ano a publicação feminista Salty usou dados de usuários do Instagram para entender como grupos diferentes são policiados na plataforma. Entre as conclusões da revista, que formam parte das poucas pesquisas sobre esse assunto, os dados sugeriram que o Instagram tem probabilidade maior de rejeitar anúncios postados por mulheres que por homens.

“O patriarcado está inscrito nos algoritmos”, disse uma representante da Salty. O instagram “precisa trabalhar ativamente para ver e ouvir [as mulheres e os grupos marginalizados]. Se ele não nos está convidando para um lugar à mesa, seremos excluídas dos algoritmos.”

*Este texto foi originalmente publicado no HuffPost US e traduzido do inglês.