Jonathan Marques de Freitas¹

A figura de galáxia imputada à internet por Manuel Castells² nunca foi tão atual. É a partir da comparação traçada que o autor nos presenteia com a fatal previsão de que alguns elementos inerentes ao conceito de galáxia (pluralidade, complexidade e imensidão) incutiriam em tradicionais condutas da sociedade, afetando-as de forma diferenciada dada a pluralidade de agentes e ferramentas disponíveis atualmente, incluindo a forma de consumir.

Independentemente do viés sobre o qual o comércio é analisado, é fato que a máxima vigente no uso da web atualmente é o fluxo de informações. Para qualquer nicho de mercado que se olhe, o conhecimento acerca do público-alvo é tido fator indissociável do sucesso (ou insucesso) de determinado produto ou serviço.

Nesse sentido, a reflexão trazida por Castells desagua na força motriz atrelada ao comércio contemporâneo, profundamente modificada a partir de um fenômeno bem mais amplo do que parece: o ato de anunciar. É fato que os anúncios online parecem mais e mais conectados com seu público, personalizados a partir das informações fornecidas pelo próprio consumidor durante o uso da rede.

As redes sociais como o Facebook, tendo como funcionalidade o compartilhamento de ampla gama de informações entre seus usuários, vêm se consagrando como verdadeira fonte de mineração dos dados pessoais de seus usuários. Segundo destacou Danilo Doneda³, as informações obtidas pela empresa acabam por personalizar o processo de anúncio, tornando a prestação do serviço mais atraente para seus clientes – público que difere dos meros usuários da plataforma.

Enquanto aproveita-se a deixa para destacar a reflexão trazida por Zygmunt Bauman⁴, de que o sujeito consumidor integra a roupagem de mercadoria, instaura-se o principal nicho de discussão do presente escrito. A maneira de operar os complexos algoritmos utilizados pelo Facebook como ferramenta de processamento e aproximação entre o objeto anunciado e o público-alvo, de lá para cá, tornou-se interessante objeto de estudo.

Um grupo de pesquisadores vinculados à Universidade Northeastern, à Universidade do Sul da Califórnia e ao grupo Upturn, elegeram como seu objeto de estudo o processo de otimização do ato de anunciar junto ao Facebook. Através da pesquisa publicada em Abril deste ano⁵, o grupo buscou responder a seguinte questão: em qual grau e como as plataformas de publicidade desempenham um papel na criação de resultados discriminatórios?

Após apresentar o enfoque empírico conferido ao estudo, o grupo expôs que o Facebook aparentemente tem utilizado estereótipos de raça e gênero como critério para a exibição de anúncios. Na tela do usuário final, os anúncios são exibidos tal qual os elementos constantes na linha do tempo da rede, que dispõe as publicações adotando o critério de “relevância”⁷.

A análise acerca dos pormenores que circundam a atuação dos algoritmos apontou a existência de filtros não pré-estabelecidos e tampouco informados aos anunciantes. Basicamente, a depender do produto/serviço anunciado, a ferramenta de entrega do Facebook passava a considerar critérios demográficos, raciais e de gênero para filtragem dos destinatários, tendendo para um grupo em detrimento do outro.

Alguns resultados de pesquisa obtidos revelaram intenso direcionamento dos anúncios a depender do gênero e raça dos usuários, resumidamente sintetizados abaixo:

  • Anúncios de emprego em indústria de madeira foram entregues a um grupo de 70% brancos e 90% homens, enquanto que as publicações relacionadas a vaga de zelador foram relacionadas a um público composto por 65% de mulheres e 75% delas, negras;
  • As publicações relacionadas a vagas de caixa de supermercado e taxistas foram relacionadas ao público composto por 85% de mulheres e 85% de negros, respectivamente;
  • Já os anúncios contendo vagas de desenvolvedor de inteligência artificial foram direcionados a um público predominantemente branco; enquanto que as vagas de secretário(a) tiveram forte predominância no público do feminino;
  • Anúncios relacionados a compra (buy) de imóveis foram predominantemente direcionadas ao público composto por brancos, enquanto que aqueles objetificando o aluguel (rent) de moradia foram exibidos para um público mais equilibrado;

As conclusões extraídas pelos pesquisadores a partir dos resultados obtidos permitem extrair que a segmentação de público provavelmente ocorre também nos anúncios “reais” publicados, isto é, aqueles que nos são entregues diuturnamente contendo ofertas de produtos e serviços reais⁸. Destaca-se que a seleção de público feita pela plataforma ocorreu sem ingerência do anunciante, revelando que mesmo quando um amplo público é escolhido, o algoritmo utilizado pelo Facebook ainda realiza uma triagem baseada em gênero e raça.

Importante ressaltar que a rede social anteriormente já havia sido acusada de alimentar a ferramenta de anúncios com informações que permitam a perpetuação de discriminação baseada em raça, religião, sexo e outras características intrapessoais, fornecidas pelos usuários⁹. Em março deste ano o Facebook anunciou que desembolsará cerca de cinco milhões de dólares para concluir os processos que tratam das acusações de discriminação de moradia, emprego e oferta de crédito.

A partir dos resultados da pesquisa expostos acima, aprofunda-se a reflexão no sentido de até que ponto os algoritmos criados pelas empresas de tecnologia (des)respeitam os direitos humanos, perpetuando preconceitos já embretados no comportamento dos seres humanos. Nesse ponto, demanda um questionamento acerca do papel assumido pelos agentes públicos e privados na efetivação do direito à igualdade e à não discriminação previstos não somente no regramento internacional, mas também na Carta Magna brasileira.  

Inclusive, no próximo dia 15 de maio completará um ano desde que entidades defensoras dos direitos humanos (Anistia Internacional e Human Rights Watch, entre outras) firmaram a Declaração de Toronto¹º. O manifesto – endossado pela Human Rights Watch – e que possui a Anistia Internacional como um de seus autores, busca a sensibilização pela criação de um regulamento destinado a suprimir eventuais abusos ensejados por sistemas criados com a possibilidade de aprendizado a partir do processamento de dados.

Como já afirmado aqui no blog do CEPEDI, os Direitos Humanos fundamentais, bem como suas leis humanitárias, não podem ter tamanha fragilidade no campo da internet. Derradeiramente, a preocupação atual recai acerca da melhor maneira de utilizar as ferramentas de tecnologia para desconstituir preconceitos preexistentes na sociedade atual, promovendo a inclusão de todos na criação de uma sociedade mais justa – e não o contrário.


¹ Advogado. Membro do Centro de Estudos de Pesquisas em Direito e Internet (‘CEPEDI’), vinculado à Universidade Federal de Santa Maria (‘UFSM’). Pós-graduando pela Universidade do Vale do Rio dos Sinos (‘UNISINOS’), na especialização em LLM em Direito dos Negócios.
² A explicação da recepção do conceito de internet como Galáxia resta bem evidenciada em seu livro “A galáxia da internet: reflexões sobre a internet, os negócios e a sociedade. Vide CASTELLS, Manuel. A galáxia da internet: reflexões sobre a internet, os negócios e a sociedade. Rio de Janeiro: Jorge Zahar, 2003, p.08-10.
³ FACHIN, Patricia. A regulação de dados pessoais e a perda de controle sobre alguns aspectos da vida. Entrevista especial com Danilo Doneda. Disponível em: <http://www.ihu.unisinos.br/159-noticias/entrevistas/578297-a-regulacao-de-dados-pessoais-e-a-perda-de-controle-sobre-alguns-aspectos-da-vida-entrevista-especial-com-danilo-doneda&gt;. Acesso em: 10/04/19.
⁴ BAUMAN, Zygmunt. Vida para consumo: A transformação das pessoas em mercadoria. Rio de Janeiro, Jorge Zahar Editor, 2007.
⁵ Vide. MUHAMMAD Ali; SAPIEZYNSKI, Piotr; BOGEN, Miranda; KOROLOVA, Aleksandra; MISLOVE, Alan; RIEKE, Aaron. Discrimination through optimization: How Facebook’s ad delivery can lead to skewed outcomes. Disponível em: <https://arxiv.org/abs/1904.02095&gt; Acesso em: 09 mai. 2019.
⁶ “What degree and by what means may advertising platforms themselves play a role in creating discriminatory outcomes?”.
⁷ “No Facebook, tentamos mostrar às pessoas os anúncios mais adequados para elas. Por isso, usamos a relevância dos mesmos como um fator para determinar a forma de veicular os anúncios. Levar em consideração a relevância ajuda a garantir que as pessoas veem os anúncios que lhes interessam, proporcionando uma melhor experiência para elas e para as empresas.”. Vide. FACEBOOK, Inc. Mostrando a pontuação de relevância para os anúncios no Facebook. Disponível em : < https://www.facebook.com/business/news/BR-Mostrando-a-pontuacao-de-relevancia-para-os-anuncios-no-Facebook&gt; Acesso em: 09 mai. 2019.
⁸ Os pesquisadores ressaltam que: (…) our results only speak to how our particular ads are delivered (i.e., we cannot say how housing or employment ads in general are delivered). Todavia, ainda inferem que “the significant skew we observe even on a small set of ads suggests that real-world housing and employment ads are likely to experience the same fate.”
⁹ O Departamento de Habitação e Desenvolvimento Urbano vinculado ao Poder Executivo Federal dos Estados Unidos acusa o Facebook de encorajar, possibilitar e causar discriminação baseada em moradia, através da plataforma de anúncios que possui. Vide. YURIEFF, Kaya. HUD charges Facebook with housing discrimination in ads. Disponível em: https://edition.cnn.com/2019/03/28/tech/facebook-hud-ad-discrimination/ Acesso em: 09 mai. 2019.
¹º The Toronto Declaration: Protecting the rights to equality and non-discrimination in machine learning systems. Disponível em: <https://www.accessnow.org/the-toronto-declaration-protecting-the-rights-to-equality-and-non-discrimination-in-machine-learning-systems/&gt; Acesso em: 09 mai. 2019.

Deixe um comentário

Faça o login usando um destes métodos para comentar:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google

Você está comentando utilizando sua conta Google. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s