Por Luiza Berger von Ende / luiza.bergerv@gmail.com

Qual o primeiro site que você abre quando acessa a internet? Ou, então, qual é aquele que você utiliza com mais frequência, especialmente quando não sabe o endereço da página que quer acessar, ou quando precisa encontrar uma informação na rede? Qual é a ferramenta que atua na barra de pesquisa do seu navegador, entregando simples e rapidamente respostas ao que você digita ali? Para pelo menos uma dessas perguntas, qualquer seja a pessoa a responder, a resposta é fácil: é um mecanismo de busca.

Mecanismos de busca funcionam como o gênio da lâmpada para o usuário da internet. Toda a infinidade de páginas, sites, arquivos e links que existe na rede é velozmente investigada por essa ferramenta para realizar o seu desejo quando digita “cepedi ufsm” na barra de pesquisa, entregando-lhe o nosso site, que você acessa sem qualquer esforço. A dificuldade que seria encontrar uma informação no emaranhado de links que existem na rede se esvai por conta dessas plataformas, que tornam a experiência do internauta fácil e direta.

Se você já conseguiu associar essa história a um site, tenho certeza que pensou no Google. E com razão: ele é o mecanismo de busca mais utilizado no mundo e é responsável por mais de 92% da fatia de mercado do setor, deixando Bing, Yahoo, Baidu e outros bem para trás. Eles funcionam assim: os algoritmos dos mecanismos de busca fazem uma varredura nas páginas da internet em busca de conteúdo, organizando, em seguida, os sites conforme seu assunto. Depois, realizam um ranqueamento conforme a relevância do site – medida de acordo com as mênçãos a esse site em outras páginas, pelo menos de acordo com o algoritmo original PageRank – que indicaria a sua popularidade e correspondência em relação aos termos digitados pelo usuário.

E o que isso pode ter a ver com o direito? Ocorre que a maior parte das pessoas que utiliza mecanismos de busca acredita que eles sejam uma fonte neutra de informação e que o conteúdo mostrado por eles é digno de confiança e veracidade. Isso dá um poder muito grande às empresas que controlam as plataformas, especialmente ao Google, que se coloca como uma lente entre o usuário e o conteúdo da internet. E é nesse momento que devemos observar o viés da tecnologia e o potencial de violação de direitos oferecido pelas ferramentas de pesquisa.

Em primeiro lugar, ainda que tenha comentado sobre uma parte do funcionamento do algoritmo do PageRank anteriormente, a verdade é que esses códigos que comandam a plataforma do Google (e todas as outras) não são transparentes e nem passíveis de escrutínio. Isso quer dizer que as razões pela qual se decidiu mostrar uma página e não outra, a ordem de exibição dos sites ou mesmo saber se os resultados recebidos por uma pessoa são idênticos àqueles exibidos para outra não são informações acessíveis ao público que utiliza a ferramenta.

O professor de direito da Universidade de Maryland Frank Pasquale identifica na obra The Black Box Society que os algoritmos dessas grandes empresas que controlam muitos aspectos da vida em sociedade – sejam as relações, o comércio, os bancos e investimentos – são caixas pretas, secretas e incompreensíveis. Ele alega que essa característica é justificada pelas companhias por patentes e proteções à sua propriedade intelectual e também porque desejam evitar que os usuários “driblem” o algoritmo.

Porém, muito mais que os negócios das empresas está em jogo. As instituições utilizam o Big Data, isto é, o tratamento de enormes bases de dados para tomar decisões acerca do futuro. Esses dados são obtidos também por algoritmos, que analisam o comportamento de cada pessoa na internet: seus gostos em redes sociais, sites visitados, compras realizadas, pesquisas digitadas no buscador – enfim, todas as pegadas digitais são compiladas e utilizadas para prever o comportamento dos usuários. Essa previsão é o motivo da maior parte da renda da plataforma: esses dados preditivos são vendidos a anunciantes, cuja propaganda é especialmente direcionada às pessoas que são mais propensas a ter interesse pelo produto.

Esse fato desencadeia algumas questões. A primeira diz respeito à maneira com que os dados são coletados. O Google oferece vários serviços, dos quais coleta passivamente um histórico grande de utilização, desde suas buscas até os locais visitados no Google Maps – e, mesmo com o rastreamento desativado, a empresa continua a rastrear o usuário. Essa é apenas uma das ocasiões em que a empresa coletou dados sem o conhecimento e muito menos o consentimento da pessoa a quem esses dados se referem, violando sua privacidade (e lucrando em cima disso). O que acontece com a opacidade da plataforma e de seus algoritmos invisíveis em relação aos dados dos usuários é que “segredos corporativos aumentam enquanto a privacidade dos seres humanos diminui”[1].

A segunda questão é que esses anúncios são também mostrados nos resultados da pesquisa pelo Google, mas nem sempre se pode ter certeza que o resultado exibido é ou não impulsionado financeiramente. Ainda que autoridades estadunidenses requeiram a indicação do patrocínio às empresas digitais e tenham poder de tomar medidas judiciais para fazer cumprir a determinação, não houve ainda algum caso que o processo tenha sido instaurado – e isso respalda as empresas a não mostrarem sempre a distinção entre conteúdos “orgânicos” e conteúdos “pagos”[2]. Os conteúdos orgânicos, inclusive, podem ser deliberadamente postos para baixo do ranking, como foi o caso do site Foundem, que processou o Google por não apresentá-lo nos resultados de busca, apesar de sua popularidade – possivelmente por ser um competidor no ramo da pesquisa. Somado a isso, essas plataformas produzem profecias autorrealizáveis; isto é, se um site começa a ser exibido já no topo da lista (sem ser necessariamente o mais popular), as pessoas acreditam que ele seja o mais famoso e clicam mais vezes nele, aumentando sua popularidade e, assim, fazendo com que se mantenha no topo da lista[3].

A predição de comportamento mencionada, além de direcionar anúncios, também serve para direcionar outros conteúdos. Assim, em uma certa busca, é possível que o resultado seja diferente para dois ou mais usuários. Nessa situação, fica a pergunta: e quanto à exibição de notícias? Alguns veículos jornalísticos são priorizados para uma pessoa, e para outra não? Os sites pouco confiáveis, que publicam informações falsas, são mantidos em posições privilegiadas por popularidade, mesmo sem compromisso algum com a veracidade? Essas são perguntas ainda investigadas, mas que se tornam mais difíceis pela falta de transparência dos códigos utilizados pela plataforma.  Entretanto, analisando a função da plataforma e sua principal fonte de renda, pode-se perceber que “os mecanismos de busca são plataformas de propaganda, mas são extensivamente usadas como plataformas de informação, de modo que seus algoritmos não são feitos para proporcionar conteúdo adequado ou verídico[4]”, que já dá um norte para responder a esses questionamentos.

Toda essa situação, na prática, já mostrou ser violadora de mais direitos fundamentais. Quando o Google exibiu, em destaque, resultados antissemitas na busca por “judeus”; pornografia na busca por “meninas negras”[5], “mulher negra dando aula” e “lésbicas”; quando um dos algoritmos da plataforma, responsável por identificar imagens, classificou pessoas negras como gorilas; quando seu algoritmo de sugestão de completamento de frase, ao digitar em inglês “mulheres não deveriam”, sugeriu “ter direitos”, “votar”, “trabalhar” e “lutar boxe”; em todas essas situações, a companhia proveu ao usuário uma visão de mundo distorcida e carregada de preconceitos e discriminações, que não se mantém no abstrato, mas influencia visões de mundo e reforça estereótipos que violam a dignidade humana. A representação de um grupo por uma lente carregada de poder, e de forma humilhante, viola o direito à igualdade e à não discriminação da coletividade atingida ao redor do mundo todo, uma vez que o mecanismo tem alcance global. Sendo assim, que tal pensarmos mais criticamente sobre as ferramentas que usamos na internet? Ainda que o Google seja uma “mão na roda” e facilite nossa experiência como usuários, temos que estar cientes que os resultados apresentados não são neutros e não representam a totalidade das informações da internet, que podem ser manipulados por anunciantes, que não necessariamente representam a maneira como grupos da sociedade devem ser vistos, que coletam dados indevidamente e que provavelmente apresentam um mundo diferente para cada pessoa. Dessa forma, não estaremos à mercê dos olhos das grandes empresas, e poderemos ter mais autodeterminação sobre o conteúdo que nos é apresentado na rede.


REFERÊNCIAS

[1] PASQUALE, Frank. The Black Box Society: the secret algorithms that control money and information. London: Harvard University Press, 2015. P. 26.

[2] PASQUALE, Frank. The Black Box Society: the secret algorithms that control money and information. London: Harvard University Press, 2015. P. 70.

[3] PASQUALE, Frank. Rankings, Reductionism and Responsibility. Seton Hall Public Law Research Paper, n. 888327, 2006. Disponível em: https://ssrn.com/abstract=888327. Acesso em: 04 set. 2020.

[4] VON ENDE, Luiza Berger; OLIVEIRA, Rafael Santos de. A possibilidade de violação de direitos fundamentais das mulheres por mecanismos de busca na internet. In: VI JORNADA DE DIREITOS FUNDAMENTAIS, 2020, Fortaleza. Anais da VI Jornada de Direitos Fundamentais. Fortaleza: UNIFOR, 2020. Disponível em: https://www.unifor.br/documents/392178/3101527/Luiza+Berger+Von+Ende+e+Rafael+Santos+de+Oliveira.pdf/07232026-d4eb-406b-37be-6f8e17e99494. Acesso em: 07 abr. 2021.

[5] NOBLE, Safiya Umoja. Algorithms of Oppression: how search engines reinforce racism. New York: New York University Press, 2018.

Deixe um comentário

Faça o login usando um destes métodos para comentar:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google

Você está comentando utilizando sua conta Google. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s