O Twitter anunciou neste domingo, 20, que vai investigar o algoritmo que é usado para exibir prévias de fotos publicadas na rede social. Nos últimos dias, usuários têm pedido explicações para o Twitter, após perceberem que as imagens exibidas na rede social são frequentemente recortadas em favor de pessoas brancas.
A ferramenta de corte automático de fotos da plataforma foi submetida a testes por usuários da rede social, que perceberam que o algoritmo parece favorecer pessoas brancas a pessoas negras.
Os testes feitos pelos usuários, geralmente traziam negros e brancos, em um formato de foto que obrigasse o algoritmo do Twitter a recortar para exibir uma prévia em cada publicação.
Na maioria das tentativas, as imagens mostradas eram sempre de pessoas brancas, mesmo que elas fossem minoria na imagem original. Os testes também tentaram inverter a posição das imagens ou colocar mais fotos de pessoas negras junto a uma única foto de uma pessoa branca, mas na prévia o resultado seguia mostrando apenas as pessoas brancas.
(Teste de algoritmo / Foto Getty Images)
A ferramenta de corte inteligente do Twitter foi lançada em 2018 e, na ocasião, a empresa disse que sua inteligência artificial foca nas partes "salientes" das imagens para realizar o corte. "Em geral, as pessoas tendem a prestar mais atenção a rostos, textos, animais, mas também a outros objetos e regiões de alto contraste", definiu a rede social, sem entrar em muitos detalhes.
Pela rede social, Dantley Davis, chefe de Design do Twitter, admitiu que a culpa é do algoritmo e que a empresa vai trabalhar para melhorar a ferramenta. Em seu blog, o Twitter explica que os recortes de imagens não são feitos somente pelo reconhecimento facial, mas por uma série de outros fatores como profundidade da imagem.
"Nossa equipe fez testes antes de enviar o modelo e não encontrou evidências de preconceito racial ou de gênero nas tentativas", disse Liz Kelly, membro da equipe de comunicação do Twitter. "Mas fica claro, a partir desses exemplos, que temos mais análises a fazer. Estamos investigando isso e continuaremos a compartilhar o que aprendemos e quais ações tomamos".
Em nota, o Twitter Brasil disse que terá que fazer novas análises. Confira o posicionamento oficial:
Fizemos uma série de testes antes de lançar o modelo e não encontramos evidências de preconceito racial ou de gênero. Está claro que temos mais análises a fazer. Continuaremos compartilhando nossos aprendizados e medidas, e abriremos o código para que outros possam revisá-lo. https://t.co/yZphB9pK5p
— Twitter Brasil em 🏠 (@TwitterBrasil) September 21, 2020
Tarcízio Silva, Mestre em Comunicação e Cultura Contemporâneas lembra, por exemplo, que o Facebook foi lançado em 2004 a partir de um site misógino de comparação de mulheres de uma universidade americana e que o Twitter, lançado em 2006, com mais de 120 milhões de usuários ativos, tem apenas 2,2% de funcionários negros. Neste contexto, os algoritmos criados para estes sites podem discriminar.
Autor de "Estudando Cultura e Comunicação em Mídias Sociais" (2018) e "Para Entender o Monitoramento de Mídias Sociais" (2012), entre outros, ele faz uma análise crítica dos algoritmos e das mídias sociais no que diz respeito a diversos tipos de discriminação, como racismo e misoginia.
"Na maioria dos casos não os algoritmos em si, mas os sistemas onde são empregados podem ter resultados racistas e discriminatórios. Elaboro o conceito de ‘racismo algorítmico’ para descrever como interfaces e sistemas automatizados, tais como plataformas de mídias sociais, podem reforçar e, pior, ocultar as dinâmicas racistas das sociedades onde são usados e empregados", explica o pesquisador.
Segundo Silva, é importante frisar que o problema não é um algoritmo ou outro tomado de forma isolada, mas "como sociedades racistas constroem consequentemente tecnologias com potenciais ou aplicações discriminatórias".
Racismo é crime previsto pela Lei 7.716/89 e deve sempre ser denunciado, mas muitas vezes não sabemos o que fazer diante de uma situação como essa, nem como denunciar.
Isso dá a entender que a legislação define como crime a discriminação pela raça, cor, etnia, religião ou procedência nacional, prevendo punição de 1 a 5 anos de prisão e multa aos infratores.
A denúncia pode ser feita tanto pela internet, quanto em delegacias comuns e nas que prestam serviços direcionados a crimes raciais, como as Delegacias de Crimes Raciais e Delitos de Intolerância.