15 minutos
Capa do resumo de Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais

Economia e sociedade · 15 min

Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais

Tarcízio Silva · 2022

Para quem é

Para quem usa redes sociais, aplicativos e serviços digitais todo dia e quer entender como sistemas automáticos podem tratar grupos de forma desigual. Também serve a estudantes, professores e profissionais de tecnologia que queiram um mapa do debate no Brasil.

Ler e ouvir no app

⚡ Grátis pra baixar • 🎁 1 livro grátis por dia

🎧 Grátis, sem cadastro: ouça o resumo completo aqui.

Ouça o resumo completo (17 min)

Quer o texto acompanhando o áudio, o quiz e as Jornadas? Baixe o app

3 ideias pra levar

1

Quem treina e testa um sistema decide, sem perceber, quem será bem atendido por ele e quem será tratado como exceção.

2

Para o autor, chamar uma tecnologia de neutra serve a quem lucra com ela, porque tira de cena a pergunta sobre quem responde pelo erro.

3

Entender como um filtro de beleza escolhe o que é bonito ajuda a perceber que padrão estético também é decisão de projeto.

“
Se a máquina aprendeu com um mundo desigual, repetir o resultado dela é repetir a desigualdade com carimbo de ciência.
Uma ideia de Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais, nas palavras do 15 minutos

Prévia

Comece a ler agora

O que significa dizer que um algoritmo é racista

Quando se fala em racismo algorítmico, muita gente imagina um programador mal-intencionado digitando preconceito dentro de uma máquina. Tarcízio Silva propõe outra leitura, bem menos cinematográfica e bem mais incômoda. Para ele, o fenômeno é a tecnologização e a automação do racismo estrutural: o preconceito que já organiza o mercado de trabalho, a polícia e a mídia passa a ser executado em escala por sistemas que se apresentam como neutros.

A palavra algoritmo, aqui, é só um conjunto de regras que transforma dados em decisões: quem aparece primeiro numa busca, que rosto a câmera reconhece, que foto o aplicativo corta, quem recebe crédito. Se os dados vêm de uma sociedade desigual e quem desenha o sistema não enxerga isso, a máquina aprende o padrão e o repete com a autoridade de quem parece só estar calculando.

O livro foi publicado pelas Edições Sesc São Paulo em 2022, na coleção Democracia Digital organizada por Sergio Amadeu da Silveira, e nasceu da pesquisa de doutorado do autor. É um dos primeiros trabalhos brasileiros a tratar o tema de forma sistemática, com o olhar voltado para a realidade do país.

Um livro com introdução e seis capítulos

A obra é organizada em uma introdução e seis capítulos. Eles seguem uma escada: começam pelo racismo que já circula nas redes, passam pela maneira como as máquinas aprendem, mostram quem aparece e quem some nas telas, discutem violência e vigilância, defendem que tecnologia é política e terminam com caminhos de reação.

Os títulos dão o mapa da leitura: discursos racistas na web e nas mídias sociais; o que as máquinas aprendem; visibilidades algorítmicas diferenciais; necropolítica algorítmica; tecnologias são políticas e racializadas; e reações, remediações e invenções. Cada etapa responde a uma pergunta diferente: onde o problema aparece, como nasce, a quem machuca, quem lucra e o que dá pra fazer.

O autor mistura comunicação, sociologia, ciência da computação e estudos sobre raça, e por isso o livro conversa com leitores de áreas diversas. Não é preciso saber programar para acompanhar. É preciso aceitar a ideia de que sistema técnico também é decisão humana cristalizada.

Do insulto na rede às microagressões algorítmicas

O primeiro capítulo parte do racismo online no Brasil e mostra como a ideia de que a internet seria um espaço livre, fora do Estado e das hierarquias sociais, ajudou a esconder quem sofre agressão e quem estuda o assunto. A fantasia de neutralidade do ciberespaço serviu, segundo o autor, para tratar a supremacia branca no desenvolvimento tecnológico como se fosse natural.

Daí vem um conceito que dá nome ao dia a dia: a microagressão, um gesto ou expressão, intencional ou não, que comunica hostilidade ou desprezo por pertencer a um grupo. O livro as organiza em quatro tipos: microinsultos, microinvalidações, deseducação e desinformação. Quando isso sai da conversa e entra no código, aparecem as microagressões algorítmicas.

Algumas formas que o autor destaca são a suposição de criminalidade, a negação das realidades raciais, a exotização e a exclusão. Pense num sistema que trata um rosto negro como suspeito por padrão, ou num serviço que simplesmente ignora a realidade de quem não se encaixa no usuário imaginado. Cada episódio parece pequeno, mas a soma desenha um ambiente hostil.

Faltam 10 seções e o quiz

Continue no app

Leia o resumo inteiro com o texto acompanhando a narração, feche com o quiz de Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais e siga pelas Jornadas guiadas. Sem anúncios no app.

Livro completo

Gostou? Leia Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais inteiro

Em papel, direto na livraria — entrega rápida e preço de lá.

🛒 Comprar o livro completo

no Mercado Livre

Alguns links são de afiliado: podemos receber comissão sem custo extra para você.

Perdendo a página?🔖 Marca-páginas a partir de R$ 7

Sobre Tarcízio Silva

Tarcízio Silva é pesquisador brasileiro em tecnologia, comunicação e sociedade. É doutor em Ciências Humanas e Sociais pela Universidade Federal do ABC e mestre em Comunicação e Cultura Contemporâneas pela Universidade Federal da Bahia. Racismo Algorítmico, publicado pelas Edições Sesc em 2022, resulta de suas pesquisas de doutorado e é um dos primeiros livros brasileiros dedicados ao tema.

Explore