A deputada estadual Renata Souza (PSOL-RJ), presidente da CPI do Reconhecimento Fotográfico nas Delegacias, levantou uma séria denúncia sobre racismo algorítmico nas plataformas de inteligência artificial. A parlamentar, que tem se destacado na luta contra práticas discriminatórias, foi vítima dessa tecnologia ao criar uma arte inspirada nos pôsteres de desenho animado.

Ao gerar uma imagem com base em sua autodescrição, Renata Souza foi surpreendida por uma ilustração que retratava uma mulher negra segurando uma arma em uma favela. A deputada argumenta que essa representação comprova a existência do racismo algorítmico, destacando a lógica de criminalização das pessoas negras em territórios de favela e periferia.

“Em momento nenhum eu falei sobre armas. Em momento nenhum eu falei sobre violência. Eu falei sobre mulher negra em uma favela. E aparece uma mulher negra com uma arma na mão. Ou seja: o racismo algorítmico está aí”, afirmou Renata Souza.

Renata Souza está avaliando medidas legais para encaminhar a denúncia e pretende buscar diálogo com a empresa responsável pelo aplicativo gerador das imagens. Desde 19 de outubro, uma lei estadual no Rio de Janeiro proíbe o uso do reconhecimento fotográfico como única prova em pedidos de prisão de investigados.

Foto: Tomaz Silva/Agência Brasil

Em entrevista para NINJA, a deputada destacou a importância de expor a situação, mas lamentou a enxurrada de notificações e ataques de ódio que recebeu.

“Então isso me remeteu ao debate sobre o racismo algorítmico. Afinal de contas, as inteligências artificiais não são tão artificiais, elas reproduzem a sociedade extremamente racista, machista e LGBTfóbica, e reproduz uma lógica racista”, afirmou a deputada.

Ela ressaltou que, na plataforma em questão, os desenhos não se repetem, tornando ainda mais absurda a forma como sua imagem foi recebida.

A deputada destaca uma pesquisa que revelou que 80% dos reconhecimentos fotográficos equivocados eram de pessoas negras. A parlamentar alerta para a necessidade de responsabilizar as plataformas que protegem perfis envolvidos em práticas criminosas e destaca a importância de um olhar de perícia sobre cada produção algorítmica.

Peritos consultados pela deputada alertam que a tecnologia de reconhecimento não deve ser a única ferramenta para acusar alguém, enfatizando a importância de um debate sobre o uso ético e legal dessas tecnologias. “Conversei com peritos que alertaram que a tecnologia de reconhecimento não deve ser a única ferramenta para acusar alguém. Deve existir um olhar de perícia sobre cada uma dessas produções”, afirmou.

Leia mais: