Por Gabriel da Conceição Gorresen Cardoso

A Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA) entregou seus trabalhos com a consolidação do Projeto de Lei n° 2.338 de 2023, e aguarda votação no Plenário. Confira as principais controvérsias que existem sobre Inteligência Artificial (IA) e projetos de regulamentação no Brasil.

A Inteligência Artificial pode ser descrita como um algoritmo que executa ações segundo um conjunto de dados. “Se a máquina receber dados e informações carregados de vieses e preconceitos de raça, de gênero, de escolha sexual, de forma física ou de qualquer outro traço, ela irá não só aprender com eles como perpetuá-los, durante o seu processo de aprendizado, quando exposta a novos dados”, escreve Ana Cristina Bicharra Garcia, professora titular do Departamento de Informática Aplicada da Universidade Federal do Estado do Rio de Janeiro (UNIRIO).

Um dos grandes problemas apontados pela doutora Garcia é a visão de neutralidade que o algoritmo subentende, reproduzindo preconceitos e sobrepondo interesses com os dados das pessoas. Diversos problemas já investigados e denunciados pelos cientistas e jornalistas vem afetando a vida das pessoas. Conheça alguns desses casos.

Os pesquisadores Chiristin, Rosenblat e Boyd (2015) identificaram que o algoritmo do Public Safey Assessment (PSA), que contabilizava a sentença dos presos nos EUA, davam maiores penas para homens negros, reproduzindo o racismo na sua base de dados.

Em 2015 a Agência de Proteção Ambiental dos EUA descobriu que os carros da Volkswagen tinham instalado um software que identificava se o carro estava sendo testado, levando seu algoritmo a diminuir o nível de poluentes do carro. A fraude foi descoberta por pesquisadores da Universidade de West Virginia.

“O sistema DeepGestalt foi desenvolvido para identificar problemas genéticos de saúde através da análise de características faciais. Existe um benefício fantástico para tratamentos preventivos de desenvolvimento de doenças. Por outro lado, tal sistema pode ser usado para discriminar candidatos no recrutamento e contratação de funcionários ou para precificarem o seguro saúde”, apresenta Doutora Garcia, assim como no “caso do sistema Gaydar que identifica se uma pessoa é homossexual a partir da análise de fotos. Esse é um uso intrinsicamente aético”.

Sites que constroem falsos ‘nudes’ por IA, de fácil acesso, levaram uma menina do Colégio Santo Agostinho a ter sua imagem falsa compartilhada em 2023. 

Outro exemplo é a greve dos roteiristas de Hollywood contra a criação de roteiros por Inteligência Artificial. Em 2024, os dubladores pela dublagem viva se manifestaram contra a utilização de IA pelas grandes empresas, que já possuem um catálogo de vozes em todos os idiomas e não teriam mais de financiar estúdios de dublagem que fazem um trabalho artístico em suas línguas.

Há ainda diversos casos de algoritmos no sistema financeiro que tiveram rupturas bruscas nos preços dos ativos por erros, resultando em perdas financeiras.

Também tem sido empregado na compra de dados pelo setor bancário, para restrição do acesso a crédito de pessoas que tenham pesquisado assuntos sobre depressão e separação. Além da redução do acesso a crédito para mulheres pelas empresas Apple Card e Goldman Sachs através dos seus algoritmos, em denúncias de 2019.

No Brasil, uma mulher que havia cumprido sua pena foi presa na praia de Copacabana em 2024 pelo sistema de reconhecimento facial. 

Essas são algumas entre outras críticas, como a produção em massa de fake news por IA, o debate em torno da utilização de imagens de artistas para a construção de imagens generativas de IA, além dos acidentes de carros autônomos.

“Um faroeste de Inteligência Artificial (AI), porque a gente está navegando em uma zona praticamente livre de Direitos Humanos”, expõe Edson Prestes, doutor em computação, em entrevista à TV Senado.

No Brasil, foi construída a Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA), para debater e apresentar um Projeto de Lei de regulamentação. Com 10 projetos de leis existentes, a Comissão apresentou, em seu relatório final, a consolidação na PL n° 2.338, de 2023, para ser votada em Plenário. Atualmente, foram feitas 46 emendas ao PL. 

O PL 2.338, de 2023 se divide em 9 capítulos. O segundo capítulo fala dos direitos de informação; contestação e intervenção humana; o direito à não-discriminação e correção de vieses discriminatórios diretos, indiretos, ilegais ou abusivos. O terceiro capítulo fala das categorias de riscos, criando 5 categorias, além dos modos de classificação e avaliação. O quarto capítulo fala sobre a criação de um sistema de governança de IA nas empresas, para avaliação de impactos algorítmicos, além da criação de uma Autoridade Nacional de Inteligência Artificial para supervisão e fiscalização.

São diversos desafios que passam pela redação do PL, aprovação e implementação pelo Poder Executivo. A construção de uma legislação sobre as Inteligências Artificiais deve ter a sensibilidade de reconhecer que nenhuma legislação vai dar conta das novas tecnologias, com a necessidade de uma Instituição Nacional que sempre a atualize com novas informações. Entretanto, a composição do seu conselho deve ter uma representação da sociedade. Para resguardar os Direitos Humanos, deve existir membros indicados pelo Ministério dos Direitos Humanos e da Cidadania, Instituto Zumbi dos Palmares, Ministério das Mulheres, e cientistas e filósofos especializados. 

Uma possibilidade de composição desse novo conselho pode ser inspirada no Conselho Nacional de Saúde, que divide seus membros com 50% de usuários do SUS, 25% cargos dos profissionais, entidades e empresas em saúde, e 25% de cargos institucionais. Uma regulamentação da IA deve ter participação de toda a sociedade, e sua representação passa pela composição do conselho.