Inteligência artificial e seu efeito nas nossas decisões

Imagem: Divulgação

Esse termo tão estranho e desconhecido para alguns está tão presente em nossas vidas que nem nos apercebemos, mas se pararmos para pensar o que de fato é a Inteligência Artificial (AI) e como ela surgiu podemos perceber que ela está de fato bem presente nas nossas vidas. Muitos falam que foi criada em um departamento de matemática por 4 homens brancos nos Estados Unidos. Porém, verdade seja dita, os rumores sobre sua existência vão muito mais além do devaneio estadunidense de ter criado quase tudo.

Segundo Pamela McCorduck, os primeiros conceitos de IA surgiram na antiguidade com a ideia de criar seres semelhantes aos deuses que pudessem desenvolver capacidade de inteligência e/ou consciência. Ainda segundo McCorduck, tudo começou por “um desejo antigo de forjar os deuses”. Um exemplo é a Pandora criada pelo deus da tecnologia e inovação Hefesto. Observamos assim que esses “dispositivos inteligentes” eram imaginados e criados por deuses no monte Olimpo.

Muitas das vezes o que pensamos ou lembramos sobre o assunto pode estar relacionado com as famosas séries e filmes de ficção científica. Quem nunca imaginou ter um C-3PO do filme Guerra das Estrelas para conversar? Ou sentiu medo do Exterminador do Futuro? O que acontece é que os primeiros rumores científicos que foram catalogados surgiram em meados de 1940 quando filósofos tentaram mapear o pensamento humano com o intuito de manipular os resultados desses pensamentos. Posteriormente em 1956 matemáticos reuniram-se para decidir qual seria a forma de testar a capacidade dessa nova inteligência. Surgiu assim o projeto para desenvolvimento de computadores que pudessem jogar xadrez contra humanos, inclusive jogadores profissionais. Após testes e vários ajustes de código e da programação, o projeto Deep Blue da IBM derrotou o jogador profissional Kasparov e isso ocorreu em 1997.

Mas como podemos dizer que a IA tem influência sobre nossas decisões do dia a dia? Os dados que são gerados constantemente em nossa rotina são usados por várias empresas e instituições para nos influenciar principalmente em nossos bens de consumo e podem até sugerir comportamentos. Como isso acontece? Todas as grandes empresas trabalham com os dados que fornecemos para elas constantemente, atualmente a maior detentora de dados continua sendo o Facebook, que sabe muito ao nosso respeito, como por exemplo gênero, idade, país, cidade, marcas que costumamos seguir (fanpages), se somos muitos sociáveis ou mais reservados (pela quantidade de amigos), se temos um companheiro ou companheira, estilo de música, vídeo, todos esses dados são vendidos para empresas de marketing e podem ser usados por essas empresas para sugerir através de um e-mail a compra de algum bem de consumo.

Digamos que eu curto a página de uma grande livraria e todas as vezes que essa empresa fornece dados sobre livros, trilha sonora, camisetas, filmes ou miniaturas de Star Wars, eu curto essas postagens e por vezes até faço comentários. Esses dados são guardados e a empresa pode utilizá-los para enviar-me um vale desconto ou até mesmo um e-mail informando uma nova promoção relâmpago. A depender de quem tenha esses dados, os mesmos podem ser vendidos para a concorrente da livraria a qual pode também enviar-me um e-mail com preços ainda mais tentadores. Eu sendo uma pessoa que adoro esses itens, no mínimo iria fazer uma visita ao site e pensar se naquele momento é o momento ideal para realizar uma compra.

O que acontece na grande maioria das vezes é que as empresas não analisam os dados um por um de cada cliente para criar uma oferta. O que ocorre é que são desenvolvidos algoritmos (sequência de ações) para analisar uma grande massa de dados,  aproximadamente 2.701 bilhões de usuários, usando o Facebook por exemplo. Quando você pensa em ligar para o banco onde tem uma conta associada(a), geralmente é atendido por uma inteligência artificial, que foi criada com base em bilhões de escolhas anteriores. Essa inteligência vai guiando suas decisões através de números: o famoso aperte um para conta corrente; dois para conta poupança e finalmente o 9 ou 0 para falar com um dos nossos atendentes. Esses últimos números representam escolhas que IA não foi capaz de suprir e para isso direciona a chamada para um atendente humano. Esse profissional, durante o atendimento, irá preencher informações através de seus questionamentos no sistema do banco e isso irá gerar novos dados (informações). Posteriormente o sistema será atualizado e assim outras pessoas que tenham as mesmas dúvidas provavelmente irão escolher novos números, guiadas pela IA.

Imagem: Divulgação

Você já teve a oportunidade de usar alguma dessas ferramentas: Spotify, Netflix, ou YouTube? Essas empresas usam de IA para fazer recomendações de música, séries e vídeos. Existe a opção de pesquisa, mas já aconteceu por exemplo de buscar um filme na Netflix que você assistiu há uns 3 meses atrás e esse filme não está mais disponível? Isso acontece por conta da inteligência artificial por trás das decisões tomadas durante esse período por outros utilizadores. Se um grupo grande de pessoas não pesquisar pelo filme que você pesquisou recentemente, a IA automaticamente remove esse filme do catálogo. Sendo assim você acaba tendo que mudar de decisão. Vamos pensar em outro exemplo? Spotify, já usou esse aplicativo? Conheces os álbuns This is (Nome do artista), por exemplo eu gosto muito particularmente de ouvir uma cantora chamada Duda Beat, por vezes seleciono a opção This is Duda Beat (álbum) mas nem sempre escuto as músicas que mais gosto dela. E se eu quiser fazer isso, a IA me direciona a fazer a compra de um dos pacotes pagos para que eu possa criar álbuns personalizados. A pergunta que faço é, será que nesses momentos eu tive a oportunidade de seguir a minha decisão inicial? 

Vamos mais além desses conceitos? Nas eleições de 2010, o Facebook fez uma experiência com 61 milhões de seus utilizadores, lançou a opção de adicionar à foto do perfil uma imagem pequena com o texto “Eu votei”. Uma IA fez todas as ligações possíveis para que os amigos dessas pessoas vissem a imagem ao menos uma vez e… BOOM! Essa atitude levou 300 mil pessoas às urnas para votar. Imagina se uma empresa resolve fazer esse teste com o intuito de favorecer um candidato(a) que possa favorecer a mesma?

Mas o que temos por trás da IA? Quando é construída uma inteligência artificial, na verdade o que acontece é que elas replicaram as ideias pré estabelecidas da nossa cultura e sociedade. Um exemplo disso foi a criação do ChatBot da Microsoft Tay.ai, que em apenas um dia após interagir com os demais usuários do Twitter passou a escrever tweets misóginos racistas e xenófobos, isso porque o que a IA faz é ler as informações que estão  inseridas nela e passa a replicá-las.

Ainda sobre o fato da IA ser uma replicação social e cultural na qual estamos envolvidos, precisamos repensar os efeitos que isso possa causar no nosso dia a dia. Em Londres foi iniciado pela polícia local um sistema de recolha de imagens de pessoas, são carros espalhados em ruas estratégicas que passam o dia recolhendo imagens do rosto de pessoas As imagens são confrontadas com a base de dados a fim de identificar possíveis suspeitos. Quando ocorre uma correspondência, policiais à paisana dirigem-se até o “suspeito” e recolhem suas digitais atualizando assim o sistema e mais uma vez agindo de forma não autorizada.

Não existe autorização legal para essa ação da polícia, porém a mesma é financiada por empresas interessadas em testar seus sistemas de reconhecimento facial. O problema é que o sistema facilmente reconhecia como suspeitos pessoas negras. Bastava ser jovem negro entre 14-35 anos que automaticamente a pessoa é taxada como suspeita e já “brotam” de algum lugar da rua policiais para revistar jovens, deixando-os em situação de vulnerabilidade. 

As abordagens não são delicadas, pelo contrário ocorrem de forma direta, afinal a IA não erra. Muitas vezes as pessoas são tratadas como bandidos e depois são questionadas sobre suas documentações por exemplo. Existem organizações não governamentais agindo de forma incisiva contra essas abordagens, o que recentemente levou a proibição de recolha de imagens de pessoas em Londres.

Dentro dessa realidade e de toda essa conversa deixo aqui a dúvida para que possamos refletir. Será que dentro da sociedade e cultura que vivemos conseguimos ser detentores de nosso poder de escolha? Ou estamos sendo substancialmente manipulados a tomar decisões das quais não temos tanta certeza? Diria que sim mes querides e quanto menos condições financeiras temos, menor torna-se nosso poder de escolha e decisão.

Para que possamos ter sistemas que funcionem de forma realmente transparente, é preciso que as pessoas que manipulam os dados, as que preenchem formulários e as que tomam as decisões tenham comportamentos cada vez mais conscientes, evitando assim suas tomadas de decisões baseadas em suas culturas, crenças e religiões. É preciso trabalhar a cultura social contra racismo, xenofobia e misoginia. Seria utópico pensar assim? Sinceramente espero que não. Afinal de contas, cada um de nós em determinada fase de nossas vidas podemos sofrer pela tomada de decisão de alguém que foi gravada na base de dados de um sistema e posteriormente usada pela inteligência artificial.

Conheça outros colunistas e suas opiniões!

Renata Souza

Parlamentares na luta contra a LGBTIfobia

Juca Ferreira

Democracia no Chile e no Brasil

Colunista NINJA

Abolição inconclusa

Juca Ferreira

As ruas vida e morte

Márcio Santilli

A disputa pelo “Centro” e a chance da “terceira via”

Laryssa Sampaio

O medo de sentir medo da Chapeuzinho Amarelo de Chico Buarque

Álamo Facó

Marielle Franco e Paulo Gustavo vão derrubar Bolsonaro

Moara Saboia

Racistas e machistas não passarão!

Ana Claudino

Lésbicas também são mães

Márcio Santilli

Carta aberta ao Almir Suruí

Colunista NINJA

O nosso tempo é o tempo maré

Biamichelle

Gestão da diversidade feito por diversidades

Daniele Apone

Por que é importante entendermos o que é ESG e IDHP?

Renata Frade

Design e Tecnologia. Estudos de casos de "role models" femininos brasileiros

Carol Façanha

Mais que um símbolo