Por Arlete Aparecida Mathias
Abstract : The thematic of this text concerns the decision of algorithms in digital networks as discriminatory patterns of society; the vertiginous advance of generative AI/ ChatGPT; the segregated racism inside and outside the digital networks lasts until this present 21st Century.
Como sou uma mulher sexagenária preta compartilho que, a igualdade racial nunca fez sentido na minha história de vida e, tampouco na história de vida de meus antecessores e coevos membros de minha nova geração familiar. Todavia, atualmente, como pesquisadora na área de tecnologias digitais, recentemente, mapeamos em aliança com outros estudos o “racismo algorítmico” como algo cada vez mais presente nas redes digitais com implicações desastrosas nas rotinas de nossas vidas. Aliás, as tomadas de decisões dos algoritmos nas redes digitais como padrões discriminatórios na sociedade; o avanço vertiginoso da linguagem da inteligência generativa do Chat GPT e, o racismo segregado ainda neste século XXI, dentro e fora das redes digitais, são preocupações da meta temática deste texto.
A respeito disto, Silva ( 2022) na introdução de seu livro Racismo algorítmico: inteligência artificial e discriminação nas redes digitais, descreve sobre a intensificação do racismo atrelado à inteligência artificial e ressalta que : -“ democracia racial e neutralidade na tecnologia são dois conceitos aparentemente distantes, mas irmanados pelo propósito de ocultarem as relações de poder que,- naturalizaram e aprofundaram cada vez mais as desigualdades”.
O mesmo autor, em entrevista no Podcast Comunicando em Preto, ressaltou que, falar sobre racismo algorítmico, não é apenas discutir sobre como os sistemas computacionais tomam decisões, mas sim é um mote que desencadeia reflexões de que as tecnologias digitais são, estrategicamente, construídas por poucos grupos de brancos abastados que, majoritariamente, se beneficiam do racismo estrutural.
Em retrospectiva às primeiras décadas do século XXI, em meados de 2010, indagações já abalizavam os primeiros passos de padrões discriminatórios concebidos pelas decisões algorítmicas, ou seja, naquela ocasião as configurações de câmeras fotográficas NiKon , para evitarem selfies com olhos fechados, não reconheciam rostos de pessoas asiáticas. Um efeito semelhante foi causado por um software , em 2016, cuja configuração em torno da reincidência de crimes, favoreceu os réus brancos e prejudicou apenas os réus negros. Contudo, em 2019, outros estudos que se debruçaram em torno do racismo algorítmico, mais uma vez trouxeram à tona o fato do sistema de reconhecimento facial de um aplicativo bancário não ter reconhecido o rosto de um correntista negro meu “ compatrício ”.
Acerca destas mazelas constantes, Fernanda Carrera (2022) coordenadora do Laboratório de Identidades Digitais e Diversidades da Universidade Federal do Rio de Janeiro (UFRJ) , defende o “ racismo algorítmico” como algo próximo de uma lógica colonial, ou seja, o arcabouço de seus experimentos observam que as decisões destes algoritmos nas redes digitais, além de discriminarem alguns grupos sociais, são ferramentas mantenedoras de poder e de dominação. Deste modo, seus levantamentos ainda identificam que, embora os códigos algorítmicos e a aprendizagem das máquinas sejam padrões matemáticos, nas redes digitais e sociais, eles funcionam como artifícios ameaçadores aos princípios democráticos, injustiça social e sedimentam os alicerces do racismo estrutural.
Eis; aqui alguns pontos que entrelaço ao enfoque deste texto com os indícios de que como parte da inteligência artificial, o racismo algorítmico é uma ferramenta intimidadora – de igualdade racial nas redes digitais e, por isso precisa ser revisto em benefício da diversidade e da inclusão .
A propósito, como pesquisadora jamais serei contrária à evolução das tecnologias, ou seja, vejo a inteligência artificial como uma ferramenta esplêndida , que tem trazido um avanço colossal para a evolução da vida.
Todavia , abro aqui um parêntese para em carne viva testemunhar que o racismo estrutural, não somente persegue a história de vida de corpos pretos nas redes digitais, mas fora delas somos sempre vistos como suspeitos. A respeito disto, entre as diversas ações opressivas em nossa realidade , trago ao leitor a referência de um fato impactante que, derivou a ação ativista americana intitulada – Movimento Internacional “ Black Lives Matter”- Vidas Negras Importam- .
Conforme é do conhecimento de todos, esse movimento ativista, em 2020, mobilizou reinvindicações antirracistas não só nas ruas dos Estados Unidos , mas as indignações manifestadas, causaram perplexidade ao mundo e, ultrapassaram – as fronteiras estadunidenses, condenando a truculência da polícia americana contra negros e por racismo ter assassinado o cidadão preto americano George Floyd .
Em circunstâncias parecidas, há alguns anos atrás, tive um pouco mais de sorte do que meu compatrício George Floyd , ou seja, enquanto dirigia meu veículo da marca AUDI em Florianópolis, fui parada pela patrulha da polícia rodoviária catarinense. Os policiais, todos brancos, sem pedirem meus documentos e do veículo, de forma brusca me arrancaram do carro. Quando já encostada na parede para passar por revista, um deles me perguntou, onde eu havia achado aquele “carrão”. Ao dizer-lhes que não achei, mas que eu havia comprado na concessionária autorizada com recursos do meu trabalho, eles interromperam a revista, baixaram as armas que, me apontavam e, enfim, solicitaram os meus documentos e do veículo. Nada de suspeito havia , exceto para eles a cor da minha tez.
A respeito disto, jamais me calarei e, sobretudo, com a pergunta no valor de um milhão de dólares, questiono: Vidas negras importam? Haverá trava e regulamento para combatermos o racismo algorítmico nas redes digitais?
A propósito, entrelaço aqui nestas questões a reflexão da pesquisadora 1A do CNPQ Maria Lúcia Santaella , isto porque sua ampla visão no campo de comunicação semiótica peirceana, entre outras, inclusive as tecnologias digitais ela avaliou que : “ a ética da inteligência artificial tem que funcionar como a da Biologia, tem que ter trava”. Seu parecer nos desperta à percepção de que as vidas negras importam tanto para a ética da inteligência artificial, quanto elas são parte da totalidade da Biologia como Ciência da Vida.
A Inteligência Generativa como um abalo surpreendente em 2023
Não é por acaso que- , o Chat GPT entre os diversos tipos de inteligência generativa, surgiu como um relâmpago no início deste corrente ano de 2023 e, de forma vertiginosa sua eloquência espantou, tumultuou a vida humana , provocou um alvoroço, mudanças nas mudanças, e desafiou as transformações no sistema de ensino/ aprendizado escolar, por ser detentor de escrita compreensível em diversos idiomas e esclarecedor de dúvidas inclusive em português.
Desenvolvido pela OPEN AI , o repositório do Chat GPT possui uma miríade de textos que, impulsionam uma potência descomunal de processamentos , ou seja, ele foi treinado para aprender a gerar textos com linguagem natural, coerente e similar à nossa linguagem humana escrita e falada.
O Chat GPT apesar de não ser humano, é a figura do momento. Aliás, com ele interagi questões sobre racismo, igualdade racial e uma miríade de outros motes dentro e fora deste campo. Contudo, curiosamente, ao questioná-lo sobre preconceito e discriminação racial, ele, em um piscar de olhos, contextualizou-me respostas escritas por meio de textos bem elaborados contidos em análises das ações dos líderes antirracistas Martin Luther King Júnior, Nelson Mandela e outros ativistas contemporâneos .
Diferente dos sistemas tradicionais, como o Google, o Chat GPT conversa com seus usuários como se fosse gente e, ao receber nossas solicitações por escrito , ele redige a escrita de um texto contido de elevada e correta absorção da norma gramatical da língua portuguesa. Em frações de segundos, ele também nos responde as questões que lhes foram pedidas.
Todavia, como nem tudo que reluz é ouro, o Chat GPT apesar de uma deep machine learning – máquina de aprendizado profundo-, as suas informações textuais nem sempre são precisas; por isso antes de oficialmente utilizarmos seus dados contextualizados, precisamos checá-los, e/ou de forma colaborativa devemos interferir e complementarmos com nossa coautoria o conteúdo dos textos por ele produzidos.
A natureza da linguagem dos textos do Chat GPT remete retrospectiva o nosso pensamento à Estética da Recepção, como a contribuição teórica que – emancipou o leitor às interferências nos conteúdos dos textos , com possiblidades de utilizá-los como obras abertas. Entre os conceitos compartilhados pelos procedimentos teóricos da Estética da Recepção, ressalto inexistências de fronteiras que isolam o autor -texto e leitor, ou seja, os fluxos relacionais desta tríade, além de tênues, são inseparáveis e se estabelecem entre si por meio de uma escrita contínua e, ininterruptamente, inacabada.
A Obra Aberta (1962) de Umberto Eco está entre as fontes referenciais que, nos retrocede, também, na história da crítica literária como uma abordagem acerca da emancipação do leitor, este com liberdade de interferir no conteúdo dos textos. Similarmente, outras teorias, também, pavimentaram este caminho de participação ativa do receptor na complementação do texto , como exemplo, Roland Barthes compartilhou – The Death of an Author (1967) – sobre a morte ou desaparecimento do autor. Posteriormente o filósofo Michel Foucault com What an Author is ? (1969) , questionou – O que é o autor?
Tais aportes teóricos não só descontroem a soberania de um único autor absoluto na elaboração de tessituras dos textos , como elas abriram as passagens de liberação do leitor à escrileitura colaborativa, escrita contínua, reconstrução, recriação e atualizações constantes de textos contemporâneos .
A respeito disto, nos textos e experimentos artísticos literários eletrônicos e hipertextuais, seus leitores ou navegadores desde o alvorecer do século XXI, já neles interferiam, livremente, como seus coautores. Outrossim esclareço que, o objetivo de ter aberto este parêntese nas pegadas históricas do arcabouço teórico da Estética da Recepção, foi para entrelaçar nela a suspeita de seu possível parentesco com os traços genéticos que, atualmente, implicam a natureza da linguagem dos textos gerados pela inteligência generativa do Chat GPT. Contudo, a coautoria e interferência colaborativa do leitor nos objetos textuais da linguagem do Chat GPT é algo , aparentemente, presente em seu DNA e, está intrínseco no fluxo de suas veias de comunicação com o leitor de seus textos.
Portanto, as preocupações e os frenesis de docentes e de segmentos do sistema escolar do ensino, acerca de receios com as cópias de textos e das limitações de aprendizagem dos alunos ou dos utilitários de textos gerados pelo Chat GPT, parecem pânicos desnecessários. As atenções devem ser voltadas às orientações prévias dos estudantes, sob égide de colaborar suas coautorias com ações proativas diante de textos gerados pela linguagem da inteligência do Chat GPT.
Aliás, o Chat GPT é uma ferramenta que, de forma relâmpago, implanta mudança de perspectiva à linguagem da inteligência humana e, deste modo, os aprendizes o perceberão como um instrumento aliado e intensificador da inteligência de cada um deles. Ele, possivelmente, contribuirá muito para a projeção da inteligência humana, aprimoramentos criativos dos estudantes em alcances muito mais profícuos. Deste modo, é oportuno avaliar que longe de qualquer modismo passageiro, o advento da linguagem do Chat GPT, sua funcionalidade como um cérebro artificial extrassomático, não só nos abalou, como parece ter vindo para se estabelecer e fazer parte do cotidiano de nossa vida pessoal e profissional. Contudo, apesar do ChatGPT não fazer milagres, o avanço da linguagem de seus recursos, recentemente, recriou a voz do inesquecível John Lennon, para fazer um duo com Paul MacCartney em composição musical inédita.
“ Diante deste cenário, há quem diga que os robôs tomarão conta do mundo, e será que, já não estão tomando ?”
Penso que, nestes últimos tempos junto com os robôs , as bruxas também têm tomado conta do mundo. Para aqueles que duvidam disto, resgato uma passagem do escritor espanhol Miguel Unamuno, onde ele ressalta:- “las brujas no exísten, pero que las hay, hay. Por isso, de acordo com o realismo mágico do universo literário criado pelo autor espanhol , as bruxas não existem, mas que elas existem, existem .
Em nossa vida real é também na Espanha pátria de Miguel Unamuno que, bruxas e criaturas aparentemente robotizadas, ainda, andam e vagam às soltas , sobretudo, nas arenas desportivas de futebol. Os cenários destes espaços têm sido palcos para ataques, injúrias xenofóbicas contra atletas negros e corpos pretos. Infelizmente, o racismo estrutural ainda se espalha pelos diversos cantos do mundo. Dizem que, – as bruxas não existem, mas que o racismo estrutural e algorítmico -, existem , sim, existem e em pleno século XXI, é preciso darmos um basta , em prol do desaparecimento deles, em prol da igualdade racial e da diversidade humana no planeta.
REFERÊNCIAS:
ECO, Humberto. Obra Aberta. São Paulo: Editora Perspectiva , 1968.
BARTHES, Roland. A Morte do Autor. In: O Rumor da Língua. São Paulo: Brasiliense.1988.
BERNARDO, Nairim. Conheça o Chat GPT e suas possibilidades de uso na educação. Acesso em 22 de Março, 2023.
CARRERA, Fernanda. Racismo, tecnologia e relações históricas de dominação e poder. Acesso em: 18 de Novembro, 2022.
____________________ et al. O impacto da Inteligência Artificial e dos Algoritmos no Racismo Estrutural. Acesso em: 21 de Janeiro, 2021.
FIGUEIREDO, Antonio Dias. Opinião Chat GPT: o bom, o mau e o falso. Acesso em: 26 de Maio, 2023.
FOCAULT, Michel. What an Author is? New York: Cornell, 1979.
GOMES, Thiago. Vidas Negras: Movimento Internacional Black Lives Matter. Acesso em 21 de Novembro de 2020.
SANTAELLA, Lucia. A inteligência Artificial é Inteligente? Coimbra: Edições 70, 2023.
SILVA, Tarcízio. Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc, 2022.
…
Foto: Imagem do Blog da Em Off Notícias , postada pelo jornalista Leandro Moreira em 21 de Dez. 2021, ilustração da matéria Sarará Crioulo.
Sociotramas 