Quanto mais aprendo e vivencio as questões ligadas à utilização crescente de inteligência artificial na educação, mais preocupações assolam minha percepção em relação a seu impacto étnico-racial.
O viés dos algoritmos de inteligência artificial pode perpetuar e amplificar desigualdades étnico-raciais existentes na sociedade. A afirmação parece fria e alheia à realidade, mas está bem próxima do nosso dia a dia. Vários estudos demonstram que algoritmos de aprendizado de máquina podem refletir e até aumentar os preconceitos existentes nos dados de treinamento. Ao ler o trabalho de pesquisadores como Joy Buolamwini e Timnit Gebru, por exemplo, percebe-se que sistemas de reconhecimento facial apresentam taxas de erro mais altas para mulheres negras em comparação com homens brancos devido a conjuntos de dados desbalanceados e algoritmos mal treinados (Buolamwini & Gebru, 2018).
Eu mesma já vivenciei inúmeras situações em ambiente de inovação e tecnologia nas quais, ao passar pelo reconhecimento facial, meu rosto não era identificado. Imaginem isso? Eu passar despercebida? Quem me conhece, sabe que isso beira ao impossível! Entre tantas características que trago neste corpo, discrição não é uma delas. Mas então a inteligência desta máquina, desta tecnologia, me atropela e mostra que é realmente bem artificial! Acreditem: muitas vezes a imagem que aparecia ao ser feita a leitura era de um homem branco. Eu, hein? Hahaha. E, ainda, quando questionei, recebi como resposta: “Desculpe, proponho vermos o que aconteceu”, e a liberação era feita mais pelo constrangimento do que pela certeza do meu cadastro no local. Ai, meus sais!
Pois bem, parece brincadeira ou coisa pouca, mas ao pensarmos na área educacional, a introdução dessas tecnologias de inteligência artificial pode agravar as diferenças existentes no acesso a recursos educacionais de qualidade, principalmente quando trazemos para esta discussão a desigualdade social e financeira da população negra.
Para entendermos como as tecnologias de inteligência artificial estão afetando diferentes grupos étnico-raciais na educação, é essencial utilizarmos ferramentas de monitoramento e transparência frequentemente. Isso requer a coleta de dados relevantes ao contexto étnico-racial para identificar diferenças e ajustar os sistemas de inteligência artificial de acordo (Noble, 2018).
Os princípios éticos devem nortear o desenvolvimento e a implementação de tecnologias de inteligência artificial na educação, de modo a assegurar que todos os alunos sejam beneficiados de forma justa e igualitária. A colaboração entre ativistas, pesquisadores e profissionais da educação é crucial para a elaboração de políticas inclusivas que considerem as questões étnico-raciais (Nkomo et al., 2020).
Se queremos um futuro mais humano e com a tecnologia a favor de todos, precisamos colocar esses questionamentos em pauta na educação hoje.
Bora dialogar mais sobre o tema?!
Essa questão ganha um debate mais aprofundado no livro Futuros Humanos, da Editora Belas Letras, que lançarei em coautoria com mais cinco amigos, no próximo dia 08/07, no Teatro da Unisinos, em Porto Alegre. Nele, falamos mais da influência sobre a tecnologia na educação e nas relações humanas.
O link para inscrição e sessão de autógrafos estará disponível em breve no meu perfil do Linkedin @Alynejobim. Espero você lá! Vamos mostrar nossa inteligência natural e real, com reconhecimento das nossas faces, nossas dores, alegrias e pensamentos voltados para um futuro em que a equidade e a igualdade sejam igualmente naturais.
Referências:
- Os autores Buolamwini, J., e Gebru, T. (2018) Gender Shades: Intersecções de Accuracy Disparities in Commercial Gender Classification. Procedimentos da 1ª Conferência sobre Fairness, Accountability e Transparência, 77-91
- Autor: Noble, S. U. (2018) Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press.
- Nkomo, N., Ravat, Z., & Connors, M. (2020). Ethical issues in educational technology: a critical discourse analysis. Educational Technology Research and Development, 68(3), 1739-1758.
Alyne Jobim é mãe da Lauren, administradora de empresas, pós graduada em varejo e-commerce, formação executiva em Advocacy e políticas públicas, diretora de articulação e relacionamento na superintendência de educação profissional do RS, cofundadora da Odabá – Afroempreendedorismo, sócia-fundadora da Iwosan, marca de uniformes com estampas africanas, gestora de projetos de educação empreendedora, inovação social e diversidade.
Foto da Capa: Freepik / Gerada por IA
Leia mais textos dos integrantes da Odabá AQUI.
