05.12.2025 –, Main Stream Sprache: Portuguese
Vivemos num tempo em que os sistemas de Inteligência Artificial estão cada vez mais presentes em decisões que afectam directamente as nossas vidas: desde recrutamento, acesso a crédito até recomendações e diagnósticos médicos. No entanto, por trás dessas decisões, há algoritmos que podem reproduzir ou até amplificar desigualdades históricas.
Nesta proposta, pretendo apresentar uma introdução prática à verificação da ética em modelos de IA, com foco especial em discriminação algorítmica de género. Para isso, irei utilizar ferramentas open source como o Fairlearn e o What-If Tool do Google, aplicadas sobre um dataset real.
Esta proposta é voltada especialmente para mulheres iniciantes em Python e ciência de dados, estudantes, profissionais e comunidades técnicas que desejam criar modelos mais justos e responsáveis.
Durante a apresentação, os participantes irão compreender os conceitos básicos sobre ética em Inteligência Artificial (IA) e viés algorítmico, aprendendo a utilizar o Fairlearn, que é uma biblioteca em Python que permite medir e mitigar desigualdades em modelos de ML. Também irão explorar o What-If Tool, uma interface visual baseada em TensorFlow que facilita análises contrafactuais e a identificação de padrões de discriminação. Utilizando um dataset real sobre salários nos EUA, conhecido por apresentar discrepâncias salariais entre homens e mulheres, os participantes irão aplicar ferramentas em Python para evidenciar viés algorítmico, visualizar claramente se um modelo trata pessoas de forma desigual com base no género, e reflectir sobre como essas ferramentas open source podem ser adaptadas a contextos africanos, incluindo o moçambicano.
Ao final da sessão, os participantes serão capazes de:
• Explicar o que é viés algorítmico e por que ele importa;
• Aplicar métricas de justiça como demographic parity ou equalized odds;
• Usar ferramentas acessíveis para auditar seus próprios modelos de IA;
• Reflectir sobre como construir sistemas mais inclusivos e conscientes;
• Avaliar criticamente datasets e algoritmos, com uma lente ética.
A proposta tem um forte potencial de impacto educacional e comunitário. Além disso, pretende-se despertar a consciência crítica e inspirar outras mulheres a se envolverem em temas que influenciam diretamente a forma como as tecnologias são desenvolvidas e aplicadas.
Neyde Rosa Cumbane is a passionate and driven Mozambican student in her final year of the Informatics Management program at Universidade Wutivi. With a deep interest in technology, data, and ethical innovation, she is dedicated to using digital tools to create meaningful social impact.
Throughout her academic journey, Neyde has demonstrated strong leadership and initiative, participating in events such as the Data Wave and actively engaging with communities like MozDevz. Her curiosity and dedication to learning have led her to explore fields such as backend development, databases, and artificial intelligence ethics. She believes that ethical technology can transform societies when built with responsibility and inclusivity.
Professionally, Neyde has contributed to the acquisition of IT equipment and software at Wanda Honwana & Associados and served as a trainer and internship supervisor at the Samora Machel Technical Institute. These roles have strengthened her skills in analysis, communication, and mentoring.
Beyond academics and work, Neyde is committed to empowering women in tech and promoting ethical digital development. With a forward-thinking mindset and a collaborative spirit, she aspires to continue growing as a professional who bridges innovation with integrity.