Palestra 1: Modelos preditivos na saúde: desafios e estratégias para mitigar vieses e desigualdades
Modelos de aprendizado de máquina estão cada vez mais presentes em hospitais e clínicas para apoiar decisões clínicas, como identificar quais pacientes têm maior risco de complicações ou de reinternação. Esses modelos, porém, aprendem a partir de dados históricos, e dados históricos refletem um mundo com desigualdades. Como consequência, modelos de aprendizado de máquina podem sistematicamente prejudicar populações subrepresentadas ou historicamente marginalizadas, perpetuando e até amplificando disparidades existentes, originando o que chamamos de viés algorítmico.
Esta palestra discute os principais desafios associados ao viés algorítmico em modelos preditivos aplicados à saúde, com ênfase em como ele surge e se propaga ao longo do desenvolvimento do modelo. São apresentadas estratégias de mitigação e suas implicações para a equidade e a confiabilidade dos sistemas de IA. Ao final, a palestra convida à reflexão sobre o que significa construir IA verdadeiramente confiável na saúde: não apenas tecnicamente precisa, mas equitativa, transparente e responsiva à diversidade das populações que atende.