Jhon Eduard Jiménez Herrera / José Julián Moreno Sáenz / Marena Vitola-Quintero
Librería Samer Atenea
Kálamo Books
Librería Elías (Asturias)
Librería Kolima (Madrid)
Librería Proteo (Málaga)
Através de uma revisão sistemática da literatura, este documento explora a forma como alguns algoritmos de IA são tendenciosos, uma situação que representa um grande risco ético e social, dado que os sistemas automatizados participam ativamente numa série de decisões. Discute também a forma como a falta de diversidade nas equipas de desenvolvimento de IA e nos conjuntos de dados de treino aumenta a probabilidade de enviesamento. Além disso, destaca as implicações éticas e sociais destes enviesamentos em diferentes contextos, como no local de trabalho, onde as ferramentas de recrutamento automatizado discriminam as candidatas do sexo feminino, ou na medicina, onde os diagnósticos são menos exactos para as mulheres devido à falta de dados representativos. Do ponto de vista regulamentar, reconhece-se a insuficiência de quadros jurídicos vinculativos. Embora existam esforços como a proposta de lei sobre a IA da União Europeia ou as recomendações éticas da UNESCO, muitos destes regulamentos carecem de mecanismos de aplicação eficazes. Em contrapartida, países como o Canadá avançaram com ferramentas obrigatórias de avaliação do impacto dos algoritmos, que representam um modelo mais eficaz.
