Discriminação e violações de direitos humanos pelo algoritmo

Résumé

O texto aborda como o uso crescente de algoritmos de inteligência artificial em diversas áreas tem gerado preocupações em relação à discriminação e às violações de direitos humanos, especialmente contra grupos vulneráveis. A metodologia utilizada será a da revisão bibliográfica. Discute-se a ideia de que, ao invés de serem neutros, os algoritmos podem reproduzir preconceitos históricos, como racismo e sexismo, refletidos nas próprias bases de dados utilizados para treiná-los. Além disso, exemplifica a perpetuação das desigualdades estruturais por meio de sistemas automatizados em processos como vigilância policial e concessão de benefícios sociais, que afetam desproporcionalmente minorias raciais e classes sociais mais pobres. A solução proposta passa por uma maior transparência e responsabilidade na criação desses sistemas, juntamente com a inclusão de princípios de justiça social desde o seu desenvolvimento.

Abstract: The text discusses how the increasing use of artificial intelligence (AI) algorithms in various fields has raised concerns about discrimination and human rights violations, particularly against vulnerable groups. It highlights that, rather than being neutral, algorithms often reproduce historical biases such as racism and sexism, inherent in the data used to train them. It further illustrates how automated systems perpetuate structural inequalities in processes like police surveillance and social welfare distribution, disproportionately affecting racial minorities and lower social classes. The proposed solution involves greater transparency and accountability in developing these systems, along with the incorporation of social justice principles from their inception.

DOI: https://doi.org/10.5281/zenodo.23425075