Discriminação e violações de direitos humanos pelo algoritmo nos Estados Unidos

Resumen

Este estudo examina a discriminação algorítmica e suas implicações para os direitos humanos nos Estados Unidos, com base em análise qualitativa de casos judiciais, relatórios de organizações civis e literatura especializada. A pesquisa destaca três áreas críticas: o uso do algoritmo COMPAS no sistema judicial criminal, tecnologias de reconhecimento facial e algoritmos de crédito. O caso Loomis v. Wisconsin evidenciou o viés racial do COMPAS, atribuindo pontuações de risco mais elevadas a réus negros, mesmo em condições semelhantes às de réus brancos, o que gerou debates sobre transparência e devido processo. No campo do reconhecimento facial, casos como o de Robert Williams demonstram maior probabilidade de erro na identificação de pessoas negras, levando a detenções injustas e discussões sobre a constitucionalidade do uso policial dessa tecnologia. Quanto aos algoritmos de crédito, denúncias contra empresas como Apple e Amazon revelam discriminação indireta de gênero e raça, reforçando desigualdades estruturais. Apesar da existência de leis como a Equal Credit Opportunity Act e a Lei dos Direitos Civis de 1964, a opacidade algorítmica dificulta a responsabilização e o combate à discriminação. Conclui-se que a ausência de regulamentação federal abrangente e mecanismos efetivos de auditoria e transparência perpetua práticas discriminatórias. Recomenda-se a adoção de políticas públicas e diretrizes éticas robustas para garantir a igualdade, a dignidade e a não discriminação, alinhando o uso de tecnologias de inteligência artificial aos princípios constitucionais e aos tratados internacionais de direitos humanos.

Abstract: This study examines algorithmic discrimination and its implications for human rights in the United States, based on a qualitative analysis of court cases, civil society reports, and specialized literature. The research highlights three critical areas: the use of the COMPAS algorithm in the criminal justice system, facial recognition technologies, and credit scoring algorithms. The Loomis v. Wisconsin case revealed the racial bias of COMPAS, which assigned higher risk scores to Black defendants even under conditions similar to those of White defendants, sparking debates on transparency and due process. In facial recognition, cases such as Robert Williams’ wrongful arrest demonstrate a higher likelihood of misidentifying Black individuals, prompting discussions on the constitutionality of police use of such technology. Regarding credit algorithms, complaints against companies such as Apple and Amazon reveal indirect gender and racial discrimination, reinforcing structural inequalities. Although laws such as the Equal Credit Opportunity Act and the 1964 Civil Rights Act exist, algorithmic opacity hinders accountability and the fight against discrimination. The study concludes that the absence of comprehensive federal regulation and effective mechanisms for auditing and transparency perpetuates discriminatory practices. It recommends the adoption of robust public policies and ethical guidelines to ensure equality, dignity, and non-discrimination, aligning the use of artificial intelligence technologies with constitutional principles and international human rights treaties.

DOI: https://doi.org/10.5281/zenodo.23425128