O conto da IA: a violência de gênero algorítmica e os direitos humanos

Resumo

Na obra distópica O Conto da Aia, de Margaret Atwood, é apresentada a República de Gilead, um regime teocrático instaurado após guerras e radioatividade. Com o novo ordenamento social, as mulheres são destituídas de seus direitos fundamentais, sendo-lhes vedado, inclusive, o direito à educação e à leitura. Elas são consideradas propriedade estatal, tendo como função exclusiva a procriação, uma vez que a infertilidade se tornou uma questão endêmica. Assim, as mulheres são reduzidas a meros instrumentos do Estado, sujeitas à coação, violência e privação de seus direitos, configurando-se um quadro de opressão extrema e institucionalizada. Esse cenário de dominação e subjugação das mulheres na República de Gilead retrata uma violação sistemática dos direitos humanos, evidenciando um regime que desrespeita princípios fundamentais de dignidade, igualdade e liberdade. Em paralelo, aludindo a um jogo de palavras, temos “O Conto da IA (Inteligência Artificial)”, que demonstra como o ambiente virtual tornou-se inóspito para as mulheres em razão dos algoritmos que podem perpetuar ou agravar a discriminação e a violência de gênero. Assim, o objetivo deste estudo é analisar como a IA e os algoritmos intensificam a revitimização das mulheres no ambiente virtual, tensionando uma reflexão sobre o poder da tecnologia e o viés discriminatório de gênero, como ele retroalimenta a violação dos direitos humanos das mulheres, explorado em uma narrativa crítica. A metodologia utilizada incluiu a revisão de literatura, doutrina e análise de jurisprudência, a fim de abordar os direitos humanos das mulheres e suas implicações nas plataformas e na internet. Por fim, levando-nos à conclusão de que os algoritmos, quando programados ou aplicados sem considerações éticas e de gênero, podem agravar a violência de gênero contra as mulheres. É imperativo que o desenvolvimento tecnológico ocorra, mas pautado na preservação dos direitos humanos e na igualdade de gênero.

Abstract: Margaret Atwood's dystopian novel The Handmaid's Tale presents the Republic of Gilead, a theocratic regime established after wars and radioactivity. Under the new social order, women are stripped of their fundamental rights, including the right to education and reading. They are considered state property and their sole function is to procreate, since infertility has become an endemic issue. Thus, women are reduced to mere instruments of the state, subject to coercion, violence and deprivation of their rights, creating a picture of extreme and institutionalized oppression. This scenario of domination and subjugation of women in the Republic of Gilead portrays a systematic violation of human rights, showing a regime that disregards fundamental principles of dignity, equality and freedom. In parallel, alluding to a play on words, we have “The Tale of AI (Artificial Intelligence)”, which shows how the virtual environment has become inhospitable for women due to algorithms that can perpetuate or aggravate discrimination and gender violence. Thus, the aim of this study is to analyze how AI and algorithms intensify the re-victimization of women in the virtual environment, stressing a reflection on the power of technology and the discriminatory bias of gender, how it feeds back into the violation of women's human rights, explored in a critical narrative. The methodology used included a literature review, doctrine and analysis of case law, in order to address women's human rights and their implications on platforms and the internet. In the end, it led us to the conclusion that algorithms, when programmed or applied without ethical and gender considerations, can aggravate gender-based violence against women. It is imperative that technological development takes place, but guided by the preservation of human rights and gender equality.

DOI: https://doi.org/10.5281/zenodo.23425079