The aim of this article is to examine the issue of hate speech in the digital society, with a particular emphasis on the topic of gender and misogynistic hate speech. In this context, it seeks to present concrete examples of biases observed within such systems, considering emblematic cases such as Amazon’s Artificial Intelligence (AI) recruitment tool and Microsoft’s Tay chatbot. The objective is to highlight how such biases have the potential not only to perpetuate gender-based discrimination but also to exacerbate inequalities. In light of these considerations, the article ultimately arrives at a fundamental conclusion: the crucial need for a multifaceted approach to address the problem of misogynistic hate speech and its manifestations against women. This approach entails, above all, a steadfast commitment to gender equality and the promotion of social justice within the digital environment.

Artificial Intelligence, gender bias, hate speech, misogyny

Como os bots de IA reforçaram o viés de género no discurso de ódio

Este artigo tem como objetivo examinar a questão do discurso de ódio na sociedade digital, com ênfase particular no tema do género e do discurso de ódio misógino. Nesse contexto, procura apresentar exemplos concretos de preconceitos observados em tais sistemas, considerando casos emblemáticos, como a ferramenta de recrutamento de Inteligência Artificial (IA) da Amazon e o chatbot Tay da Microsoft. O objetivo é destacar como tais preconceitos têm o potencial, não apenas de perpetuar a discriminação com base no género, mas também de agravar as desigualdades. Perante estas considerações, o artigo chega a uma conclusão fundamental: a necessidade crucial de uma abordagem multifacetada para enfrentar o problema do discurso de ódio misógino e suas manifestações contra as mulheres. Esta abordagem envolve, acima de tudo, um compromisso firme com a igualdade de género e a promoção da justiça social no ambiente digital.

Inteligência Artificial, viés de género, discurso de ódio, misoginia

Cómo los bots de IA han reforzado el sesgo de género en el discurso de odio

Este artículo tiene como objetivo examinar el problema del discurso de odio en la sociedad digital, con un énfasis particular en el tema del género y el discurso de odio misógino. En este contexto, busca presentar ejemplos concretos de sesgos observados en tales sistemas, considerando casos emblemáticos como la herramienta de reclutamiento de Inteligencia Artificial (IA) de Amazon y el chatbot Tay de Microsoft. El objetivo es destacar cómo estos sesgos tienen el potencial no solo de perpetuar la discriminación de género, sino también de agravar las desigualdades. A la luz de estas consideraciones, el artículo llega a una conclusión fundamental: la necesidad crucial de un enfoque multifacético para abordar el problema del discurso de odio misógino y sus manifestaciones contra las mujeres. Este enfoque implica, ante todo, un compromiso firme con la igualdad de género y la promoción de la justicia social en el entorno digital.

Inteligencia Artificial, sesgo de género, discurso de odio, misoginia