Discurso de ódio, fake news e redes sociais: uma breve introdução
Hate speech, fake news and social media: a short introduction
Discurso de odio, fake news y redes sociales: una breve introducción
e-ISSN: 1605 -4806
VOL 26 N° 113 enero - abril 2022 Monográfico pp. 12-16
Recibido 19-02-2022 Aprobado 28-04-2022
Branco Di Fátima
Portugal
Centro de Investigação e Estudos de Sociologia (CIES-Iscte)
Sandra Miranda
Portugal
Escola Superior de Comunicação Social (ESCS-IPL)
Resumo
A popularização das tecnologias digitais, como o smartphone, o Wi-Fi e as redes sociais, impulsionou mudanças notáveis na forma como os cidadãos participam da vida pública. Por um lado, deram poder aos atores sociais, que começaram a agir num novo ambiente mediático, com um impacto considerável nas esferas política e económica. Por outro lado, lançaram as bases materiais para a disseminação dos discursos de ódio e de fake news. Esses não são problemas sociais novos, porém, as tecnologias digitais introduziram mudanças substanciais na equação. Este artigo oferece uma breve introdução ao fenómeno.
Palavras-chave: discurso de ódio; fake news; redes sociais; desinformação
Abstract
The popularization of digital technologies, such as mobile phones, Wi-Fi and social media, has driven remarkable changes in the way citizens participate in public life. On the one hand, they have empowered social actors, who have begun to act in a new media space, with a considerable impact on the political and economic sphere. On the other hand, they have established the material basis for the dissemination of hate speech and fake news. Hate speech and fake news are not exactly a new social problem. However, digital technologies have introduced substantial changes into the equation. This article provides a brief introduction to the phenomenon.
Keywords: hate speech; fake news; social media; misinformation
Resumen
La popularización de las tecnologías digitales, como los teléfonos móviles, el Wi-Fi y las redes sociales, ha impulsado cambios notables en la forma en que los ciudadanos participan en la vida pública. Por un lado, han empoderado a los actores sociales, que han empezado a actuar en un nuevo espacio mediático, con un impacto considerable en el ámbito político y económico. Por otro lado, han establecido las bases materiales para la difusión de discursos de odio y noticias falsas. Los discursos de odio y las noticias falsas no son problemas sociales nuevos. Sin embargo, las tecnologías digitales han introducido cambios sustanciales en la ecuación. Este artículo ofrece una breve introducción al fenómeno.
Palabras clave: discurso de odio; fake news; redes sociales; desinformación
Os discursos de ódio são um fenómeno transversal a diversos campos da vida em sociedade, como as manifestações artísticas, o desporto profissional, a indústria do entretenimento ou o debate político. A rápida popularização das tecnologias digitais, como o smartphone, o Wi-Fi e as redes sociais, delinearam novas fronteiras para a sua interpretação. Graças ao atual ecossistema mediático, caracterizado pelo poder das redes, os discursos de ódio são mais complexos, mimetizam-se à velocidade dos cliques e afetam os comportamentos além da sua raia geográfica de origem. Diante das múltiplas dimensões desse problema, o número ١١٣ da Razón y Palabra debruça-se sobre a relação entre os discursos de ódio, as fake news e as redes sociais. Este artigo faz uma breve introdução ao fenómeno.
A primeira dimensão de análise recai sobre o empoderamento das audiências. Se, na era dos mass media (jornal, rádio e televisão), os cidadãos se limitavam ao papel de consumidores de conteúdo, na era da internet também são os produtores de narrativa (Jenkins, 2008). Assim, conseguem estabelecer pontos de viragem mais decisivos, seja com a emergência de movimentos sociais em rede, seja com a propagação de relatos contra grupos minoritários online. Cada um é a sua própria narrativa mediatizada.
Os discursos de ódio e as fake news não são exatamente fenómenos novos. A sua relação com as tecnologias digitais, por exemplo, é estudada há ao menos duas décadas (Schafer, 2002). Ao observar os websites de organizações extremistas, os pioneiros mapearam o modus operandi dos grupos raivosos na internet (Kaplan & Weinberg, 1998). Atualmente, a relação entre os discursos de ódio, as fake news e as redes sociais tem mobilizado diferentes leituras no meio académico. Estudos recentes mostram, inclusive, que a natureza dos discursos de ódio nas redes sociais dificulta a dissuasão da sua prática (Ben-David & Matamoros-Fernández, 2016) e a identificação do seu impacto potencial (Miranda et al., 2022).
A ascensão de grupos de extrema-direita, na última década, parece confirmar a transformação de paradigma em diferentes países. Veja, por exemplo, os casos recentes de Brasil, Portugal, Israel, Estados Unidos e Filipinas. Em cenários tão diversos, a transição dos discursos de ódio para o ecossistema digital – em especial as redes sociais – lança desafios adicionais às Ciências Sociais e Humanidades. Enquanto as suas práticas minam os fundamentos da democracia, normalmente em cenários marcados pela atuação de governos ou partidos populistas, se afirmam graças à desinformação.
Não existe uma definição consensual do discurso de ódio, coexistindo múltiplos entendimentos (Costa, 2020). O termo em português e espanhol teria se originado na expressão inglesa hate speech. No fundo, são discursos que insultam, assediam e ameaçam baseados na nacionalidade, etnia, religião, idade, orientação sexual, etc. (Brugger, 2007). Trata-se de um comportamento agressivo sobre a maneira de ser e de estar de um indivíduo ou grupo. Esses ataques raivosos instigam a violência e a discriminação contra minorias, como a população negra, as mulheres, os imigrantes, os homossexuais, os idosos, entre outros. Juridicamente, no código penal de diferentes países, podem se configurar como crimes: racismo, sexismo e xenofobia. Mas regular o discurso de ódio não é um exercício legislativo simples. Afinal, equilibra-se entre a liberdade de expressão e a ofensa à dignidade humana (Alkiviadou, 2019).
Segundo Meyer-Pflug (2009), a discriminação e a exteriorização são os elementos configuradores dos discursos de ódio. A questão se coloca quando o pensamento discriminatório ganha corpo narrativo, atingindo o seu alvo. Wieviorka (2007) analisa o fenómeno, caracterizando-o como violência simbólica. Nessa linha, o ódio pode ficar apenas no discurso, como uma exposição da linguagem, ou manifestar-se como a violência física. Pereira-Kohatsu (2019) argumenta que o discurso de ódio se baseia na pertença e na repulsa a uma comunidade, inclusive, política.
Se esses autores apresentam uma definição multidimensional, também aplicável ao discurso face a face, qual a novidade introduzida pela internet?
Por um lado, a internet estabeleceu um modelo de organização social mais participativo e cidadão (Castells, 2007). Essa nova cultura participativa coloca em xeque as dinâmicas sociais vigentes, em uma disputa constante de poder contra o establishment. Por outro, construiu as bases para a exacerbação dos conflitos socioculturais, manifestos em fenómenos como os discursos de ódio (Moura, 2016), as notícias falsas (Di Fátima, 2019) e a desinformação (O’Connor & Weatherall, 2019).
As tecnologias digitais introduziram outras mudanças substanciais nessa equação: i) a aceleração dos processos de disseminação dos discursos, ii) o alargamento transfronteiriço das narrativas, ampliando o espaço e o tempo dos ataques, iii) o crescimento potencial das audiências, iv) a diversificação dos atores humanos e não humanos envolvidos no processo, v) a sofisticação das estruturas de produção e consumo, vi) a formação de comunidades virtuais entre propagadores de ódio, vii) o anonimato criado por estruturas tecnológicas, como a navegação VPN, viii) os espaços virtuais pouco regulados, como a deep web.
Ainda é preciso considerar que as redes sociais favorecem a criação de câmaras de eco, formadas pelo algoritmo das plataformas e pelo perfil dos utilizadores (Del Vicario et al., 2016). Assim, mensagens com o mesmo tratamento ideológico podem distorcer a realidade, reforçando valores, pontos de vista ou preconceitos contra minorias. Esse sistema de crenças, altamente emotivo, movimenta uma engrenagem maior entrelaçada às fake news e à desinformação.
Em plataformas como Facebook, Twitter ou YouTube, os discursos de ódio têm a forma de posts, memes, emojis, comentários, áudios, fotos e vídeos manipulados ou descontextualizados. Dentro de uma câmara de eco, é amplificado inúmeras vezes com partilhas e reações dos utilizadores. Para Gusso (2011), esse efeito é proporcional ao meio de difusão da narrativa. Além de promover ideias discriminatórias, as redes de ódio recrutam membros com esse mesmo tratamento ideológico, não raro, permeado por teorias da conspiração. Daí que estudar o fenómeno requer instrumentos de análise desenhados para a finalidade.
O desenvolvimento de estratégias metodológicas para mapear o discurso de ódio, no ecossistema digital, é uma lacuna marcada por constrangimentos de ordem epistemológica, ética ou tecnológica. Uma das possibilidades passa pela extração, mineração e visualização de dados sociais, a partir da Application Programming Interface (API) da plataforma. Outras alternativas complementares são a netnografia ou a análise de redes via Teoria dos Grafos. Essas abordagens já são utilizadas em múltiplas geografias, como os trabalhos do Sciences Po (Universidade de Paris), do Signa_Lab (Universidad Jesuita de Guadalajara) ou da Digital Methods Initiative (Universidade de Amesterdão).
Se os métodos clássicos, como a entrevista ou o inquérito, podem ser condicionados pela resposta elaborada dos participantes (Bordens & Abbott, 2014), a abordagem via API permite a observação mais direta dos hábitos em rede. Nesse ponto, o objetivo é categorizar as ações online, com base em parâmetros que permitam revelar os padrões do discurso de ódio. Claro, também existem fragilidades metodológicas (Rogers, 2019). Atualmente, plataformas como Facebook e Instagram tendem a limitar o acesso à API e, consequentemente, aos dados (Bruns, 2018).
A popularização das tecnologias digitais coloca desafios para o estudo dos discursos de ódio, em especial na relação com as redes sociais e as fake news. Mais do que um simples meio ou uma ferramenta para a criação ou a difusão das mensagens odiosas (Newson, 2017), a internet estabeleceu uma sofisticada estrutura comunitária para a reafirmação de crenças e de valores. No fundo, a linguagem fere e subordina (Butler, 2021). O número 113 da Razón y Palabra oferece uma leitura profunda desse fenómeno, um dos mais prementes da atualidade.
Agradecimentos
Esta investigação foi financiada pelo IDI&CA21. Referência: IPL/2021/SocialHate_ESCS.
Referencias
Alkiviadou, N. (2019). Hate speech on social media networks: towards a regulatory framework? Information & Communications Technology Law, 28(1), 19-35. https://doi.org/10.1080/13600834.2018.1494417
Ben-David, A., & Matamoros-Fernández, A. (2016). Hate speech and covert discrimination on social media: monitoring the Facebook pages of extreme-right political parties in Spain. International Journal of Communication, 10(2016), 1167-1193.
Bordens, K.S., & Abbott, B.B. (2014). Research and design methods: a process approach. McGraw-Hill.
boyd, D. & Crawford, K. (2012). Critical questions for big data. Information, Communication & Society, 15(5), 662-679. https://doi.org/10.1080/1369118X.2012.678878
Brugger, W. (2007). Proibição ou proteção do discurso do ódio? Algumas observações sobre o direito alemão e o americano. Direito Público, 4(15), 117-136.
Bruns, A. (2018, 25 de abril). Facebook shuts the gate after the horse has bolted, and hurts real research in the process. Internet Policy Review. https://cutt.ly/Ln4Hm1b
Butler, J. (2021). Discurso de ódio: uma política do performativo. Editora Unesp.
Castells, M. (2007). A sociedade em rede. A era da informação: economia, sociedade e cultura. Fundação Calouste Gulbenkian.
Costa, P. (2020). Uma cartografia do ódio no Facebook: gatilhos, insultos e imitações. Comunicação Pública, 15(29). https://doi.org/10.4000/cp.11367
Del Vicario, M. et al. (2016). Echo chambers: emotional contagion and group polarization on Facebook. Sci Rep, 6, 37825. https://doi.org/10.1038/srep37825
Di Fátima, B. (2019). Dias de tormenta. Geração Editorial.
Gusso, R.B. O controle social pelo discurso do ódio. Jus Navigandi, 16(2938). https://jus.com.br/artigos/19571
Jenkins, H. (2008). Convergence culture: where old and new media collide. New York University Press.~
Kaplan, J., & Weinberg, L. (1998). The emergence of a Euro-American radical right. Rutgers University Press.
Meyer-Pflug, S.R. (2009). Liberdade de expressão e discurso do ódio. Editora Revista dos Tribunais.
Miranda, S., Malini, F., Di Fátima, B. & Cruz, J. (2022, 12-13 May). I love to hate! The racist hate speech in social media [Paper presentation]. 9th European Conference on Social Media, Krakow, Poland. https://doi.org/10.34190/ecsm.9.1.311
Moura, M.A. (2016). O discurso de ódio em redes sociais. Lura Editorial.
Newson, M. (2017). Football, fan violence, and identity fusion. International Review for the Sociology of Sport, 54(4), 431-444. https://doi.org/10.1177/1012690217731293
O’Connor, C. & Weatherall, J.O. (2019). The misinformation age. Yale University Press.
Pereira-Kohatsu, J.C. et al. (2019). Detecting and monitoring hate speech in Twitter. Sensors, 19(21), 1-37. https://doi.org/10.3390/s19214654
Rogers, R. (2019). Doing digital methods. Cambridge: SAGE.
Schafer, J. (2002). Spinning the web of hate: web-based hate propagation by extremist organizations. Journal of Criminal Justice and Popular Culture, 9(2), 69-88.
Wieviorka, M. (2007). O racismo, uma introdução. Editora Perspectiva.