Como a inteligência artificial tem sido usada para contribuir na criação de uma rede de ódio?

12 de janeiro de 2023 Gabriel Vitor Silva Barbosa Humano Demasiado Tecnológico, Séries, Tecnologia

Compartilhe este conteúdo:

O discurso de ódio é algo que vem se tornando cada vez mais comum de ser presenciado, tanto fisicamente, quanto virtualmente. O termo “discurso de ódio” é originário do termo em inglês hate speech, e pode ser definido como um conjunto de palavras que intimidam, assediam ou insultam um individuo com base na sua cor, raça, sexo ou religião, e que tem a capacidade de instigar violência e ódio contra tais indivíduos (MOURA, 2016). Esse discurso dá a ideia de que o indivíduo, por causa de suas particularidades e diferenças, deve ser inferiorizado ou menosprezado. Essa externalização do ódio pode ser, e na maioria das vezes é, facilmente identificada, pois são feitas explicitamente, porém em alguns casos pode ser feita subliminarmente, que pode ser difícil de identificar.

O grande avanço tecnológico nos últimos anos fez com que boa parte da população ficasse conectada à internet. Segundo um estudo realizado pela Statista (2022), banco internacional de estatísticas, o Brasil possui cerca 159 milhões de pessoas utilizando as mídias sociais diariamente. Esse número, segundo pesquisa realizada pela Cuponation (2021), faz com que o Brasil fique no top 5 das nações que mais utilizam as mídias sociais. Com a grande quantidade de pessoas conectadas às redes sociais, a interação entre elas fica cada vez mais fácil e rápida. Essas interações, com a falsa sensação de que tudo é permitido e anônimo, faz com que pessoas com más intenções expressem o seu ódio, que por muitas vezes repletos de preconceitos, a outras pessoas que não fazem parte do seu grupo social.

Nesse contexto, a Inteligência Artificial (IA) tem sido usada nas redes para a criação de bolhas que propiciam o engajamento, mas, em contrapartida, favorece a disseminação de discursos de ódio. Em uma entrevista realizada para a revista MIT Technology Review, Frances Haugen, ex-gerente de produto do Facebook, afirma que o algoritmo da rede social e a forma de negócios da empresa fazem com que a prioridade seja o lucro ao invés da segurança das pessoas. Os algoritmos do Facebook são treinados para identificarem qual postagem causaria mais engajamento para determinado usuário. Segundo Haugen, essa classificação baseada em engajamento é perigosa e sem integridade, pois esse algoritmo também favorece a desinformação e o extremismo.

O algoritmo do Facebook na verdade é composto por vários algoritmos juntos, como algoritmos que classificam as preferências de cada usuário, e algoritmos que detectam conteúdos ruins como nudez ou spam, esses algoritmos são chamados de algoritmos de aprendizado de máquina. Esses algoritmos são treinados e baseados de acordo com as interações do usuário, que conseguem identificar por exemplo se você gosta de cachorros fofos passando pelo seu feed de acordo com os seus clicks e comentários em publicações. Essas informações podem ser ainda mais refinadas de acordo com o sexo e idade do usuário. Isso faz com que o engajamento da plataforma seja muito mais poderoso, pois faz com que os usuários passem muito mais tempo na rede social. E essa recomendação não se limita apenas a coisas boas, segundo uma publicação de Horwitz e Seetharaman (2020) no Wall Street Journal, 64% dos grupos extremistas tiveram suas assinaturas baseadas em recomendações dos modelos de “Grupos nos quais você deve participar” e “Descubra”, e isso mostra o quanto podem ser prejudiciais esses algoritmos.

Segundo Nandi (2018), a inteligência artificial (IA) pode também ser um grande aliado no combate ao discurso de ódio presentes nas redes sociais, porém ainda existem problemas que fazem com que isso não seja totalmente possível. A necessidade de ter uma supervisão humana faz com que a avaliação do discurso de ódio seja mais demorada ou até mesmo ineficaz. Outro problema que pode ser encontrado é que a IA consegue identificar as frases, porém tem dificuldade de entendê-las.

Uma abordagem diferente da inteligência artificial pode ser usada para ajudar no combate ao discurso de ódio presente nas redes sociais. Segundo o artigo Can Artificial Intelligence Predict The Spread Of Online Hate Speech? (2019), publicado pela Forbes, anteriormente os algoritmos de inteligência artificial analisavam o conceito em torno das publicações para decidir se as publicações eram ou não consideradas hostis. Já nessa nova abordagem que foi coordenada pela IBM, a ideia não era decidir se a postagem é ou não de ódio, e sim onde e como se inicia esse discurso e como isso se desdobra para o mundo real.

A análise consistiu em definir uma lista de palavras que fazem parte de discursos de ódio, baseados em terrorismo islâmico e violência anti-islâmica, com dados de tweets e publicações no Reddit feitas por cerca de 15 milhões de usuários. Depois que os dados foram analisados e classificados pela inteligência artificial, foi feito uma linha do tempo, e constatou que após incidentes de violência anti-islâmica, os discursos de ódios nas redes sociais aumentaram consideravelmente, e que esses discursos não se concentram apenas aos muçulmanos mas a todos os grupos que são minorias.

Considerando todo esse contexto, podemos concluir que a tecnologia não é neutra, mas tão pouco é boa ou má. Na verdade seu impacto se deve à forma como as pessoas a utilizam. Assim, como há algoritmos de IA sendo usados para criar bolhas de ódio, há, também, cientistas buscando na IA a detecção de onde e como se originam esses discursos. Talvez, em um dado momento consigamos combater e punir essa disseminação de ódio, muita coisa já começou nesse aspecto, muitos crimes já estão sendo trazidos à tona.

Referências:

CAN ARTIFICIAL INTELLIGENCE PREDICT THE SPREAD OF ONLINE HATE SPEECH? [S. L.]: Forbes, 30 ago. 2019. Disponível em: https://www.forbes.com/sites/bernardmarr/2019/08/30/can-artificial-intelligence-predict-the-spread-of-online-hate-speech/?sh=351757277167. Acesso em: 11 nov. 2022.

CASEIRO, Sofia. O impacto da inteligência artificial na democracia. In: IV CONGRESSO INTERNACIONAL DE DIREITOS HUMANOS DE COIMBRA: UMA VISÃO TRANSDISCIPLINAR. p. 135.

CUPONATION. USUÁRIOS REDES SOCIAIS: pesquisa aponta crescimento de usuários das redes por país. 2021. Disponível em: https://www.cuponation.com.br/insights/redessociais-2021a2026. Acesso em: 11 nov. 2022.

HORWITZ, Jeff; SEETHARAMAN, Deepa. Facebook Executives Shut Down Efforts to Make the Site Less Divisive: the social-media giant internally studied how it polarizes users, then largely shelved the research. Wall Street Journal. New York, p. 1-1. 20 maio 2020. Disponível em: https://www.wsj.com/articles/facebook-knows-it-encourages-division-top-executives-nixed-solutions-11590507499. Acesso em: 11 nov. 2022.

MIT TECHNOLOGY REVIEW. [S. L.]: Mit, 05 out. 2018. Disponível em: https://www.technologyreview.com/2021/10/05/1036519/facebook-whistleblower-frances-haugen-algorithms/. Acesso em: 08 dez. 2022.

MOURA, Marco Aurelio. O discurso do ódio em redes sociais. Lura Editorial (Lura Editoração Eletrônica LTDA-ME), 2016.

NANDI, José Adelmo Becker. O COMBATE AO DISCURSO DE ÓDIO NAS REDES SOCIAIS. 2018. 58 f. TCC (Graduação) – Curso de Tecnologias da Informação e Comunicação, Universidade Federal de Santa Catarina, Araranguá, 2018.

STATISTA. Internet usage in Brazil – Statistics & Facts. 2022. Disponível em: https://www.statista.com/topics/2045/internet-usage-in-brazil/#topicOverview. Acesso em: 11 nov. 2022.

STEIN, Marluci; NODARI, Cristine Hermann; SALVAGNI, Julice. Disseminação do ódio nas mídias sociais: análise da atuação do social media. Interações (Campo Grande), v. 19, p. 43-59, 2018.

Observação: artigo desenvolvido na disciplina “Tecnologias Criativas” do Programa Extensionista Interdisciplinar “Tecnologias para a Vida” dos cursos de Ciência da Computação, Sistemas de Informação e Engenharia de Software da Ulbra Palmas.

Compartilhe este conteúdo:

O quão sufocantes podem ser os avanços tecnológicos para a privacidade?

4 de dezembro de 2022 João Paulo Oliveira E Silva Humano Demasiado Tecnológico, Séries, Tecnologia

Compartilhe este conteúdo:

O quanto os anunciantes sabem sobre você? A pergunta é simples, e a resposta também deveria ser, ou não seria? A forma de distribuição de anúncios por parte dos anunciantes sempre foi realizada de maneira generalizada, às vezes focada em nichos, nem sempre se sabia até onde ela conseguiria atingir. Mas isso mudou, e mudou de maneira completamente radical, porque entramos na era digital, tudo se tornou rápido e instantâneo. A forma que os anúncios passaram a chegar até você sofreu uma total reviravolta. Isso se dá pelos dados e informações, traços que você passou a deixar para trás quando começou a utilizar a internet. Tudo que você gosta e não gosta acaba se tornando dados públicos, que são utilizados para direcionar a você anúncios de seu interesse, são os chamados “anúncios direcionados”.

E isso vai muito além de apenas coisas que você deixou de gostar no verão passado, isso envolve todos os seus dados pessoais. Já parou para pensar que alguém pode saber o que você está fazendo ou aonde você está? Melhor ainda, todos os lugares em que esteve no último mês? Parece assustador, como um tema para um bom conto de ficção científica, só que não seria tão terrível se fosse apenas uma ficção.

O governo americano rastreia seus cidadãos em uma base diária [1], e esses dados de localização não vêm diretamente de companhias telefônicas, e sim de parceiros de localização. Mas de onde sai esses dados de localização se não das companhias telefônicas? De aplicativos que utilizam esse recurso no seu celular. Sabe esse seu aplicativo para ver a previsão do tempo? Então é por aí que começa, aplicativos como o exemplificado que de primeiro relance oferecem serviços de forma gratuita na verdade lucram, e lucram bastante, porque você é na verdade o produto deles.

Em sua matéria [3] no jornal Intelligencer, Max Read relata a assustadora experiência de ter uma campainha inteligente da Ring, que pertence à gigante Amazon. Ele aborda sobre as práticas de segurança adotadas pela empresa e questiona a real eficácia do produto e também o destino das gravações realizadas pelo mesmo, considerando que os dados obtidos pelo equipamento podem ser mantidos somente para si ou compartilhados com um feed do aplicativo da fabricante.

Adentrar neste método de compartilhamento abre espaço para diversos questionamentos a respeito do custo benefício de ter a privacidade reduzida em troca de segurança, pois nem sempre estas soluções se mostram benéficas, como mostra o resultado da investigação da NBC News [4] sobre as câmeras destas campainhas. A investigação feita constata que não há uma uma avaliação da eficácia do envio das filmagens para o feed, não havendo índice de melhora na redução da criminalidade dos pontos em que as câmeras foram instaladas, levando assim a uma exposição aparentemente “desnecessária” da vizinhança.

Fontes:

[1] The New York Times. The Government Uses ‘Near Perfect Surveillance’ Data on Americans. Disponível em: https://www.nytimes.com/2020/02/07/opinion/dhs-cell-phone-tracking.html Acesso em: 18 de Novembro de 2021.

[2] The New York Times. All This Dystopia, and for What?. Disponível em: https://www.nytimes.com/2020/02/18/opinion/facial-recognition-surveillance-privacy.html Acesso em: 18 de Novembro de 2021.

Wind Map. wind map. Disponível em: http://hint.fm/wind/ Acesso em: 18 de Novembro de 2021.

[3] READ, Max. I Got a Ring Doorbell Camera. It Scared the Hell Out of Me. The Intelligencer. Doylestown. 13 fev. 2020. Disponível em: https://nymag.com/intelligencer/2020/02/what-its-like-to-own-an-amazon-ring-doorbell-camera.html. Acesso em: 22 nov. 2021.

[4] FARIVAR, Cyrus. Cute videos, but little evidence: Police say Amazon Ring isn’t much of a crime fighter. Nbc News: Hundreds of police departments have signed agreements with Ring to gain access to footage filmed on home surveillance cameras. New York City. 15 fev. 2020. Disponível em: https://www.nbcnews.com/news/all/cute-videos-little-evidence-police-say-amazon-ring-isn-t-n1136026. Acesso em: 22 nov. 2021.

Compartilhe este conteúdo:

Passo o ponto

16 de março de 2020 Celina Moraes Comportamento, Insight

Compartilhe este conteúdo:

Nas minhas caminhadas, observo as placas de “passo o ponto”, que podem significar “passo meu projeto de vida” ou “o negócio passou do ponto” porque não vinga na era digital, e penso que muitas das pessoas que trabalhavam ali caíram no infortúnio do desemprego.

Fatores externos, fora de nosso controle, como crises que empobrecem um país e seu povo, podem tirar tudo da gente, menos o nosso entusiasmo, que depende só de nós. Temos de lutar para que tragédias econômicas não empobreçam nosso espírito e enriqueçam nossa descrença na vida.

Em 1989, pedi as contas de uma multinacional para abrir uma agência de eventos. Aí veio o Plano Collor e os eventos que mais organizei foram “falta de dinheiro”, “falência relâmpago” e “medo do despejo”.

Para aumentar os infortúnios, capotei meu carro, quebrei a clavícula e ganhei um corpo tatuado de hematomas. Sem plano de saúde e falida, um médico recomendou repouso de três meses. Nem cogitei essa opção. Repouso era um luxo para mim.

Eram tantas as pedras no meu caminho que pensei em construir uma caverna para me enfiar lá. Sem dinheiro para condução, andava horas procurando emprego. Um dia, vi um anúncio de “Assistente de Marketing” e fui até a agência. A selecionadora achou que eu era qualificada para uma vaga de gerente administrativo-financeiro por ter sido empresária. Espantada, respondi-lhe que se tivesse talento para empresária não estaria me candidatando a uma vaga de assistente. Mas ela insistiu na maluquice de me indicar para a posição.

Fui para a entrevista e quando me apresentei ao diretor da empresa, achei que estava diante de outro doido, que fumava cachimbo, quando ele me disse que tínhamos um amigo em comum. Mas ele conhecia meu ex-chefe da multinacional e já tinha as minhas referências. Lembrei-me do velho ditado de sempre deixar uma portinha aberta ao sairmos.

Porém, disse-lhe, honestamente, que abominava matemática e era incompetente com números. Sem se abalar e fumando seu cachimbo, ele me perguntou se eu tinha entusiasmo. Respondi que até de sobra. Então, ele falou que dominava matemática e que tinha paciência de sobra para me ensinar se eu tivesse entusiasmo para aprender. Aceitei o desafio e os números mudaram minha vida.

Se você me perguntar qual é a receita para se motivar diante dos obstáculos da vida, que a todo instante nos faz escolher entre agir ou reclamar, eu diria que, no meu caso, é a Fé inabalável em Deus, amor à vida e frases de sabedoria, como a de Albert Einstein: “Lembre-se que as pessoas podem tirar tudo de você, menos o seu conhecimento” e eu acrescentaria “menos o seu entusiasmo” também.

Compartilhe este conteúdo: