A tecnologia tem transformado muitos aspectos de nossas vidas, desde a maneira como nos comunicamos até a maneira como trabalhamos e nos divertimos. Como qualquer outra coisa, a tecnologia tem seus benefícios e malefícios. Um aspecto benéfico é na comunicação: a tecnologia tornou a comunicação mais rápida e fácil do que nunca. Podemos nos comunicar com pessoas do mundo inteiro instantaneamente, seja por meio de chamadas de vídeo, mensagens de texto ou e-mail.
As ferramentas de trabalho nos auxiliam da melhor maneira para facilitar o trabalho do dia-a-dia. Uma dessas é o queridinho Whatsapp. O aplicativo de mensagens além de conectar várias pessoas ao mesmo tempo, auxilia na organização de rotinas, trabalho e faculdade através dos famosos grupos infinitos. Recentemente adicionou uma nova ferramenta: as comunidades, na qual os usuários podem reunir vários grupos de um mesmo assunto em um só local para facilitar a busca.
Infelizmente, a tecnologia pode ser usada para o mal de muitas maneiras diferentes, desde o roubo de identidade até o cibercrime e a disseminação de desinformação e propaganda. Um desses malefícios são as deepfakes, que começou apenas como algo divertido, mas que tem se tornado uma aliada para criminosos.
As deepfakes são vídeos, imagens ou áudios falsos criados com o uso de inteligência artificial (IA) e aprendizado de máquina para substituir o rosto ou a voz de uma pessoa por outra. Essa técnica utiliza algoritmos de processamento de imagens e de áudio para mapear os traços faciais e a voz de uma pessoa e, em seguida, combiná-los com o conteúdo de outro vídeo ou áudio para criar uma imagem ou gravação falsa que pareça autêntica (SANTOS, 2021).
PARIS; DONOVAN (2019), citam que as deepfakes podem ser usadas para diversos fins, desde criação de conteúdo artístico e entretenimento até a criação de notícias falsas ou cenas de pornografia não consensual. Por isso, essa técnica tem levantado preocupações éticas e de segurança. Para combater o uso indevido das deepfakes, várias abordagens têm sido propostas, incluindo o desenvolvimento de algoritmos de detecção de deepfakes, a promoção de educação e conscientização sobre a tecnologia, e a criação de leis e regulamentos para a sua utilização (SANTELLA, SALGADO, 2021).
Além disso, é importante que as empresas de tecnologia e as redes sociais tenham políticas claras para lidar com deep fakes e conteúdo falso, a fim de proteger a integridade das informações e a segurança dos usuários.
A manipulação digital através de deepfakes é uma técnica de edição de vídeo que utiliza a inteligência artificial para criar vídeos falsos que parecem genuínos. Casos semelhantes aconteceram com as atrizes Gal Gadot e Scarlett Johansson que tiveram seus rostos utilizados em vídeos pornográficos, e Barack Obama enquanto ainda era presidente teve seu vídeo utilizado com uma fala de outra pessoa ao invés da própria, justamente para alertar sobre o perigo desta manipulação.
Fonte: Pixabay
Embora a tecnologia por trás dos deepfakes seja fascinante, a sua crescente popularidade tem levantado preocupações significativas sobre o seu impacto na sociedade. Abaixo estão alguns dos principais impactos da manipulação digital através de deepfakes:
- Desinformação: podem ser usados para criar vídeos falsos de pessoas famosas, políticos, e outras figuras públicas, que podem ser compartilhados nas redes sociais e em outras plataformas de mídia. Isso pode causar desinformação e desconfiança na informação que recebemos (SANTOS, 2021).
- Fraude: também podem ser usados para enganar as pessoas em transações financeiras, negociações comerciais e em outras atividades que dependem de comunicação visual. Isso pode resultar em fraudes financeiras e outros tipos de crimes (SANTAELLA, SALGADO, 2021).
- Difamação: podem ser usados para difamar pessoas, criando vídeos falsos de pessoas em situações embaraçosas ou ilegais. Isso pode ter sérias consequências para a vida das pessoas retratadas nos vídeos. (HAWLEY, 2014).
- Política: podem ser usados para manipular eleições, criando vídeos falsos de candidatos em situações embaraçosas ou comprometedoras. Isso pode afetar a percepção pública de um candidato e influenciar a votação. (CASTELLS, 2015).
- Privacidade: podem ser usados para invadir a privacidade das pessoas, criando vídeos falsos que parecem mostrar pessoas em situações privadas ou íntimas. Isso pode ter um impacto profundo na vida das pessoas afetadas (D’CRUZ, 2020).
Esta é uma questão muito preocupante, a deepfake pode ser usada para enganar, manipular e prejudicar as pessoas. O ponto mais crítico é que na maioria dos casos, esta manipulação atinge mais mulheres, principalmente para alimentar a indústria pornográfica (SANTOS, 2021). Temas como racismo, machismo e fanatismo podem ser bastante discutidos acerca da utilização da deepfake, pois atualmente a tecnologia não tem sido apenas uma ferramenta em que as pessoas utilizam para auxílio, mas tem entrado em questões da sociedade e nas relações humanas com a tecnologia.
Comportamentos são influenciados a todo momento, por isso, é notório pensar que se hoje a quantidade massiva de deepfakes produzidas são para difamar, fraudar e quebrar a privacidade, é possível imaginar uma reação contrária, em que essas tecnologias podem ser utilizadas para incluir, educar e alertar, fazendo então o caminho inverso.
REFERÊNCIAS
CASTELLS, M. A sociedade em rede. São Paulo, Paz e Terra, 2015.
D’CRUZ, J. Trust and distrust. In: SIMON, Judith (ed.). The Routledge handbook of trust and philosophy. London: Routledge, 2020, p. 41-51.
HAWLEY, K. Trust, distrust and commitment. Noûs, Hoboken, NJ, v. 48, n. 1, 2014, p. 1–20. Disponível em: onlinelibrary.wiley.com/ doi/epdf/10.1111/nous.12000. 2014.
PARIS, B.; DONOVAN, J. Deepfakes and cheap fakes. Thousand Oaks: Sage (=Data & Society’s Media Manipulation research initiative). Disponível em: datasociety.net/wp-content/uploads/2019/09/DS_ Deepfakes_Cheap_FakesFinal-1-1.pdf. 2019.
SANTAELLA, L.; SALGADO, M. de M. Deepfake e as consequências sociais da mecanização da desconfiança. TECCOGS – Revista Digital de Tecnologias Cognitivas, n. 23, jan./jun. 2021, p. 90-103.
SANTOS, K. de M. Como o uso de Deepfakes pode impactar as relações sociais na cibersociedade. Salvador, 25-30 jul. 2021.
