Deepfake: La evolución de las fake news
DOI:
https://doi.org/10.33448/rsd-v11i6.29533Palabras clave:
Deepfake; Inteligencia artificial; Fake news.Resumen
El surgimiento de nuevas técnicas como el deepfake hizo posible manipular y crear nuevos contenidos falsos de videos, audios e imágenes muy similares al original. La técnica se puede usar para reemplazar la cara de una persona con otra para hacer que una persona diga o haga cosas que nunca sucedieron. El contenido falso generado es tan realista como el original, lo que convierte a la tecnología en un arma poderosa para la construcción de fake news. Como es una técnica sofisticada, tiene la capacidad de distorsionar la verdad y generar conflictos, poniendo en peligro la reputación de los involucrados y creando un profundo daño a los afectados cuando se utiliza con fines nefastos. Es de suma importancia popularizar cómo funcionan los deepfakes para ampliar el debate sobre su uso indebido. En ese sentido, este artículo pretende profundizar en los estudios sobre la técnica del deepfake, advertir sobre su existencia, mal uso y cuáles son las soluciones existentes para combatirlo. La investigación bibliográfica se realizó a partir de diferentes fuentes de datos, como sitios web especializados, leyes, revistas científicas y artículos. Se concluye que deepfakes son variaciones y evolución de las fake news, el mal uso de la tecnología para generar contenidos con carácter de manipulación de la opinión pública puede traer graves perjuicios a la sociedad. Los resultados muestran que, si bien la tecnología es neutral como recurso, no se puede controlar su uso con el fin de degradar a personas u organizaciones, exigiendo la creación de leyes que prohíban su mal uso.
Citas
Agence France-Presse. (2019). Pesquisa global revela que 86% dos internautas já acreditaram "fake news". Exame. https://exame.com/brasil/pesquisa-global-revela-que-86-dos-internautas-ja-acreditaram-fake-news/
Alecrim, E. (2019). Facebook decide não excluir deepfake de Mark Zuckerberg no Instagram. Tecnoblog. https://tecnoblog.net/294405/facebook-vai-manter-deepfake-de-mark-zuckerberg/
Almenara, I. (2021). Algoritmo é capaz de desmascarar deepfakes analisando o movimento dos olhos. Canaltech. https://canaltech.com.br/inteligencia-artificial/algoritmo-e-capaz-de-desmascarar-deepfakes-analisando-o-movimento-dos-olhos-180574/
Atheniense, A. (2019) O que é Deepfake? Saiba como funciona e porque tecnologia pode afetar a política. Alexandre Atheniense Advogados. https://www.alexandreatheniense.com.br/o-que-e-deepfake-saiba-como-funciona-e-porque-tecnologia-pode-afetar-a-politica/
Ayyub, R. (2018). I Was The Victim Of A Deepfake Porn Plot Intended To Silence Me. Huffpost. https://www.huffingtonpost.co.uk/entry/deepfake-porn_uk_5bf2c126e4b0f32bd58ba316
Cambridge Dictionary. (n.d.). fake news. In Cambridge Dictionary. Retrieved August 1, 2021, from https://dictionary.cambridge.org/pt/dicionario/ingles/fake-news
Campos, L. V. (2021) "O que são Fake News?". Brasil Escola. https://brasilescola.uol.com.br/curiosidades/o-que-sao-fake-news.htm.
Cancelier, M.(2018). Google cria base de dados com 3 mil deepfakes para ajudar a combatê–los. Mundo Conectado. https://mundoconectado.com.br/noticias/v/10589/google-cria-base-de-dados-com-3-mil-deepfakes-para-ajudar-a-combate-los/mobile/
Chesney, B., & Citron, D. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. Calif. L. Rev., 107, 1753. https://doi.org/10.2139/ssrn.3213954
Cristaldo, H. (2021) Câmara aprova adesão do Brasil à Convenção sobre Crime Cibernético. Agência Brasil. https://agenciabrasil.ebc.com.br/politica/noticia/2021-10/camara-aprova-adesao-do-brasil-convencao-sobre-crime-cibernetico
Damiani, J. (2019). A Voice Deepfake Was Used To Scam A CEO Out Of $243,000. Forbes. https://www.forbes.com/sites/jessedamiani/2019/09/03/a-voice-deepfake-was-used-to-scam-a-ceo-out-of-243000/?sh=63e99eda2241.
Data Science Academy. (2021). Capítulo 54 – Introdução às Redes Adversárias Generativas (GANs – Generative Adversarial Networks). Deep Learning Book. https://www.deeplearningbook.com.br/introducao-as-redes-adversarias-generativas-gans-generative-adversarial-networks/
Ferrari, D & Senna, F. (2020) Convenção de Budapeste e crimes cibernéticos no Brasil. Migalhas. 2020. https://www.migalhas.com.br/depeso/335230/convencao-de-budapeste-e-crimes-ciberneticos-no-brasil
Galhardi, C. P., Freire, N. P., Minayo, M. C. D. S., & Fagundes, M. C. M. (2020). Fato ou Fake? Uma análise da desinformação frente à pandemia da Covid-19 no Brasil. Ciência & Saúde Coletiva, 25, 4201-4210.https://doi.org/10.1590/1413-812320202510.2.28922020
Gogoni, R. (2021). Era inevitável: deepfake usado como ferramenta de bullying. Meio Bit. https://tecnoblog.net/meiobit/434802/mae-usa-deepfake-prejudica-concorrentes-da-filha/
Goodfellow, I., Pouget-Abadie, J., Mirza, M., Xu, B., Warde-Farley, D., Ozair, S., Courville, A., & Bengio, Y. (2020). Generative adversarial networks. Communications of the ACM 63, 11 (November 2020), 139–144. https://doi.org/10.1145/3422622
Greengard, S. (2019). Will deepfakes do deep damage? Communications of the ACM, 63(1), 17-19. https://doi.org/10.1145/3371409
Hall, H. K. (2018). Deepfake videos: When seeing isn't believing. Cath. UJL & Tech, 27, 51. https://scholarship.law.edu/jlt/vol27/iss1/4
Hasan, H. R., & Salah, K. (2019). Combating deepfake videos using blockchain and smart contracts. Ieee Access, 7, 41596-41606. https://doi.org/10.1109/ACCESS.2019.2905689
Huang, D. (2021) Synthetic data generation using Generative Adversarial Networks (GANs): Part 1. Data Science at Microsoft. https://medium.com/data-science-at-microsoft/synthetic-data-generation-using-generative-adversarial-networks-gans-part-1-47ecbf46b575
Korshunov, P., & Marcel, S. (2019, June). Vulnerability assessment and detection of deepfake videos. In 2019 International Conference on Biometrics (ICB) (pp. 1-6). IEEE. https://doi.org/10.1109/ICB45273.2019.8987375
Martins, J. (2017). Metodologia da pesquisa científica. Dowbis.
Merriam Webster. (sd) The Real Story of 'Fake News'. https://www.merriam-webster.com/words-at-play/the-real-story-of-fake-news
Parreira, R. (2021). 80% dos legisladores não sabem o que são deepfakes e as vítimas acumulam-se. Sobretudo mulheres. Sapo. https://tek.sapo.pt/noticias/internet/artigos/80-dos-legisladores-nao-sabe-o-que-sao-deepfakes-e-as-vitimas-acumulam-se-sobretudo-mulheres
Patrini, G., Lini, S., Ivey-Law, H., & Dahl, M. (2018) Commoditisation of AI, digital forgery and the end of trust: how we can fix it. Giorgio Patrini. https://giorgiop.github.io/posts/2018/03/17/AI-and-digital-forgery/
Pecsen, T. (2020). 1 a cada 2 brasileiros afirma já ter compartilhado Fake News sem saber. dfndr blog.https://www.psafe.com/blog/1-a-cada-2-brasileiros-afirma-ja-ter-compartilhado-fake-news-sem-saber/
Robitzski, D. A Spy used a DeepFake photo to infiltrate Linkedin networks. The Byte. https://futurism.com/the-byte/spy-deepfake-photo-infiltrate-linkedin-networks
Schroepfer, M. (2019). Creating a dataset and a challenge for deepfakes. Facebook A.I. https://ai.facebook.com/blog/deepfake-detection-challenge/
Sensity Team. (2019). Mapping the Deepfake Landscape. Sensity. https://sensity.ai/blog/deepfake-detection/mapping-the-deepfake-landscape/
Sensity Team. (2021). How to Detect a Deepfake Online. Sensity. https://sensity.ai/blog/deepfake-detection/how-to-detect-a-deepfake/
Sica, N. (2022). Mais de 65% dos brasileiros não sabem o que é “deepfake”. Kaspersky. https://www.kaspersky.com.br/blog/brasileiros-desconhecem-deepfake/18834/
Siqueira, P. A. R. d. (2019) O ‘Deep Fake’ e a Legislação Brasileira - utilização de instrumentos legais para a proteção à imagem. Conteúdo Jurídico. https://www.conteudojuridico.com.br/consulta/artigo/53256/o-deep-fake-e-a-legislao-brasileira-utilizao-de-instrumentos-legais-para-a-proteo-imagem.
Teixeira, L. A. (2019). Nova lei na China criminaliza deepfakes. GQ. https://gq.globo.com/Prazeres/Poder/noticia/2019/12/nova-lei-na-china-criminaliza-deepfakes.html
Theobald, B. (2019) Deepfakers beware: Do it in California or Texas and you'll be in deep trouble. Fulcrum. https://thefulcrum.us/deepfake-political-video
Viera, E. (2019) Fake News: descentralização das informações e polarização política. Observatório da imprensa. http://www.observatoriodaimprensa.com.br/desinformacao/fake-news-descentralizacao-das-informacoes-e-polarizacao-politica/
Westerlund, M. 2019. The Emergence of Deepfake Technology: A Review. Technology Innovation Management Review, 9(11): 40-53. http://doi.org/10.22215/timreview/1282
Wiggers, K. (2019). Generative adversarial networks: What GANs are and how they’ve evolved. VentureBeat. https://venturebeat.com/2019/12/26/gan-generative-adversarial-network-explainer-ai-machine-learning/
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2022 Adriano Cezar Molina; Orlando Leonardo Berenguel
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
Los autores que publican en esta revista concuerdan con los siguientes términos:
1) Los autores mantienen los derechos de autor y conceden a la revista el derecho de primera publicación, con el trabajo simultáneamente licenciado bajo la Licencia Creative Commons Attribution que permite el compartir el trabajo con reconocimiento de la autoría y publicación inicial en esta revista.
2) Los autores tienen autorización para asumir contratos adicionales por separado, para distribución no exclusiva de la versión del trabajo publicada en esta revista (por ejemplo, publicar en repositorio institucional o como capítulo de libro), con reconocimiento de autoría y publicación inicial en esta revista.
3) Los autores tienen permiso y son estimulados a publicar y distribuir su trabajo en línea (por ejemplo, en repositorios institucionales o en su página personal) a cualquier punto antes o durante el proceso editorial, ya que esto puede generar cambios productivos, así como aumentar el impacto y la cita del trabajo publicado.
