Hamis valóság, valós veszély: deepfake az AI Act-ben

Szerzők

DOI:

https://doi.org/10.54200/kt.v4i2.89

Kulcsszavak:

mesterséges intelligencia, AI Act, deepfake, MI szabályozás

Absztrakt

Napjainkban a mesterséges intelligencia számtalan manifesztációja közül valószínűleg a deepfake technológiában rejlik a legtöbb potenciál arra, hogy rövid időn belül látványosan felforgassa világunkat. A deepfake jó kezekben ajándék, hiszen hatékonyabbá teszi a gyógyszerkísérleteket, segítségével „életre kelthetünk” régen elköltözött színészeket, ugyanakkor elsőszámú fegyvere lehet a dezinformációnak, szexuális visszaéléseknek, illetve a kiberbűnözés eszköztárát is számos új elemmel „gazdagította”. Az egyre közismertebb aggályok ellenére a közelmúltban elfogadott európai MI szabályozás, az AI Act mégis kevésbé tartja kockázatosnak a deepfake-et, mint például a hallgatói csalásokat szűrő egyetemi rendszereket, hiszen még ez utóbbiakra is jóval szigorúbb követelményeket fogalmaz meg. Alábbi elemzésemben részletesen áttekintem a deepfake jelentette veszélyeket, érzékeltetem azok súlyát, majd az európai szabályozás pro és kontra elemzésével, azt nemzetközi példákon át kontextusba helyezve arra keresem a választ, miért nem szigorúbb, a kockázatok szintjét valóban tükröző rezsimet alakított ki az Európai Unió.

Hivatkozások

Ahmed, Z. (2024. január 22.). Fake Joe Biden robocall: AI-Generated Election Interference. Resemble AI. Online: https://tinyurl.com/2juukrxx

Ajder, H., Patrini, G., Cavalli, F., & Cullen, L. (2019). The State of Deepfakes: Landscape, Threats, and Impact. Deeptrace.

Bitport (2024. április 26.). Ezúttal egy iskolaigazgatót hurcoltak meg deepfake miatt. Online: https://tinyurl.com/262n754a

Black, J., & Fullerton, C. (2020). Digital Deceit: Fake News, Artificial Intelligence, and Censorship in Educational Research. Open Journal of Social Sciences, 8(7), 71–88. https://doi.org/10.4236/jss.2020.87007

Bodnár Z. (2020. február 21.). Először vetettek be választási kampányban deepfake videókat. Qubit. Online: https://tinyurl.com/5av66hza

Bommasani, R., Hudson, D. A., Adeli, E., Altman, R., Arora, S., von Arx, S., Bernstein, M. S., Bohg, J., Bosselut, A., Brunskill, E., Brynjolfsson, E., Buch, S., Card, D., Castellon, R., Chatterji, N., Chen, A., Creel, K., Davis, J. Q., Demszky, D., … Liang, P. (2022). On the Opportunities and Risks of Foundation Models (arXiv:2108.07258). arXiv. https://doi.org/10.48550/arXiv.2108.07258

Boone, T. S. (2024. szeptember 9.). An Examination Of Certain Key Features Of The New White House Executive Order On Artificial Intelligence. Corvinus University of Budapest. Online: https://unipub.lib.uni-corvinus.hu/10301/

Business Reporter (2024. május 29.). The EU AI Act: Necessary regulation or a barrier to innovation? Online: https://tinyurl.com/24rhmtvt

Carpenter, P. (2024. november 6.). Deepfakes didn’t disrupt the election, but they’re changing our relationship with reality. The Hill. Online: https://tinyurl.com/58d7cuj4

Chadha, A., Kumar, V., Kashyap, S., & Gupta, M. (2021). Deepfake: An Overview. In P. K. Singh, S. T. Wierzchoń, S. Tanwar, M. Ganzha, & J. J. P. C. Rodrigues (Szerk.), Proceedings of Second International Conference on Computing, Communications, and Cyber-Security (pp. 557–566). Springer Singapore. https://doi.org/10.1007/978-981-16-0733-2_39

Chen, H., & Magramo, K. (2024. február 4.). Finance worker pays out $25 million after video call with deepfake ‘chief financial officer’. CNN. Online: https://tinyurl.com/ms8xbmyx

Cheng, J. (2013. július 12.). Bruce Lee Controversially Resurrected for Johnnie Walker Ad. Time. Online: https://newsfeed.time.com/2013/07/12/bruce-lee-resurrected-for-whisky-ad/

Cooney, C. (2024. április 16.). Creating sexually explicit deepfakes to become a criminal offence. BBC. Online: https://www.bbc.com/news/uk-68823042

Council of the EU (2024. május 21.). Artificial intelligence (AI) act: Council gives final green light to the first worldwide rules on AI. Online: https://tinyurl.com/5d7w8nhc

Damiani, J. (2019. szeptember 3.). A Voice Deepfake Was Used To Scam A CEO Out Of $243,000. Forbes. Online: https://www.forbes.com/sites/jessedamiani/2019/09/03/a-voice-deepfake-was-used-to-scam-a-ceo-out-of-243000/

Davies, S. (2024. január 12.). Generative AI and deepfakes. How AI will create disinformation. Online: https://thumos.uk/generative-ai-and-deepfakes/

De Luce, D. (2024. október 22.). Can you spot the celebrity „deepfakes” in a new ad warning against election disinfo? NBC News. Online: https://tinyurl.com/444x497f

Devlin, K., & Cheetham, J. (2023. március 24.). Fake Trump arrest photos: How to spot an AI-generated image. BBC News. Online: https://www.bbc.com/news/world-us-canada-65069316

Donegan, M. (2023. március 13.). Demand for deepfake pornography is exploding. We aren’t ready for this assault on consent. The Guardian. Online: https://tinyurl.com/mrk95byt

Dredge, S. (2016. március 17.). Five of the best face swap apps. The Guardian. Online: https://tinyurl.com/ywvwxbau

Elliott, V. (2024. május 30.). The WIRED AI Elections Project. Wired. Online: https://www.wired.com/story/generative-ai-global-elections/

Europol. (2024). Facing reality? Law enforcement and the challenge of deepfakes: An observatory report from the Europol innovation lab. Publications Office. Online: https://data.europa.eu/doi/10.2813/158794

Európai Bizottság. (2019). Etikai iránymutatás a megbízható mesterséges intelligenciára vonatkozóan. Publications Office. Online: https://data.europa.eu/doi/10.2759/428483

Ewe, K. (2023. december 28.). Elections Around the World in 2024. Time. Online: https://time.com/6550920/world-elections-2024/

Feiner, L. (2024. augusztus 21.). Telecom will pay $1 million over deepfake Joe Biden robocall. The Verge. Online: https://tinyurl.com/mu9w9m6e

Gosztonyi G., & Lendvai G. (2024). Deepfake és dezinformáció. Mit tehet a jog a mélyhamisítással készített álhírek ellen? Médiakutató, 25(1), 41–49. https://doi.org/10.55395/MK.2024.1.3

Goyal, M. (2023. március 8.). What is generative AI, what are foundation models, and why do they matter? IBM Blog. Online: https://tinyurl.com/zzae95xu

Graham, M. M. (2024. június 26.). Deepfakes: Federal and state regulation aims to curb a growing threat. Thomson Reuters Institute. Online: https://tinyurl.com/235zahsf

Guterman, D. (2024. május 29.). AI and the 2024 Elections. Harvard Kennedy School. Ash Center for Democratic Governance and Innovation. Online: https://ash.harvard.edu/articles/ai-and-the-2024-elections/

Hacker, P. (2023). What’s Missing from the EU AI Act: Addressing the Four Key Challenges of Large Language Models. Verfassungsblog. Online: https://verfassungsblog.de/whats-missing-from-the-eu-ai-act/

Hao, K. (2020a. október 9.). Inside the strange new world of being a deepfake actor. MIT Technology Review. Online: https://tinyurl.com/fz9dswrb

Hao, K. (2020b. október 20.). A deepfake bot is being used to “undress” underage girls. MIT Technology Review. Online: https://tinyurl.com/22ej4fcd

Hao, K. (2021. február 12.). Deepfake porn is ruining women’s lives. Now the law may finally ban it. MIT Technology Review. Online: https://tinyurl.com/yc26rvht

Herke Cs. (2023). Deepfake: Áldás vagy átok? Pro Futuro, 13(1), 157–178. https://doi.org/10.26521/profuturo/2023/1/13334

Holdsworth, J., & Scapicchio, M. (2024. június 17.). What is Deep Learning? IBM. Online: https://www.ibm.com/topics/deep-learning

Holliday, C. (2021). Rewriting the stars: Surface tensions and gender troubles in the online media production of digital deepfakes. Convergence: The International Journal of Research into New Media Technologies, 27(4), 899–918. https://doi.org/10.1177/13548565211029412

Hood, C. (2021. augusztus 29.). How Deepfake Technology Can Change The Movie Industry. ScreenRant. Online: https://tinyurl.com/4mfb9mb2

Huang, K. (2023. április 8.). Why Pope Francis Is the Star of A.I.-Generated Photos. The New York Times. Online: https://tinyurl.com/ycx2ss2a

Hurst, L. (2023. október 20.). How AI is driving an explosive rise in deepfake pornography. Euronews. Online: https://tinyurl.com/4ssm7cy6

IBM (2021. február 9.). What are foundation models? IBM Research. Online: https://research.ibm.com/blog/what-are-foundation-models

Jain, J. (2023. április 29.). The AI Intimacy Trap – How Persuasion Machines Can Lead To Societal Collapse And What To Do About It. Hotel AI, Marketing, Tech and Loyalty. Online: https://tinyurl.com/5f4y9rm3

Kalmowitz, D. (2023. szeptember 21.). Clarke Leads Legislation to Regulate Deepfakes. Congresswoman Yvette Clarke. Online: https://admin-clarke.house.gov/clarke-leads-legislation-to-regulate-deepfakes/

Kan, M. (2019. május 17.). This AI Can Recreate Podcast Host Joe Rogan’s Voice To Say Anything. PCMAG. Online: https://tinyurl.com/m63cxc5d

Kelleher, K. (2023. augusztus 10.). Revenge Porn and Deep Fake Technology: The Latest Iteration of Online Abuse. Boston University. Online: https://tinyurl.com/amvk85x6

Koltay A. (2020). A hazugságok alkotmányos védelme? Jogtudományi Közlöny, 75(7–8), 302–313. Online: https://real-j.mtak.hu/13974/21/JK_2020_7_8.pdf

Lawelle, B. (2024. február 2.). We Are In The Middle Of An AI Deepfake Porn Crisis. Junkee. Online: https://junkee.com/ai-deepfake-porn-crisis-explained/356764

Levine, A. (2024. június 19.). The EU AI Act: Key provisions and future impacts. Thoropass. Online: https://thoropass.com/blog/compliance/eu-ai-act/

Linn, G. (2024. január 26.). Mia Janin took own life after bullying—Inquest. BBC. Online: https://www.bbc.com/news/articles/cn0nd1gnj4lo

Maddocks, S. (2020). ‘A Deepfake Porn Plot Intended to Silence Me’: Exploring continuities between pornographic and ‘political’ deep fakes. Porn Studies, 7(4), 415–423. https://doi.org/10.1080/23268743.2020.1757499

Mahdawi, A. (2023. április 1.). Nonconsensual deepfake porn is an emergency that is ruining lives. The Guardian. Online: https://tinyurl.com/ycyvz44z

Molnár G. (2024. augusztus 19.). Donald Trump elfogadta Taylor Swift „támogatását” – AI-képeken a rajongók. Index. Online: https://tinyurl.com/2mdnyet3

Morelle, J. (2023. május 5.). Congressman Joe Morelle Authors Legislation to Make AI-Generated Deepfakes Illegal. Online: https://tinyurl.com/hzz2fk8n

MTI. (2023. május 2.). Japánban betiltják a beleegyezés nélkül készített szexuális tartalmú felvételeket. Maszol. Online: https://tinyurl.com/2ectrs5n

Naezer, M., & van Oosterhout, L. (2021). Only sluts love sexting: Youth, sexual norms and non-consensual sharing of digital sexual images. Journal of Gender Studies, 30(1), 79–90. https://doi.org/10.1080/09589236.2020.1799767

Narvali, A. M., Skorburg, J. A. (Gus), & Goldenberg, M. J. (2023. november 28.). Cyberbullying girls with pornographic deepfakes is a form of misogyny. The Conversation. Online: https://tinyurl.com/y2389rhx

Németh Á. (2024. március 24.). Giorgia Meloni kártérítést kér a róla terjesztett deepfake videók miatt. Index. Online: https://tinyurl.com/c3wvn3my

Norgaard, J. G. (2024. augusztus 27.). Council Post: The US Innovates, The EU Regulates: How Can The EU Change This Narrative? Forbes. Online: https://tinyurl.com/yckrytrm

Payne, L. (2024. augusztus 11.). Deepfake. Britannica. Online: https://www.britannica.com/technology/deepfake

Resemble.AI. (2024, szeptember 26). AI Safety: Deepfake Incident Report. Online: https://www.resemble.ai/deepfake-incident-report/

RTL. (2024. május 16.). Gyermekpornográfiának is minősülhet az általános iskolai osztálytársról készült deepfake videó [Video]. Online: https://tinyurl.com/4ff5h9cu

Ryan-Mosley, T. (2023. december 1.). A high school’s deepfake porn scandal is pushing US lawmakers into action. MIT Technology Review. Online: https://tinyurl.com/42bu9ttn

Schmidt, J. P. (2024. május 31.). Digital Markets Act: European Commission designates further gatekeeper and core platform services. NOERR. Online: https://tinyurl.com/35sr5m4x

Security Hero. (2023). 2023 State Of Deepfakes: Realities, Threats, And Impact. Online: https://www.securityhero.io/state-of-deepfakes/#key-findings

Sensity. (2024). The State of Deepfakes 2024. Online: https://sensity.ai/reports/

Shepardson, D. (2024a. május 23.). US political consultant indicted over AI-generated Biden robocalls. Reuters. Online: https://tinyurl.com/hkmx7m5p

Shepardson, D. (2024b. szeptember 26.). Consultant fined $6 million for using AI to fake Biden’s voice in robocalls. Reuters. Online: https://tinyurl.com/3t7rbwss

Somers, M. (2020. július 21.). Deepfakes, explained. MIT Sloan. Online: https://mitsloan.mit.edu/ideas-made-to-matter/deepfakes-explained

Speechify. (2024). Real-Time AI Dubbing with Voice Preservation. Online: https://speechify.com/blog/real-time-ai-dubbing/

Spring, M. (2024. március 4.). Trump supporters target black voters with faked AI images. BBC. Online: https://www.bbc.com/news/world-us-canada-68440150

Taylor, M. (2024. október 3.). An AI Deepfake Could Be This Election’s November Surprise. Time. Online: https://time.com/7033256/ai-deepfakes-us-election-essay/

Tenbarge, K. (2023. március 27.). Found through Google, bought with Visa and Mastercard: Inside the deepfake porn economy. NBC News. Online: https://tinyurl.com/cj4nmsar

Tenbarge, K., & Chan, M. (2023. november 23.). For teen girls victimized by ‘deepfake’ nudes, there is little recourse. NBC News. Online: https://tinyurl.com/4smfxkwu

The Dalí Museum (2019. január 23.). Dalí Lives: Museum Brings Artist Back to Life with AI. Online: https://tinyurl.com/55fs7dv8

Trish, B. A. (2024. október 16.). 4 ways AI can be used and abused in the 2024 election, from deepfakes to foreign interference. The Conversation. Online: https://tinyurl.com/adkry95m

Truby, J., Brown, R. D., Ibrahim, I. A., & Parellada, O. C. (2022). A Sandbox Approach to Regulating High-Risk Artificial Intelligence Applications. European Journal of Risk Regulation, 13(2), 270–294. https://doi.org/10.1017/err.2021.52

Tsui, M. (2022. július 25.). Deepfake Video Examples and How to Detect One. ExpressVPN Blog. Online: https://www.expressvpn.com/blog/how-to-spot-a-deepfake-video/

UNICEF (2024). Cyberbullying: What is it and how to stop it. Online: https://www.unicef.org/end-violence/how-to-stop-cyberbullying

US Senate (2024. június 12.). Senate Republican Blocks Durbin’s Attempt to Tackle Nonconsensual, Sexually-Explicit Deepfakes. United States Senate Committee on the Judiciary. Online: https://tinyurl.com/2p9mz8ur

Vella, V. (2021. március 12.). Bucks County woman created ‘deepfake’ videos to harass rivals on her daughter’s cheerleading squad, DA says. The Philadelphia Inquirer. Online: https://tinyurl.com/5enzzku2

Ventura, J. (2024. november 1.). Raffensperger asks X to take down „false” video purporting to show voter fraud. The Hill. Online: https://tinyurl.com/bdzm2eju

Wakefield, J. (2022. március 18.). Deepfake presidents used in Russia-Ukraine war. BBC. Online: https://www.bbc.com/news/technology-60780142

Weimann, G., & Masri, N. (2023). Research Note: Spreading Hate on TikTok. Studies in Conflict & Terrorism, 46(5), 752–765. https://doi.org/10.1080/1057610X.2020.1780027

Westerlund, M. (2019). The Emergence of Deepfake Technology: A Review. Technology Innovation Management Review, 9(11), 39–52. https://doi.org/10.22215/timreview/1282

Winick, E. (2018. október 16.). How acting as Carrie Fisher’s puppet made a career for Rogue One’s Princess Leia. MIT Technology Review. Online: https://tinyurl.com/bdz4p7ky

Zinski, D. (2020. augusztus 18.). Harrison Ford Is Young Han In Solo Deepfake Video. ScreenRant. Online: https://tinyurl.com/38mrp3hk

Downloads

Megjelent

2024-12-18

Folyóirat szám

Rovat

Tanulmányok

How to Cite

Hamis valóság, valós veszély: deepfake az AI Act-ben. (2024). KözigazgatásTudomány, 4(2), 18-38. https://doi.org/10.54200/kt.v4i2.89