Deepfake w świetle aktu w sprawie sztucznej inteligencji

Iwona Bień-Węgłowska

doi:10.36128/4dr67e80

Artykuły

Tom 58 Nr 5 (2025): Prawo i Więź nr 5 (58) 2025

Deepfake w świetle aktu w sprawie sztucznej inteligencji

Iwona Bień-Węgłowska^▸^▾

pdf

DOI:: https://doi.org/10.36128/4dr67e80
Przesłane: 2 września 2025
Opublikowane: 18 listopada 2025

Abstrakt

The Artificial Intelligence Act is the world's first regulation to establish a comprehensive legal framework specifying harmonized rules for the creation, use, and dissemination of AI systems. One of the areas regulated by the AI Act is deepfake technology, which encompasses AI systems that generate or modify synthetic content in the form of images, sounds, or videos that falsely appear authentic. This technology contributes to numerous abuses and is consistently associated with destructive behavior. EU legislators have recognized the risks associated with deepfake content – the Artificial Intelligence Act provides procedures to protect citizens from manipulation and disinformation, classifying deepfakes as limited risk and introducing transparency obligations for providers of AI systems that generate deepfake content, as well as for those who use them. The aim of this article is to provide a detailed analysis of the provisions of the Artificial Intelligence Act relating to deepfake technology, the scope of their application, and the method of enforcement. Additionally, the assessment will focus on the categorization of risks associated with deepfake content adopted by the EU legislator and its adequacy in the context of fundamental rights protection.

Bibliografia

Bar, Gabriela. “AI Act w działaniu: co się stanie z deepfake’ami?” https://panoptykon.org/ai-act-w-dzialaniu-deepfaki.
Burczaniuk, Piotr. “Tworzenie prawa sztucznej inteligencji – wyzwania i perspektywy.” Prawo i Więź, nr 3(50) (2024): 283 – 300. https://doi.org/10.36128/PRIW.VI51.707.
Flisak, Damian. “Akt w sprawie sztucznej inteligencji. Komentarz praktyczny.” LEX/el., 2024.
Kiełpiński, Krzysztof. “Deepfake jako narzędzie do przekazywania informacji fałszywej i domniemanej. Analiza prawnokarna i cybernetyczna.” Kwartalnik Krajowej Szkoły Sądownictwa i Prokuratury, nr 3(51) (2023): 83 – 99. https://doi.org/10.53024/5.3.51.2023.
Kozłowski, Jakub. “Akt w sprawie sztucznej inteligencji w praktyce – charakterystyka unijnej regulacji opartej na ryzyku.” Europejski Przegląd Sądowy, nr 12 (2024): 20 – 25.
Kozłowski, Jakub. “Analiza i ocena zmian w Akcie o sztucznej inteligencji (AI Act).” https://law4tech.pl/1881-2/.
Lisinska, Justyna i Daniel Castro. ”Why AI-Generated Content Labeling Mandates Fall Short.” https://www2.datainnovation.org/2024-ai-watermarking.pdf.
Łabuz, Mateusz. “Deep fakes and the Artificial Inteligence Act – An important Signal or a Missed Ppportunity?” Policy & Internet, vol. 16, issue 4 (2024): 783 – 800. https://doi.org/10.1002/poi3.406.
Łabuz, Mateusz. “Regulating Deep Fakes in the Artificial Intelligence Act.” Applied Cybersecurity & Internet Governance, nr 2(1) (2023): 1 – 42. https://doi.org/ 10.60097/ACIG/162856.
Malec, Norbert. “Sztuczna inteligencja a bezpieczeństwo państwa.” Prawo i Bezpieczeństwo – Law & Security, nr 1(2) (2024): 20 – 42. https://doi.org/10.4467/29567610PIB.24.002.19838.
Polański, Przemysław. “Nowe i stare wyzwania dotyczące zwalczania bezprawnych treści w Internecie.” W Sztuczna inteligencja, blockchain, cyberbezpieczeństwo oraz dane osobowe. Zagadnienia wybrane, red. Kinga Flaga-Gieruszyńska, Jacek Gołaczyński i Dariusz Szostek, 183 – 191.Warszawa: C.H. Beck, 2019.
Rzymowski, Jakub. “Definicja prawnicza sztucznej inteligencji na podstawie rozporządzenia PE i Rady (UE) 2024/1689 w sprawie sztucznej inteligencji.” Przegląd Prawa Publicznego, nr 11 (2024): 56 – 63.
Szpyt Kamil i Artur Bilski. “Wybrane wyzwania prawne i organizacyjne związane z wdrażaniem systemów AI w działalności samorządów terytorialnych.” Prawo i Więź, nr 1(54) (2025): 565 – 596.
Szpyt, Kamil. ”Sztuczna inteligencja i nowe technologie (nie zawsze) w służbie ludzkości, czyli cywilnoprawna problematyka rozwoju i popularyzacji technologii deepfake.” W Sztuczna inteligencja, blockchain, cyberbezpieczeństwo oraz dane osobowe. Zagadnienia wybrane, red. Kinga Flaga-Gieruszyńska, Jacek Gołaczyński i Dariusz Szostek, 75 – 94. Warszawa: C.H. Beck, 2019.
Szyłkowska, Monika. “Sztuczna inteligencja – strategiczne wyzwania i ryzyka w obszarze prewencji kryminalnej – zarys problemu.” The Prison Systems Review, nr 3 (2024): 273 – 290. https://doi.org/ 10.52694/ThPSR.2024.3.14.