DEEPFAKE DISINFORMATION

Year 2024, , 321 - 358, 30.06.2024

Nurullah Enes Süheyl Belada

https://doi.org/10.55009/bilisimhukukudergisi.1387306

Abstract

There are technological initiatives presented using personal data. The term of deepfake, which is formed by the use of biometric data, which is sensitive personal data, is also popular. Deepfake content created with biometric data obtained from audio, photos and videos is among the biggest problems of politicians, celebrities and separated couples. With deepfake content, which is a different version of producing fake news, an untrue speech, scene, photo, etc. can form indistinguishably real. When these contents, created with deep artificial neural networks trained with big data, are used as a weapon, they disrupt public order and affect election security. In our research, what legal measures are taken in the world to prevent disinformation with deepfakes is examined and their effectiveness is discussed.

Keywords

deepfake, artificial intelligence, cheapfake, disinformation

DEEPFAKE DEZENFORMASYONU

Abstract

Kişisel veriler kullanılarak sunulan teknolojik girişimler bulunmaktadır. Hassas nitelikli kişisel veri olan biyometrik verilerin kullanımıyla oluşan deepfake kavramı da adından söz ettirmektedir. Ses, fotoğraf ve videolardan elde edilen biyometrik veriler ile oluşturulan deepfake içerikler özellikle siyasilerin, ünlülerin ve ayrılmış çiftlerin en büyük problemleri arasına girmektedir. Yalan haber üretmenin farklı bir versiyonu olan deepfake içerikler ile gerçek olmayan bir konuşma, sahne, fotoğraf vb. ayırt edilemez derecede gerçek şekilde oluşturabilmektedir. Büyük veri ile eğitilmiş derin yapay sinir ağları ile oluşturulan bu içerikler birer silah olarak kullanıldığında kamu düzenini bozmakta ve seçim güvenliğini etkilemektedir. Araştırmamızda deepfake ile yapılan dezenformasyonun engellenmesi için dünyada hangi yasal tedbirlerin alındığı incelenmekte ve bunların etkinliği konusu tartışılmaktadır.

Keywords

yapay zeka, dezenformasyon, deepfake, cheapfake

References

• 23 DERECE. “Sosyal medyadaki her videoya inanmamak için bir neden daha!” Twitter. 03 Mayıs 2023. Erişim 14 Haziran 2023. https://twitter.com/yirmiucderece/status/1653703008155316226
• Akar, Filiz. “Purposes, Causes and Consequences of Excessive Internet Use Among Turkish Adolescents”. Eurasian Journal of Educational Research 15/60 (30 Ekim 2015), 35-56. https://doi.org/10.14689/ejer.2015.60.3
• Akca, Furkan. “Dezenformasyonun Ürküten Yüzü: Deepfake Ve Cheapfake Nedir?” Doğrula (blog), 02 Ağustos 2022. https://www.dogrula.org/ekipten/deepfake-ve-cheapfake-nedir/
• Aleguas, Salvador. “The Fake Arrest of Donald Trump: A Deepfake Odyssey”. Medium. 27 Mart 2023. Erişim 14 Haziran 2023. https://levelup.gitconnected.com/the-fake-arrest-of-donald-trump-a-deepfake-odyssey-db3a6c17eba6
• Allen, Major D. Nicholas. “Deepfake Fight: Ai-Powered Disinformation and Perfidy Under the Geneva Conventions”. Notre Dame Journal on Emerging Technologies 3/2 (Kasım 2022), 1-70.
• Belada, Nurullah Enes Süheyl. Yapay Zekânin Meydana Geti̇rdi̇ği̇ Ürünlerde Eser Sahi̇pli̇ği̇. İstanbul: İstanbul Medeniyet Üniversitesi Sosyal Bilimler Enstitüsü, Yüksek Lisans Tezi, 2022.
• Benifei, Brando - Tudorache, Ioan-Dragoş. Proposal for a regulation of the European Parliament and of the Council on harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts, Proposal for a regulation of the European Parliament and of the Council on harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts (Kanun No. COM(2021)0206 – C9 0146/2021 – 2021/0106(COD)). Committee on the Internal Market and Consumer Protection 1 (16 Mayıs 2023). https://www.europarl.europa.eu/resources/library/media/20230516RES90302/20230516RES90302.pdf
• Cahlan, Sarah. “How Misinformation Helped Spark an Attempted Coup in Gabon”. Washington Post (13 Şubat 2020). https://www.washingtonpost.com/politics/2020/02/13/how-sick-president-suspect-video-helped-sparked-an-attempted-coup-gabon/
• Chang, Cheng-Chi (Kirin). “Revisiting Disinformation Laws in the Age of Social Media”. Arizona Law Journal of Emerging Technology 6/4 (2023), 1-22.
• Çeli̇k, Gaffari - Talu, Muhammed Fatih. “Çekişmeli Üretken ağ Modellerinin Görüntü Üretme Performanslarının Incelenmesi”. Balıkesir Üniversitesi Fen Bilimleri Enstitüsü Dergisi 22/1 (10 Ocak 2020), 181-192. https://doi.org/10.25092/baunfbed.679608
• DarkWeb Haber. “Çin merkezli teknoloji devi Tencent, yapay zeka destekli deepfake videoların satışına başladı.” Twitter. 04 Mayıs 2023. Erişim 14 Haziran 2023. https://twitter.com/Darkwebhaber/status/1654033719844384771
• Delfino, Rebecca. The Deepfake Defense—Exploring the Limits of the Law and Ethical Norms in Protecting Legal Proceedings from Lying Lawyers. Ohio State Law Journal: Loyola Law School, Los Angeles Legal Studies Research Paper, 13 Şubat 2023. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4355140
• DW Türkçe. “Bir fotoğrafın gerçek mi, yoksa yapay zeka yardımıyla manipüle edilmiş bir görsel mi olduğunu nasıl anlarız?” Twitter. 03 Mayıs 2023. Erişim 14 Haziran 2023. https://twitter.com/dw_turkce/status/1653770134744342531
• EUIPO. Study on the Impact of Artificial Intelligence on Infringement and the Enforcement of Copyright and Designs. The European Union Intellectual Property Office, 02 Mart 2022. https://euipo.europa.eu/tunnel-web/secure/webdav/guest/document_library/observatory/documents/reports/2022_Impact_AI_on_the_Infringement_and_Enforcement_CR_Designs/2022_Impact_AI_on_the_Infringement_and_Enforcement_CR_Designs_FullR_en.pdf
• Görmüş, Alper. “‘Deep fake’ (derin sahtelik) videolarını beklerken: ‘Gerçek’in başına gelen en büyük felakete yakından bir bakış”. Serbestiyet (blog), 03 Mayıs 2023. https://serbestiyet.com/secim2023/deep-fake-derin-sahtelik-videolarini-beklerken-gercekin-basina-gelen-en-buyuk-felakete-yakindan-bir-bakis-127213/
• Gündem 7x24. “Ahmet Davutoğlu: Teknoloji öyle bir hal aldı ki her bir konuşma için şunu soracağız kim buna şahit oldu? Fiilen şahit aranacak neredeyse. Çünkü o teknolojik araçlarla bir çok şey üretilebiliyor. Halk bizi fiilen gördüğü söz ile yargılasın.” 05 Mayıs 2023. Erişim 14 Haziran 2023. https://twitter.com/gundem7x24/status/1654387131345764355
• Hayir, Celal. “Lise Öğrencilerinin İnternet Ortamında Fazla Vakit Geçirme Nedenleri Üzerine Bir İnceleme: İstanbul Köy Hizmetleri Anadolu Lisesi Örneği”. Karabük Üniversitesi Sosyal Bilimler Enstitüsü Dergisi 9/2 (16 Eylül 2019), 522-536.
• Helmus, Todd C. “Artificial Intelligence, Deepfakes, and Disinformation”. RAND Corporation, 1-24.
• Hern, Alex. “My May-Thatcher Deepfake Won’t Fool You but Its Tech May Change the World”. The Guardian (12 Mart 2018), blm. Technology. https://www.theguardian.com/technology/2018/mar/12/may-thatcher-deepfake-face-swap-tech-change-world
• Interesse, Giulia. “China to Regulate Deep Synthesis (Deepfake) Technology from 2023”. China Briefing News. 20 Aralık 2022. Erişim 16 Haziran 2023. https://www.china-briefing.com/news/china-to-regulate-deep-synthesis-deep-fake-technology-starting-january-2023/
• Karakoç, Elif - Zeybek, Burcu. “Görmek İnanmaya Yeter Mi̇? Görsel Dezenformasyonun Ayirt Edi̇ci̇ Bi̇çi̇mi̇ Olarak Si̇yasi̇ Deepfake İçeri̇kler”. Öneri Dergisi 17/57 (30 Ocak 2022), 50-72. https://doi.org/10.14783/maruoneri.908542
• Karamollaoğlu, Temel. “yapay.” Twitter. 04 Mayıs 2023. Erişim 14 Haziran 2023. https://twitter.com/T_Karamollaoglu/status/1654222366250094600
• Kirchengast, Tyrone. “Deepfakes and Image Manipulation: Criminalisation and Control”. Information & Communications Technology Law 29/3 (01 Eylül 2020), 308-323. https://doi.org/10.1080/13600834.2020.1794615
• Kontoğlu, Sena. “Avrupa Birliğinde Dezenformasyonla Mücadele ve Öz Regülasyon Modeli”. Sosyal Medya Hukuku Ve Yalan Haber. ed. Bülent Kent - Merve Ayşegül Kulular İbrahim. 125-152. Ankara: Adalet Yayınevi, 1.bs., 2022.
• Küçükaksu, Irmak. “Deepfake Teknolojisi Ile Dezenformasyon”. 31 Mart 2023. Erişim 14 Haziran 2023. https://www.aa.com.tr/tr/teyithatti/blog/deepfake-teknolojisi-ile-dezenformasyon-/1815712
• Metz, Rachel. “Baby Elon Musk, Rapping Kim Kardashian: Welcome to the World of Silly Deepfakes | Cnn Business”. CNN. 22 Haziran 2019. Erişim 14 Haziran 2023. https://www.cnn.com/2019/06/22/tech/deepfake-for-fun/index.html
• Mosley, Tonya. “Perfect Deepfake Tech Could Arrive Sooner Than Expected”. WBUR. 02 Ekim 2019. Erişim 14 Haziran 2023. https://www.wbur.org/hereandnow/2019/10/02/deepfake-technology
• Patterson, Dan. “From Deepfake to ‘Cheap Fake,’ It’s Getting Harder to Tell What’s True on Your Favorite Apps and Websites”. 13 Haziran 2019. Erişim 14 Haziran 2023. https://www.cbsnews.com/news/what-are-deepfakes-how-to-tell-if-video-is-fake/
• Rep. Clarke, Yvette D. [D-NY-9. H.R.3230 - 116th Congress (2019-2020), H.R.3230 - 116th Congress (2019-2020): DEEP FAKES Accountability Act. (28 Haziran 2019). Erişim 16 Haziran 2023. http://www.congress.gov/bill/116th-congress/house-bill/3230
• Sabes, Adam. “California Bill Would Criminalize Ai-Generated Porn Without Consent”. Text.Article. Fox News. Fox News. Fox News. 14 Nisan 2023. Erişim 15 Haziran 2023. https://www.foxnews.com/politics/california-bill-criminalize-ai-generated-porn-consent
• Sen. Portman, Rob [R-OH. S.2065 - 116th Congress (2019-2020), S.2065 - 116th Congress (2019-2020): Deepfake Report Act of 2019. (29 Ekim 2019). Erişim 15 Haziran 2023. http://www.congress.gov/bill/116th-congress/senate-bill/2065
• Sen. Sasse, Ben [R-NE. Text - S.3805 - 115th Congress (2017-2018), Text - S.3805 - 115th Congress (2017-2018): Malicious Deep Fake Prohibition Act of 2018. (21 Aralık 2018). Erişim 15 Haziran 2023. http://www.congress.gov/bill/115th-congress/senate-bill/3805/text
• Sharp, Alexandra. “EU Lawmakers Pass Landmark AI Regulation Bill”. Foreign Policy (blog), 14 Haziran 2023. https://foreignpolicy.com/2023/06/14/eu-ai-act-european-union-chatgpt-regulations-transparency-privacy/
• Solichah, Isnaini Imroatus vd. “Protection of Victims of Deep Fake Pornography in a Legal Perspective in Indonesia”. International Journal of Multicultural and Multireligious Understanding 10/1 (Ocak 2023), 283-290.
• Söyler, Yasin vd. “İnternette dezenformasyonla mücadele tartışmaları bağlamında Anayasa mahkemesinin wikipedia kararı”. Sosyal Medya Hukuku ve Yalan Haber. 39-86. İstanbul: onikilevha yayıncılık, 1.bs., 2022.
• Şimşek, Barış. “Dezenformasyona darbe! Twitter’dan operasyonel hesaplara engelleme”. Sabah. 14 Mayıs 2023. Erişim 15 Haziran 2023. https://www.sabah.com.tr/dunya/dezenformasyona-darbe-twitterdan-operasyonel-hesaplara-engelleme-6472895
• Ta, Tri. California Assembly Bill AB 1721, California Assembly Bill AB 1721 (Kanun No. AB 1721). Ceza Kanunu (17 Şubat 2023). https://openstates.org/ca/bills/20232024/AB1721/
• Taylan, Necip. “Bilgi”. TDV İslâm Ansiklopedisi. Erişim 13 Haziran 2023. https://islamansiklopedisi.org.tr/bilgi
• ThinkTech. “Yapay Zekâ Teknolojisinde Üçüncü Dalga Geliyor”. ThinkTech. 30 Mayıs 2019. Erişim 13 Haziran 2023. https://thinktech.stm.com.tr/yapay-zeka-teknolojisinde-ucuncu-dalga-geliyor
• Voice of Levant. “Seçime son günler kala deepfake yöntemiyle sahte video ve ses kaydı çıkarılabileceğini”. Twitter. 02 Mayıs 2023. Erişim 14 Haziran 2023. https://twitter.com/VoiceOfLevant/status/1653437952007995392
• Westerlund, Mika. “The Emergence of Deepfake Technology: A Review”. Technology Innovation Management Review 9/11 (Kasım 2019), 39-52.
• Yılmaztekin, Hasan Kadir. Yapay Zekânın Eser Sahipliği. 1 Cilt. Ankara: Adalet Yayınevi, 1.bs., 2021.
• “AI Act: A Step Closer to the First Rules on Artificial Intelligence | News | European Parliament”. 11 Mayıs 2023. Erişim 15 Haziran 2023. https://www.europarl.europa.eu/news/en/press-room/20230505IPR84904/ai-act-a-step-closer-to-the-first-rules-on-artificial-intelligence
• Application No.: 16/524,350, 22.04.2020, US Patent and Trademark Office, Application No.: 16/524,350, 22.04.2020, US Patent and Trademark Office (22 Nisan 2020). Erişim 15 Haziran 2023. https://www.uspto.gov/sites/default/files/documents/16524350_22apr2020.pdf
• “Biden Deepfake Etiketli Videosu”. haz. GOP. Yayın Tarihi 25 Nisan 2023. https://www.youtube.com/watch?v=kLMMxgtxQ1Y
• The White House. “Blueprint for an AI Bill of Rights | OSTP”. Erişim 15 Haziran 2023. https://www.whitehouse.gov/ostp/ai-bill-of-rights/
• “Chp’ye Gelen ‘Deep Fake’ Istihbaratı: ‘Erdoğan Düğmeye Bastı’ Iddiası”. 02 Mayıs 2023. Erişim 14 Haziran 2023. https://www.cumhuriyet.com.tr/siyaset/chpye-gelen-deep-fake-istihbarati-erdogan-dugmeye-basti-iddiasi-2077205
• Digital Single Market Directive (EU) 2019/790, Digital Single Market Directive (EU) 2019/790. Erişim 07 Mart 2023. Erişim 07 Mart 2023. https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:32019L0790
• EPO Kararı, 27.01.2020, EP 18 275 163, EPO Kararı, 27.01.2020, EP 18 275 163 (27 Ocak 2020). Erişim 15 Haziran 2023. https://register.epo.org/application?documentId=E4B63SD62191498&number=EP18275163&lng=en&npl=false
• Feilin v Baidu, Feilin v Baidu (Kanun No. Jing 0491 Min Chu No. 239). K. Jing 0491 Min Chu No. 239 (Beijing Internet Court 2018). Erişim 06 Mart 2023. https://www.bjinternetcourt.gov.cn/cac/zw/1556272978673.html
• Çin Derin Sentez Yasası, İnternet Bilgi Hizmetlerinin Derinlemesine Sentezinin Yönetimine İlişkin Hükümler. 12 (25 Kasım 2022). Erişim 16 Haziran 2023. http://www.cac.gov.cn/2022-12/11/c_1672221949354811.htm
• Kali̇forni̇ya Eyaleti̇ Seçim Yasası Bill Text - Ab-730, Kali̇forni̇ya Eyaleti̇ Seçim Yasası Bill Text - Ab-730. Seçim Yasası (03 Ekim 2019). Erişim 15 Haziran 2023. https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=201920200AB730
• euronews. “Kemal Kılıçdaroğlu, Rusya’yı Uyardı: Kasetlerin Arkasında Siz Varsınız”. 11 Mayıs 2023. Erişim 14 Haziran 2023. https://tr.euronews.com/2023/05/11/kemal-kilicdarogludan-rusyaya-acik-uyari-deep-fake-icerikler-ve-kasetlerin-arkasinda-siz-v
• “Kemal Sunal Reklamı Nasıl Çekildi? Yapımcıları Anlatıyor | Kamera Arkası 2 | Deepfake | Bay Mırmır”. haz. Bay Mırmır. Yayın Tarihi 17 Şubat 2021. https://www.youtube.com/watch?v=t9DbUAaJr9M
• “KVKK Biyometrik Verilerin İşlenmesinde Dikkat Edilmesi Gereken Hususlara İlişkin Rehber”, 16 Eylül 2021. https://kvkk.gov.tr/SharedFolderServer/CMSFiles/bd06f5f4-e8cc-487e-abe1-d32dc18e2d7e.pdf
• “‘Papa Francis’in Beyaz Mont Giydiği’ Iddiası”. 27 Mart 2023. Erişim 14 Haziran 2023. https://www.aa.com.tr/tr/teyithatti/aktuel/papa-francisin-beyaz-mont-giydigi-iddiasi-/1815693
• Regulation (EU) 2022/2065 of the European Parliament and of the Council of 19 October 2022 on a Single Market For Digital Services and amending Directive 2000/31/EC (Digital Services Act) (Text with EEA relevance), Regulation (EU) 2022/2065 of the European Parliament and of the Council of 19 October 2022 on a Single Market For Digital Services and amending Directive 2000/31/EC (Digital Services Act) (Text with EEA relevance). OJ L 277 (19 Ekim 2022). Erişim 16 Haziran 2023. http://data.europa.eu/eli/reg/2022/2065/oj/eng
• euronews. “Rusya’dan Kılıçdaroğlu’na cevap: Müdahale suçlamalarını reddediyoruz”. 12 Mayıs 2023. Erişim 14 Haziran 2023. https://tr.euronews.com/2023/05/12/rusyadan-kilicdarogluna-cevap-secimlere-mudahale-suclamalarini-kesinlikle-reddediyoruz
• Teksas Seçim Kanunu 86(R) SB 751, Teksas Seçim Kanunu 86(R) SB 751. Seçim Kanunu SB 751 (25 Mayıs 2019). Erişim 15 Haziran 2023. https://capitol.texas.gov/tlodocs/86R/billtext/html/SB00751F.htm
• Tencent v. Shanghai Yingxun Technology Co. Ltd, Tencent v. Shanghai Yingxun Technology Co. Ltd (Kanun No. Yue 0305 Min Chu No. 14010). K. Yue 0305 Min Chu No. 14010 (People’s Court of Nanshan (District of Shenzhen) 24 Aralık 2019). Erişim 06 Mart 2023. https://mp.weixin.qq.com/s/jjv7aYT5wDBIdTVWXV6rdQ
• Thaler v Commissioner of Patents [2021] FCA 879, Thaler v Commissioner of Patents [2021] FCA 879 (Federal Court of Australia 30 Temmuz 2021). https://artificialinventor.com/wp-content/uploads/2021/08/Thaler-v-Commissioner-ofPatents-2021-FCA-879.pdf
• Whether the Requirements of Section 7 and 13 Concerning the Naming of Inventor and the Right to Apply for a Patent Have Been Satisfied in Respect of GB1816909.4 and GB1818161.0 (BL O/741/19), Whether the Requirements of Section 7 and 13 Concerning the Naming of Inventor and the Right to Apply for a Patent Have Been Satisfied in Respect of GB1816909.4 and GB1818161.0 (BL O/741/19) (UK Intellectual Property Office 04 Aralık 2019). Erişim 09 Nisan 2023. https://www.ipo.gov.uk/p-challenge-decision-results/o74119.pdf