Preventing Contradiction to Law Caused By Chatbots Like ChatGPT

Year 2023, Volume: 5 Issue: 2, 747 - 789, 30.12.2023

Mahmut Furkan Balaban , Merve Aysegul Kulular Ibrahım

https://doi.org/10.47136/asbuhfd.1355222

Cited By: 5

Abstract

Chatbots have been actively used in many different sectors from health to e-commerce since it makes it possible to reduce personnel and operating costs. The validity of the contract, which is thought to be established between the parties consisting of the user and the chatbot, forms the basis of this discussion. The terms of the contract that the user will accept or reject due to the fact that the user does not know whether the other party is a real person or a virtual person before accepting the terms presented to him before the user starts using the chatbot also varies. The fact that the person communicating with the chatbot is not known and the chatbot creates messages tailored to the user's personal data directly affects the validity of the contract made in terms of contract autonomy and freedom of will. However, the big data stacks that are the source of the answers given by the chatbot and whose rights are disputed under the Law on Intellectual and Artistic Works no. 5846 also include the personal data of the users. Another problem stands out as the fact that the processing activity made by chatbots such as ChatGPT, which has various problems in terms of fulfilling the obligation of disclosure, which forms the basis of every personal data processing activity, is not in compliance with the law. In this study, it is discussed that the legal disputes that arise with the use of chatbots cannot be met with the existing legislation, the necessity of making special arrangements regarding this issue and how the current legislation can be interpreted for chatbots.

Keywords

ChatGPT, personal data protection, chatbot, freedom of contract, artificial intelligence

CHATGPT GİBİ SOHBET YAZILIMLARININ (SOHBET BOTLARI/ CHATBOTS) NEDEN OLDUĞU HUKUKA AYKIRILIKLARIN ÖNLENMESİ

Abstract

Sohbet yazılımları, personel ve işletme maliyetlerinin azaltılmasını mümkün kıldığından sağlıktan e-ticarete kadar pek çok farklı sektörde aktif olarak kullanılmaya başlanmıştır. Kullanıcı ve sohbet yazılımından oluşan taraflar arasında kurulduğu düşünülen sözleşmenin geçerliliği ise bu tartışmanın temelini oluşturmaktadır. Kullanıcının sohbet yazılımını kullanmaya başlamadan kendisine sunulan şartları ve sözleşmeyi kabul etmeden önce muhatap olduğu karşı tarafın gerçek kişi mi yoksa sanal kişi mi olduğunu bilmemesinden kaynaklı olarak kabul edeceği veya reddeceği sözleşme şartları da değişkenlik gösterecektir. Sohbet yazılımını temsilen kullanıcıyla iletişime geçenin bilinebilir olmaması ve sohbet yazılımının kullanıcının kişisel verilerine göre düzenlenmiş ileti oluşturması durumları, sözleşme özerkliği ve irade özgürlüğü bakımından yapılan sözleşmenin geçerliliğini doğrudan etkilemektedir. Bununla birlikte, sohbet yazılımlarının verdikleri cevapların kaynağını oluşturan ve 5846 sayılı Fikir ve Sanat Eserleri Kanunu kapsamında hak sahipliği tartışmalı olan büyük veri yığınları kullanıcıların kişisel verilerini de içermektedir. Her kişisel veri işleme faaliyetinin temelini oluşturan aydınlatma yükümlülüğünün yerine getirilmesi bakımından çeşitli problemler içeren ChatGPT gibi sohbet yazılımlarınca yapılan işleme faaliyetinin hukuka uygun olmadığı da bir başka sorun olarak göze çarpmaktadır. Bu çalışmada, sohbet yazılımlarının kullanımıyla birlikte ortaya çıkan hukuki uyuşmazlıkların var olan mevzuat ile karşılanamadığı, bu konuya ilişkin özel düzenlemelerin yapılması gerekliliği ve halihazırdaki mevzuatın sohbet yazılımları için nasıl yorumlanabileceğine yer verilmiştir.

Keywords

ChatGPT, kişisel verilerin korunması, sohbet robotu, sözleşme özgürlüğü, yapay zeka

References

• Akgün, Abdullah. "Otel Faaliyetleri İçin Yapay Zekâ Destekli Uygulamalar." Selçuk Turizm ve Bilişim Araştırmaları Dergisi, no. 3 (2023): 1 - 21.
• Ateş, Derya. "Sözleşme Özgürlüğü Yönünden Dürüstlük Kuralları." Türkiye Barolar Birliği Dergisi no. 72 (2007): 75 - 93.
• Ateş, Mustafa. "Veri Tabanlarının Hukukî Koruması." Ankara Üniversitesi Hukuk Fakültesi Dergisi 55, no. 1 (2006): 47 - 84.
• Aydın, Olgun. Derin Öğrenme ile Karar Verme Süreçleri. İstanbul: Mimar Sinan Güzel Sanatlar Üniversitesi, Fen Bilimleri Enstitüsü, İstatistik Anabilim Dalı, Doktora Tezi, 2019.
• Balaban, Mahmut Furkan. Elektronik Haberleşme Sektöründe İşlenen Kişisel Verilerin Korunması. Ankara: Adalet Yayınevi, 2023.
• Başkaya, Fatma ve Hacer Karacan. “Yapay Zekâ Tabanlı Sistemlerin Kişisel Veri Mahremiyeti Üzerine Etkisi: Sohbet Robotları Üzerine İnceleme.” Bilişim Teknolojileri Dergisi 15, no. 4 (2022): 481-491.
• bbc.com/turkce, “ChatGPT, Kişisel Veri Kurallarını İhlâl Ettiği Gerekçesiyle İtalya’da Bloke Edildi.” https://www.bbc.com/turkce/articles/cw0971dy8rzo . Erişim tarihi Temmuz 3, 2023.
• Bozgeyik, Hayri. Marka Hakkının Korunması. İstanbul: On İki Levha Yayıncılık, 2019.
• ChatGPT. Kullanıcı İçeriğini Devre Dışı Bırakma İsteği Formu. https://docs.google.com/forms/d/e/1FAIpQLScrnC-_A7JFs4LbIuzevQ_78hVERlNqqCPCt3d8XqnKOfdRdQ/viewform . Erişim tarihi Temmuz 9, 2023.
• Büyüksağiş, Erdem. “Yapay Zeka Karşısında Kişisel Verilerin Korunması ve Revizyon İhtiyacı.” Yeditepe Üniversitesi Hukuk Fakültesi Dergisi 18, no. 2 (2021): 529-541.
• Cambridge Dictionary. "Opt-out." https://dictionary.cambridge.org/dictionary/english/opt-out . Erişim tarihi Temmuz 9, 2023.
• Çelikdemir, Tümay. Dünyada Dijital Paralar ve Bankacılık: Türk Bankacılık Sistemi için Öneri. İstanbul: T.C. Marmara Üniversitesi, Bankacılık ve Sigortacılık Enstitüsü, Yüksek Lisans Tezi, 2022.
• Çınar, Kazım. Milletlerarası Özel Hukukta İrade Serbestisi. İstanbul: Marmara Üniversitesi, Sosyal Bilimler Enstitüsü, Özel Hukuk Anabilim Dalı, Doktora Tezi, 2021.
• Connecticut General Assembly. "Uniform Electronic Transactions Act." https://www.cga.ct.gov/lrc/ElectronicCommunications/ElectUETACalPAConsumRev.htm. Erişim tarihi Mart 20, 2023.
• Dalcı Özdoğan, Nurcihan. "Sözleşmenin Yorumunda Gerçek İradenin Tespiti." İnönü Üniversitesi Hukuk Fakültesi Dergisi 8, no. 1 (2017): 33 - 52.
• Dayan, Ali ve Atınç Yılmaz. "Doğal Dil İşleme ve Derin Öğrenme Algoritmalari ile Makine Dili Modellemesi." Dicle Üniversitesi Mühendislik Fakültesi Mühendislik Dergisi 13, no. 3 (2022): 467 - 475.
• Dilek, Uğur Bekir. "İslâm Borçlar Hukukunda Fiilî Mübadele Yoluyla Akit Kurma: Teâtî (Muâtât) Akdi." İhya Uluslararası İslam Araştırmaları Dergisi 7, no. 2 (2021): 715 - 741.
• Divya S, Indumathi V, Ishwarya S, Priyasankari M, Kalpana Devi S. “A Self-Diagnosis Medical Chatbot Using Artificial Intelligence.” Journal of Web Development and Web Designing 3, no.1 (2018): 1.
• Eliöz, Rümeysa, Berk Özsoy, Abdullah H. Özcan, Hüseyin Kara ve Lütfü Çakıl. "Türkçe Dili Sohbet Botlarında Alt Kelime Anlamsal Karması ile Niyet Sınıflandırması." İç. 29th Signal Processing and Communications Applications Conference (SIU). 1 - 4. İstanbul: IEEE, 2021. https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=9478003. Erişim tarihi Haziran 13, 2023.
• Ercan, Saniye Ezgi. Avrupa Birliği Dijital Tek Pazarda Telif Hakkı Yönergesi ile Öngörülen İstisnalar Çerçevesinde Türk Fikir ve Sanat Eserleri Kanunu'nun Değerlendirilmesi. Ankara: İhsan Doğramacı Bilkent Üniversitesi, Ekonomi ve Sosyal Bilimler Enstitüsü, Yüksek Lisans Tezi, 2022.
• Erdoğan, Gökhan. "Yapay Zekâ ve Hukukuna Genel Bir Bakış." Adalet Dergisi, no. 66 (2021): 117-192.
• Eren, Fikret. Borçlar Hukuku Genel Hükümler. İstanbul: Beta, 2009.
• Gabriel , Henry D. "The New United States Uniform Electronic Transactions Act : Substantive Provisions, Drafting History and Comparison to the UNCITRAL Model Law on Electronic Commerce." Uniform Law Review no. 4 (2000): 651 - 664.
• Giakoumopoulos, Christos , Giovanni Buttarelli ve Michael O’Flaherty. Avrupa Veri Koruma Mevzuatı El Kitabı. Çeviren: İstanbul Bilgi Üniversitesi Bilişim ve Teknoloji Hukuku Enstitüsü. Luxembourg: Publications Office of the European Union, 2018.
• https://itlaw.bilgi.edu.tr/media/2020/3/30/Bilgi_Avrupa_Veri_Koruma_Mevzuat%C4%B1_El_Kitab%C4%B1_2018_TR_v01_16022019.pdf. Erişim tarihi Mayıs 15, 2023.
• Gökpınar, Ali. Otelcilik Sözleşmesi. Ankara: Yetkin Yayınları, 2022.
• Hasal, Martin, Jana Nowaková, Khalifa Ahmed Saghair, Hussam Abdulla, Václav Snášel, Lidia Ogiela. "Chatbots: Security, Privacy, Data Protection, and Social Aspects." Concurrency and Computation: Practice and Experience (2021): 1-13.
• Hasan, Afan. Derin Öğrenme ve Makine Öğrenmesi Yöntemleriyle Borsa Alım Satım Davranışlarının Modellenmesi. İstanbul: Yıldız Teknik Üniversitesi, Fen Bilimleri Enstitüsü, Bilgisayar Mühendisligi Anabilim Dalı, Doktora Tezi, 2020.
• Helvacı, Serap ve Bülent Karasu. "Yetkisiz Temsilcinin Hukuki Sorumluluğu." Marmara Üniversitesi Hukuk Fakültesi Hukuk Araştırmaları Dergisi 24, no. 1 (2018): 197 - 214.
• Hickok, Merve. "Üretici Yapay Zekâ Neden Mahremiyet, Ön Yargı ve Siber Güvenlik Açısından Bir Kâbus Oluşturuyor?." Kişisel Verileri Koruma Kurumu Bülten, no.1 (2023): 6-8.
• Huemer, Marie-Astrid. "Revision of Directive 96/9/EC on The Legal Protection of Databases." European Parliament. Ekim 2021. https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/694232/EPRS_BRI(2021)694232_EN.pdf. Erişim tarihi Mayıs 17, 2023.
• Hussain, Saqib, Safa Hamood Al-Hashmi, Mazhar Hussain Malik, Syed Imran Ali Kazmi. "Chatbot in E-learning." In SHS Web of Conferences: International Conference on Teaching and Learning – Digital Transformation of Education and Employability 156 (2022): 1-5.
• Illescas-Manzano, María D, Noé Vicente López, Nuno Afonso González ve Carmen Cristofol Rodríguez. "Implementation of Chatbot in Online Commerce, and Open Innovation." Journal of Open Innovation: Technology, Market, and Complexity 7, no.2 (2021):1-20.
• Kişisel Verileri Koruma Kurumu. "Yapay Zekâ Alanında Kişisel Verilerin Korunmasına Dair Tavsiyeler." https://www.kvkk.gov.tr/Icerik/7048/Yapay-Zeka-Alaninda-Kisisel-Verilerin-Korunmasina-Dair-Tavsiyeler . Erişim tarihi Temmuz 8, 2023.
• Kişisel Verileri Koruma Kurumu. "Aydınlatma Yükümlülüğünün Yerine Getirilmesi Hakkında Kamuoyu Duyurusu." https://www.kvkk.gov.tr/Icerik/6765/AYDINLATMA-YUKUMLULUGUNUN-YERINE-GETIRILMESI-HAKKINDA-KAMUOYU-DUYURUSU . Erişim tarihi Temmuz 8, 2023.
• Kottorp Max ve Filip Jäderberg. "Chatbot as a Potential Tool For Businesses- A Study on Chatbots Made in Collaboration with Bisnode." https://www.diva-portal.org/smash/get/diva2:1119783/FULLTEXT01.pdf . Erişim tarihi Temmuz 1, 2023.
• Kulular İbrahim, Merve Ayşegül. Robo Danışmanların Hukuken Değerlendirilmesi. Ankara: Adalet Yayınevi, 2023.
• Mendapara, Harsh, Suhas Digole, Manthan Thakur, Anas Dange. "AI Based Healthcare Chatbot System Using Natural Language Processing." International Journal of Scientific Research and Engineering Development 4, no.2 (2021): 89-96.
• Misischia, Chiara Valentina, Flora Poecze, Christine Strauss. "Chatbots in Customer Service: Their Relevance and Impact on Service Quality." Procedia Computer Science 201 (2022): 421-428.
• Nehf, James P. "Limiting Identity Theft in an E-Commerce World." New Zealand Business Law Quarterly 8 (2002): 377 - 394.
• Open AI. "Privacy Policy." openai.com. https://openai.com/policies/privacy-policy . Erişim tarihi Temmuz 8, 2023. Open AI. "How Your Data is Used to Improve Model Performance." openai.com. https://help.openai.com/en/articles/5722486-how-your-data-is-used-to-improve-model-performance . Erişim tarihi Temmuz 8, 2023.
• Özçelik, Barış. "Yapay Zekanın Veri Koruma, Sorumluluk ve Fikri Mülkiyet Açısından Ortaya Çıkardığı Hukuki Gereksinimler. Adalet Dergisi, no. 66 (2021): 87-116.
• Özdemir, Ahmet. "Akitlerde İrade Beyanı." Çukurova Üniversitesi İlahiyat Fakültesi Dergisi 8, no. 2 (2008): 117 - 131.
• Öztekin, Alp. Bilişim Sistemine Girme Suçu (TCK m. 243). Ankara: Seçkin Yayıncılık, 2023.
• Park, Dong-Min, Seong-Soo Jeong, and Yeong-Seok Seo. "Systematic Review on Chatbot Techniques and Applications." Journal of Information Processing Systems 18, no.1 (2022): 26-47.
• Ramachandran, Divya, Anupam Keshari ve Manoj Kumar Tiwari. "Contract Price Negotiation Using an AI-Based Chatbot." İçinde Applications of Emerging Technologies and AI/ML Algorithms, ICDAPS 2022, Asset Analytics, düzenleyen: Manoj Kumar Tiwari, Madhu Ranjan Kumar, Rofin T. M. ve Rony Mitra. Springer: Singapore, (2023) : 303 - 310.
• Rodríguez Cardona, Davinia, Antje Janssen, Nadine Guhr, Michael H. Breitner ve Julian Milde. "A Matter of Trust? Examination of Chatbot Usage in Insurance Business." İçinde Proceedings of the 54th Hawaii International Conference on System Sciences. Grand Wailea, Maui, Hawaii, (2021): 556-565.
• Sağdıç, Zekeriya Alperen ve Sunagül Sani Bozkurt. "Otizm Spektrum Bozukluğu ve Yapay Zeka Uygulamaları." Açıköğretim Uygulamaları ve Araştırmaları Dergisi 6, no. 3 (2020): 92 - 111.
• Sağlam, Rahime Belen, Jason R. C. Nurse. "Is your Chatbot GDPR Compliant? Open Issues in Agent Design." In: CUI '20: Proceedings of the 2nd Conference on Conversational User Interfaces, 1-22.
• Şenocak, Zarife. "İnternette Kurulan Açık Artırma ile Satım Sözleşmesi." Ankara Üniversitesi Hukuk Fakültesi Dergisi 50, no. 3 (2001): 93 - 114.
• Suluk, Cahit, Rauf Karasu ve Temel Nal. Fikri Mülkiyet Hukuku. Ankara: Seçkin Yayıncılık, 2022.
• Taşbaşı, Tuğba. Derin Öğrenme Tabanlı Hibrit Model Tasarımı ile EKG Sinyal Sınıflandırmasında Aritmi Tespiti. Karabük: Karabük Üniversitesi, Lisansüstü Eğitim Enstitüsü, Biyomedikal Mühendisliği Anabilim Dalı, Yüksek Lisans Tezi, 2022.
• theverge.com. "ChatGPT Returns to Italy After Ban." https://www.theverge.com/2023/4/28/23702883/chatgpt-italy-ban-lifted-gpdp-data-protection-age-verification . Erişim tarihi Temmuz 7, 2023.
• Türkiye Cumhuriyeti Cumhurbaşkanlığı Dijital Dönüşüm Ofisi. “Chatbot Uygulamaları ve ChatGPT Örneği.” (2023): 6, https://cbddo.gov.tr/SharedFolderServer/Genel/21.Chatbot-Uygulamas%C4%B1-ve-ChatGPT-%C3%96rne%C4%9Fi-De%C4%9Ferlendirme-Raporu.pdf . Erişim tarihi Temmuz 1, 2023.
• "The Proposal for a Laying Down Harmonised Rules On Artificial Intelligence (Artifıcial Intelligence Act) And Amending Certain Union Legislative Acts." https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0001.02/DOC_1&format=PDF . Erişim tarihi Temmuz 10, 2023.
• von Wolff Raphael Meyer, Sebastian Hobert, Matthias Schuman. "How May I Help You? – State of the Art and Open Research Questions for Chatbots at the Digital Workplace." Proceedings of the 52nd Hawaii International Conference on System Sciences (2019): 96.
• Vasileiou Maria V. ve Ilias G. Maglogiannis. "The Health ChatBots in Telemedicine: Intelligent Dialog System for Remote Support." Journal of Healthcare Engineering (2022): 1-12.
• Weitzenboeck, Emily M. "Electronic Agents and the Formation of Contracts." International Journal of Law and Information Technology 9 no. 3 (2001): 204 - 234.