Yakın tarihe kadar yalnızca insan yaratıcılığının bir ürünü olarak var olan yapay zekâ teknolojileri, son yıllarda gerçeğe dönüşerek finans sektöründen sağlık sektörüne uzanan geniş bir yelpazede uygulama alanı bulmaya başladı.1 Yapay zekâ birinci elden deneyimlediğimiz faydalarının yanında şüphesiz ölçülmesi zor oranda riskler de barındırmakta. Bu yazımızda yapay zekâ teknolojilerine bağlı olası risklerde hukuki sorumluluk meselesi ele alınacaktır.

Herkesin üzerinde uzlaştığı tek bir tanım bulunmamakla birlikte yapay zekâ basitçe “bir bilgisayar programının veya bu programca kontrol edilen bir aygıtın genel olarak bilinç sahibi varlıklarca yapılan işleri yapma yetisi” olarak tanımlanabilir.2 Günümüzde yapay zekâ programları yüz tanıma ve suç eğilimi tahminleri gibi tehlikeli uygulamaların yanı sıra sürücüsüz araçlar veya arama motorları gibi zararsız görünen alanlarda da kullanılmaktadır.3

Yapay Zekâ Kaynaklı Riskler ve Sorumluluk

Toplumsal yaşamın neredeyse her alanında karşımıza çıkan veri destekli karar alma ve profilleme algoritmaları başta olmak üzere yapay zekâ sistemleri, hukuki olarak tanınmış pek çok hakkın uygulanması bakımından tehdit oluşturabilir. Yapay zekânın yanlış ellerde kötü niyetle kullanılması ifade özgürlüğü, gizlilik hakkı ve ayrımcılık yasağı hakkında endişe uyandırırken 4, sürücüsüz araçlar ve yapay zekâ destekli tıbbi aygıtlarda kullanılan yapay zekâ sistemlerinin verebileceği yanlış kararlar da kayda değer maddi ve manevi hasara yol açabilir.5

Yapay zekâ sistemleri tarafından alınan kararların soyut ve bağlamının dışında verilmiş kararlardan ziyade gerçek ve sanal ilişkilerin doğal bir sonucu olduğu düşünüldüğünde yapay zekâ kullanılarak alınan kararlardan doğacak hukuki ve cezai sorumluluğu tespit etmek de oldukça güçleştirmektedir.6 Yapay zekâ ve veri işleme çağının getirdiği sonsuz veri akışı ve teknolojik araçlarla insanlar arasında kurulan karmaşık ilişki ağı gerçekleşen bir riskin gerçek sorumlusunu tespit etmeyi neredeyse imkansız hale getirebilmektedir. Bu yüzden yapay zekâya ilişkin yeni hukuki düzenlemeler gelmesi eninde sonunda kaçınılmaz görünse de öncelikle sorumluluk atfına ilişkin etik ve hukuki soruların cevaplanması gerekliliği doğmaktadır.7

Düşünür Peter Cane, sorumluluğu tanımlarken “Sorumluluk yalnızca davranışın altında yatan niyetin iyiliği veya davranışın kendisinin iyiliği ile değil, mal ve can varlığının güvenliğine verdiğimiz değerin korunmasına ilişkin ortak menfaatlerimiz ve toplumsal risk ve kaynak dağıtımı ile de ilişkilidir. Bu bağlamda sorumluluk, bağıntısal bir olgudur”8 demektedir.

Tam da bu yüzden hukuki ilişkilerde sorumluluk atfına dair soyut ve genel bir cevap vermek imkânsız hale gelmektedir. Gerçekten de verilecek yanıt, eldeki somut olayın kendi özelliklerine göre değişiklik gösterecektir.9 Bu tespiti göz önüne alacak olursak alışageldiğimiz hukuk dallarından doğan ve hukuk düzenimiz tarafından müeyyideye tabi tutulmuş diğer davranışlarda olduğu gibi yapay zekâ ve ilgili teknolojilerin kullanımı konusunda da bu soruya tek ve basit bir cevap bulmaya çalışmak hata olacaktır.10

Yapay Zekâ, Kendi Kararlarından Sorumlu Tutulabilir Mi?

Yapay zekâ teknolojilerinin kullanımından doğan sorumlulukta pek çoğumuzun ilk aklına gelen soru dışarıdan kendi kendine, herhangi bir insan etkisi olmadan karar veriyormuş gibi görünen bu sistemlerin kendi davranışlarının sonuçlarına katlanarak sorumlu tutulması gerekip gerekmediği olmaktadır.

Hukukun sorumlu tutabileceği, yani “hukukun öznesi” olan varlıklar temel olarak gerçek kişilerden yani insanlardan oluşmaktadır. Ancak orta çağdan bu yana yaşanan gelişmeler sonucunda gerçek kişiliği olmayan bazı yapılar da hukuk öznesi olarak tanınabilmektedir. Gerçekten de bazı düşünürlere göre Avrupa Hukuku'nun gelişiminin temel taşlarından birisinin, kamu kuruluşları ve özel kurumlara bir “tüzel kişilik” tanınması olduğu söylenebilir.11

Günümüzde hemen hemen bütün hukuk sistemlerinde gerçek kişilerle beraber tüzel kişiler de hukukun öznesi olarak görülmektedir. Ancak bu tüzel kişiler de aslında belli bir amaç uğruna bilinçli hareket eden ve bu hareketlerinin amaçlarını açıklayabilecek olan insanların toplamından ibarettir. Bunların aksine, günümüzde kullanılan yapay zekâ teknolojileri genel itibariyle “kısıtlı yapay zekâ” kategorisine girmekte, yani yalnızca çok spesifik tek bir alanda karar verme yetisiyle donatılmış sistemlerden oluşmaktadır.

Dolayısıyla bu sistemlerin bilinçli hareket ettiğini söylemek mümkün olmayacağından, hukukun öznesi olamayıp, yalnızca nesnesi konumunda olabilecekleri söylenebilir.12 Gelecekte bilinçli ve tam bir yapay zekâ sisteminin üretilmesi halinde tekrardan tartışmaya açılabilecek olmakla beraber, günümüzde yapay zekâ sistemlerinin kendi kararlarından sorumlu tutulması mümkün görünmemektedir.

Yapay Zekânın Hukuki Niteliği Nedir?

Yapay zekâ sistemlerinin kendi davranış ve kararlarından sorumlu tutulamayacağı ve ancak bir hukuk nesnesi olabileceği tespiti yapıldıktan sonra, doğacak olası zararlarda sorumluluğun kimde olacağı sorusunun da cevaplanması gerekmektedir. Zira yapay zekâ sistemleri kullanıma girene kadar yazılımcı, üretici, veri sağlayıcısı gibi pek çok kişinin elinden geçmektedir.

Olası bir zararın doğması halinde bu kişilerden hangisinin sorumlu tutulacağı sorusuna cevap aranırken de öncelikle bir hukuk nesnesi olarak yapay zekânın hukuki niteliği ele alınmalı, daha sonra da zararın doğduğu şartlara göre sorumluluk ataması yapılmalıdır.

Günümüzde Avrupa Hukuku'nda yapay zekânın hukuki niteliği tartışılmakla beraber, genel kullanıma giren yapay zekâ sistemlerinin esasında son kullanıcılara ve üreticilere sunulan birer “ürün” olarak hayatımızda yer aldığı hakim görüş olarak kabul görmektedir.13 Aksini savunan görüşler olsa da, 85/374 sayılı Üreticinin Sorumluluğuna İlişkin Avrupa Konseyi Direktifi [“Direktif”] md.2 bağlamında ürün olarak görülen yapay zekâ sistemlerinin kararlarından doğan sorumluluk da aynı direktife göre “ürün sorumluluğu” bağlamında değerlendirilebilir.14

Direktifin yapay zekâya uygulanabilirliği tartışmaları süredursun, Avrupa Birliği tarafından 2021 yılının Nisan ayında yapay zekâya ilişkin mevzuatın düzenlenmesi amacıyla bir Taslak Regülasyon yayınlanmıştır. Taslak Regülasyon yapay zekâya ilişkin pek çok sorunu düzenlemekte, ancak sorumluluğa ilişkin herhangi bir düzenleme içermemektedir.15 2021 sonu veya 2022 başı itibariyle yapay zekâ ve ilgili teknolojilerden doğan sorumluluğa dair özel bir düzenleme yapılması beklenmektedir.16

Türk hukukunda ise üretici ve ürün kavramları hakkında Türk Borçlar Kanunu'nda genel bir düzenleme yapılmış değildir. Hukukumuzda ilk olarak 2003 yılında 4077 sayılı eski Tüketicinin Korunması Hakkında Kanun'da yapılan bir değişiklik ile ve Ayıplı Malın Neden Olduğu Zararlardan Sorumluluk Hakkında Yönetmelik hükümlerine göre yapay zekâ sistemlerinin de içinde sayılabileceği “gayri maddi mallar” da “mal” olarak sayılmıştır. Bu Kanunun yürürlükten kalkmasını takiben oluşan uzun bir hukuki boşluk süreci nihayet sona ermiş, 12 Mart 2021'de yürürlüğe giren 7223 sayılı Ürün Güvenliği ve Teknik Düzenlemeler Kanunu [“ÜGTDK”] ile gayri maddi mallar ve dolayısıyla yapay zekâ sistemleri de “ürün” olarak tanımlanmıştır.17

Yapay Zekâ Kararlarından Doğan Zararlarda Kimler Sorumlu Tutulabilir?

Yapay zekâ; gerek Avrupa Birliği'nde uygulama alanı bulan Direktif, gerekse de Türk hukukunda yeni yürürlüğe giren ÜGTDK anlamında ürün kategorisine girmekte ve dolayısıyla, yapay zekânın kararlarından meydana gelen zararların da bu düzenlemelerde öngörülen sorumluluk esaslarına göre incelenerek sonuca varılması gerekmektedir.

Direktif ile ÜGTDK pek çok bakımdan uyumludur. En önemlisi, her iki düzenlemede de üreticinin ve ithalatçının üründeki ayıptan kaynaklanan her türlü zarardan hem tüketici yani kullanıcının hem de kullanıcı olmayan üçüncü kişilerin zararları bakımından müteselsilen sorumlu olacağı düzenlenmiş, bunun yanında dağıtıcıların ise ikincil olarak sorumlu olacakları belirlenmiştir.18 Her iki düzenlemede de gözlemlenen bir başka önemli husus da üretici, ithalatçı ve yeri geldiğinde dağıtıcıların kusursuz sorumluluk esasına göre sorumlu tutulmuş olmalarıdır. Kusursuz sorumluluğun doğması için failin yani üreticinin kusuru aranmaz ve niyeti ile sahip olduğu bilgi ve bilinç seviyesi sorgulanmaksızın sorumlu tutulur.19

Direktif ve ÜGDTK kusursuz sorumluluğu benimsediğinden, üreticinin sorumlu tutulabilmesi için ürünün ayıplı olduğunu, meydana gelen zararı ve üründeki ayıpla meydana gelen zarar arasındaki nedensellik bağının ispat edilmesi yeterlidir. Hukukumuzda buradaki ürünün ayıplı olduğunun ispat edilmesi yükünün dahi olabildiğince dar yorumlanması gerektiği savunulmaktadır. Hatta ÜGDTK öncesi dönemde verilen kararlarda dahi Yargıtay “İmalat işinin çok komplike olması nedeniyle, zarar görenin bazı hususları kanıtlaması imkânsız olacağından fiili karinenin ispat yerine geçmesi kabul edilmelidir”20 diyerek ürünün zarara yol açmasının kendi başına ürünün ayıplı olduğuna dair bir karine niteliği taşıdığını ifade etmekteydi. Özellikle de yapay zekâ sistemleri çok karışık yazılım ve algoritmalar ile veri tabanlarından oluştuklarından, zarar gören kişinin zarara sebebiyet veren yapay zekânın ayıplı olduğunu kanıtlaması imkansıza yakın olabilir. Henüz uygulamada pek rastlanmayan ÜGDTK kapsamında da bu yönde yorum yapılmasının isabetli olacağı söylenebilir.

Üreticiler Hangi Durumlarda Sorumluluktan Kurtulabilir?

Üreticiler kural olarak yapay zekâ sistemlerinin verdiği zararlardan kusurları aranmaksızın sorumlu olsa da hem ÜGDTK kapsamında hem de Direktif kapsamında bu sorumluluğun ortadan kalkmasına neden olan durumlar da var. Ancak sorumluluğun tesis edilmesi konusunda büyük ölçüde uyuşan iki düzenleme, sorumluluktan kurtulma konusunda ciddi farklılıklar sergilemektedir.

ÜGDTK'ye göre, üretici ürünü kendisinin piyasaya sürmediğini, ayıbın dağıtıcının ürüne müdahalesinden veya kullanıcıdan kaynaklandığını veya üründeki ayıbın teknik düzenlemelere veya diğer zorunluluklara uygun olarak üretilmesinden kaynaklandığını ispat ederse sorumluluktan kurtulabilir. Bununla beraber ayıbın kendisi kullanıcıdan kaynaklanıyor olmasa bile zarar ayıpla beraber kullanıcıdan da kaynaklanıyorsa üreticinin sorumluluğu kısmen veya tamamen ortadan kalkabilir.21

Direktif'e göre ise ÜGDTK'de sayılan sorumluluktan kurtulma sebeplerinin yanı sıra üretici, “ürünün piyasaya sürülmesi zamanındaki bilimin ve tekniğin düzeyine göre üründeki hatanın belirlenmesinin mümkün olmaması” halinde de sorumluluktan kurtulur. Pratikte en sık rastlanan bu sorumluluktan kurtulma hali, sık sık eleştirilmektedir. Özellikle de yapay zekâ gibi yeni dijital teknolojilerden faydalanılan ürünlerde bu savunma öne sürülebildiğinden, özel bir düzenlemeye ihtiyaç duyulduğu kanısı yaygınlaşma eğilimindedir.22

Yapay Zekâ Kararlarından Cezai Sorumluluk Doğar Mı?

Yapay zekâ kararlarının yol açtığı maddi ve manevi zararlara ilişkin tazminat yükümlülüğü, yukarıda açıklandığı şekilde, ürün sorumluluğuna dair kurallar uygulanarak yorum yoluyla büyük ölçüde çözülebilmektedir. Ancak ilgili zararın özellikle de ölüme veya yaralanmaya sebebiyet vermesi halinde beraberinde bir cezai soruşturma getirmesi de kaçınılmazdır.

Günümüzde esasen ceza hukukunun temelini “kast” kavramı oluşturur ve bu kavram davranışın bütün sonuçlarıyla beraber istenmesine ve bilinçli şekilde hareket edilmesini ifade eder. Kasta dayalı sorumluluk ancak (i) failin, sorumluluk doğuran fiili isteyerek ve özgür iradesiyle yaptığı, (ii) failin, davranışlarının ve davranışlarının doğuracağı zararlı sonuçların bilincinde olduğu durumlarda ortaya çıkar. Pek çok hukuk sisteminde olduğu gibi Türk hukukunda da ceza alanında sorumluluk kural olarak yalnızca kasta dayalı tanınsa da öldürme ve yaralama gibi suçlar “taksirle” yani kusura dayalı olarak da işlenebilir.23

Şüphesiz ki başka kimselere maddi veya manevi zarar vermek niyetiyle bu amacı gerçekleştirmeye uygun bir yapay zekâ geliştiren veya bu yapay zekâyı kullanan bir kimse, bu kasıtlı hareketi sebebiyle sorumlu tutulabilir, ceza soruşturmaları ve hukuki talepler ile karşı karşıya kalabilir.24 Ancak yapay zekânın kullanım alanlarında özellikle de taksirle işlenebilen suçlar tartışma konusu olabilmektedir. Amerika Birleşik Devletleri'nde 2018 yılında meydana gelen ancak henüz sonuçlanmayan bir örnekte, kendi kendini kullanan bir otomobilin, bisikletini elinde taşıyan bir kadına çarparak ölümüne sebebiyet verdiği olayın ardından otomobilin içerisinde oturarak otomobili gözlemlemekle görevli olan şahıs aleyhine taksirle öldürme suçundan soruşturma açılmıştır.25 Dolayısıyla cezai davalarda tazminat sorumluluğunun aksine doğrudan üreticiye başvurulmayacağı, her olayın kendi özelliğine göre inceleme gerektirdiği söylenebilir.

Sonuç: Yapay Zekâ Teknolojilerini Üretenler ve Kullananlar Neye

Dikkat Etmeli?

Yukarıdaki açıklamalar ışığında, yapay zekâ kararlarından doğan hukuki ve cezai sorumluluğun belirlenmesi konusunda henüz somut ve özel bir düzenleme olmadığı sonucuna varılabilir. Ancak var olan hukuki kurumlar da bu konuda yol gösterici olup olası sorunlara karşı yorum yoluyla çözümler getirebilmektedir.

Yapay zekâ teknolojilerinden en çok faydalanan taraf olan üretici şirketler aynı zamanda en büyük sorumluluğu taşımakta ve bu bağlamda, olası bir hatalı yapay zekâ kararından doğacak zararlardan kusurlu olmasalar dahi birincil sorumlu olacaklarından, piyasaya sürdükleri yapay zekâ bazlı yazılım ve sistemlerin zarara sebebiyet verecek kararlar almayacağından emin olmalıdırlar. Bununla beraber kullanıcılar da özellikle kendi kendini kullanan arabalar gibi olası bir hatada büyük zarara sebebiyet verebilecek sistemleri kullanırken azami özen göstererek olası bir kazada kullanıcı kusuru olarak yorumlanabilecek eylemlerden kaçınmalıdırlar.

Footnotes

1 Forbes, How Is AI Used In Healthcare - 5 Powerful Real-World Examples That Show The Latest Advances https://www.forbes.com/sites/bernardmarr/2018/07/27/how-is-ai- used-in-healthcare-5-powerful-real-world-examples-that-show-the- latest-advances/?sh=532205675dfb

2 Brittanica, Artificial Intelligence https://www.britannica.com/technology/artificial-intelligence

3 GIUFFRIDA, Iria, Liability for AI Decision-Making: Some Legal and Ethical Considerations, Fordham Law Review 88 (2019) sf. 441

4 YEUNG, Karen, Responsibility and AI, Avrupa Konseyi Çalışması DGI(2019)05, sf. 28-43

5 DEMPSEY, James X., Artificial Intelligence: An Introduction to the Legal, Policy and Ethical Issues, Berkeley Hukuk ve Teknoloji Merkezi, 2020, 10-14

6 GIUFFRIDA, 442.

7 GIUFFRIDA, 456.

8 CANE, Peter, Responsibility in Law and Morality, 2002, 109.

9 YEUNG, 56.

10 YEUNG, 56.

11 HILDEBRANDT, Mireille, Human Law and Computer Law: Comparative Perspectives 2013, 37.

12 HILDEBRANDT, 37.

13 SARI, Onur, Yapay Zekânın Sebep Olduğu Zararlardan Doğan Sorumluluk, TBB Dergisi 2020 (147) sf. 259.

14 Konsey Direktifi 85/374/EEC, 25 Temmuz

15 Komisyon Teklifi 2021/0106 (COD), 22 Nisan

16 Avrupa Komisyonu, A European approach to Artificial intelligence, https://digital-strategy.ec.europa.eu/en/policies/european-approach- artificial-intelligence> 10 Mayıs 2021 tarihinde erişilmiştir.

17 KANIŞLI, Erhan, Ürün Güvenliği ve Teknik Düzenlemeler Kanunu (ÜGTDK) Uyarınca Üreticinin Sorumluluğu, İstanbul Hukuk Mecmuası 78 / 3 (Aralık 2020), sf. 1432.

18 KANIŞLI, 1422.

19 CANE, 82.

20 Yargıtay 4. HD. 1994/6256 E.,1995/2596 K., 27.03.1995 T.

21 ÜGDTK md.21.

22 KANIŞLI, sf. 1423-1425.

23 Türk Ceza Kanunu md.22.

24 YEUNG, sf. 57-58.

25 BBC,   Uber's   self-driving   operator   charged   over   fatal   crash https://www.bbc.com/news/technology-54175359

The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.