Yapay zeka suç işlerse sorumlu kim?

Sene 1981... Japonya'da motosiklet fabrikasında yapay zekaya sahip robot, teknik hata nedeniyle kontrolden çıkarak bir işçinin ölümüne yol açıyor. Otonom sistemin bu kusurundan o yıllarda insan sorumlu tutuluyor... Bu durum günümüzde de devam ediyor. Zira 'sorumluluk' denilince hukuk sisteminde akla ilk olarak insan geliyor ve geleneksel hukuk anlayışının tarihsel sürecinde, sadece insanların işlediği suçlar cezalandırılıyor.

Peki gelecekte otonom bir yapay zeka, insandan bağımsız şekilde suç işlerse? İşte yapay zekayla ilgili en çok tartışılan sorulardan biri bu ve böyle bir durumda kimin sorumlu tutulacağı... Çünkü sorumluluk sadece hak ve yükümlülüğü bulunanların, yani insanların karşı karşıya kaldığı bir hesap verme durumu.

Yapay zeka teknolojisindeki gelişmeler hukuktaki bu durumu gelecekte değiştirebilir mi? Marmara Üniversitesi Hukuk Fakültesi Ceza ve Ceza Usul Hukuku Anabilim Dalı Öğretim Üyesi Dr. Zafer İçer'e olası senaryoları sorduk. 'Yapay zeka suç işlerse sorumlusu kim olacak' sorusuna haberimizde yanıt aradık...

"Geleneksel hukuk anlayışı kökten değişebilir"

Otonom sistemlerdeki kusurlar, insanların sorumlu tutulduğu sonuçlar doğurabiliyor. Ancak gelecekte tasarlanması tartışmalara konu olan 'insandan daha zeki' yapay zekaların üretilmesi, yapay zekanın da hukuki bir kişilik olarak tanımlanmasını gündeme getirebilir. Yani teknolojik gelişmelerin boyutuna göre, yapay zekanın işlediği suçun sorumluluğu yine yapay zekaya ait olabilir. Peki, yapay zeka hukuki kişilik olarak tanımlanabilir mi?

"Yapay zeka, hukukta yerleşmiş anlayışları değiştirebilecek, çok önemli bir teknolojik devrim." Zafer İçer yapay zekanın gelecekte hukuka yansımasını bu sözlerle değerlendiriyor.

"Bu sistem içerisinde yalnızca insanların davranışlarından dolayı sorumlu tutulmasına imkan sağlayan sorumluluk modelleri inşa edilmiştir. Dolayısıyla sorumluluk süjesi denildiğinde esas olarak insan akla gelmektedir ve bu anlayış büyük ölçüde devam etmektedir. Yapay zekanın kişiliğinin tanınıp tanınamayacağına ilişkin farklı görüşler bulunmakla birlikte bu konudaki tartışmalar devam ediyor. Bazı görüşler buna ihtiyaç olmadığını ve yapay zekanın eşya statüsünde kabul edilerek tüm hukuki sorunların çözülebileceğini ileri sürüyor."

Yapay zekanın hukuktaki karşılığı 'yapay insan modeli' mi olacak?

Dünyada yapay zekanın hukuki kişiliğinin tanınması gerektiğini ileri süren görüşler de var. Yapay zekaya atfedilebilecek çeşitli kişilik modelleri tartışılıyor. Bu modellerden en fantastik olanı, 'yapay insan modeli.' Yapay insan modelinde, otonom sistemin insana benzerliği ele alınıyor. İçer bu modelle ilgili tartışmaları şöyle anlatıyor:

"Cezai sorumluluk açısından, en fazla tartışma yaratan görüş, yapay zekanın tıpkı insan gibi cezalandırılabileceğini ileri süren doğrudan sorumluluk modeli. Bu model, yapay zekanın tıpkı insan gibi hareket edebileceğini ve belirli amaçlara özgü olarak davranış sergileyebileceğini kabul ediyor. Bu görüşe göre yapay zeka, suçun maddi ve manevi unsurlarını insanlar gibi yerine getirebilir ve bu sebeple cezalandırılması mümkün olabilir. Dış dünyada olanlara karşı ilgi duyması, tepki vermesi, insanlar ile iletişim kurması ve bilinç düzeyi gibi aranan özellikler sebebi ile 'yapay insan modeli' olarak adlandırılmış. Ancak bu teoride hak ve sorumluluklar açısından birçok soru işareti ortaya çıkıyor."

Yapay insan modeli şimdilik olasılığı en az görülen ve ancak insandan zeki yapay zekaların üretimi gerçekleşirse kabul edilebilecek bir teoriden ibaret. Bu modelin en büyük handikabı, yapay zekanın yol açtığı suçlarda sorumluluğun hiçbir gerçek kişiye yükletilememesi problemiyle karşı karşıya kalınabileceği...

Gelecekte kabul görmesi en muhtemel model ise 'yapay vekil modeli' olarak görülüyor. Bu modele göre ise yapay zeka, insanın vekili statüsünde görülüyor.

"Yapay vekil hak ve sorumluluk bakımından gerçek kişinin talimatları ile bağlıdır, aksi durumda ise yetkisiz temsil hükümleri geçerli olur. Avrupa Parlamentosu Hukuk İşleri Komisyonu Robotik Tavsiye Raporunda da dile getirilen elektronik kişilik modelinde yapay zekanın, hak ve sorumluluk sahibi olduğu kabul ediliyor. Bununla birlikte, bu model yapay zekanın sorumluluğu açısından bazı sorunları beraberinde getiriyor. Yapay zekanın fiilleri ile verdiği zararlar hangi mal varlığından karşılanmalı veya cezai müeyyidelere tek başına mı yoksa üretici ile birlikte mi katlanmalı, kişiliğinin doğumu ve ölümü nasıl belirlenmeli gibi sorunlar başta geliyor."

[Grafik: TRT Haber]

[Grafik: TRT Haber]

Günümüzde yaygın olan model ise dolaylı faillik modeli... Yapay zekanın insani bir nitelik taşımadığı ve ceza sorumluluğu olmayan masum bir araç olduğu kabul ediliyor.

"Aslında potansiyel zararlar için yasal sorumluluğun kime isnat edilebileceği konusu, çözülmesi oldukça zor bir konu. Çünkü yapay zeka sistemlerinin geliştirilmesi ve işletilmesi oldukça karmaşık süreçler içeriyor. Ancak yine de bu meselenin hukuki düzlemde çözüme kavuşturulması gerekiyor. Nitekim Avrupa Parlamentosu’nun 6 Ekim 2021 tarihli kararında, cezai sorumluluğun tayini açısından net bir modelin benimsenmesinin önemine işaret ediliyor. Bu kararda değinilen önemli hususlardan bir diğeri de, düzenleyici hükümlerin her zaman insan sorumluluğunu temel alması gerekliliğinden söz edilmesi. Dolayısıyla, yapay zekanın ceza sorumluluğu konusunda dışlayıcı bir yaklaşım sergilendiği anlaşılıyor."

"Özgür irade olmadan cezai sorumluluk mümkün değil"

Yapay zekanın ceza sorumluluğuna tabi tutulabilmesi için belirli şartları yerine getiriyor olması lazım. Bunlardan en önemlisi kuşkusuz yapay zekanın insan gibi özgür bir iradeye sahip olması. Peki yapay zekanın özgür iradesi olabilir mi? Bu soru oldukça tartışmalı. İçer bu tartışmaları hukukçu gözüyle anlatıyor:

"Yapay zekanın ceza hukuku sorumluluğunun tartışılabilmesi için iradesi, fiil yeteneği, bilme ve isteme kabiliyeti, algılama ve davranışlarını yönlendirme yeteneğinin olup olmadığının ortaya konulması gerekiyor. Çünkü bunlar, geleneksel ceza sorumluluğunun temelini oluşturan kavramlar. Aslında yapay zekanın iradesine, özünde algoritmalara dayanan, makine öğrenmesi metoduyla yapay zekanın öğrenmesi ve tecrübe kazanmasıyla ortaya çıkan otonomlaştırılmış algoritmik bir irade denilebilir. Dolayısıyla bu noktada sorumluluk rejimine yabancı olan kavramlarla karşılaşıyoruz. Hukuk sistemlerinin bu problemleri çözebilmesi için, yeni kavramlara ve yeni hukuki müesseselere ihtiyaç duyulduğu şüphesiz."

[Fotoğraf: Getty]

"Günümüzde yapay zekanın öz farkındalığı yok, dolayısıyla iyi ile kötü ya da doğru ile yanlış arasındaki farkı algılayabilecek bir bilinç düzeyine sahip değil. Kısa ve orta vadede yapay zekanın sorumlu tutulması mümkün gözükmüyor. Bugün yapay zekayı sorumlu tutma çabalarının hukuki bir altyapısı bulunmuyor. Gelecekte ise süper yapay zekanın hayatımıza girmesi halinde, yapay zekanın hukuk sistemine entegrasyonu güçlü bir ihtimal olarak değerlendirilmeli. Böyle bir durumda yapay zekanın kişiliğinin tanınmasının yanında, hak ve yükümlülüklere sahip olması ve hareketlerinden sorumlu tutulabilmesi mümkün olabilir."

Peki yapay zeka ceza alırsa...

Yapay zekanın cezai sorumluluğuna ilişkin düzenlemeler dünyada henüz mevcut değil. Yapay zekanın gelecekte ceza sorumluluğunun kabul edilmesi halinde, ne tür ceza alabileceği tartışılan konulardan biri. İşte Hukukçu Zafer İçer'in bu konudaki öngörüleri:

"Geleneksel sistemde cezanın, önleme ve ıslah amaçları bulunuyor. Yani, bir taraftan insanların cezayı hissederek bir daha suç işlememesi amaçlanıyor, diğer taraftan da toplumda caydırıcılığın sağlanması hedefleniyor. Ancak cezanın bu amaçları, yapay zekanın özellikleriyle uyumlu değil. Ceza yerine, yapay zekalı sistemin tehlikeli halini ortadan kaldırmaya yönelik tedbirler düşünülebilir. Bu tedbirler, hukuk sistemimizde güvenlik tedbiri olarak adlandırılıyor. Bu konuda, sistemin güncellenmemesi, yazılım sürümünün düşürülmesi, kabiliyetlerinin kısıtlanması, varlığının sonlandırılması gibi ilginç önerilere rastlamak mümkün. Elbette tüm bu gelişmeler, hukukta yeni bir dönemin başlaması anlamına gelecek."
 

Grafik: Hafize Yurt