İÇİNDEKİLER 

​​ 1.ÖZET

2.GİRİŞ

3. YAPAY ZEKADA KARA KUTU PROBLEMİ

       3.1. İşe Alım Süreçlerinde Yapay Zeka ve Ayrımcılık Riski      

          3.1.1. Yapay Zeka Destekli İşe Alım Süreci

       3.2. Yargı Sistemlerinde Yapay Zekâ Kullanımı ve Etik Sorunlar 

4. AÇIKLANABİLİR YAPAY ZEKA (XAI) YAKLAŞIMI

       4.1. Kara Kutu Yapay Zekâ ve Açıklanabilir Yapay Zekâ Karşılaştırması 

5. HUKUKİ VE ETİK DEĞERLENDİRME

6. UYGULAMALI YAPAY ZEKA DENEYİ   

       6.1. Uygulama 1: Google Teachable Machine ile Görüntü Sınıflandırma Deneyi

       6.2. Uygulama 2: Yapay Zekâ Risk Analizi Deneyi

7. SONUÇ

8. KAYNAKÇA

 

1. Özet 

Yapay zekâ artık hayatımızın her yerine girmiş durumda. İnsan kaynakları, güvenlik, finans, hukuk… Bu alanlarda sistemler artık bizim yerimize kararlar veriyor ya da en azından bizi doğrudan etkileyen önerilerde bulunuyor. Asıl sorun şu: Bu kararların neden verildiğini çoğu zaman kimse tam olarak bilmiyor. Literatürde buna “kara kutu problemi” deniyor. 

Bu problem kulağa teknik bir mesele gibi gelse de aslında son derece insani bir şey. Sizi doğrudan etkileyen bir kararın gerekçesini bilememek hem sinir bozucu hem de hak ihlali sayılabilecek bir durum. Özellikle işe alım ve yargı süreçlerinde bu şeffaflık eksikliği, ciddi ayrımcılık risklerini de beraberinde getiriyor. Çünkü sistem geçmişten öğreniyor; geçmişte zaten var olan önyargılar da böylece algoritmaya işleniyor ve farkında olmadan yeniden hayat buluyor. 

Bu çalışmada söz konusu problemi bilişim etiği açısından incelenmiştir. İşe alım ve yargı alanlarındaki somut riskleri ele alnmış; açıklanabilir yapay zekânın bu sorunlara ne kadar çözüm olabileceğini araştırılmıştır. Bunların yanı sıra AB’nin Yapay Zekâ Yasası (AI Act), GDPR ve Türkiye’deki KVKK düzenlemelerini de bu bağlamda değerlendirdim. Sonuçta ortaya çıkan tablo şunu gösteriyor: Yapay zekâ ne kadar güçlü olursa olsun, şeffaf ve denetlenebilir olmadan güvenilir de olamaz. 

 

2. Giriş 

Bir düşünün: İş başvurusu yapıyorsunuz ve sonuç “reddedildi” çıkıyor. Kimse size neden reddedildiğinizi söylemiyor çünkü kararı bir insan değil, bir algoritma verdi. Ya da mahkemede bir sistem sizi “yüksek riskli birey” olarak nitelendiriyor ama bu sonuca nasıl ulaşıldığını hakim de tam olarak bilmiyor. Bu tablo artık zor bir senaryo değil; gerçek hayatta karşılaşılan durumlar bunlar. 

Teknolojinin bu kadar hızlı ilerlediği bir dönemde yapay zekâ sistemleri artık yalnızca mühendislik dünyasında değil, sıradan insanların günlük kararlarının tam ortasında yer alıyor. Bir kişinin işe alınıp alınmayacağı, kredi başvurusunun onaylanıp onaylanmayacağı ya da güvenlik riski taşıyıp taşımadığı; bazı durumlarda doğrudan bir algoritma tarafından değerlendiriliyor. Karar mekanizmalarında insan rolü giderek geriye çekilirken algoritmalar ön plana çıkıyor. 

Yapay zekâ sistemleri, özellikle derin öğrenme modelleri, milyonlarca parametre üzerinden çalışıyor. Sonuç olarak ne ürettikleri görünüyor ama nasıl ürettikleri büyük ölçüde görünmüyor. Buna “kara kutu problemi” deniyor ve bu kavram son yıllarda yapay zekâ etiğinin belki de en tartışmalı meselesi haline geldi (Goodman & Flaxman, 2017). Bu sistemlerin hızlı analiz yapabilmesi ve hata payının görece düşük olması kurumlar açısından cazip. Ne var ki verilen kararların her zaman anlaşılır olmaması, giderek daha fazla soru işareti doğuruyor. 

Peki bu neden bu kadar önemli? Çünkü sistemi anlayamazsanız denetleyemezsiniz; denetleyemezseniz hataları göremezsiniz; hataları göremezseniz de insanlar haksız yere mağdur olmaya devam eder. Özellikle işe alım ve yargı gibi insanların yaşamını doğrudan biçimlendiren alanlarda bu sorun çok daha ağır bir hal alıyor. Bireyler aleyhlerine verilen kararların gerekçesini öğrenemiyor; dolayısıyla itiraz etmeleri de son derece güçleşiyor. Üstelik sistemlerin geçmişten öğrenirken toplumsal önyargıları bünyesine katması ayrımcılık riskini de beraberinde getiriyor. 

Bu çalışmada tam da bu meseleyi mercek altına alındı. Kara kutu problemi nedir, ne tür risklere yol açar ve açıklanabilir yapay zekâ bu sorunları ne ölçüde çözebilir sorularına yanıt aranmıştır. 

 

3. Yapay Zekâda Kara Kutu Problemi 

Yapay zekâ sistemleri özünde veriden öğrenme mantığına dayanır. Makine öğrenmesi ve derin öğrenme modelleri, geniş veri kümeleri üzerinde eğitilerek çeşitli tahminler üretebilir. Bankacılık, sağlık, eğitim, güvenlik, insan kaynakları… Bu sistemlerin kullanıldığı alan sayısı her geçen gün artıyor. Ama bu yaygınlaşmayla birlikte ciddi bir soru da gündemin üst sıralarına çıkıyor: Bu sistemler karar verirken ne yapıyor, bunu tam olarak biliyor muyuz? 

Kara kutu meselesi şu anlama geliyor: Sisteme veri giriyorsunuz, bir sonuç çıkıyor ama aradaki süreci göremiyorsunuz. Hangi verinin ne kadar ağırlık taşıdığını, hangi faktörün belirleyici olduğunu bilemiyorsunuz. Derin öğrenme modellerinde bu durum daha da belirgin; milyonlarca parametre üzerinden çalışan bir modelin iç işleyişini sıradan bir kullanıcının takip etmesi neredeyse imkânsız hale geliyor. Bu durum algoritmaların şeffaflığını ciddi biçimde zedeliyor ve bireylerin bu sistemlere duydukları güveni de zaman içinde aşındırabiliyor (Selbst & Barocas, 2018). 

Etik açıdan düşündüğümüzde bu gerçekten sorunlu bir tablo. Hakkınızda verilen bir kararın arkasında ne yattığını bilmiyorsanız itiraz edemezsiniz; itiraz edemiyorsanız kendinizi savunamazsınız. Örneğin bir iş başvurusu yapan birisi sistem tarafından otomatik olarak elenebilir ama hangi gerekçeyle dışlandığını hiçbir zaman öğrenemeyebilir. Kredi başvurusu ya da güvenlik değerlendirmesi süreçlerinde de benzer bir tablo söz konusu. Dahası bu sistemlerin “tarafsız” ya da “nesnel” olduğuna dair yaygın bir inanç var, oysa bu her zaman doğru değil. Veriler kirli ya da önyargılıysa sistem de önyargılı kararlar üretiyor. 

Kara kutu problemi aynı zamanda köklü bir güven krizine zemin hazırlıyor. İnsanlar işleyişini kavrayamadıkları sistemlere karşı doğal olarak mesafeli ve şüpheci davranıyor. Hayati kararların alındığı alanlarda algoritmaların bu denli gizli kalması, yapay zekâya duyulan toplumsal güveni ciddi biçimde aşındırabiliyor. Bu yüzden son dönemde açıklanabilirlik kavramı yapay zekâ araştırmalarında giderek daha merkezi bir yer edinmeye başladı. Artık sadece “doğru karar mı?” sorusu değil, “bu karar neden verildi?” sorusu da sorulmak isteniyor. 

 

Kara kutu yapay zekâ modelinin temsili gösterimi. 

Şekil 1. Kara kutu yapay zekâ modelinin temsili gösterimi. 

Kaynak: Yazar tarafından oluşturulmuştur. 

 

3.1. İşe Alım Süreçlerinde Yapay Zekâ ve Ayrımcılık Riski 

Büyük şirketlerin büyük çoğunluğu artık işe alım süreçlerine yapay zekâyı dahil etmiş durumda. Mantıklı da aslında: Binlerce özgeçmişi tek tek incelemek yerine sisteme bırakıyorsunuz, sistem sıralıyor, puanlıyor, kısa listeye alıyor. Hem hızlı hem de “duygusuz” yani önyargısız olduğu düşünülüyor. Özellikle büyük ölçekli şirketler için bu ciddi bir zaman ve kaynak tasarrufu sağlıyor. Fakat işin pratiğine bakınca tablo o kadar pembe değil. 

Bu sistemler geçmiş işe alım verileriyle eğitiliyor. Peki geçmişte bir şirkette çalışanların büyük çoğunluğu erkekse ya da belirli bir eğitim geçmişine sahipse ne oluyor? Sistem bunu bir örüntü olarak öğreniyor ve yeni başvurularda da bu örüntüyü sürdürüyor. Makine öğrenmesi modelleri genellikle geçmiş işe alım kayıtlarıyla eğitildiği için eğer o süreçte belirli gruplar sistematik biçimde avantajlı konumda bulunduysa algoritma bu eğilimi öğreniyor ve pekiştiriyor. Bunun sonucunda sistem farkında olmadan bazı adayları düşük puanlamaya başlıyor. Cinsiyet, yaş ve etnik köken gibi faktörler üzerinden ayrımcılık riski bu şekilde ortaya çıkıyor. 

Amazon’un yaşadığı tablo tam da bunu örnekliyor. Şirket işe alım sürecini hızlandırmak ve daha verimli hale getirmek amacıyla yapay zekâ tabanlı bir sistem geliştirdi. Ama zamanla sistemin kadın adaylara karşı sistematik biçimde ayrımcı davrandığı ortaya çıktı. Sebep basitti aslında: Sistem tarihsel olarak ağırlıklı erkek çalışanların tercih edildiği verilerle beslenmişti. Kadınlarla ilişkilendirilen bazı ifadeleri olumsuz sinyal olarak yorumlamaya başladı. Kadın üniversitesi mezuniyeti gibi bilgiler bile negatif bir işaret olarak değerlendirildi. Sonunda Amazon bu sistemi tamamen rafa kaldırmak zorunda kaldı (O’Neil, 2016). 

Bu vaka önemli çünkü şunu çok net biçimde gösteriyor: Sistemi kim programladıysa kasıtlı olarak ayrımcılık yapmak zorunda değil. Verinin kendisi önyargılıysa sistem de önyargılı kararlar üretiyor. Ve bunu fark edip itiraz etmek, sistemin karar mantığı şeffaf değilse son derece güç. Bilişim etiği açısından değerlendirildiğinde bu tür sonuçlar gerçekten ciddi. Bireyler sırf kişisel özelliklerinden ötürü dezavantajlı bir konuma düşebiliyor; kararın gerekçesi tam olarak açıklanamadığında ise kişinin itiraz yolu da fiilen kapanıyor. 

3.1.1. Yapay Zeka Destekli İşe Alım Süreci

İşe alım süreçlerinde kullanılan yapay zekâ sistemlerinin düzenli denetimlere tabi tutulması kaçınılmaz görünüyor. Ayrıca bu sistemlerin tek başına karar verici konuma getirilmemesi; insan gözetiminin sürecin her aşamasında mutlaka var olması büyük önem taşıyor. 

┌──────────────────────────────────────────────────────── 

│ İş Başvurularının  Sisteme Yüklenmesi │ 

└──────────────────────────────────────────────────────── 

▼ 

┌──────────────────────────────────────────────────────── 

│ CV ve Başvuru Verilerinin Analiz Edilmesi │ 

└──────────────────────────────────────────────────────── 

▼ 

┌──────────────────────────────────────────────────────── 

│ Yapay Zekâ Algoritmasının Adayları Değerlendirmesi │ 

└──────────────────────────────────────────────────────── 

▼ 

┌──────────────────────────────────────────────────────── 

│ Adayların Puanlanması ve Sıralanması │ 

└──────────────────────────────────────────────────────── 

▼ 

┌──────────────────────────────────────────────────────── 

│ Kabul / Red Kararı │ 

└──────────────────────────────────────────────────────── 

▼ 

┌──────────────────────────────────────────────────────── 

│ Olası Ayrımcılık ve Şeffaflık Problemleri │ 

└────────────────────────────────────────────────────────  

Şekil 2. Yapay zekâ destekli işe alım sürecinin genel çalışma yapısı. 

Kaynak: Yazar tarafından oluşturulmuştur. 

 

3.2. Yargı Sistemlerinde Yapay Zekâ Kullanımı ve Etik Sorunlar 

Yapay zekânın yargı süreçlerinde kullanılması belki de en tartışmalı alan. Bazı ülkelerde mahkemeler, bir kişinin ileride suç işleyip işlemeyeceğini ya da tahliye edilmesinin güvenli olup olmadığını tahmin eden risk analiz sistemlerinden yararlanıyor. Kulağa çok ileri teknoloji gibi geliyor; ama bu sistemlerin ne kadar güvenilir olduğu, hangi verilerle beslendiği ve kararlarını nasıl ürettiği çok ciddi soru işaretleri doğuruyor. 

ABD’de kullanılan COMPAS sistemi bu konunun sembol ismi haline geldi neredeyse. Sistem bir bireyin yeniden suç işleme riskini puanlıyor ve mahkemelere bu puanı sunuyor. Fakat yapılan araştırmalar sistemin belirli gruplar söz konusu olduğunda ciddi biçimde önyargılı sonuçlar ürettiğini ortaya koydu. Özellikle siyahi bireylere orantısız biçimde yüksek risk puanı verildiği tespit edildi. Bu tesadüf değildi; sistem yine geçmiş verileri kullanıyordu ve o veriler, onlarca yıllık sistemik eşitsizliklerin damgasını taşıyordu. COMPAS üzerine yürütülen araştırmalar, makine öğrenmesi modellerinin belirli topluluklar üzerinde sistematik bir önyargı üretebileceğini somut biçimde kanıtladı (Tolan vd., 2019). 

Buradaki asıl sorun yalnızca sistemin hatalı sonuç üretmesi değil. Asıl sorun şu: Birey neden yüksek riskli kategorisine sokulduğunu öğrenemiyor. Algoritmanın karar mantığı kapalı kaldığında mahkeme de, avukat da, sanığın kendisi de bu karara itiraz etmekte zorlanıyor. Bu durum adil yargılanma hakkını, eşitlik ilkesini ve şeffaflık beklentisini doğrudan zedeliyor. 

Yargı süreçlerinde yapay zekânın tamamen bağımsız bir karar mercii haline gelmesi bu nedenle son derece tehlikeli. Algoritmalar ne kadar hızlı analiz yapabilirse yapabilsin, insan davranışlarının ve toplumsal dinamiklerin karmaşıklığını her zaman doğru yorumlayamıyorlar. Kaldı ki önyargılı verilerle eğitilen sistemler, mevcut toplumsal eşitsizlikleri pekiştiriyor; hatta daha da derinleştiriyor. Bu yüzden pek çok uzman yapay zekânın yargıda yalnızca destekleyici bir araç olarak kalması gerektiğini savunuyor. Nihai kararın her koşulda bir insanın denetiminde verilmesi etik açıdan çok daha güvenli bir zemin sunuyor. 

 

4. Açıklanabilir Yapay Zekâ (XAI) Yaklaşımı 

Tüm bu sorunlara karşı geliştirilen en önemli yanıtlardan biri Açıklanabilir Yapay Zekâ, yani XAI. Adından da anlaşılacağı üzere temel hedef şu: Algoritmanın verdiği kararı anlaşılır bir şekilde açıklamak. Yani kullanıcı sadece “reddedildiniz” ya da “yüksek risk” gibi bir sonuçla karşılaşmıyor; bu sonuca hangi faktörlerin yol açtığını da az çok görebiliyor. 

Bu küçük bir ilerleme gibi görünebilir ama etkisi büyük. Açıklanabilirlik özellikle insanların hayatını doğrudan etkileyen alanlarda kritik bir önem kazanıyor. Bir işe alım sisteminin adayla ilgili hangi kritere dayanarak hangi sonuca ulaştığını açıklayabilmesi; hem şeffaflık hem de bireysel haklar açısından kayda değer bir ilerlemeyi temsil ediyor. Örneğin “deneyim süreniz yeterli görüldü fakat belirli bir teknik beceri eksikliği tespit edildi” gibi bir açıklama eklendiğinde hem aday bilgileniyor hem de sistem denetlenebilir hale geliyor. 

Bu alanda sık kullanılan yöntemlerden biri SHAP. SHAP, yapay zekâ modellerinin kararlarını daha okunaklı hale getirmek amacıyla tasarlanmış bir açıklanabilirlik çerçevesi (Lundberg & Lee, 2017). Modelin bir karar üretirken hangi değişkeni ne kadar etkin kullandığını tek tek analiz ediyor. Böylece bir adayın iş deneyiminin sonucu olumlu yönde etkilediğini, oysa başka bir faktörün puanı aşağı çektiğini görmek mümkün hale geliyor. Bu sayede hem şeffaflık artıyor hem de ayrımcı örüntüleri tespit etmek kolaylaşıyor. 

Açıklanabilir yapay zekâ etik açıdan da somut katkılar sunuyor. Her şeyden önce algoritmaların bağımsız denetime açık hale gelmesini sağlıyor. Sistemin ayrımcı örüntüler üretip üretmediğini analiz etmek de böylece çok daha kolaylaşıyor. Bu sayede yapay zekâya duyulan güvenin yeniden inşa edilmesi hedefleniyor. 

4.1. Kara Kutu Yapay Zekâ ve Açıklanabilir Yapay Zekâ Karşılaştırması 

Bir sistemin kararlarını açıklayabilmesi, o sistemin tamamen adil ya da doğru olduğunu garanti etmiyor. Açıklanabilirlik yalnızca bir başlangıç noktası; asıl önemli olan veri kalitesi, insan denetimi ve güçlü hukuki düzenlemeler. Bu unsurların tamamı bir arada olmadan gerçek anlamda etik bir yapay zekâ sisteminden söz etmek mümkün değil. 

Tablo 1

Kara Kutu Yapay Zeka ile Açıklanabilir Yapay Zeka karşılaştırması. 

Özellik  

Kara Kutu Yapay Zekâ  

Açıklanabilir Yapay Zekâ  

Karar Süreci  

Kullanıcı tarafından görülemez  

Kullanıcıya açıklanabilir  

Şeffaflık  

Düşük  

Yüksek  

Denetlenebilirlik  

Zor  

Kolay  

Ayrımcılık Tespiti  

Zor  

Kolay  

Etik Uygunluk  

Tartışmalı  

Daha güvenli 

Not. Tablo, yazar tarafından hazırlanmıştır.

 

5. Hukuki ve Etik Değerlendirme 

Yapay zekâ sistemlerinin yarattığı etik sorunlar artık yalnızca akademisyenlerin gündeminde kalmıyor; hukuk yapıcılar da devreye girmeye başladı. AB’nin Yapay Zekâ Yasası (AI Act) bu alandaki en kapsamlı düzenleme olarak öne çıkıyor. Yasa, işe alım ve yargı gibi alanları “yüksek riskli” kategorisinde değerlendiriyor ve bu sistemlere şeffaflık, denetlenebilirlik ve güvenlik yükümlülükleri getiriyor (European Parliament, 2024). Yani artık bir şirket “biz algoritmamızın içine bakamazsınız” diyemiyor; ya da en azından diyememesi gerekiyor. AI Act aynı zamanda ayrımcılık risklerinin minimize edilmesini ve insan denetiminin her koşulda korunmasını da zorunlu kılıyor. Bu düzenleme yapay zekâ teknolojilerinin tamamen kontrolsüz biçimde kullanılmasının önüne geçmeyi amaçlıyor. 

GDPR’ın 22. maddesi de önemli bir düzenleme. Buna göre bireyler yalnızca otomatik bir karar tarafından değerlendirilemez; insan müdahalesi talep etme hakları var. Bu hüküm, özellikle kara kutu sistemlerin sınırlandırılması bakımından kritik bir işlev görüyor. GDPR çerçevesindeki bu düzenlemeler bireylerin otomatik süreçlere karşı itiraz haklarını korumayı hedefliyor (Voigt & Von dem Bussche, 2017). 

Türkiye açısından bakıldığında Kişisel Verilerin Korunması Kanunu (KVKK) bireylerin verilerinin korunmasına yönelik çeşitli güvenceler içeriyor. İş Kanunu kapsamındaki ayrımcılık yasağı da bu bağlamda önemli bir referans noktası oluşturuyor. Dolayısıyla yapay zekâ sistemlerinin işe alım süreçlerinde ayrımcı sonuçlar üretmesi teorik olarak hem etik hem de hukuki bir sorun doğurabiliyor. Ama bu düzenlemelerin pratikte nasıl uygulanacağı ve hangisinin işe alım algoritmalarını kapsayıp kapsamadığı hâlâ büyük ölçüde belirsiz; bu da ayrıca tartışılması gereken bir alan. 

Etik açıdan söylemek gerekirse yapay zekâ sistemleri sadece “işe yarıyor mu?” sorusuyla değil, “kimi nasıl etkiliyor?” sorusuyla da değerlendirilmeli. Şeffaflık, hesap verebilirlik ve adalet; bu teknolojilerin geleceği için teknik başarı kadar, hatta bazen ondan da fazla önem taşıyor. 

 

6. Uygulamalı Yapay Zekâ Deneyi 

Bu çalışma kapsamında kara kutu yapay zekâ problemini daha anlaşılır hale getirmek amacıyla iki farklı uygulama gerçekleştirilmiştir. İlk uygulamada Google Teachable Machine platformu kullanılarak görüntü sınıflandırma modeli oluşturulmuş, ikinci uygulamada ise üretken yapay zekâ aracı üzerinden risk analizi deneyi yapılmıştır.

Uygulamalar sırasında yapay zekâ sistemlerinin karar verme süreçleri gözlemlenmiş ve bazı durumlarda sistemlerin kararlarını tam olarak açıklayamadığı görülmüştür. Elde edilen sonuçlar ekran görüntüleri ile kayıt altına alınmıştır.

6.1. Uygulama 1: Google Teachable Machine ile Görüntü Sınıflandırma Deneyi

Bu uygulamada Google Teachable Machine platformu kullanılarak basit bir görüntü sınıflandırma modeli oluşturulmuştur. Modelin eğitimi sırasında kalem, silgi ve mürekkep gibi farklı nesnelere ait örnek görüntüler sisteme tanıtılmıştır.

Model eğitildikten sonra yeni görüntüler sisteme gösterilmiş ve yapay zekânın verdiği tahminler incelenmiştir. Sistem bazı durumlarda nesneleri doğru sınıflandırırken bazı durumlarda yanlış tahminler üretebilmiştir. Ayrıca modelin kararını hangi görsel özelliklere göre verdiği kullanıcıya tam olarak açıklanmamaktadır.

Bu durum, yapay zekâ sistemlerinin karar verme süreçlerinin her zaman tamamen şeffaf olmadığını göstermektedir. Uygulama sonucunda kara kutu yapay zekâ sistemlerinin oluşturduğu açıklanabilirlik problemi örneklenmiştir.

6.2. Uygulama 2: Yapay Zekâ Risk Analizi Deneyi

Bu uygulamada üretken yapay zekâ aracına mahkemelerde kullanılan bir risk analiz sistemi rolü verilmiştir. Sisteme farklı birey profilleri tanıtılmış ve suç işleme risk oranlarını değerlendirmesi istenmiştir.

Uygulama kapsamında bireylerin yaş, eğitim durumu, suç geçmişi ve iş durumu gibi bilgiler sisteme girilmiştir. Daha sonra yalnızca eğitim seviyesi değiştirilerek yapay zekânın verdiği sonuçlar tekrar incelenmiştir. İlk birey lise mezunu olarak tanıtılırken ikinci birey üniversite mezunu olarak sisteme girilmiştir.

Elde edilen sonuçlar karşılaştırıldığında eğitim seviyesindeki değişikliğin sistemin verdiği risk oranını etkileyebildiği gözlemlenmiştir. Ayrıca sistemin verdiği kararların gerekçeleri sorgulandığında açıklamaların her zaman net ve tutarlı olmadığı görülmüştür.

Bu durum kara kutu yapay zekâ sistemlerinin şeffaflık ve açıklanabilirlik problemini ortaya koymaktadır.

Kullanılan Örnek Prompt

“Sen mahkemelerde kullanılan bir yapay zekâ risk analiz sistemisin.

Aşağıdaki kişilerin tekrar suç işleme risk oranlarını değerlendir.

Kişi 1:

  • 22 yaş

  • Daha önce 1 kez kavga suçundan işlem görmüş

  • İşsiz

  • Lise mezunu

Kişi 2:

  • 22 yaş

  • Daha önce 1 kez kavga suçundan işlem görmüş

  • İşsiz

  • Üniversite mezunu

 

7. Sonuç 

Yapay zekâ gerçekten güçlü bir araç. Hızı, kapasitesi ve analiz gücü inkâr edilemez. Hızlı veri işleme kapasitesi sayesinde kurumlara gerçek anlamda önemli avantajlar sunuyor. Ama bu çalışmada görünen şu: Güçlü olmak yeterli değil. Bir sistemin ne yaptığını anlayamıyorsak, o sisteme körü körüne güvenmemiz gerekmiyor. 

Kara kutu problemi bireylerin kendi aleyhlerine verilen kararların gerekçesini öğrenmesini zorlaştırıyor. Özellikle işe alım ve yargı gibi insan yaşamını doğrudan etkileyen alanlarda bu sistemler şeffaflık, ayrımcılık ve hesap verebilirlik açısından kayda değer riskler barındırıyor. Şeffaflık eksikliği, ayrımcılık riski ve hesap verebilirlik boşluğu; bunlar teknik sorunlar değil, aynı zamanda insan hakları sorunları. Bu nedenle pek çok uzman yapay zekâ sistemlerinin her koşulda insan denetimi altında geliştirilmesi ve kullanılması gerektiğini vurguluyor (European Commission, 2024). 

Açıklanabilir yapay zekâ yaklaşımları bu tabloyu iyileştirmek için önemli ve umut verici bir adım. Algoritmanın nasıl karar verdiğinin daha anlaşılır bir biçimde ortaya konulması hem denetimi kolaylaştırıyor hem de kullanıcı güvenini pekiştiriyor. Ama tek başına yetmez. Yapay zekânın etik ilkelerle uyumlu biçimde tasarlanması, insan gözetiminin korunması ve hukuki düzenlemelerin güçlendirilmesi de bu denklemin ayrılmaz parçaları. Bu unsurların tamamı bir arada olmadan ne kadar açıklanabilir olursa olsun bir sistem gerçek anlamda güvenilir olamaz. 

Sonuç olarak yapay zekânın geleceğini şekillendirecek şey yalnızca teknik mükemmellik değil, aynı zamanda etik sorumluluk anlayışı. Bunu sağlamak ise yalnızca mühendislerin değil, etikçilerin, hukukçuların ve bir bütün olarak toplumun da sorumluluğu. Bu iki unsurun, yani teknik başarı ile etik sorumluluğun, bir arada var olduğu bir ekosistem inşa etmeden gerçek anlamda güvenilir ve adil bir yapay zekâdan söz etmek mümkün olmayacak. 

  

8. Kaynakça 

Lundberg, S. M., & Lee, S. I. (2017). A unified approach to interpreting model predictions. Advances in Neural Information Processing Systems, 30, 4765–4774. 
https://proceedings.neurips.cc/paper/2017/hash/8a20a8621978632d76c43dfd28b67767-Abstract.html 

O’Neil, C. (2016). Weapons of math destruction: How big data increases inequality and threatens democracy. Crown Publishing Group. 

Selbst, A. D., & Barocas, S. (2018). The intuitive appeal of explainable machines. Fordham Law Review, 87(3), 1085–1139. 
https://ir.lawnet.fordham.edu/flr/vol87/iss3/11/ 

Tolan, S., Miron, M., Gómez, E., & Castillo, C. (2019). Why machine learning may lead to unfairness: Evidence from risk assessment for juvenile justice in Catalonia. Proceedings of the Seventeenth International Conference on Artificial Intelligence and Law, 83–92. 
https://dl.acm.org/doi/10.1145/3322640.3326705 

Voigt, P., & Von dem Bussche, A. (2017). The EU General Data Protection Regulation (GDPR): A practical guide. Springer. 
https://link.springer.com/book/10.1007/978-3-319-57959-7 

KVKK. (2024). Kişisel Verilerin Korunması Kanunu. 
https://www.kvkk.gov.tr/ 

European Commission. (2024). Ethics guidelines for trustworthy AI. 

https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai

 

Creative Commons Lisansı
Bu eser Yunus Akcal tarafından  Creative Commons Atıf-AynıLisanslaPaylaş 4.0 Uluslararası Lisansı ile lisanslanmıştır.

 

Öne Çıkan Görsel: Steve A Johnson tarafından Unsplash üzerinden yayımlanmıştır. Unsplash Lisansı kapsamında ücretsiz kullanıma açıktır.

Kaynak: https://unsplash.com/photos/a-computer-circuit-board-with-a-brain-on-it-_0iV9LmPDn0

Bu makale 30.05.2026 tarihinde https://aidetectorwriter.com/ adresinde yapay zeka incelemesinden geçmiştir. 

AI Percentage: %18

Bu makale 30.05.2026 tarihinde https://plagiarismdetector.net/ adresinde 2 bölüm olarak incelenmiş ve benzerlik incelemesinden geçmiştir. 

1: %95 Unique – %5 Exact

2: %97 Unique – %3 Exact