İçindekiler
2. Yapay Zekâ ve Veri Önyargısı Kavramı
3. Yapay Zekâ Sistemlerinde Ortaya Çıkan Etik Sorunlar
4.1 Amazon İşe Alım Algoritması
Özet
Yapay zekâ artık sağlık, eğitim, güvenlik ve finans başta olmak üzere, günlük hayatımızda birçok alanda yoğun şekilde kullanılmaktadır. Aynı zamanda bahsedilen bu yapay zekâ sistemleri yalnızca teknolojik süreçleri değil, insanların karar alma mekanizmalarını da doğrudan etkileyebilmektedir. Kullanılan sistemler için geliştirilen yapay zekâ modelleri büyük ölçüde veriler üzerinden öğrenme gerçekleştirdiği için kullanılan veri setlerinin niteliği oldukça önemlidir. Verilerin eksik, dengesiz veya önyargılı olması durumunda sistemler de ayrımcı ve adaletsiz sonuçlar ortaya çıkarabilir. Özellikle cinsiyet, yaş, etnik köken ve sosyoekonomik durum gibi alanlarda ortaya çıkan önyargılar toplumsal eşitsizlikleri daha görünür hale getirmektedir. Bu çalışmada veri önyargısı (bias) kavramı ve bunun ortaya çıkardığı etik problemler incelenmiş olup, Amazon işe alım sistemi ve COMPAS örneği gibi gerçek vakalar üzerinden algoritmik ayrımcılık değerlendirilmiş, çalışmanın sonunda daha adil sistemlerin geliştirilmesine yönelik çözüm önerilerine yer verilmiştir.
1. Giriş
Yapay zekâ son zamanlarda günlük yaşamın neredeyse her alanında daha fazla kullanılmaya başlandı. Sağlık, eğitim, güvenlik, bankacılık ve sosyal medya gibi alanlarda bu sistemlerle sık sık karşılaşılmakta ve daha merkezi bir yer edinmektedir. İnsanların karşısına çıkan içerikler, yapılan öneriler hatta bazı karar süreçleri bile artık yapay zekâ destekli sistemlerden etkilenebilmektedir.
Bu sistemler çalışırken büyük ölçüde verilerden yararlanır. Yani yapay zekâ modeli hangi veriyle eğitilirse ona göre öğrenme gerçekleştirmektedir. Buradaki problem ise kullanılan verilerin her zaman dengeli ve tarafsız olmaması; eksik ya da taraflı veriler kullanıldığında sistemlerin verdiği sonuçların da bundan etkilenmesidir. Özellikle bazı grupların veri setlerinde daha az temsil edilmesi ayrımcı sonuçların ortaya çıkmasına yol açabilmektedir (Yeşilkaya, 2022).
Son yıllarda bu konuyla ilgili dikkat çeken birçok örnek ortaya çıkmıştır. Amazon’un işe alım algoritmasının kadın adayları daha düşük puanlaması ya da bazı yüz tanıma sistemlerinde koyu tenli bireylerde daha fazla hata görülmesi bunlardan bazılarıdır. Bu örnekler yapay zekâ sistemlerinin tamamen tarafsız olmadığını göstermektedir. Çünkü algoritmalar da aslında insanların oluşturduğu veriler üzerinden öğrenmektedir.
Bu çalışmada yapay zekâ alanında ortaya çıkan veri önyargısı problemi incelenerek; algoritmik ayrımcılığın neden olduğu etik sorunlara değinilmiş ve daha adil sistemlerin geliştirilebilmesi için bazı çözüm önerilerine yer verilmiştir.
2. Yapay Zekâ ve Veri Önyargısı Kavramı
2.1 Yapay Zekâ Nedir?
Yapay zekâ; bilgisayarların ve makinelerin öğrenme, problem çözme, karar verme ve dil anlama gibi insan zekâsına özgü becerileri taklit edebilmesini sağlayan bir teknoloji alanıdır. Makine öğrenmesi ve derin öğrenme gibi yöntemler sayesinde sistemler büyük verileri analiz ederek belirli örüntüleri öğrenebilmekte ve buna göre tahminlerde bulunabilmektedir.
Bu sistemlerde veri oldukça önemlidir. Yapay zekâ modelleri kararlarını büyük ölçüde eğitim sürecinde kullanılan verilere göre şekillendirmektedir. Ancak kullanılan veriler eksik veya önyargılı olduğunda sistemlerin verdiği sonuçlar da bundan etkilenebilmektedir. Bu nedenle veri kalitesi yapay zekâ sistemlerinde oldukça önemli bir yere sahiptir.
2.2 Veri Önyargısı (Bias)
Etimolojik olarak “bias” kelimesi Eski Fransızcadaki biais kelimesinden gelmekte ve “eğik, bir tarafa yatkın” anlamı taşımaktadır. Kelimenin ilk kullanımlarından biri bowling benzeri oyunlarda görülmektedir. Topun düz ilerlemek yerine bir tarafa doğru eğimli gitmesini ifade etmek için kullanılan bu kavram zamanla mecaz anlam kazanarak taraflılık ve önyargı anlamında kullanılmaya başlanmıştır. Günümüzde ise yapay zekâ alanında belirli birey veya gruplara karşı oluşan taraflı sonuçları ifade etmek için kullanılmaktadır.
Veri önyargısı, veri setlerinde belirli birey veya grupların eksik, yanlış ya da dengesiz temsil edilmesi durumudur. Yapay zekâ sistemleri bu veriler üzerinden öğrenme gerçekleştirdiği için veri içerisindeki önyargılar da sistem tarafından öğrenilebilmektedir. Bunun sonucunda bazı bireyler avantajlı hale gelirken bazı bireyler ayrımcı sonuçlarla karşılaşabilir.
Mesela geçmiş işe alım verilerinde erkek çalışanların daha fazla yer alması, sistemin erkek adayları daha başarılı olarak değerlendirmesine yol açar. Çünkü yapay zekâ modeli geçmiş verileri “doğru karar” olarak öğrenmektedir. Benzer şekilde beyaz tenli bireylerin daha yoğun yer aldığı veri setleriyle eğitilen yüz tanıma sistemlerinde koyu tenli bireylerde hata oranlarının arttığı görülmektedir.
Algoritmalar çoğu zaman tarafsız sistemler olarak düşünülse de kullanılan veri setlerinden doğrudan etkilenmektedir. Bu nedenle yapay zekâ sistemlerinin tamamen tarafsız olduğu düşüncesi her zaman gerçeği yansıtmamaktadır. Sistemlerin öğrendiği veriler geçmiş toplumsal önyargıları içerdiğinde bu eşitsizlikler yeniden ortaya çıkabilmektedir (Asıl, 2025).
3. Yapay Zekâ Sistemlerinde Ortaya Çıkan Etik Sorunlar
3.1 Dengesiz Veri Setleri
Veri önyargısının en büyük sebeplerinden biri dengesiz veri setleridir. Bir veri setinde belirli grupların daha fazla temsil edilmesi, sistemin bu grupları daha “normal” kabul etmesine neden olabilmektedir. Bu da bazı bireylerin sistem tarafından daha avantajlı değerlendirilmesine zemin hazırlayabiliyor.
Örneğin geçmiş işe alım verilerinde erkek çalışanların ağırlıklı olması, sistemin erkek adayları daha uygun görmesine neden olabilmektedir. Benzer şekilde yüz tanıma sistemlerinde belirli gruplara ait verilerin daha fazla kullanılması diğer gruplarda hata oranlarını artırabilmektedir.
3.2 Historical Bias
Historical bias, geçmişte toplum içerisinde bulunan eşitsizliklerin veri setleri aracılığıyla yapay zekâ sistemlerine aktarılmasıdır. Yapay zekâ sistemleri geçmiş veriler üzerinden öğrenme gerçekleştirdiği için toplumsal önyargılar da sistemlere yansıyabilmektedir.
Örneğin geçmiş yıllarda belirli mesleklerde erkek çalışanların daha fazla yer alması, yapay zekâ sistemlerinin yönetici pozisyonlarını erkeklerle ilişkilendirmesine neden olabilmektedir. Bu durum algoritmalar teknik olarak tarafsız görünse bile geçmiş eşitsizliklerin devam edebildiğini göstermektedir (Yeşilkaya, 2022).
3.3 Label Bias
Label bias, veri setlerinde kullanılan etiketleme süreçlerinde ortaya çıkan önyargıları ifade etmektedir. Sistem eğitilirken yapılan etiketlemeler, karar sonuçlarını doğrudan değiştiriyor. Örneğin güvenlik sistemlerinde belirli bireylerin geçmiş verilerde daha fazla “riskli” olarak işaretlenmesi, sistemin bu bireyleri otomatik olarak daha yüksek risk grubunda değerlendirmesine neden olabilmektedir.
3.4 Representation Bias
Representation bias, bazı birey veya grupların veri setlerinde yeterince temsil edilmemesidir. Veri setindeki temsil eksikliği, sistemlerin belirli gruplar hakkında yeterince doğru öğrenme gerçekleştirememesine yol açmaktadır.
Özellikle yaşlı bireyler, engelli bireyler veya az temsil edilen topluluklar veri setlerinde yeterince yer almadığında yapay zekâ sistemleri bu bireyler için daha fazla hata yapabilmektedir.
4. Gerçek Dünya Vakaları
4.1 Amazon İşe Alım Algoritması
Bahsedilen veri önyargısının en bilinen örneklerinden biri Amazon’un işe alım sistemi örneği. Amazon, işe alım süreçlerini hızlandırmak amacıyla yapay zekâ destekli bir sistem kullanmakta ama sistemin eğitildiği geçmiş verilerde erkek çalışanların daha fazla yer almasından kaynaklı algoritma erkek adayları daha olumlu değerlendirmeye başlıyor.
Sistem özellikle kadın adayların özgeçmişlerinde yer alan bazı ifadeleri olumsuz olarak etiketliyor. Örneğin “women’s chess club” gibi ifadeler sistem tarafından düşük puanlanıyor. İşe alım süreçlerinde ortaya çıkan bu durum algoritmik ayrımcılık tartışmalarını da artırmıştır (Bozkurt Gümrükçüoğlu & Yakacak, 2024).
4.2 COMPAS Davası
Başka bir önemli örnek ise Amerika’da kullanılan COMPAS sistemidir. Bu sistem bireylerin tekrar suç işleme ihtimalini tahmin etmek amacıyla geliştirilmiştir. Yapılan araştırmalarda sistemin siyahi bireyleri daha yüksek riskli olarak değerlendirdiği görülmüştür.Beyaz bireylerde hata oranı daha düşük olurken siyahi bireylerde yanlış risk değerlendirmelerinin daha fazla olduğu ortaya çıkmıştır.
4.3 Yüz Tanıma Sistemleri
Bazı araştırmalarda yüz tanıma sistemlerinin beyaz tenli bireylerde daha başarılı sonuçlar verdiği, koyu tenli bireylerde ise hata oranlarının arttığı görülmüştür. Bu durum veri setlerindeki temsil eşitsizliğinin yapay zekâ sistemlerini nasıl etkilediğini gösterir.
5. Bilişim Etiği Boyutu
Yapay zekâ ve bu alandaki gelişmeler sadece teknik bir konu gibi görülmemeli; günümüzde bu sistemler insanların günlük yaşamını, bilgiye erişimini ve karar alma süreçlerini doğrudan etkilemeyen sosyal bir alanı olan sistemler. Bu nedenle ortaya çıkan problemlerin etik açıdan da değerlendirilmesi gerekir. Bilişim etiği tam da bu kısımda teknolojinin insanlara zarar vermeden, güvenilir ve adil şekilde kullanılmasını amaçlayan bir alan.
Veri önyargısı problemi de bilişim etiği kapsamında ele alınmaktadır. Çünkü kullanılan verilerde bulunan eksiklikler veya geçmişten gelen toplumsal önyargılar sistemlerin verdiği kararları etkiler. Özellikle işe alım, güvenlik ve hukuk gibi alanlarda ortaya çıkan hatalı sonuçlar bazı bireylerin dezavantajlı hale gelmesine yol açabilir. İşte yalnızca sistemin hızlı çalışması ya da kolaylaştırıcı olması değil, adil sonuçlar vermesi de önemlidir.
Günümüzde birçok yapay zekâ sistemi “kara kutu” şeklinde çalışmaktadır. Kullanıcılar sistemin hangi veriye göre nasıl karar verdiğini çoğu zaman tam olarak bilememektedir (Diakopoulos, 2016). Özellikle insan hayatını etkileyen kararların açıklanabilir olması güven açısından da önem taşımaktadır. Bunun yanında yapay zekâ alanında etik ilkelerin yalnızca teknik başarıya değil, toplumsal güvene de katkı sağlaması beklenmektedir (Argın, 2025).
6. Çözüm Önerileri
Bahsettiğimiz veri önyargısını tamamen ortadan kaldırmak pek mümkün görünmüyor. Çünkü sistemler çoğu zaman geçmiş veriler üzerinden öğrenme gerçekleştirmekte ve bu veriler de toplumsal durumlardan etkilenmekte. Ancak ayrımcı sonuçların azaltılması için kullanılan bazı yöntemler bulunmaktadır.
Bu yöntemlerden biri data balancing yani veri dengeleme yöntemidir. Bu yaklaşımda veri setlerinde eksik temsil edilen birey veya grupların daha fazla veriye dahil edilmesi amaçlanmaktadır. Örneğin bir işe alım veri setinde erkek adaylar çok fazla yer alırken kadın adaylar daha az bulunuyorsa sistem erkek adayları daha “normal” olarak öğrenebilmektedir. Veri dengeleme yönteminde ise veri seti daha eşit hale getirilmeye çalışılır. Böylece yapay zekâ modeli yalnızca belirli bir gruba göre öğrenme gerçekleştirmez ve daha dengeli sonuçlar verebilir.
Bir diğer yöntem ise fairness-aware machine learning yani adalet odaklı makine öğrenmesi yaklaşımıdır. Bu yaklaşımda sistem yalnızca doğru sonuç verip vermediğine göre değerlendirilmez. Aynı zamanda farklı birey ve gruplara karşı ne kadar adil davrandığı da incelenir. Örneğin bir sistem erkek adayları kadın adaylara göre sürekli daha yüksek puanlı gösteriyorsa burada doğruluk oranı yüksek olsa bile adil olmayan bir durum ortaya çıkabilmektedir. Bu nedenle fairness-aware machine learning yöntemlerinde sistemin ayrımcı sonuç üretmemesi de önemli hale gelmektedir (Cebeci Çorum, 2026).
Yapay zekâ sistemlerinin daha şeffaf hale getirilmesi de önemli hale gelmiştir. Bu nedenle explainable AI yani açıklanabilir yapay zekâ yöntemleri geliştirilmiştir. Bu yöntemler sayesinde sistemlerin verdiği kararların nedenleri daha anlaşılır hale getirilmeye çalışılmaktadır. Özellikle sağlık, hukuk ve güvenlik gibi alanlarda sistemin neden o kararı verdiğinin bilinmesi önemli görülmektedir.
Bunun yanında bias detection araçları kullanılarak sistemlerdeki önyargılar analiz edilebilmektedir. Özellikle Fairlearn, IBM AI Fairness 360 ve LIME gibi araçlar yapay zekâ modellerindeki ayrımcı sonuçların tespit edilmesine yardımcı olmaktadır. Bu araçlar sayesinde hangi gruplarda daha fazla hata yapıldığı veya hangi sonuçlarda dengesizlik oluştuğu daha kolay görülebilmektedir. Şeffaflık, insan denetimi ve etik değerlendirme süreçleri de güvenilir yapay zekâ sistemleri için önemli görülmektedir (Karaca, 2024).
7.Uygulama
Öğrencilerin yapay zekâ sistemlerinde ortaya çıkan veri önyargısını gözlemleyerek fark etmeleri amaçlanmaktadır. Etkinliğin başlangıcında “Bir teknoloji gerçekten tamamen tarafsız olabilir mi?” sorusunu yöneltilir. Ardından veri önyargısı (bias), algoritmik ayrımcılık ve temsil eşitsizliği kavramları açıklanır. Özellikle Amazon işe alım sistemi ve yüz tanıma uygulamalarında ortaya çıkan örnekler üzerinden günlük hayattaki etkiler değerlendirilir.
Uygulamanın devamında öğrencilerden ChatGPT, Gemini veya benzeri üretken yapay zekâ sistemleri üzerinde belirli istemler kullanır.
Örnek istemler;
“Bir şirket yöneticisini tasvir eden gerçekçi bir görsel oluştur.”
“Bir hemşireyi tasvir eden gerçekçi bir görsel oluştur.”
Öğrencilerden oluşturulan görselleri incelemeleri ve ortaya çıkan sonuçları karşılaştırmaları beklenmektedir. Özellikle mesleklerin belirli cinsiyetlerle ilişkilendirilip ilişkilendirilmediği üzerine değerlendirme yapılması amaçlanmaktadır. Bu sayede yapay zekâ sistemlerinin toplumsal kalıp yargılardan nasıl etkilenebildiğinin öğrenciler tarafından gözlemlenmesi hedeflenmektedir.
Etkinliğin devamında öğrencilerden Survival of the Best Fit simülasyonunu incelemeleri istenir. Bu simülasyonda işe alım süreçlerinde kullanılan yapay zekâ sistemlerinin geçmiş verilerden nasıl etkilenebildiği gösterilmektedir. Öğrencilerin simülasyon sırasında algoritmanın belirli adayları neden daha avantajlı değerlendirdiğini gözlemlemeleri beklenmektedir.
8. Sonuç
Bu çalışmada yapay zekâ sistemlerinde kullanılan verilerin bazı durumlarda önyargılı sonuçlar oluşturabildiği görülmüştür. Özellikle işe alım sistemleri, yüz tanıma uygulamaları ve güvenlik alanındaki örnekler veri setlerinin yapay zekâ üzerindeki etkisini daha görünür hale getirmektedir. Çünkü sistemler kendilerine verilen veriler üzerinden öğrenmekte ve geçmiş verilerde bulunan bazı eşitsizlikler de bu süreçte yeniden ortaya çıkabilmektedir.
Yapay zekâ çoğu zaman tarafsız bir teknoloji gibi düşünülse de kullanılan veri setleri sistemlerin verdiği kararları doğrudan etkileyebilmektedir. Bu nedenle ortaya çıkan problemlerin yalnızca teknik bir hata olarak değerlendirilmesi yeterli değildir. Aynı zamanda etik açıdan da ele alınması gereken bir konudur.
Bu noktada veri setlerinin daha dengeli hazırlanması, sistemlerin düzenli olarak denetlenmesi ve ortaya çıkan önyargıların analiz edilmesi önemli hale gelmektedir. Yapay zekâ teknolojilerinin gelişmeye devam ettiği düşünüldüğünde, gelecekte daha güvenilir ve adil sistemlerin oluşturulabilmesi için etik yaklaşımların da teknolojiyle birlikte ilerlemesi gerektiği düşünülmektedir.
9. Kaynakça
Argın, E. (2025). Yapay zekâ ve algı yönetimi: Algoritmalar, manipülasyon ve toplumsal güven. İnsanat: Sanat Tasarım ve Mimarlık Araştırmaları Dergisi, 5(2), 1023–1042. https://doi.org/10.29228/insanat.1832337
Asıl, S. (2025). Yapay zekâ etiği: Temel ilkeler, sorunlar ve disiplinlerarası yaklaşımlar. İNİF E-Dergi, 10(1), 152–175. https://doi.org/10.47107/inifedergi.1605400
Bozkurt Gümrükçüoğlu, Y., & Yakacak, G. A. (2024). Yapay zekânın işe alım süreçlerinde kullanımı ve algoritmik ayrımcılık. Ankara Üniversitesi Hukuk Fakültesi Dergisi, 72(4), 1713–1754. https://doi.org/10.33629/auhfd.1403311
Cebeci Çorum, F. (2026). Algoritmik ön yargı ve algoritmik ayrımcılık: Kavramlar, güncel yargı kararları ve ön yargının azaltılmasına yönelik olası bir yol haritası olarak AB Yapay Zekâ Tüzüğü. Hacettepe Üniversitesi Hukuk Fakültesi Dergisi, 16(2), 301–336. https://doi.org/10.32957/hacettepehdf.1858048
Diakopoulos, N. (2016). Accountability in algorithmic decision making. Communications of the ACM, 59(2), 56–62. https://doi.org/10.1145/2844110
Karaca, Ş. G. (2024). Yapay zekâ uygulamalarında etik gereksinimi. Uluslararası Bilimsel Araştırmalar ve Stratejik İşbirlikleri Dergisi, 5(2), 1–15. https://doi.org/10.5281/zenodo.14578864
Yeşilkaya, N. (2022). Yapay zekâya dair etik sorunlar. Şarkiyat İlmi Araştırmalar Dergisi, 14(3), 949–963. https://doi.org/10.26791/sarkiat.1189864
Görsel Bilgisi: Öne çıkan görsel, yapay zekâ destekli görsel oluşturma aracı kullanılarak çalışma kapsamında yazar tarafından üretilmiştir.
AI Analizi: Originality.AI sonucuna göre yapay zekâ benzerlik oranı %17 olarak tespit edilmiştir.
İntihal Analizi: Yapılan intihal analizi sonucunda yüksek düzeyde benzerlik tespit edilmemiştir.
Bu eser, Ebru Zeynep Şahin tarafından hazırlanmış olup Creative Commons Atıf-AynıLisanslaPaylaş 4.0 Uluslararası Lisansı ile lisanslanmıştır.
Ben Ebru Zeynep Şahin, Marmara Üniversitesi Bilgisayar ve Öğretim Teknolojileri Öğretmenliği 4. sınıf öğrencisiyim. Eğitim teknolojileri ve proje yönetimi alanlarına ilgi duymakta; teorik bilgilerimi sahada uygulayarak kendimi geliştirmekteyim. Sürdürülebilir Kalkınma Amaçları kapsamında toplumsal cinsiyet eşitliği, eşitsizliklerin azaltılması ve nitelikli eğitim başlıklarında çalışmalar yürütüyor; sivil toplum alanında etki yaratmayı hedefliyorum.
Üniversite sürecimde sosyal etki odaklı projelerde aktif rol alarak proje geliştirme ve yürütme deneyimi kazandım. Marmara Üniversitesi LÖSEV Kulübü’nde üç dönem yönetim kurulu üyeliği yaptıktan sonra başkanlık görevini üstlenerek ekip yönetimi, organizasyon planlama ve süreç yürütme alanlarında sorumluluk aldım ve bu süreci başarıyla tamamladım.
2022 yılından bu yana Habitat Derneği’nde aktif olarak yer almakta; master eğitmen ve proje stajyeri olarak dijital dönüşüm, yapay zeka ve sürdürülebilirlik temalı projelerde eğitimler vermekteyim. Aynı zamanda içerik geliştirme ve organizasyon süreçlerinde aktif görev almaktayım. 2025 yılı itibarıyla Kız Çocukları Eğitim Derneği’ndeki stajımda eğitim ve etkinlik süreçlerinden sorumlu olarak görev aldım; bu süreçte eğitim tasarımı ve öğrenme deneyimi geliştirme alanlarında çalışmalar gerçekleştirdim. Bu birikimler doğrultusunda, eğitim teknolojileri ve proje yönetimi alanlarında toplumsal fayda odaklı çalışmalar üretmeye ve etki alanımı genişletmeye devam ediyorum.
