İnceleme Hazırlayan: Göktuğ Küpücü 100221041

Makale Adı:

Ethics in the Age of AI: An Analysis of AI Practitioners’ Awareness and Challenges [Yapay Zeka Çağında Etik: Yapay Zeka Uzmanlarının Farkındalığı ve Karşılaştıkları Zorlukların Analizi]

Yazarlar:

Aastha Pant, Rashina Hoda, Simone V. Spiegler, Chakkrit Tantithamthavorn, Burak Turhan

Makale Künyesi:

Pant, A., Hoda, R., Spiegler, S. V., Tantithamthavorn, C., & Turhan, B. (2024). Ethics in the age of AI: An analysis of AI practitioners’ awareness and challenges. ACM Transactions on Software Engineering and Methodology, 33(3), 1-35.

Erişim Adresi:

https://arxiv.org/abs/2307.10057

Giriş

Yapay Zeka (YZ) teknolojisinin endüstrilerde yaygınlaşmasıyla YZ etiği her zamankinden daha önemli bir hal almış ve bu önemin bazen göz ardı edildiği yakın zamanlı hadiseler ile gözler önüne serilmiştir.

YZ sistemlerinin karar alma süreçlerinde kullanılması; veri gizliliği, adalet, şeffaflık ve sorumluluk gibi etik konuları gündeme getirmektedir. Bu durum, YZ teknolojilerini geliştiren ve kullanan uygulayıcıların etik farkındalıklarının ve bu ilkeleri uygulamada karşılaştıkları zorlukların incelenmesini gerekli kılmaktadır.

Amaç

Bu araştırmada iki  araştırma sorusu üzerinde durularak YZ Uygulayıcılarının YZ etiği hakkındaki farkındalıklarının ve YZ etiğini sistemlerine dahil etmekte karşılaştıkları zorlukların ortaya konulması amaçlanmıştır.

Yöntem

Araştırma Modeli

  • Araştırma daha geniş bir kitleye ulaşabilmek amacıyla “Anket” modeli ile gerçekleştirilmiştir.
  • Araştırmada hem nitel hem nicel veri elde edilmesi ve bir yargıya varılması hedeflenmiştir.

Evren Örneklem / Çalışma Grubu

Araştırmada olasılıksız amaçlı örnekleme tekniği ile örneklem oluşturulmuştur.

Amaçlı örnekleme (purposive sampling), araştırmacının araştırmanın amacına en uygun bilgiye sahip olduğu düşünülen bireyleri bilinçli olarak seçtiği bir olasılıksız örnekleme (non-probability sampling) yöntemidir. Bu yöntemde katılımcılar rastgele seçilmez; bunun yerine belirli özelliklere veya deneyimlere sahip bireyler araştırmaya dahil edilir (Creswell & Creswell, 2018; Patton, 2015).

Örneklem YZ uygulayıcısı olarak sektörde aktif çalışan 100 kişiden oluşmaktadır.

Kıtalara göre katılımcı dağılımı %30 Avrupa, %28 Afrika, %18 K.Amerika, %12 Asya,
%9 Okyanusya ve %3 S.Amerika olacak şekildedir.

Katılımcıların %23 YZ veri analisti, %19 YZ geliştiricisi, %16 YZ mühendisi ve %11’i de YZ/MÖ (Makine Öğrenimi) uygulayıcıları oldukları görülmüştür.

Katılımcıların ağırlıkla 20-30 yaş aralığında, Lisans – Yüksek lisans mezunu ve 1 – 5 yıl iş deneyimine sahip bireyler olduğu gözlenmiştir.

Veri Toplama Aracı

  • Araştırmada veri toplama aracı olarak anket kullanılmıştır. Anket aracılığıyla katılımcıların demografiği, YZ etiği konusundaki bilgi düzeyleri, farkındalıkları ve uygulamada karşılaştıkları sorunlar hakkında veri elde edilmiştir.

Verilerin Toplanması Uygulama Süreci

Veriler 2022 Ekim – Aralık arasında ve 2023 Ocak – Şubat ayları arasında iki uygulama sonucunda elde edilmiştir.

İlk uygulama sosyal medya ilanları üzerinden duyurulmuş fakat yeterli katılıma ulaşamadığı (17 katılımcı) gerekçesiyle Prolific platformu üzerinden maddi teşvik ile ikinci uygulama gerçekleştirilmiştir (83 katılımcı).

Verilerin Analizi

Elde edilen verilerin hem nitel hem nicel olması gerekçesiyle karma yaklaşım benimsenmiştir.

Nicel verilerin istatistik analizi ve nitel verilerin organizasyonu ise Excel üzerinden gerçekleştirilmiştir.

Nitel veriler in analizi için Socio-Technical Grounded Theory (STGT) veri analizi yöntemi kullanılmıştır.  Bu sayede açık kodlama metodu uygulanarak açık uçlu soruların kod -> konsept -> kategoriler şeklinde indirgenmesi sağlanmıştır.

Bulgular ve Tartışma

Araştırma Sonuçları katılımcıların genel olarak YZ Etiğinin öneminin farkında olduğunu fakat katılımcıların çok küçük bir kısmının tüm etik ilkelerinin farkında olduğunu ortaya koymuştur.

Katılımcıların çoğunluğu öncelikle iş yeri kural ve politikalarınca kendi farkındalıklarının oluştuğunu dile getirmiştir.

Ayrıca bazı katılımcıların etik konular hakkında bilgi sahibi olmalarına rağmen, bu ilkeleri projelerine sistematik biçimde entegre etmede çeşitli güçlükler yaşadıklarını da göstermiştir.

Üniversitelerin rolü incelendiğinde ne farkındalık oluşturmada ne de etik YZ geliştirme ve entegrasyonunda pek yararlı bir rol aldıkları dile gelmiştir.

Entegrasyonda en çok güçlüğün insan odaklı değerler ilkesi olduğu kanısına varılmıştır.

Ayrıca etik teriminin anlaşılmaması ve YZ etiği üzerinde bir fikir birliğine varılamamış olmasının Etik YZ tabanlı sistem geliştirilmesinde zorluğa neden olduğu kanısına varılmıştır.

Öneriler

Farkındalığın genelini oluşturdukları için iş yeri kural ve politikalarının bütün YZ ilkelerini kapsayacak şekilde vurgulanması ve uygulanması gerektiği öne sürülmüştür.

İnsan önyargısı faktörünü kırabilmek için işe alımda ve karar mekanizmalarında insan çeşitliliğinin artırılmasının potansiyel bir çözüm olduğu öne sürülmüştür.

İnsan odaklı değerler ve önyargının YZ geliştirilmesine etkisi üzerine ileri araştırmalar gerçekleştirilmesinin sektöre katkısının olacağı öne sürülmüştür.

Çok düşük oranda katılımcı üniversitelerin YZ etiği farkındalığı hakkında iyi bir katkıda bulunduğunu belirtmiştir; bu sebeple  YZ etiğinin üniversite müfredatına dahil edilmesi gerektiğine vurgu yapılmıştır.

Sonuç

Çalışma, yapay zekâ uygulayıcılarının YZ etiği üzerindeki farkındalığını dört farklı boyutta incelemektedir.  (ne derece, farkında olunan ilkeler, farkındalık sebepleri, eğitimin rolü şeklinde)

  • Katılımcıların geneli orta düzey farkındalığa sahiptir.
  • Farkındalığı en yüksek ilke mahremiyet ve güvenlik ilkesidir.
  • İş yeri politika ve kuralları büyük rol oynamaktadır.
  • Sadece birkaç katılımcı formal eğitimin kendilerine gerçekten yararı olduğu kanısındadır.
  • Katılımcılar insanın ön yargılı doğasını önde giden zorluklardan biri olarak görmektedir.

Ayrıca açık uçlu sorular ile sektörün iç yüzünü gösteren ve YZ araştırmacılarına uygulayıcıları anlayabilmeleri ve ileri çalışma gerektiren yerleri belirlemeleri adına bir kapı açtığı belirtilmiştir.

Yorumlar

Genel olarak çalışma, YZ sistemlerinin etik açıdan sorumlu biçimde geliştirilmesi için  farkındalığının artırılması,  kurumların ve belirleyici kuruluşların YZ etiği üzerine biraz daha yatırım yapması gerektiğini göstermektedir.

Kaynakça

Creswell, J. W., & Creswell, J. D. (2018). Research design: Qualitative, quantitative, and mixed methods approaches (5th ed.). Sage Publications.

Patton, M. Q. (2015). Qualitative research & evaluation methods (4th ed.). Sage Publications.

İnceleme Hazırlayan: Göktuğ Küpücü 100221041
  

Bu inceleme Creative Commons Atıf-AynıLisanslaPaylaş 4.0 Uluslararası Lisansı ile lisanslanmıştır. Makale lisansı hakkında ilgili yazar ya da yayıncıdan bilgi alınız.