Sosyal Medya Platformlarında Uygunsuz İçerik Problemi: Denetim Sistemlerinin Etik ve Uygulamalı İncelemesi
İÇİNDEKİLER
1. Giriş
2. Sosyal Medya ve Temel Kavramlar
3. Sosyal Medya Platformlarında İçerik Denetimi ve Etik Boyutu
4. Etik Açıdan Uygunsuz İçerikler
5. Platformların İçerik Denetleme Sistemleri ve Yaptırımları
6. Çözüm Önerileri
6.1 Platformlara Yönelik Öneriler
6.2 Kullanıcılara Yönelik Öneriler
7. Uygulama
8. Sonuç
9. Kaynakça
1. Giriş
Sosyal medya platformları, küresel iletişimin ve bilgi paylaşımının merkezi haline gelmiştir. Ancak her gün üretilen milyarlarca veri, sosyal medya platformlarında içerik denetimi ihtiyacını ciddi bir problem olarak beraberinde getirmektedir. Buna ek olarak platformlarda paylaşılan uygunsuz içerikler; şiddet, cinsel istismar, nefret söylemi ve özellikle çocukların güvenliğini tehdit eden içeriklerin hızla yayılmasına olanak sağlamaktadır. Nitekim bu durum, bireylerin psikolojik sağlığını zedelediği gibi aynı zamanda toplumsal değerleri ve internetin güvenilirliğini de olumsuz yönde etkilemektedir.
Devasa veri akışı göz önüne alındığında, platformların zararlı içerikleri yalnızca insan gücüyle denetlemesi imkânsız hale gelmiştir. Bu durum, sosyal ağların içerik denetimi konusunda yasal zorunlulukların ötesinde etik bir sorumluluk üstlenmesini ve otomatik sistemler geliştirmesini zorunlu kılmıştır. Bu çalışmanın amacı; sosyal medya platformlarında paylaşılan uygunsuz içeriklerin oluşturduğu etik sorunlarını incelemek, Facebook, Instagram, X ve Paftom gibi bazı platformların içerik denetim yöntemlerini karşılaştırmak ve yapay zeka destekli teknik uygulamaların bu sorunların çözümündeki değerini ortaya koymaktır.
2. Sosyal Medya ve Temel Kavramlar
Sosyal medya; Web 2.0 teknolojilerini kullanarak kişilerin ve kurumların internet üzerinden eşzamanlı veya eşzamanlı olmayan yollarla bilgi, düşünce, görsel ve işitsel içerik oluşturmasına, paylaşmasına ve bu içerikler etrafında etkileşime girmesine olanak tanıyan dijital mecralar bütünü olarak tanımlanmaktadır (TÜBİTAK Bilim ve Toplum Başkanlığı, t.y.). Öte yandan geleneksel medyanın tek yönlü, okuyucu/izleyiciyi pasif kılan ve merkeziyetçi yapısına karşın; sosyal medya merkezi olmayan, çok yönlü, etkileşimli ve katılımcı bir iletişim modeli sunar.
Küresel sosyal medya kullanım oranları da hızla artmaktadır. Günümüz itibarıyla, dünya üzerinde 5,66 milyar aktif sosyal medya kullanıcı kimliği bulunduğu ve bu sayının toplam dünya nüfusunun %68,7’sine eş olduğu belirtilmektedir (Kemp, 2026).
3. Sosyal Medya Platformlarında İçerik Denetimi ve Etik Boyutu
Sosyal medya platformlarında paylaşılan milyarlarca içeriğin denetlenmesi, teknik bir filtreleme işlemi olmaktan çıkıp derin bir etik tartışma konusuna dönüşmüştür. Bu tartışmanın merkezinde, bireylerin temel bir insan hakkı olan “ifade özgürlüğü” ile toplumun ve bireylerin dijital ortamda korunmasını hedefleyen “güvenli alan (safe space) sağlama” yükümlülüğü arasındaki hassas denge yer almaktadır.
Dünya devlerinin yönettiği bu platformlar, günümüzün dijital kamusal alanları olarak işlev görmektedir. Bu yüzden de bu durum, platform yöneticilerini modern çağın “eşik bekçileri” konumuna getirmektedir. Hangi içeriğin zararsız bir fikir beyanı, hangisinin ise tehlikeli bir ihlal olduğuna karar vermek, ciddi bir ahlaki sorumluluk gerektirir. Kuşkusuz içeriklerin yetersiz denetlenmesi kullanıcıların siber şiddete ve psikolojik travmalara maruz kalmasına yol açarken; aşırı ve orantısız bir denetim ise sansür ve seslerin susturulması gibi etik ihlallere neden olmaktadır. Dolayısıyla, algoritmaların ve moderasyon ekiplerinin karar alma mekanizmaları, şeffaflık ve hesap verebilirlik ilkeleri çerçevesinde etik bir zemine oturtulmak zorundadır. Nitekim içerik denetiminin otomatize edilmesi süreci, yalnızca teknik bir mesele olmanın ötesinde çok ciddi politik ve etik zorlukları da beraberinde getirmektedir (Gorwa vd., 2020).
4. Etik Açıdan Uygunsuz İçerikler
Platformların topluluk kuralları ve evrensel değerler bazı sınırları belirler. Buna göre, bireylerin psikolojik güvenliğini tehdit eden paylaşımlar “uygunsuz içerik” sayılır. Çalışmada ele alınan ihlal türleri şunlardır:
Şiddet İçerikli Paylaşımlar: Gerçek hayattaki fiziksel saldırıların, yaralanmaların veya vahşet görüntülerinin sansürsüz bir şekilde paylaşılmasıdır. Özellikle, bu tür içeriklerin hızla yayılması, toplumda şiddeti normalleştirir. Sonuç olarak, bireylerin psikolojik bütünlüğü ihlal edilir.
Cinsel İçerik ve İstismar: Rızaya dayalı olmayan görüntülerin paylaşılmasıdır. Ayrıca dijital mahremiyetin ihlali ve pornografik materyallerin yayılmasıdır. Diğer bir deyişle bu durum, insan onurunu zedeleyen ve bireyleri dijital ortamda nesneleştiren ağır bir etik ihlaldir.
Nefret Söylemi: Bireyleri din, ırk veya cinsiyet gibi özellikleri üzerinden hedef alan söylemlerdir. Genellikle bu eylemler ötekileştirici ve düşmanlık aşılayıcıdır. Nefret söylemi, dijital ortamdaki şiddeti fiziksel dünyaya taşıma potansiyeline sahip olması yönüyle toplumsal barışı doğrudan tehdit etmektedir.
Çocuklara Zarar Verebilecek Paylaşımlar: Sosyal medyanın en savunmasız kullanıcı grubu çocuklardır. Pedofilik içerikler, çocukları hedef alan siber zorbalık eylemleri çocukların gelişim çağındaki psikolojilerinde onarılması güç tahribatlar yaratmaktadır. Platformların çocukları bu içeriklerden koruyamaması, yalnızca topluluk kurallarının değil, evrensel çocuk haklarının da ihlali anlamına gelmektedir.
5. Platformların İçerik Denetleme Sistemleri ve Yaptırımları
Platformlar, kuralları ihlal eden içerikleri denetlemek için benzer altyapılar kullanır. Ancak, neyin “uygunsuz” olduğuna karar verme konusunda farklı politikalar izlerler. Bu bağlamda Meta (Facebook ve Instagram), X ve Paftom platformlarının içerik denetleme mekanizmaları, hassasiyet gösterdikleri alanlar ve uyguladıkları yaptırımlar aşağıdaki tabloda karşılaştırmalı olarak sunulmuştur:
Tablo 1
Sosyal Medya Platformlarının İçerik Denetleme Sistemlerinin Karşılaştırılması
| Uygulamalar |
Denetim Mekanizması |
Uygunsuz Kabul Edilen İçerikler |
Uygulanan Yaptırımlar |
| Facebook ve Instagram (Meta) |
İnsan Moderatör Grubu ve Yapay Zeka Sistemi |
Çıplaklık/cinsel içerik, çocuk istismarı, siber zorbalık, telif hakkı ihlalleri |
Gönderi kaldırma, keşfet yasağı (shadowban), hesap dondurma |
| X |
Kullanıcı Raporlamaları ve Yapay Zeka Sistemi |
Çocuk istismarı, dezenformasyon, şiddet ve vahşet |
Gönderi paylaşma kısıtlama, hesap kaldırma |
| Paftom |
İnsan Moderatör Grubu ve Yapay Zeka Sistemi |
Yetişkin içerik, sahtecilik, tıbbi içerik, şiddet ve cinsellik |
Gönderi kaldırma, keşfet yasağı (shadowban), hesap kapatma |
Tablo incelendiğinde, çocuk istismarı ve dezenformasyon gibi konularda tüm platformların ortak bir duruş sergilediği görülmektedir. Ancak etik sınırların belirlenmesi konusunda platformlar arasında belirgin farklılıklar da mevcuttur. Örneğin; Meta ve Paftom gibi platformlar, çıplaklık ve yetişkin içeriklerine karşı katı bir “sıfır tolerans” politikası uygular. Fakat diğer platformların aksine X, kullanıcı rızasına ve doğru etiketlemeye bağlı olmak şartıyla yetişkin içeriklerinin paylaşımına izin vermektedir. Aslında bu durum, dijital mecralarda evrensel bir etik standardından ziyade, şirketlerin kendi topluluk kültürlerine göre esneyebilen moderasyon politikaları yürüttüğünü açıkça ortaya koymaktadır.
6. Çözüm Önerileri
6.1 Platformlara Yönelik Öneriler
- Yapay zeka destekli içerik denetleme sistemlerinin geliştirilmesi
- İnsan moderatörler ile yapay zekanın birlikte kullanılması
- İçerik kaldırma süreçlerinde şeffaflığın artırılması
- Çocuklara yönelik koruma mekanizmalarının güçlendirilmesi
- Kullanıcıların itiraz edebileceği adil değerlendirme süreçlerinin oluşturulması
6.2 Kullanıcılara Yönelik Öneriler
Sosyal medya platformlarında içerik denetimi yalnızca şirketlerin kararlarına bırakılamayacak kadar kapsamlıdır. Aynı zamanda, kullanıcıların proaktif birer “dijital vatandaş” olmasını gerektirir.
Öncelikle kullanıcıların, üyesi oldukları platformların neyi “etik dışı” olarak kabul ettiğini (Topluluk Standartları) bilmesi gerekmektedir. Dahası, bu kurallar bağlamında platformu kullandığını kabul ederler. Ayrıca bireyler, karşılaştıkları bir bilginin manipülatif olup olmadığını ayırt edebilmelidir. Benzer şekilde, nefret söylemi içerip içermediğini de süzgeçten geçirmelidir. Böylelikle bilinçli bir kullanıcı kitlesi, zararlı içeriklerin yayılımını durduracaktır.
7. Uygulama
Bölüm 1: Google Cloud Vision AI Üzerinden Test
2. Sayfanın orta kısmında bulunan “Try the API” (API’yi Deneyin) veya görsel yükleme alanını bulunuz. Sisteme internetten seçtiğiniz bir adet fotoğrafı yükleyiniz.(Sistem “Ben robot değilim” doğrulaması isteyecektir, onaylayınız).
3. Analiz tamamlandığında üst tarafta çeşitli sekmeler açılacaktır. “Safe Search” (Güvenli Arama) sekmesine tıklayarak yapay zekanın görseldeki şiddet, yetişkin içerik, tıbbi (kan vb.) oranlarını nasıl etiketlediğini göreceksiniz. Bu raporun ekranının görüntüsünü (1. Ekran Görüntüsü) alınız.
Bölüm 2: Paftom Yönetim Paneli Üzerinden Test
Kullanıcı Adı: Sadece ilk adınızı, küçük harflerle ve Türkçe karakter kullanmadan bitişik halde ve okul numaranızın son üç hanesi
Örnek: “Eren003” –> “eren003”
Şifre: bote2026
2. Ardından sisteme girdikten sonra sol taraftan “Moderasyon” grubu altından “Gönderiler” sekmesini açınız.
3. Karşınıza açılan listeden sisteme giriş yaparken kullandığınız kullanıcı adınızı içeren gönderiyi bulunuz ve yasaklama tuşuna basınız.
4. Karşınıza açılan pop-up ekranından gönderiyi yasaklamak için bir neden seçiniz ve tamamla tuşuna basınız.
5. Gönderinin başarıyla yasaklandığının ekran görüntüsünü alınız (2. Ekran Görüntüsü).
Bölüm 3: Kullanıcı Tarafından Gelen Şikayetleri İnceleme
2. Sol taraftan “Moderasyon” grubu altından “Şikayetler” sekmesini açınız.
3. Karşınıza açılan listeden kendinizi alakadar eden şikayeti açınız.
4. Son olarak şikayet metnini inceleyerek şikayetin geçerli veya geçersiz olduğunu işaretleyiniz ve sonuç ekranının görüntüsünü alınız (3. Ekran Görüntüsü).
8. Sonuç
Bu çalışmada, uygunsuz içeriklerin yol açtığı etik sorunlar ele alınmıştır. Ayrıca, sosyal medya platformlarında içerik denetimi için kullanılan yapay zeka destekli sistemler incelenmiştir. Şiddet, cinsel istismar, nefret söylemi ve çocuklara zarar verebilecek içeriklerin, bireylerin psikolojik sağlığını ve toplumsal değerleri doğrudan tehdit ettiği; bu durumun platformlara teknik değil, ahlaki sorumluluk yüklediği görülmüştür. Meta, X ve Paftom gibi platformların içerik denetim politikaları incelendiğinde, ifade özgürlüğü ile dijital güvenlik arasındaki dengeyi kurabilmek adına birbirinden farklı algoritmik filtreleme ve yaptırım (kısıtlama, içerik kaldırma, hesap kapatma) modelleri benimsedikleri tespit edilmiştir.
Çalışmanın uygulama aşamasında, teorik olarak incelenen bu mekanizmalar pratiğe dökülmüştür. Google Vision AI ile bilgisayarlı görü teknolojisi test edilmiştir. Ek olarak Paftom platformunun yerel yönetim paneli ile de yönetim paneli simülasyonu denenmiştir. Uygulama süreci, yapay zeka sistemlerinin görsel içerikleri (yetişkin içerik, şiddet, tıbbi unsurlar vb.) otonom olarak tarama ve etiketleme konusunda devasa bir kapasiteye sahip olduğunu somutlaştırmıştır.
Sonuç olarak; devasa veri akışının yaşandığı günümüz sosyal medya ekosisteminde, içerik denetimini tamamen insan gücüyle yapmak imkânsızdır. Ancak, bu görevi tamamen yapay zekaya devretmek de yeni etik ihlaller ve yönetişim zorlukları doğurmaktadır (Gorwa vd., 2020). Bu sebeple daha güvenli, adil ve etik bir dijital kamusal alan inşa edebilmek; şeffaf ve insan destekli yapay zeka mimarilerinin geliştirilmesine bağlıdır. Bununla birlikte, teknik çözümlerin nihai başarıya ulaşması, ancak platformların şeffaf politikalar izlemesi ve kullanıcıların dijital medya okuryazarlığı yüksek, proaktif bireyler haline gelmesiyle mümkün olacaktır.
9. Kaynakça
Gorwa, R., Binns, R., & Katzenbach, C. (2020). Algorithmic content moderation: Technical and political challenges in the automation of platform governance. Big Data & Society, 7(1), 1-15. https://doi.org/10.1177/2053951719897945
Bu eser Eren Alper tarafından Creative Commons Atıf-AynıLisanslaPaylaş 4.0 Uluslararası Lisansı ile lisanslanmıştır.
Marmara Üniversitesi Bilgisayar ve Öğretim Teknolojileri Eğitimi bölümünde son sınıf öğrencisi olarak eğitimime devam etmekteyim. Akademik sürecim boyunca özellikle web ve mobil teknolojiler alanına yoğunlaşarak kendimi geliştirmeye odaklandım. Bu doğrultuda JavaScript, PHP, SQL ve Kotlin programlama dillerinde yetkinlik kazandım ve çeşitli projelerde aktif rol aldım. Öğrenme sürecimi yalnızca teorik bilgiyle sınırlı tutmayıp, geliştirdiğim projelerle pratiğe dökerek deneyim kazandım.
Yaklaşık üç yıldır üzerinde çalıştığım sosyal medya platformu Paftom, kariyer gelişimimde önemli bir yere sahiptir. Bu projede başlangıçta web geliştirici olarak görev aldım; zamanla sorumluluklarım artarak içerik şefliği pozisyonuna ve sonrasında COO rolüne yükseldim. Bu süreçte hem teknik hem de yönetsel becerilerimi geliştirme fırsatı buldum. Proje kapsamında MongoDB, Amazon Web Services (AWS), Google Search Console ve Google Cloud Storage gibi teknolojileri aktif olarak kullanarak veri yönetimi, performans optimizasyonu ve ölçeklenebilir sistemler üzerine deneyim edindim.
Paftom bünyesinde geliştirmekte olduğumuz Entitybase adlı varlık veri tabanı projesi ile veri organizasyonu ve anlamlandırılması üzerine çalışmaktayım. Bu süreç, özellikle SEO alanında farklı senaryoları deneyimlememi sağladı ve dijital içeriklerin görünürlüğünü artırmaya yönelik stratejiler geliştirmeme katkıda bulundu.
Ayrıca üniversitem kapsamında Haydarpaşa Anadolu Lisesi’nde üç ay süreyle görev alarak öğretmenlik deneyimi kazandım. Şu anda ise Mustafa Mihriban Boysan Ortaokulu’nda görev yapmaktayım.
