Bir akademisyen tarafınca meydana gelen, Wall Street Journal tarafınca teyit edilen ve ortalama yedi ayı kapsayan testlere nazaran Instagram algoritması erişkinlik çağındaki küçüklere cinsel içerikli ve müstehcen videolar öneriyor.
Elde edilmiş bulgular, firmanın eski güvenlik çalışanı tarafınca meydana getirilen ve sitenin tavsiye sisteminin çocuk güvenliği tedbirlerinin tesirini azalttığını tespit eden analizle de örtüşüyor. Wall Street Journal’ın haberine göre 2022 yılına ilişik şirket içi raporlar, algoritmanın genç kullanıcılara yetişkinlerden daha çok pornografi, vahşet ve nefret söylemi barındıran içerikler gösterdiğini Meta’nın uzun süreden beri bildiğini ortaya koydu.
Basına yansıyan son rapor ise Northeastern Üniversitesi bilgisayar bilimleri profesörü Laura Edelson’ın gerçekleştirdiği bir deneye dayanıyor. Wall Street Journal testlerde kullanılan metodolojiyi ve neticeleri şu şekilde aktarıyor:
- Yeni hesaplar açıldı ve kullananların yaşı 13 olarak işaretlendi. Bu hesaplardan Instagram’ın Reels olarak malum video akışı seyredildi.
- İlk videolar güldürü, otomobiller yada dublörlerin görüntülerini içeriyordu. Kontrol hesapları bu tür videoları kaydırarak geçti; hiçbir videoyu beğenmedi, kaydetmedi ve tıklamadı.
- Kısa bir süre sonrasında Instagram güldürü ve dublör videolarını önermeyi büyük seviyede bıraktı ve ilk etapta orta seviyede müstehcen videolardan oluşan bir seçki sundu.
- Hesaplar bu videoları sonuna kadar izlediğinde Reels algoritması daha müstehcen içerikler önerdi. Yetişkinlere yönelik sex içerikli videolar üç dakika şeklinde kısa bir süre içinde akışlarda yer almaya başladı.
- Reels’i izledikten 20 dakika sonrasında kontrol hesaplarının akışlarına bu tür içerik üreticilerinin tanıtımları egemen oldu. Ve bazıları gönderileriyle etkileşime giren kullanıcılara çıplak fotoğraf göndermeyi vadediyordu.
Prof. Edelson tarafınca meydana getirilen testlerin büyük kısmı Ocak-Nisan ayları içinde gerçekleşti. Wall Street Journal tarafınca Haziran ayında meydana getirilen ikinci bir testte bu sorunların devam etmiş olduğu görüldü. Bir tek Instagram’ın önerilmiş olduğu ve hanımefendilerin yer almış olduğu videoları izleyen 13 yaş kategorisindeki bir kontrol hesabına otuz dakika içinde seksle ilgili art arda video önerileri gelmeye başladı.
Snapchat ve TikTok’un kısa video formatları üstünde meydana getirilen benzer testlerde ise 13 yaşındaki kullananların akışında cinsel içerikli görüntülere rastlanmadı. Reşit olmayan kullanıcılara tavsiye edilen içerik mevzusunda üç platformun birbirinden değişik bulunduğunu vurgulayan Edelson, “TikTok’taki erişkin deneyimi bile Reels’ın gençlere sunmuş olduğu deneyimden fazlaca daha azca müstehcen” diyor.
Meta sözcüsü: ‘Gerçeklerle örtüşmeyen suni bir gözlem’
Meta, kontrol bulgularını gençlerin platformadaki genel deneyimini yansıtmadığı nedeni öne sürülerek reddetti. Sözcü Andy Stone testleri, “Gençlerin Instagram’ı iyi mi kullandığı gerçeğiyle örtüşmeyen suni bir gözlem olarak nitelendirdi.
Stone, firmanın reşit olmayanlara yönelik uygunsuz içinde ne olduğu önleme çabalarının devam ettiğini söylemiş oldu. “Uzun soluklu çalışmalarımızın bir parçası olarak gençlerin Instagram’da görebileceği kırılgan içerik hacmini daha da azaltmak için bir ekip kurduk ve geçtiğimiz birkaç ay içinde sayıları anlamlı bir halde azalttık” diye ekledi.
Meta geçtiğimiz Ocak ayında gençlere daha ‘yaşa uygun’ bir tecrübe sunacağını açıklamıştı. Şirkete nazaran ‘reşit olmayan’ olarak işaretlenen Instagram hesapları otomatikman en katı içerik denetim sınırlamalarına doğal olarak tutuluyor. Sadece aylar devam eden kontrol neticeleri tam aksine işaret ediyor.
‘Çevrimiçi Gizliliği Koruma Yasası’ uyarınca 13 yaşın altındaki çocuklar Instagram yada Feysbuk’a kayıt olamıyor. Sadece çevrim içi ortamda yaş mevzusunda yalan söyleyerek bir toplumsal medya hesabı açmak fazlaca yaygın kullanılan bir yöntem.
Geçen senenin Ekim ayında ABD’nin 33 eyaleti tarafınca Meta’ya dava açıldı ve şikâyet dilekçesinde ‘Meta’nın etkili yaş denetim sistemlerini bir öncelik hâline getirmede ‘devamlı olarak başarısız olduğu’ ek olarak 13 yaşın altındaki kullananların Instagram hesabı oluşturmak için yaşı hakkında yalan söylemesine zemin hazırlayan yöntemler kullandığı’ vurgulandı.
Dava belgelerine nazaran Meta, 2019’un başından bu yana 13 yaşın altındaki kullanıcılarla ilgili 1,1 milyondan fazla şikâyet aldı sadece bu hesapların yalnızca bir kısmını dönem dışı bıraktı. Ek olarak 13 yaşlarının altındaki çocuklar hakkında veri toplamayı yasaklayan kanunu çiğnedi; evlatların hesabını dönem dışı bırakmak bir yana konum ve e-posta adresi şeklinde kişisel bilgilerini rutin olarak toplamaya devam etti.
Geçtiğimiz aylarda kamuoyuna yansıyan şirket içi yazışmalar da Meta’nın platformlarında küçüklere yönelik cinsel tacizin devasa boyutlarını bildiğini ortaya koydu. Şirket çalışanları Feysbuk ve Instagram kullanan ortalama 100 bin çocuğun her gün çevrim içi cinsel tacize uğradığını tahmin ediyordu ve bu informasyon toplumsal medya devine karşı oluşturulan bir dava sürecinde ortaya çıkmıştı. Meta çalışanları tarafınca meydana getirilen sunum ve şirket içi yazışmalara dayanan söz mevzusu belgelerde, Apple’da çalışan bir yöneticinin 12 yaşındaki kızının Instagram’ın mesajlaşma uygulaması üstünden rahatsız etme edilmiş olduğu bir vaka yer alıyordu.
Wall Street Journal tarafından Şubat ayında yapılan bir başka haberde ise evlatlarının görüntülerinden abonelik modeliyle kazanç elde eden ‘Momfluencer’ların yükselişine dikkat çekildi. Habere mevzu olan şirket içi raporda Meta çalışanları, görüntüler çıplaklık içermese dahi ödeme yapanların ezici çoğunluğunun adam olduğuna dikkat çekiyor ve kötüye kullanım mevzusunda amirlerini uyarıyordu.
Sivil cemiyet örgütleri ve düzenleyici kurumlar senelerdir toplumsal medyanın çevrim içi çocuk istismarındaki rolüne dikkat çekiyor. ‘Tacizciler için bir ortam’ yarattığı nedeni öne sürülerek dava edilen Meta 2023’te şu anda yürürlükte olan ‘sıkı’ denetim ayarları da dahil olmak suretiyle bir takım yeni güvenlik önlemi aldığını deklare etti. Meta’nın bu senenin başlangıcında yapmış olduğu duyuruya nazaran, 16 yaşın altındaki gençlere cinsel içerikli paylaşımların asla gösterilmemesi gerekiyor.
Şirket sık sık çocuk güvenliği mevzusunda çalışan ekibini genişlettiğini ve daha çok bütçe ayırdığını vurguluyor. Sadece basına yansıyan ve Wall Street Journal tarafınca da teyit edilen son rapor atılan adımların kafi olmadığını gösteriyor.
Chase DiBenedetto, Mashable’da muhabir. Ek kaynak: Wall Street Journal.