TikTok’un deneyi faciayla sonuçlandı! Gizli algoritma ölüme sürükledi

ABD merkezli Bloomberg'e göre, TikTok'un 2021 yılında kullanıcıların zararlı içeriklere maruz kalmasını azaltmak amacıyla geliştirdiği güvenlik güncellemesi tüm kullanıcılara aynı anda sunulmadı. Bloomberg'in ulaştığı gizli bir şirket belgesine göre platform, yeni algoritmanın kullanıcı etkileşimini azaltıp azaltmayacağını ölçmek amacıyla ABD'deki kullanıcıların yaklaşık yüzde 10'unu kapsayan bir kontrol grubu oluşturdu. O dönemde yaklaşık 15 milyon kişiyi kapsayan bu gruptaki kullanıcılar, uygulamanın eski algoritmasını kullanmaya devam etti. Bloomberg'in haberine göre, kontrol grubunda yer alan 16 yaşındaki Chase Nasca da yeni güvenlik önlemlerinden yararlanamayan kullanıcılar arasındaydı. Şirket içi belgeye göre TikTok'un algoritması, Chase'e intihar, yalnızlık, umutsuzluk ve kendine zarar verme temalı binlerce video önerdi. Genç kullanıcı daha sonra yaşamına son verdi. 'FİLTRE BALONU' İÇİNDE KALDI Bloomberg'in aktardığı belgeye göre Chase'in hesabı, algoritmanın benzer içerikleri sürekli önerdiği ve 'filtre balonu' olarak tanımlanan yapı içine hapsoldu. Belgede, gencin intihar ve kendine zarar verme içerikleriyle 'yoğun bir bombardımana' maruz kaldığı ifade edildi. Şirketin hazırladığı değerlendirmede, Chase'in kontrol grubunda bulunması nedeniyle TikTok'un filtre balonunu önlemeye yönelik geliştirdiği güvenlik stratejilerinin 'tasarım gereği bu kullanıcı üzerinde etkili olmadığı' belirtildi. İNCELEME ÖLÜMÜNDEN SONRA YAPILDI Bloomberg'e göre söz konusu belge, Mart 2023'te TikTok'un güvenlik ve algoritma ekipleri tarafından hazırlandı. 'Gizli ve özel' ibaresi taşıyan belge, Chase Nasca'nın ölümünden önceki haftalar, günler ve saatlerde izlediği içeriklerin ayrıntılı analizini içeriyor. Belgenin halen mahkeme kararıyla gizlilik altında tutulduğu belirtildi. Habere göre TikTok normal şartlarda bireysel kullanıcıların izleme geçmişini detaylı şekilde incelemiyor. Ancak Bloomberg Businessweek'in genç kullanıcılar üzerindeki etkileri araştıran haberi kapsamında şirketten yorum istenmesi üzerine Chase'in hesabı geriye dönük olarak analiz edildi. ANNESİ HESABINDA DİKKAT ÇEKEN İÇERİKLER BULDU Habere göre Chase Nasca, Şubat 2022'de New York eyaletinin Bayport bölgesinde bir trenin önüne atlayarak hayatını kaybetti. Haberde, daha önce ruh sağlığı sorunları geçmişi bulunmadığı belirtilen ve futbol yeteneğiyle tanınan 16 yaşındaki gencin herhangi bir intihar notu bırakmadığı, bu nedenle ölümünün ailesi ve arkadaşları için büyük şaşkınlık yarattığı aktarıldı. Bloomberg'in haberine göre annesi daha sonra oğlunun TikTok hesabına erişerek algoritmanın sürekli intiharla ilgili videolar önerdiğini fark etti. Ölümünden beş gün önce Chase'e, yaklaşan bir trenin önünde selfie çeken bir kişinin yer aldığı ve 'Kafamı dağıtmak için kısa bir yürüyüşe çıktım' ifadelerinin bulunduğu bir videonun önerildiği tespit edildi. İKİ HAFTADA 7 BİN 563 VİDEO ANALİZ EDİLDİ Bloomberg'in ulaştığı belgeye göre TikTok, Chase'in ölümünden önceki son iki haftada kendisine önerilen toplam 7 bin 563 videoyu inceledi. Analizde videoların yüzde 73'ünün intihar girişiminden kurtulanların anlatımları, ruh sağlığı sorunları, intihar farkındalığı ile ilişki özlemi veya ayrılık üzüntüsü gibi ortak temalar içerdiği belirlendi. Belgede bu içeriklerin TikTok'un topluluk kurallarını ihlal etmediği ifade edildi. Bunun yanında videoların yaklaşık yüzde 10'unun ise platform kurallarını ihlal ettiği tespit edildi. Bloomberg'in aktardığına göre bu içerikler arasında derin depresyon, düşük öz saygı, yalnızlık, tükenmişlik hissi ve intihar düşüncelerini içeren mesajlar ile görseller yer aldı. Genel tabloya bakıldığında Chase'e önerilen binlerce videonun ortak temasının umutsuzluk olduğu belirtildi. SON SAATLERİNDE TREN VE İNTİHAR İÇERİKLERİNİ ARADI Habere göre şirket içi analiz, Chase'in yaşamının son günlerine ilişkin çarpıcı ayrıntılar da ortaya koydu. Belgede, ölümünden bir gün önce beş saatten fazla TikTok kullandığı ve trenler ile intihar konulu içerikleri aradığı kaydedildi. Ölüm günü ise intihara gönderme yapan videoları favorilerine eklediği belirtildi. Chase, yaşamını yitirmeden saatler önce Manhattan Köprüsü'nden atlamadan önce sosyal medyada 'Bu dünya beni unutacak' mesajını paylaşan bir çocuğun hikâyesini anlatan videoyu defalarca izledi. Gencin gördüğü son videonun ise ağlayan bir kişinin görüntülerini içerdiği aktarıldı. HESAP BİR YIL SONRA DA BENZER İÇERİKLER ALMAYA DEVAM ETTİ Chase Nasca'nın hesabı ölümünün ardından aktif kalmaya devam etti. Annesinin yaptığı incelemede, algoritmanın aradan bir yıl geçmesine rağmen hesaba hâlâ intihar temalı içerikler önermeyi sürdürdüğü görüldü. Bloomberg'in ulaştığı şirket içi belge, TikTok'un güvenlik önlemlerinin tüm kullanıcılara aynı anda uygulanmamasının sonuçlarına ilişkin dikkat çekici bulgular içeriyor.