TikTok canlı yayınlarında denetim sistemi yetersiz mi?

TikTok’ta canlı yayın içeriklerinin gerçek zamanlı olarak denetlenmesi konusunu değerlendiren Doç. Dr. Aylin Tutgun Ünal, “TikTok platformu, Topluluk Kurallarına aykırı olan zararlı içerikleri ve davranışları belirleyip kaldırmak için hem otomatik değerlendirme hem de insan değerlendirmesini kullandığını belirtiyor (support.tiktok.com). Ancak, bu önlemlerin yeterliliği konusunda bazı endişeler ve tartışmalar devam ediyor.” dedi.

Doç. Dr. Aylin Tutgun Ünal, sosyal medya platformlarında şiddet ve istismar içeriklerini engellemek için gelişmiş yapay zeka ve makine öğrenimi, gerçek zamanlı izleme, kullanıcı raporlama sistemleri, eğitim ve farkındalık çalışmaları, insan moderatörler ile güçlü topluluk kuralları ve yaptırımlar gibi bileşenlerin kritik öneme sahip olduğunu vurguladı.

Üsküdar Üniversitesi İletişim Fakültesi Öğretim Üyesi Doç. Dr. Aylin Tutgun Ünal, TikTok’ta canlı yayın içeriklerinin gerçek zamanlı olarak denetlenmesi konusunu değerlendirdi.

Denetleme, yapay zeka ve makine öğrenimi algoritmaları içeren teknolojilerle mümkün…

Canlı yayın içeriklerinin gerçek zamanlı olarak denetlenmesi için kullanılan teknolojilerin genellikle yapay zeka ve makine öğrenimi algoritmalarını içerdiğini kaydeden Doç. Dr. Aylin Tutgun Ünal, “Yapay zeka ve makine öğrenimi, gerçek zamanlı içerik işleme için ölçeklenebilir (scalable) çözümler sunarak platformların uygunsuz içerikleri hızlı ve verimli bir şekilde tespit edip kaldırmasını sağlar. Geçmişte manuel olarak yapılan içerik moderasyonu insan moderatörlere dayanıyordu ve büyük veri ile baş etmede ölçeklenebilir çözümler sunmadığı için uygun değildi. Günümüzde sosyal medya gibi büyük veri barındıran mekanizmaların gerçek zamanlı denetlenebilmesi yapay zeka ve makine öğrenimi algoritmaları içeren teknolojilerle mümkün.” dedi.

Yapay zeka destekli teknolojiler ne kadar başarılı? 

Bu teknolojilerin; sesli içerik moderasyonu, görüntü içerik moderasyonu, metin içerik moderasyonu, gerçek zamanlı izleme ve tespit, yapay zeka destekli iletişim gibi teknolojiler olduğunu anlatan Doç. Dr. Aylin Tutgun Ünal, “Bu teknolojilerin çalışma prensiplerine değinecek olursak; canlı yayın sırasında kullanılan yazılı metinleri analiz eden yapay zeka algoritmaları küfür, nefret söylemleri veya diğer uygun olmayan içerikleri tespit edebilir. Ya da sesli içerik moderasyonu, sesli içeriği metne dönüştürür ve canlı yayın sırasında kullanılan ifadeleri ve söylemleri analiz eder, uygun olup olmadığını kontrol eder. Gerçek zamanlı olarak içeriklerin uygun olup olmadığını yapay zeka hemen tespit edebilir. Bu da insan moderatörlerin yükünü azaltmakla kalmayıp içeriklerin daha hızlı yönetilmesini sağlar. Twitch, YouTube Live ve Facebook Live gibi platformlar, bu teknolojileri kullanarak izleyicileri korumayı, daha güvenli ve keyifli bir deneyim sunmayı amaçlıyor. Ne kadar başarılı oldukları ise tartışma konusu.” diye anlattı.

TikTok, hem otomatik değerlendirme hem de insan değerlendirmesini kullandığını belirtiyor

TikTok’un şiddet içerikli yayınlara karşı aldığı önlemlere de değinen Doç. Dr. Aylin Tutgun Ünal, “Sosyal medya, e-ticaret, yayın hizmetleri ve çevrimiçi forumlar her gün büyük miktarlarda kullanıcı tarafından oluşturulan içerik üretiyor. İçerikteki bu artışla birlikte platformlar, materyalin/içeriğin uygun, güvenli ve topluluk standartları ve yasal düzenlemelerle uyumlu kalmasını sağlama zorluğuyla karşı karşıya kalıyor. Bu içeriklerin gerçek zamanlı olarak denetlenmesi, yapay zeka ve makine öğrenimi algoritmalarını içeren teknolojileri uygun şekilde işe katmaktan politikalara kadar geniş bir denetim ekosistemini gündeme getiriyor. TikTok platformu, Topluluk Kurallarına aykırı olan zararlı içerikleri ve davranışları belirleyip kaldırmak için hem otomatik değerlendirme hem de insan değerlendirmesini kullandığını belirtiyor (support.tiktok.com). Ancak, bu önlemlerin yeterliliği konusunda bazı endişeler ve tartışmalar devam ediyor.” şeklinde konuştu.

Önlemlerin yeterli olabilmesi için neler yapılmalı?

Alınan önlemlerin yeterli olabilmesi için daha etkili bir denetim sisteminin oluşturulup işe katılması gerektiğine de dikkat çeken Doç. Dr. Aylin Tutgun Ünal, şöyle devam etti:

“Bu sistemde olması gereken bileşenler; Gelişmiş yapay zeka ve makine öğrenimi, Gerçek zamanlı izleme, kullanıcı raporlama sistemleri, eğitim ve farkındalık, insan moderatörler, güçlü topluluk kuralları ve yaptırımlar olarak sıralanabilir. Bu noktada, Aile ve Sosyal Hizmetler Bakanlığı, TikTok ve diğer sosyal medya platformlarıyla şiddet ve istismar içerikli yayınlar konusunda görüşmeler yaparak, daha etkili adımlar atmayı planlıyor. Bu noktada, sosyal medya platformları kapsamında düzenlenecek politikaların denetim mekanizmalarındaki öneminden bahsedebiliriz. Topluluk kurallarının net bir şekilde belirlenmesi ve ihlallerin ciddi yaptırımlarla karşılanması, kullanıcıların bu kurallara uymasını teşvik edecektir.”

TikTok gibi platformların sorumlulukları nelerdir?

Tik Tok gibi sosyal medya platformlarının, şiddet içerikli olayların yayılmasını önlemek ve kullanıcıları korumak için çeşitli sorumluluklara sahip olduğunu ifade eden Doç. Dr. Aylin Tutgun Ünal, bu sorumlulukları şu şekilde sıraladı:

“1- Topluluk kuralları ve politikalar: Şiddete teşvik eden veya şiddet içeren içeriklerin paylaşılması yasaklanmalıdır.

2- İçerik moderasyonu: Hem otomatik değerlendirme sistemleri hem de insan moderatörler kullanarak içerikler denetlenmelidir. Şiddet içerikli içerikler tespit edildiğinde, bu içerikler hızla kaldırılmalıdır ve ihlal eden hesaplar hakkında gerekli önlemler alınmalıdır.

3- Gerçek zamanlı izleme ve müdahale: Şiddet içerikli olayların anında tespit edilmesi ve müdahale edilmesi için gerçek zamanlı izleme sistemi kullanılmalıdır. Bu, kullanıcıların güvenliğini sağlamak için kritik bir adımdır.

4- Kullanıcı raporlama sistemleri: Kullanıcılar, şiddet içerikli içerikleri rapor edebilir ve bu raporlar hızlı bir şekilde değerlendirilmelidir. Böylece, topluluk üyelerinin platformun güvenliğine katkıda bulunması sağlanır.

5- Eğitim ve farkındalık: Şiddet içerikli içeriklerin zararları konusunda kullanıcıları eğitmek ve farkındalık yaratmak için çeşitli kampanyalar ve programlar düzenlenmelidir.”

Bu alandaki çalışmalar sürekli olarak güncellenmeli

Doç. Dr. Aylin Tutgun Ünal, sözlerini şu şekilde tamamladı:

“Bu sorumlulukları yerine getiren, başta TikTok olmak üzere, sosyal medya platformları kullanıcılarını koruma ve güvenli bir çevrimiçi ortam sağlamayı başarabilir. Ancak, bu alandaki çalışmaların sürekli olarak geliştirilmesi ve güncellenmesi gerekir.”