Roblox, toplu çekimlerin yeniden yaratılmasını denetlemek için mücadele ediyor

Bir yılı aşkın bir süredir, Hakaretle Mücadele Birliği araştırmacısı Daniel Kelley, korkunç bir kitlesel çekimin yeniden yaratımlarını buluyor. roblox – ve her baktığında daha fazlasını bulduğunu söylüyor. Kelley anlattı Sınır üç kez oldu: önce Ocak 2020’de, ardından tekrar Mayıs 2021’de. En son olay 13 Ağustos’ta, rahatsız edici içeriğin nasıl bildirileceğine ilişkin bir sunum hazırlarken gerçekleşti.

Kelley, “Bir kez isterim” Twitter’da söyledi son olaydan sonra, “Christchurch’i aramak için roblox ve çok küçük çocuklara yönelik bir oyun platformunda çekilen 2019 Christchurch camisinin yeni bir rekreasyonunu bulamamak.”

50’den fazla kişinin ölümüne neden olan cami saldırısı, son yıllarda gerçekleştirilen en şiddetli dini nefret eylemlerinden biri olarak kınandı. Saldırının ardından Başbakan Jacinda Ardern, olayı “Yeni Zelanda’nın en karanlık günlerinden biri” olarak nitelendirdi.

Sınır Kelley’nin bulgusunu doğruladı, iki farklı roblox “Christchurch” için basit bir metin aramasıyla çekime odaklanan deneyimler. Her iki oda da iki yüzden fazla ziyaret kaydetmişti.

roblox proaktif olarak terörist içeriği izler, ancak Kelley tarafından işaretlenen senaryolar gözden kaçmış gibi görünüyor. Yorum için ulaşıldı, roblox platformun kitlesel çekimlerin yeniden yaratılmasına karşı agresif bir şekilde ılımlı olduğu konusunda ısrar etti.

“Bu deneyimi derhal kaldırdık roblox Bir şirket temsilcisi yaptığı açıklamada, dikkatimize sunulduktan ve Topluluk Kurallarımızı ihlal etmekten sorumlu kullanıcıyı askıya aldıktan sonra” dedi. “Irkçılığa, ayrımcı konuşmaya veya trajik olaylarla ilgili içeriğe müsamaha göstermeyiz. Sürekli aktif olan ve titizlikle ve proaktif olarak uyguladığımız sıkı bir güvenlik ve izleme sistemimiz var.”

Şirket, Christchurch saldırısına yapılan referansların otomatik metin aramaları yoluyla engellenmesinin özellikle zor olduğunu, çünkü kapsamlı bir filtrenin şehre yapılan referansları da engelleyeceğini söyledi. Temsilci, “Bu durumda proaktif tespitimiz, coğrafi konuma (Yeni Zelanda’nın en büyük şehri) atıfta bulunulmasına izin veren ancak politikalarımızı ihlal eden kullanımları dengelemek için insan incelemesini içerir,” diye devam etti temsilci.

See also  Apple said Roblox developers don’t make games, and now Roblox agrees

Sorunun bir kısmı şundan kaynaklanıyor: robloxbüyüklüğü — hızlı ve benzeri görülmemiş bir büyümenin sonucu. Oyun şu anda günlük 40 milyondan fazla kullanıcıya sahip ve bu da manuel olarak taranamayacak kadar büyük, kullanıcı tarafından oluşturulan odaların taşmasına neden oluyor. Oyunun, kullanıcıların kendi senaryolarını ve alanlarını oluşturmasına dayanan dağıtık yapısı, izlemeyi özellikle zorlaştırıyor.

roblox Oyunun ABD’de 16 yaşın altındaki çocukların yarısından fazlasının oynadığı iddiasıyla Kasım ayında halka arz edilmişti. Şirket şu anda yaklaşık 45 milyar dolar değerinde.

Aynı halka arz dosyası, topluluk moderasyon sorunlarını iş için potansiyel bir risk olarak özellikle adlandırır. Dosyada, “İş modelimizin başarısı, çocukların deneyimlemesi için güvenli bir çevrimiçi ortam sağlama yeteneğimize bağlıdır” deniyor. “Güvenli bir ortam sağlamaya devam edemezsek, işimiz önemli ölçüde zarar görecek.”

Bir aşırıcılık araştırmacısı olarak Kelley, çocukların sağlığı konusunda daha az endişeli. robloxve daha çok platformun radikalleşme için bir vektör olabileceğinden endişeleniyor.

“Her oyun roblox Kelley, potansiyel olarak kendi başına bir sosyal platformdur ve çevrimiçi olarak nefret dolu ideolojilerle flört eden veya tamamen meşgul olan her yaştan oyuncuya potansiyel olarak sığınak sağlayabilir” diyor. “Nefret dolu ideolojilere saygı gösterilmesine izin veren her alan … bu ideolojilerin normalleşmesine ve yayılmasına katkıda bulunur.”

Adi Robertson bu makaleye katkıda bulunmuştur.