Herní platforma Roblox čelí v poslední době vlně kontroverzí kvůli bezpečnosti dětí. Zejména poté, co zablokovala uživatele, jenž se označuje za lovce dětských predátorů, a veřejně obhájila odstraňování „vigilantů“. To vyvolalo odpor části hráčů, žalobu generální prokurátorky státu Louisiana a také výzvu kongresmana Ro Khanny (kalifornský Demokrat), aby platforma lépe chránila svoji početnou komunitu dětských uživatelů. O zprávě informoval americký Forbes.
Roblox ve středu na svém webu zveřejnil obsáhlé prohlášení, v němž obhajuje zákaz takzvaných vigilant uživatelů, kteří se na platformě snaží dopadat dětské predátory. Podle firmy tito uživatelé podnikali kroky, které jsou nepřijatelné a vytvářejí pro uživatele nebezpečné prostředí.
Společnost uznala, že jednali s dobrým úmyslem, ale uvedla, že se jejich chování vyvinulo do podoby podobné skutečným predátorům, když se začali vydávat za děti a aktivně vyhledávali kontakt s dospělými. Roblox místo toho vybízí k hlášení podezření prostřednictvím jeho moderátorských nástrojů.
Roblox začal minulý týden zavádět moderátorský nástroj využívající umělou inteligenci, která má v uživatelských chatech identifikovat jazykové vzorce a signály možného dětského využívání.
Prohlášení reagovalo na aktuální debatu—pravděpodobně na spor kolem nedávného zákazu populárního uživatele jménem Schlep, který tvrdí, že jeho „vigilantská“ činnost vedla k zatčení několika predátorů.
Kongresman Ro Khanna ve středu na TikToku uvedl, že Roblox nedělá dost proti predátorům, a na svém webu zveřejnil petici vyzývající platformu, aby více chránila děti.
Khanna pro americký Forbes sdělil, že od tvůrců i znepokojených rodičů slyšel o naléhavé potřebě, aby Roblox posílil ochranu dětí online. Dodal, že bude naslouchat a zkoumat, jaké kroky lze a je nutné přijmout.
Roblox řekl na oplátku americkému Forbesu, že je s Khannovým týmem v kontaktu a sdílí jeho závazek zlepšovat online bezpečnost a transparentnost, nicméně trvá na zákazu vigilantů a uvádí, že úzce spolupracuje s orgány činnými v trestním řízení, aby predátory činil odpovědnými.
Ke kongresmanovi se připojila i generální prokurátorka Louisiany Liz Murrill. Ta ve čtvrtek večer oznámila, že podala na Roblox u státního soudu žalobu s tvrzením, že platforma nedokáže ochránit děti před predátory.
„Roblox je zaplaven škodlivým obsahem a dětskými predátory, protože upřednostňuje růst počtu uživatelů, tržby a zisky před bezpečností dětí,“ uvedla Murrill.
Murrill zároveň uvedla, že policie minulý měsíc prohledala dům muže z okresu v Louisianě podezřelého z držení materiálů o sexuálním zneužívání dětí. Šlo údajně o uživatele Robloxu, který měl technologii měnící hlas tak, aby zněl jako mladá dívka.
Další kontroverze se odehrála ve spojitosti se Schlepem, dvaadvacetiletým hráčem z Texasu a youtuberem s více než milionem odběratelů. Jeho nejpopulárnější videa zobrazují jeho snahu vypátrat na platformě dětské predátory.
Jeho nejsledovanější video „Roblox Predator Gets Arrested!“ ukazuje, jak se pod falešnou identitou mladého uživatele domluví na setkání s mužem, s nímž se seznámil na Robloxu, a na místě ho konfrontuje spolu s policií. Schlep na síti X tvrdí, že pomohl úřadům zatknout šest uživatelů Robloxu, kteří se jevili jako dětští predátoři.
O víkendu zveřejnil Schlep na síti X údajnou výzvu k zastavení činnosti (cease-and-desist) od Robloxu, která mu oznamuje pozastavení účtů kvůli zapojování se do simulovaných rozhovorů o ohrožení dětí, sdílení či vyžadování osobních identifikačních údajů a směrování uživatelů k přesunu komunikace mimo platformu, což vše podle Robloxu porušuje jeho zásady.
Ve středu Schlep na X označil prohlášení Robloxu za pobuřující s tím, že srovnávat kroky vigilantů s chováním predátorů je nepřijatelné.
Jeho zákaz vyvolal na internetu hněv podporovatelů a ve středu večer sdílel obrázek z protestu přímo ve hře, kde se hráči sešli pod heslem „Free Schlep“ („Svobodu Schlepovi“). Ve čtvrteční tiskové zprávě Schlep uvedl, že si najal právníka kvůli krokům Robloxu.
Schlep tvrdí, že když byl teenager, stal se na Robloxu obětí „groomingu“ ze strany uživatele, který mu posílal násilný a pornografický obsah, a že Roblox podle něj nereagoval, dokud jeho matka nevyhrožovala právními kroky.
Grooming je kriminální aktivita, jejímž cílem je pomocí psychické manipulace vylákat z oběti osobní údaje, vyvolat falešnou důvěru a vylákat ji na osobní schůzku, kde většinou dochází k fyzickému násilí, sexuálnímu zneužití, zneužití oběti pro dětskou prostituci, k výrobě dětské pornografie apod.
Tisková zpráva rovněž uvádí, že se na Schlepa obrátil Chris Hansen, bývalý reportér pořadu NBC Dateline, který vedl segment To Catch a Predator, s nabídkou spolupráce na chystaném dokumentu o dětské bezpečnosti na Robloxu.
Moderátorské zásady Robloxu jsou dlouhodobě předmětem kritiky, zejména kvůli velmi mladé uživatelské základně. Roblox ve své červencové výsledkové zprávě uvedl, že ve druhém čtvrtletí letošního roku měl 111,8 milionu denně aktivních uživatelů, z nichž 36 procent bylo mladších třinácti let.
Loňské vyšetřování agentury Bloomberg zjistilo, že policie ve Spojených státech od roku 2018 zatkla nejméně dvě desítky uživatelů obviněných z vykořisťování nezletilých prostřednictvím Robloxu, z toho sedm případů za posledních třináct měsíců.
Bloomberg citoval anonymní rozhovory s téměř dvěma desítkami zaměstnanců, včetně moderátorky, která uvedla, že její tým denně dostává stovky hlášení týkajících se dětské bezpečnosti. Dokonce až „příliš mnoho na to, aby je dokázali odbavit“.
Mluvčí Robloxu tato tvrzení pro Bloomberg odmítl s tím, že společnost má robustní zásobu bezpečnostních funkcí a že „desítky milionů lidí všech věkových kategorií mají na Robloxu každý den bezpečnou a pozitivní zkušenost“.
The post Opět pod palbou kritiky. Roblox se neumí vypořádat s problémy týkající se dětské bezpečnosti appeared first on Forbes.
