Tato tragédie odhalila jen jeden z případů podvodů založených na takzvaném sexuálním vydírání (známém také pod anglickým označením sextortion), které se zaměřují na děti po celém světě. Umožňuje je rychlé šíření takzvaných svlékacích aplikací, které využívají AI, aby digitálně „svlékly“ svou oběť nebo vytvořily sexualizované snímky.
ČTĚTE TAKÉ: Nelichotivý žebříček pro Čechy. Sociální sítě nadužívají nejvíce z Evropanů, co s tím?
Šestnáctiletý Elijah Heacock byl jedním z tisíců amerických nezletilých, kteří se stali terčem podobného digitálního vydírání. Nyní sílí hlasy vyzývající k většímu zásahu ze strany technologických platforem a regulačních orgánů.
Skutečné fotky nepotřebují
Elijahovi rodiče americkým médiím sdělili, že mu textové zprávy nařizovaly zaplatit, jinak jeho příbuzní a přátelé dostanou jeho nahou fotku, která byla zřejmě generovaná umělou inteligencí.
„Lidé, kteří jdou po našich dětech, jsou dobře organizovaní,“ řekl v rozhovoru v televizi CBS News chlapcův otec John Burnett. „Mají dostatek finančních prostředků a jsou neúprosní. Nepotřebují, aby fotografie byly skutečné, mohou generovat, co chtějí, a pak to použijí k vydírání dítěte,“ dodal.
Američtí vyšetřovatelé se případem zabývají. Podle policie jde o součást širšího kriminálního trendu, kdy se svlékací aplikace, které původně cílily především na celebrity, čím dál tím častěji zneužívají proti dětem.
Alarmující počet sebevražd
Federální úřad pro vyšetřování (FBI) informoval o děsivém nárůstu počtu případů sexuálního vydírání zaměřeného proti americkým dětem. Oběťmi jsou obvykle chlapci ve věku 14 až 17 let. Výhrůžky už vedly k „alarmujícímu počtu sebevražd“, varovala FBI.
Nezisková organizace Thorn, která se zaměřuje na prevenci zneužívání dětí na internetu, v nedávném průzkumu zjistila, že přímou obětí falešných nahých fotografií se stalo šest procent amerických teenagerů.
„Zprávy o padělaných a upravených snímcích, z nichž mnohé jsou generovány pomocí těchto svlékacích aplikací, se zdají být úzce spojené se zprávami o vydírání s pomocí sexuálně explicitních obrázků,“ uvedla ve své loňské zprávě britská organizace Internet Watch Foundation (IWF).
„Pachatelé už nemusejí získávat intimní fotky od dětí, protože obrázky, které jsou dostatečně přesvědčivé, aby byly škodlivé – v některých případech možná dokonce stejně škodlivé jako skutečné fotky – lze vytvořit pomocí generativní umělé inteligence,“ dodala IWF.
Pedofilní příručka
Té se podařilo na internetu najít „pedofilní příručku“, která přímo vyzývala pachatele, aby používali svlékací aplikace k vytváření snímků, s nimiž budou moci děti vydírat. Autor příručky tvrdil, že tímto způsobem úspěšně vydíral několik třináctiletých dívek.
Nástroje sloužící k vytváření padělaných nahých snímků jsou lukrativní byznys. Nová analýza 85 webových stránek, které prodávají podobné aplikace či programy, ukázala, že jejich celková hodnota může dosahovat až 36 milionů dolarů ročně.
Analýza společnosti Indicator, která se zabývá digitálními podvody, pak ukazuje, že 18 těchto webů vydělalo za šest měsíců do letošního května od 2,6 milionu do 18,4 milionu dolarů.
Většina webů využívá k provozu technologickou infrastrukturu společností Google, Amazon a Cloudflare a zůstává zisková i přes zásahy platforem a regulačních orgánů, uvedla společnost Indicator.
Obětí se stane každý pátý mladý
Rozšíření nástrojů umělé inteligence vede k novým formám zneužívání dětí nebo šikany, včetně pornografických skandálů na univerzitách a školách po celém světě, kde teenageři vytvářeli sexualizované obrázky svých spolužáků.
Nedávný průzkum organizace Save the Children zjistil, že každý pátý mladý člověk ve Španělsku se stal obětí falešných nahých fotografií, které bez jeho souhlasu začaly kolovat on-line.
Na začátku letošního roku španělští státní žalobci oznámili, že vyšetřují tři nezletilé osoby ve městě Puertollano. Dotyční s pomocí AI údajně vytvářeli pornografický obsah zaměřený na jejich spolužáky a učitele a šířili jej ve své škole.
Boj s větrnými mlýny
Ve Velké Británii vláda letos zařadila vytváření sexuálně explicitních falešných snímků či videí mezi trestné činy. Usvědčeným pachatelům za ně hrozí až dva roky vězení.
Obdobný zákon podepsal letos v květnu také americký prezident Donald Trump. Na jeho základě je trestné zveřejňování intimních obrázků bez souhlasu dané osoby. Zákon zároveň nařizuje jejich odstranění z on-line platforem.
Navzdory všem opatřením ale weby nabízející svlékací aplikace a podobné služby nemizí. Boj s nimi je podle odborníků jako snaha useknout chobotnici neustále dorůstající chapadla.
MOHLI JSTE PŘEHLÉDNOUT: Češi hazardují s „jedem“, třetina pije alkohol hned několikrát týdně. Jak si tiše ničí zdraví?
