Aktuální výroční zpráva německé organizace Jugendschutz.net?Jugendschutz.net je společné kompetenční centrum německé spolkové vlády, spolkových zemí a zemských mediálních úřadů pro ochranu dětí a mládeže na internetu. Organizace, založená v roce 1997, funguje jako „obhájce dětí na internetu“ a dohlíží na to, zda poskytovatelé dodržují zákonné předpisy týkající se ochrany mládeže. velmi jasně ukazuje, jak zásadně se změnila digitální realita dětí a mladistvých. Zdaleka už nejde jen o příliš dlouhé sezení u obrazovky nebo pár problematických videí na TikToku. Jde o sexuální násilí, chatboty s umělou inteligencí, extremistický obsah, manipulativní design platforem, poruchy příjmu potravy, nátlak k nákupům, nenávistnou propagandu a digitální prostory, ve kterých se děti často pohybují prakticky bez jakékoli ochrany.
Zvláště alarmující je přitom to, kolik rizik se mezitím přímo promítá do každodenního života mladých lidí. Ne někde na „darknetu“. Ale na platformách, které každý den používají miliony dětí. Jde především o TikTok,, Instagram, Snapchat, Discord, Spotify a WhatsApp.
Nejde o volbu mezi osvětou a regulací. Děti potřebují obojí.
Zpráva dále jasně ukazuje, že mnoho platforem nejenže omezuje rizika příliš pozdě, ale novými funkcemi je dokonce ještě zvyšuje. Zároveň poskytovatelé často reagují na nahlášené případy až děsivě špatně. Někdy jsou i zjevně problematické obsahy odstraněny teprve poté, co na ně vyvinou tlak úřady nebo oficiální orgány.
Více než 15 000 případů za pouhý rok
V roce 2025 zpracoval portál Jugendschutz.net v Německu celkem 15 099 přestupků. Počet případů se tak již druhým rokem v řadě pohybuje na extrémně vysoké úrovni. 93 % všech prošetřených případů se týkalo sexuálního násilí. U většiny z nich šlo o zobrazení zneužívání dětí.
Už jen tato čísla ukazují, jak daleko jsme se mezitím vzdálili od představy o „neškodném internetu“ pro děti.
Umělá inteligence právě radikálně mění digitální dětství
Zpráva se zaměřuje zejména na aplikace umělé inteligence a jejich dopady na děti a mládež.
Web Jugendschutz.net uvádí, že chatboti dnes dokážou simulovat emocionální společnost, napodobovat vztahy a v některých případech vést rozhovory se sexuálním podtextem s nezletilými. Na platformách jako Character.AI mohli boti popisovat sexuální praktiky s nezletilými nebo se vydávat za nezletilé postavy. Kontroly věku bylo přitom možné snadno obejít.
Pro dospělé to často zní abstraktně. U dětí to však naopak velmi rychle vyvolává reálné pocity.
Mnohé z těchto systémů reagují empaticky, s porozuměním a jsou neustále k dispozici. Právě to je činí nebezpečnými. Děti a mladiství se nacházejí uprostřed emocionálního vývoje. Když umělá inteligence začne simulovat empatii, vztah nebo uznání, stírají se hranice mezi skutečným lidským vztahem a umělou interakcí.
Stefan Glaser, ředitel portálu Jugendschutz.net, to v předmluvě ke zprávě formuluje velmi jasně. Varuje před tím, že umělá inteligence „spojuje umělé s reálným“ a tím může zkreslovat vnímání reality. Zároveň kritizuje, že poskytovatelé digitálních služeb neustále vytvářejí nové funkce, aniž by do nich zabudovali účinná ochranná opatření.
I spolková ministryně pro mládež Karin Prienová se vyjádřila nezvykle razantně. Tento vývoj označuje za „obzvláště znepokojivý“. Volně dostupné aplikace umělé inteligence by rizika „masivně zvýšily“. Dnes lze několika kliknutími vytvořit a šířit klamně realistické deepfaky, obrázky znázorňující sexuální násilí nebo manipulativní obsah. Zároveň se digitální nabídky a umělá inteligence pro mladé lidi stále častěji stávají „každodenním společníkem, partnerem v rozhovoru nebo dokonce emocionální oporou“. Proto by bezpečnost, ochrana a jasná pravidla měly konečně držet krok s technologickým vývojem.
Butterflies.AI ukazuje, jakým směrem se sociální sítě vyvíjejí
Obzvlášť pozoruhodná je analýza služby umělé inteligence Butterflies.AI.
Uživatelé tam mohli vytvářet postavy založené na umělé inteligenci, které samy zveřejňovaly příspěvky, komentovaly a chatovaly. Organizace Jugendschutz.net tam nalezla pornografický obsah, pozitivní zobrazení Adolfa Hitlera a Usámy bin Ládina a rovněž sexualizovaná zobrazení dětí. Přestože byla stanovena věková hranice 18 let, neexistovaly na Butterflies.AI žádné účinné věkové kontroly.
Služba již sice byla ukončena, ale její základní princip je stále aktuální. Profily založené na umělé inteligenci, které samostatně vytvářejí obsah a komunikují s lidmi, by se již brzy mohly stát nedílnou součástí mnoha sociálních sítí.
Zejména pro děti se tím otevírá zcela nová digitální realita. Už nebudou komunikovat jen se skutečnými lidmi, ale stále častěji také s umělými osobnostmi, jejichž chování je optimalizováno tak, aby upoutalo co největší pozornost a vytvořilo co nejsilnější pouto.
AI influenceři a #Skinnytok zhoršují poruchy příjmu potravy
Zpráva dále velmi jasně popisuje, jak se umělá inteligence a sociální média vzájemně posilují.
Virtuální influencerky vytvářejí dokonalé obrazy těl, které už s reálnou skutečností nemají téměř nic společného. To je obzvláště problematické, když děti a mladiství tyto obrazy konzumují denně a začnou s nimi své vlastní tělo neustále porovnávat.
K tomu se přidává TikToku trend #Skinnytok. Tam se extrémní vyzáblost, hladovění a radikální sebekázeň prezentují jako ideál úspěchu. Výroky jako „Skinny is an outfit, not a size“ (Být štíhlý je styl oblékání, ne velikost) mohou dospělým připadat absurdní. Na mladé lidi ve vývojových fázích nejistoty však mohou vyvíjet obrovský tlak.
Zpráva výslovně varuje, že takový obsah může zhoršovat poruchy příjmu potravy, jako je anorexie nebo bulimie.
Nenávist vůči ženám je vstupní branou k extremismu
Dalším hlavním tématem zprávy je takzvaná „manosféra“ a masivní šíření misogynních obsahů.
Organizace Jugendschutz.net popisuje, jak jsou mladí lidé na TikToku, YouTube nebo Instagramu stále častěji konfrontováni s influencery, kteří se vyznačují misogynním chováním.
Ženy jsou tam ponižovány, redukovány na pouhé objekty nebo jsou terčem násilných fantazií. Zároveň někteří influenceři propagují patriarchální role a prezentují dominanci či podřízenost jako něco žádoucího.
Zvláště nebezpečné přitom je, že podle zprávy slouží antifeminismus často jako vstupní brána k extremistickým ideologiím.
To odpovídá mezinárodním trendům. Radikalizace dnes často nezačíná klasickou politikou, ale emocemi, nejistotou, otázkami identity, frustrací a představami o genderových rolích.
Discord je pro mnoho mladých lidí prostorem pro radikalizaci
Ústřední roli hraje ve zprávě Discord. Tuto platformu využívají miliony mladých lidí a na mnoho rodičů působí zpočátku jako neškodný herní chat.
Jugendschutz.net však popisuje Discord jako místo, kde se šíří pravicově extremistický obsah, nacistická propaganda, fantazie o násilí a memy s nenávistným obsahem. Zvláště problematické je, že tento obsah je často prezentován v humorném nebo ironickém hávu. Mladým lidé je tak podprahově podáván extremistický pohled na svět.
Právě to dnes činí moderní radikalizaci tak těžko rozpoznatelnou. Často už nefunguje na základě otevřené propagandy, ale prostřednictvím memů, vtipů pro zasvěcené a na základě skupinové dynamiky.
Snapchat Spotlight a sexualizace dětí
Znepokojující je rovněž analýza týkající se funkce Snapchat Spotlight. Podle Jugendschutz.net se na platformě objevila řada videí s velmi malými dětmi, ačkoli tuto funkci smí využívat pouze osoby starší 16 let. Některé z těchto videí byly doplněny komentáři se sexuálním podtextem a algoritmy je dále šířily.
Děti se tam předvádějí při tanci, hraní nebo sportu. Jakmile se však takové obsahy stanou virálními, dostávají se do digitálních prostorů, které nelze nijak kontrolovat.
Problémem není jen osamocený komentář. Problémem je systém, který odměňuje pozornost a algoritmicky upřednostňuje určitý obsah, bez ohledu na to, jaké to může mít důsledky pro děti.
WhatsApp se stále více stává veřejným prostorem
Mnoho rodičů považuje WhatsApp stále za soukromou komunikační aplikaci.
Zpráva však ukazuje, že se platforma výrazně změnila. Od roku 2025 jsou aktivně doporučovány veřejné kanály. I velmi mladí uživatelé tam provozují kanály s velkým dosahem. Zároveň WhatsApp i nadále navozuje dojem soukromí, což vede k tomu, že děti a mladiství zde často sdílejí obzvláště velké množství osobních informací.
Jugendschutz.net výslovně kritizuje, že WhatsApp na rozdíl od jiných velkých platforem dosud přijal jen velmi málo opatření na ochranu nezletilých. Samotná varování nestačí.
To je důležitý bod. Mnozí rodiče si při zmínce o digitálních rizicích nejprve vybaví TikTok nebo Instagram. Přitom se již dávno i v komunikačních aplikacích objevují veřejná fóra s nemalým rizikovým potenciálem.
TikTok propojuje zábavu s nákupním nutkáním
Zpráva dále popisuje, jak se TikTok stále více proměňuje v nákupní platformu.
Kvůli TikTok Shopu se zábava, influencerství a přímá spotřeba úzce propojují. Tvůrci, firmy a platforma společně pracují na tom, aby podnítili spontánní nákupy.
Právě děti a mladiství jsou vůči takovým mechanismům obzvláště náchylní. Nacházejí se uprostřed procesu utváření své identity, silně se orientují na skupiny a influencery a citlivěji reagují na sociální uznání.
Pokud se zábava, pocit sounáležitosti a konzumace trvale prolínají, vzniká obrovský tlak.
Nebezpečné „boostery“ a rajský plyn jsou na sociálních sítích bagatelizovány
Tématem, které je ve veřejné diskusi často podceňováno, jsou psychoaktivní látky a látky zvyšující výkonnost.
Web Jugendschutz.net popisuje, jak se na sociálních sítích prezentuje rajský plyn, povzbuzující látky nebo produkty zvyšující výkonnost jako neškodné a trendy. Někdy se dokonce prodávají jako sladkosti. Jejich rizika sahají od poruch spánku přes zátěž pro kardiovaskulární systém až po závislosti.
Zvláště problematická je v tomto ohledu estetická stránka takových obsahů. Nebezpečné látky působí pestře, moderně a zdánlivě neškodně. Právě díky tomu se u dětí a mladistvých výrazně snižují zábrany.
Vliv rodiny představuje pro děti často vážné riziko
Další důležitá část zprávy se zabývá takzvaným „family influencing“ nebo „famfluencingem“. Česky tedy vlivem rodiny.
Jde o situace, kdy rodiče sdílejí intimní okamžiky svých dětí na Instagramu, TikToku nebo jiných platformách. Často jim jde o pozornost, dosah nebo uznání komunity. Jugendschutz.net však důrazně varuje před následky takového jednání.
Fotografie dětí mohou být manipulovány, vytrženy z kontextu nebo zneužity k šikaně. Z videí a fotografií lze navíc často odvodit informace o škole, místě bydliště nebo každodenním životě dětí.
Zpráva se tak zabývá tématem, o kterém se ve společnosti stále diskutuje překvapivě málo. Mnoho dětí dnes vyrůstá v prostředí trvalé digitální viditelnosti, aniž by se kdy samy rozhodly, zda to vůbec chtějí.
Spotify čelí nečekaně silné kritice
Mnoho rodičů si Spotify spojuje především s hudbou. Organizace Jugendschutz.net tam však nalezla rovněž hudbu s extrémně pravicovým obsahem, materiály o sexuálním násilí na nezletilých, playlisty s tématikou sebevražd a volně přístupný pornografický obsah.
Podle zprávy je obzvláště problematické, že ochranná opatření jsou nedostatečná a že ani oficiální oznámení často nemají téměř žádné důsledky. Zatímco Spotify na extremistický obsah alespoň částečně reagovalo, násilný obsah byl podle zprávy dokonce zcela ignorován.
To velmi jasně ukazuje, že digitální rizika se již dávno netýkají pouze klasických sociálních sítí.
Platformy reagují až na nátlak úřadů
Zvláště pozoruhodné jsou údaje týkající se systémů hlášení.
V případě nahlášení extrémistického obsahu uživateli smazal YouTube pouze 2 % nahlášeného obsahu. Discord se dostal na 5 %. Instagram 26 %. TikTok 29 %. Teprve když se Jugendschutz.net oficiálně představil jako instituce, začaly platformy reagovat mnohem častěji.
To je klíčový bod. Mnozí rodiče už léta slýchají, že by měli problematický obsah jednoduše nahlásit. Zpráva však ukazuje, že tak to na digitálních platformách funguje jen ve velmi omezené míře.
Proč osvěta už dávno nestačí?
Stefan Glaser v předmluvě ke zprávě píše, že samostatné využívání digitálních prostorů je „úkolem celé společnosti“. Požaduje přístupy odlišené podle věku a zdůrazňuje, že odpovědnost jednoznačně leží na poskytovatelích. Kdyby platformy konečně začaly účinně jednat, debaty o zákazu používání by se mohly částečně stát zbytečnými.
Právě v tom pravděpodobně spočívá nejdůležitější bod celé zprávy. Nejde jen o volbu mezi osvětou a regulací. Děti potřebují obojí.
Potřebují rodiče, kteří je budou provázet. Školy, které jim poskytnou bezpečné útočiště. Platformy, které převezmou odpovědnost. A politická pravidla, která nebudou trvale upozaďovat práva dětí ve prospěch ekonomických zájmů provozovatelů platforem. Každodenní digitální život našich dětí se totiž právě teď zásadně mění. Ne někdy v budoucnu, ale právě teď.
Na stránkách organizace Jugendschutz.net naleznete tiskovou zprávu a celou výroční zprávu za rok 2025 o přestupcích na digitálních platformách. V České republice vycházejí definice toho, co je a co není legálních především z národních zákonů a dále z Digital Service Actu (DSA) Evropské unie. Ochraně dětí a mladistvých na internetu se věnuje globální organizace INHOPE, jejím partnerem pro nahlašování nezákonného obsahu v ČR je Stop Online.cz. V případech psychických problémů s kyberšikanou a sexualizovaným násilím zaměřených na děti a mladistvé se obraťte přímo na Linku bezpečí nebo Dětské krizové centrum.
