Spoločnosť Meta, prevádzkujúca sociálne siete Facebook a Instagram, čelí ostrej kritike po tom, čo sa zistilo, že jej systémy nedokázali zachytiť stovky reklám obsahujúcich sexuálne zneužívanie detí. Podľa dostupných informácií išlo až o 350 takýchto inzerátov, pričom niektoré z nich zahŕňali aj zábery skutočných detí – vrátane jedného člena európskej kráľovskej rodiny.
Zlyhanie algoritmov aj ľudského dohľadu
Reklamy sa na platformách Meta objavovali napriek tomu, že spoločnosť deklaruje nulovú toleranciu voči tomuto typu obsahu. Interné systémy, ktoré majú automaticky odhaľovať nelegálny materiál, zlyhali a inzeráty sa tak dostali k bežným používateľom. Niektoré z nich boli podľa zistení vytvorené s použitím fotografií reálnych detí, čo situáciu ešte zhoršuje.
Prípad už upútal pozornosť zákonodarcov, ktorí avizujú vyšetrovanie. „Toto je neprípustné zlyhanie ochrany najzraniteľnejších,“ uviedol jeden z členov parlamentného výboru pre technológie. Politici plánujú predvolať zástupcov Meta, aby vysvetlili, ako k takémuto pochybeniu mohlo dôjsť a aké kroky prijmú na nápravu.
Meta sľubuje nápravu, odborníci sú skeptickí
Hovorkyňa Meta v reakcii uviedla, že spoločnosť takéto reklamy odstránila a spolupracuje s orgánmi činnými v trestnom konaní. Zároveň prisľúbila posilnenie kontrolných mechanizmov a investície do moderovania obsahu. Odborníci na online bezpečnosť však upozorňujú, že podobné incidenty poukazujú na systémový problém, ktorý si vyžaduje zásadnejšie zmeny.
Tento prípad opäť otvára otázku zodpovednosti veľkých technologických firiem za obsah, ktorý sa šíri na ich platformách. Kritici poukazujú na to, že Meta dlhodobo uprednostňuje zisk pred bezpečnosťou používateľov a že samoregulácia v tejto oblasti zjavne nefunguje. Vyšetrovanie zákonodarcov by mohlo priniesť nové pravidlá a sprísnenie dohľadu nad digitálnym priestorom.
About the Author
