Vedeckí pracovníci, ktorí sa zaoberajú bezpečnosťou umelej inteligencie, odhalili závažný problém na platforme Hugging Face. Testovali najpopulárnejšie modely na úpravu obrázkov a zistili, že ich možno ľahko zneužiť na vytváranie explicitných deepfake snímok.
Analýza odhalila tisíce podozrivých promptov
Výskumníci analyzovali viac ako 1 000 promptov na úpravu obrázkov, ktoré používatelia zadávali do modelov na Hugging Face. Výsledky ukázali, že značná časť týchto príkazov smerovala k vytváraniu falošných nahých fotografií bez súhlasu zobrazených osôb.
Platforma Hugging Face, ktorá je jedným z najväčších úložísk modelov umelej inteligencie na svete, sa tak ocitla v centre kontroverzie. Odborníci upozorňujú, že problém nie je len v samotných modeloch, ale aj v nedostatočnej regulácii ich používania.
„Je to alarmujúce zistenie, pretože tieto nástroje sú voľne dostupné a ich zneužitie môže mať ničivé následky pre obete,“ uviedol jeden z členov výskumného tímu. Dodáva, že technologické spoločnosti by mali prijať prísnejšie opatrenia na zabránenie takéhoto zneužívania.
Hugging Face zatiaľ na správu nereagovala. Odborníci však vyzývajú na urýchlené zavedenie mechanizmov, ktoré by zabránili vytváraniu deepfake pornografie, napríklad pomocou filtrovania promptov alebo povinného overovania totožnosti používateľov.
About the Author
