Spoločnosť Anthropic minulý týždeň oznámila, že do obsahu generovaného jej umelej inteligenciou Claude pridá neviditeľné vodoznaky. Tento krok má zabezpečiť súlad s novými pravidlami Európskej únie, ktoré vyžadujú označovanie syntetického obsahu. Firma tak reaguje na rastúce obavy z možného zneužitia AI pri šírení dezinformácií.
Len niekoľko hodín po zverejnení tejto správy sa však na internete začali objavovať návody a nástroje, ktoré sľubujú obídenie týchto vodoznakov. Programátori a nadšenci do AI tvrdia, že našli spôsoby, ako odstrániť alebo upraviť metadáta, ktoré vodoznaky obsahujú, čím by sa stal pôvod obsahu nezistiteľným.
Technologické preteky bez konca
Odborníci na kybernetickú bezpečnosť poukazujú na to, že podobné snahy sú v podstate nekonečný boj medzi tvorcami ochranných prvkov a tými, ktorí ich chcú obísť. Zatiaľ čo Anthropic a ďalšie firmy vyvíjajú čoraz sofistikovanejšie metódy, komunita vývojárov reaguje rýchlo a kreatívne. Tento trend naznačuje, že regulácia AI prostredníctvom technických riešení môže byť menej účinná, ako sa očakávalo.
Zástupcovia Anthropicu zatiaľ nekomentovali konkrétne spôsoby obchádzania, ale zdôraznili, že vodoznaky sú len jedným z viacerých opatrení. Firma pracuje aj na ďalších nástrojoch na detekciu a overovanie pôvodu obsahu, ktoré by mali byť odolnejšie voči manipulácii. Zároveň vyzývajú na spoluprácu s regulačnými orgánmi a ďalšími technologickými spoločnosťami.
Táto situácia otvára širšiu debatu o efektívnosti legislatívy EÚ v oblasti umelej inteligencie. Zatiaľ čo zákon o AI je priekopníckym krokom, jeho praktická implementácia naráža na realitu, že technologické komunity často nachádzajú spôsoby, ako sa obmedzeniam vyhnúť. Preto sa čoraz častejšie hovorí o potrebe kombinovať technické, právne a vzdelávacie prístupy k regulácii.
About the Author
