{"id":114553,"date":"2026-02-14T00:11:34","date_gmt":"2026-02-14T00:11:34","guid":{"rendered":"https:\/\/www.aiopenmind.it\/ArtificialIntelligence\/?p=114553"},"modified":"2026-02-14T08:06:45","modified_gmt":"2026-02-14T08:06:45","slug":"exclusive-filigrane-llm-vulnerabili-nuove-falle-nella-sicurezza-dei-testi-ai","status":"publish","type":"post","link":"https:\/\/www.aiopenmind.it\/ArtificialIntelligence\/exclusive-filigrane-llm-vulnerabili-nuove-falle-nella-sicurezza-dei-testi-ai\/","title":{"rendered":"TOPstory –\u00a0Filigrane LLM vulnerabili: nuove falle nella sicurezza dei testi AI"},"content":{"rendered":"\n

Uno studio presentato al Simposio NDSS 2026<\/a> dimostra che le filigrane dei Large Language Model, ritenute uno strumento chiave contro l\u2019uso improprio dei contenuti generati dall\u2019IA, possono essere rimosse efficacemente con semplici perturbazioni a livello di carattere, anche in scenari di attacco realistici e con risorse limitate.<\/p>\n\n\n\n

Le filigrane per LLM sono progettate per inserire segnali statistici invisibili nei testi generati, cos\u00ec da renderli identificabili a posteriori. Tuttavia, una ricerca accademica presentata al Network and Distributed System Security Symposium2026<\/strong> mette in discussione la reale robustezza di questi sistemi. Secondo gli autori, le valutazioni precedenti avrebbero sovrastimato la sicurezza delle filigrane, basandosi su modelli di attacco poco realistici.<\/p>\n\n\n\n

Lo studio introduce due modelli di minaccia pratici: uno senza accesso al rilevatore di filigrana e uno con accesso black-box limitato. In entrambi i casi, emerge che le perturbazioni a livello di carattere \u2014 come refusi, cancellazioni, scambi di lettere o l\u2019uso di omoglifi \u2014 risultano molto pi\u00f9 efficaci delle tradizionali parafrasi o sostituzioni di token. Il motivo \u00e8 tecnico ma cruciale: queste micro-modifiche interrompono il processo di tokenizzazione, influenzando simultaneamente pi\u00f9 token e indebolendo il segnale della filigrana.<\/p>\n\n\n\n

Nel secondo scenario, i ricercatori propongono un attacco pi\u00f9 sofisticato basato su algoritmi genetici, guidato da un \u201crilevatore di riferimento\u201d addestrato con poche query. I test condotti su cinque schemi di watermarking e due LLM ampiamente diffusi mostrano tassi di rimozione elevati anche con budget di perturbazione ridotti.<\/p>\n\n\n\n

La conclusione \u00e8 netta: esiste un \u201cdilemma avversario\u201d per le difese. Qualsiasi contromisura statica pu\u00f2 essere aggirata da strategie di perturbazione adattive. Il lavoro evidenzia quindi una vulnerabilit\u00e0 strutturale nelle attuali filigrane LLM e rafforza l\u2019urgenza di sviluppare meccanismi di attribuzione pi\u00f9 robusti, dinamici e resistenti agli attacchi.<\/p>\n\n\n\n

\n\n\n\n

Approfondimento \u2013 Cronologia e contesto<\/h2>\n\n\n\n