Anthropic déploie un filigrane invisible sur les textes de Claude : ce que cela change vraiment
Depuis le début du mois, Anthropic a commencé à apposer une marque invisible sur les textes produits par ses modèles Claude. La mesure, annoncée le 11 août, répond à l’article 50 du règlement européen sur l’intelligence artificielle qui impose aux fournisseurs de systèmes d’IA générative de rendre leurs contenus détectables. Concrètement, le laboratoire américain modifie la probabilité de choix de certains mots lors de la génération. Le texte se lit normalement pour l’utilisateur, mais qui connaît la clé cryptographique peut vérifier a posteriori si la séquence de choix lui correspond.
Cette approche, baptisée SynthID et développée initialement par Google DeepMind, ne repose pas sur des métadonnées ni des caractères cachés. Elle agit directement sur les tokens, ces fragments de mots que le modèle manipule. Une conséquence contre-intuitive en découle : plus le texte laisse de marge de manœuvre au modèle, plus la signature est forte. Un roman, où mille tournures se valent, sera fortement marqué. Une réponse factuelle le sera beaucoup moins, car après « la capitale de la France est » il n’existe qu’un seul mot possible. Le code informatique, contraint par la syntaxe, est à peine marqué.
La réaction ne s’est pas fait attendre. Sur les réseaux sociaux et les forums techniques, des développeurs ont publié des outils censés contourner la détection. L’un d’eux, nommé « watermarks-remover », insère des caractères Unicode invisibles pour briser la continuité statistique. D’autres proposent de faire réécrire le texte par un autre modèle. Anthropic a précisé le 14 août que le filigrane ne concernait pour l’instant que les modèles lancés après le 2 août, et seulement sur son interface web et son application, pas via l’API. Google procède de même pour Gemini depuis mai 2024 : le marquage est actif sur le site et l’application, absent pour les développeurs.
Cette limitation technique soulève des questions pratiques. Un texte traduit par Claude portera la marque, alors même que l’utilisateur a fourni le contenu original. De même, une correction orthographique ou stylistique appliquée par l’IA à un texte humain le marquera comme généré. Les services tiers qui s’appuient sur l’API d’Anthropic, correcteurs en ligne, assistants de rédaction, feront porter la signature à leurs utilisateurs sans que ceux-ci en aient conscience. Pour l’heure, aucune procédure de retrait n’est prévue. Le laboratoire indique travailler à l’extension du dispositif aux modèles plus anciens.
L’Europe, avec l’AI Act, a voulu créer un standard de transparence. La mise en œuvre révèle la difficulté technique : distinguer un texte intégralement généré d’un texte assisté, protéger les usages légitimes comme la traduction ou la correction, éviter les faux positifs qui discréditeraient l’outil. Les prochains mois diront si cette première mondiale tient ses promesses ou si elle rejoint la liste des mesures bien intentionnées mais inapplicables à l’échelle.
Sources : Frandroid, Numerama, Les Numériques
