Filigranes IA : AI Act et effondrement des modèles

Pourquoi les grands acteurs de l’intelligence artificielle commencent-ils à intégrer des filigranes invisibles dans leurs contenus ? La première réponse paraît évidente : pour se conformer à l’AI Act. Elle est exacte, mais elle est incomplète.

La réponse évidente : l’article 50 de l’AI Act

L’article 50 du règlement européen demande aux fournisseurs de systèmes générant du texte, des images, du son ou de la vidéo de rendre leurs productions identifiables et marquées dans un format lisible par machine. L’obligation ne porte pas sur une mention visible à l’écran ; elle porte sur un signal exploitable automatiquement, en aval, par n’importe quel acteur de la chaîne.

Les initiatives des grands fournisseurs s’inscrivent clairement dans cette logique. Anthropic intègre désormais un signal statistique dans certains textes produits par Claude. OpenAI utilise notamment des métadonnées C2PA et des filigranes SynthID pour certains contenus visuels et audio, avec l’objectif d’étendre ces signaux de provenance à d’autres formats.

Le Web est devenu à la fois la source et le déversoir

Réduire le filigrane à une formalité réglementaire serait peut-être passer à côté d’un enjeu plus profond.

Le Web devient simultanément la bibliothèque dans laquelle les IA apprennent et l’espace dans lequel elles déversent leurs propres productions. Or, si les prochaines générations de modèles sont entraînées sans discernement sur des volumes croissants de contenus synthétiques, elles risquent de reproduire leurs propres approximations, d’amplifier certaines erreurs et de perdre progressivement la diversité présente dans les données humaines.

C’est le phénomène appelé effondrement des modèles, ou model collapse. Les travaux publiés dans Nature sur l’entraînement récursif montrent que la dégradation ne se manifeste pas d’abord par des erreurs spectaculaires, mais par la disparition silencieuse des cas rares : la distribution se resserre autour de sa propre moyenne.

Le filigrane comme outil de gouvernance des données

Dans cette perspective, le filigrane change de nature. Il permettrait théoriquement aux plateformes, aux moteurs de recherche et aux concepteurs de jeux de données de distinguer les contenus humains des contenus synthétiques, puis de les signaler, de les filtrer ou de les pondérer différemment.

Autrement dit, un marquage déployé aujourd’hui pour satisfaire un régulateur pourrait servir demain à protéger la ressource dont dépend l’industrie entière : des données d’entraînement dont l’origine reste qualifiable.

Ce que le filigrane ne prouve pas

Ce bénéfice reste toutefois indirect, et les limites méritent d’être posées sans complaisance.

Aucun filigrane ne garantit la véracité d’un contenu ; un texte marqué peut être faux, un texte non marqué peut être exact.
Aucun filigrane ne garantit que le contenu n’a pas été modifié après sa génération.
La technique reste particulièrement fragile pour le texte : une reformulation ou une paraphrase peut suffire à altérer un signal statistique.
Les métadonnées peuvent disparaître lors d’une conversion, d’une compression ou d’un partage sur une plateforme qui réencode les fichiers.

Conséquence directe : l’absence de marque ne prouve pas une origine humaine. Un système de classement qui traiterait le filigrane comme une preuve, et non comme un indice, se tromperait dans les deux sens.

Trois niveaux d’une même question

La réponse à la question initiale est probablement la suivante. Les filigranes sont d’abord déployés pour répondre aux obligations de transparence de l’AI Act. Ils peuvent ensuite aider les moteurs de recherche à mieux qualifier la provenance des contenus. Et, à plus long terme, ils pourraient contribuer à protéger les futurs modèles contre une alimentation incontrôlée en données synthétiques.

Ce n’est donc peut-être pas un choix entre réglementation, qualité du Web et survie des modèles. C’est la même question vue à trois niveaux différents : juridique, informationnel et technologique.

Ce que cela implique pour une entreprise

Pour une organisation qui produit ou exploite du contenu, trois réflexes deviennent utiles dès maintenant.

Documenter l’origine de ses propres corpus. Savoir ce qui, dans une base documentaire, a été rédigé par un humain, révisé par un humain ou généré par un modèle est une information de gouvernance, pas un détail éditorial.
Ne pas confondre marquage et validation. La provenance se trace, la véracité se vérifie. Ce sont deux dispositifs distincts, avec deux responsables distincts.
Préserver ses données humaines. Les archives antérieures à la vague générative, les comptes rendus internes, les échanges métier constituent un actif dont la valeur relative augmente à mesure que le Web public se synthétise.

C’est exactement la logique que nous appliquons dans BrainDup : chaque réponse est adossée à des sources identifiées, et l’origine des documents ingérés reste tracée de bout en bout. Pour en discuter, prenez rendez-vous ou écrivez-nous.

La question qui reste ouverte

Reste une interrogation essentielle : devons-nous considérer le filigrane comme une simple indication de provenance, ou doit-il également devenir un critère de classement, de sélection et d’entraînement ?

La réponse n’est pas seulement technique. Elle décidera de ce qui, demain, aura le droit d’apprendre à partir de quoi.

Filigranes dans l’IA : transparence réglementaire ou assurance-vie des modèles ?