Anthropic a annoncé lundi que les nouvelles versions de ses modèles Claude AI intégreront un « filigrane imperceptible » dans le texte qu'elles génèrent, une décision qui pourrait rendre plus difficile la fait de faire passer les déchets de l'IA comme étant créés par des humains.
Anthropic a annoncé lundi que les nouvelles versions de ses modèles Claude AI intégreront un « filigrane imperceptible » dans le texte qu’elles génèrent, une décision qui pourrait rendre plus difficile la fait de faire passer les déchets de l’IA comme étant créés par des humains.
Business Insider rapporte que le filigrane ne modifie pas le sens ou la lisibilité du texte, selon Anthropic. Il voyage avec le contenu lorsqu’il est copié et collé et « peut persister malgré certaines modifications », a déclaré la société.
Un filigrane est un motif discret ou un marqueur caché intégré dans un contenu numérique, tel que des photos ou des documents, pour aider à identifier son origine et empêcher toute copie non autorisée.
Anthropic a déclaré que cette fonctionnalité faisait partie de ses engagements en faveur d’une plus grande transparence dans le cadre de la loi de l’Union européenne sur l’IA. Les prochains modèles Claude prendront en charge le filigrane dès le départ, et Anthropic a déclaré qu’il travaillait à étendre la fonction aux modèles plus anciens. Les marquages s’appliqueront au contenu généré par Claude dans le monde entier, y compris lorsque le modèle est accessible via des fournisseurs de cloud. Anthropic a également annoncé son intention de fournir à des tiers des outils pour détecter les filigranes.
Ce changement pourrait marquer un tournant pour le secteur de l’édition, confronté à des controverses répétées sur l’écriture générée par l’IA. Le mois dernier, un agent du livre a retiré son soutien au roman policier Appelez-moi, je cacherai le corps après que des questions se soient posées quant à savoir si l’auteur avait utilisé l’IA pour l’écrire. Quatorze éditeurs avaient soumissionné pour les droits du livre et un accord a été finalisé avant que l’agent ne présente ses excuses. L’auteur, Jerry Falade, a nié avoir utilisé l’IA pour écrire le roman.
Plus tôt cette année, Hachette a retiré le roman d’horreur de Mia Ballard, Shy Girl, suite à des allégations selon lesquelles il contenait des écrits générés par l’IA. Ballard a déclaré au New York Times qu’elle n’avait pas utilisé l’IA pour écrire le livre, mais a déclaré qu’un éditeur indépendant avait introduit du matériel généré par l’IA à son insu.
Breitbart News a précédemment rapporté qu’un livre sur la vérité à l’ère de l’IA contenait de fausses citations générées par l’IA :
Dans un communiqué publié lundi soir, Rosenbaum a reconnu que le livre contenait « une poignée de citations incorrectement attribuées ou synthétiques » et a déclaré qu’il avait lancé sa propre enquête sur la question. Il a qualifié l’inclusion de citations incorrectes d’accidentelle et a déclaré qu’il n’avait « aucune intention de fabriquer des points de vue » pendant le processus de rédaction.
« Comme je l’ai révélé dans les remerciements du livre, j’ai utilisé les outils d’IA ChatGPT et Claude pendant le processus de recherche, d’écriture et d’édition », a déclaré Rosenbaum dans le communiqué. « Cela n’excuse pas ces erreurs, dont j’assume l’entière responsabilité. Je travaille maintenant avec les éditeurs pour revoir minutieusement et corriger rapidement tous les passages concernés ; toutes les éditions futures seront corrigées. »
Le livre a été publié par BenBella Books et distribué par Simon et Schuster. BenBella Books, qui opère indépendamment de Simon et Schuster, n’a pas répondu aux demandes de commentaires, tandis que Simon et Schuster ont refusé de commenter.
Le nouveau filigrane de Claude pourrait donner aux éditeurs, aux écoles et aux universités un autre outil pour enquêter sur des cas similaires, ce qui rendrait plus difficile la présentation des écrits générés par l’IA comme étant entièrement écrits par des humains.
Anthropic a reconnu les limites du système. La société a déclaré que des modifications lourdes, des paraphrases, des traductions ou le mélange des résultats de Claude avec d’autres écrits peuvent rendre le filigrane indétectable. Il a également noté que la détection d’un filigrane ne prouve pas nécessairement que Claude est l’auteur d’un texte, puisque même une utilisation légère de l’IA, comme la relecture ou la traduction, peut laisser une trace.
[…] La suite de l’article est à lire sur Breitbart via le lien ci-dessous.
Traduit automatiquement de l’anglais. Le texte original fait foi.
Source : Breitbart — Lire l’article original
À propos de l'auteur
