Face à l’essor des contenus produits par intelligence artificielle, le groupe d’édition scientifique Springer Nature renforce sa stratégie en matière de lutte contre la fraude et de préservation de l’intégrité scientifique. Il annonce le don de Geppetto, un outil développé en interne pour détecter les textes générés ou manipulés par IA générative. Cette technologie est désormais intégrée au STM Integrity Hub, une plateforme collaborative regroupant plusieurs éditeurs scientifiques internationaux.
Geppetto : un outil IA pour traquer les articles frauduleux
Conçu pour repérer les soumissions d’articles scientifiques générés par IA, Geppetto est capable de détecter des contenus incohérents, faux ou trompeurs. Son nom, clin d’œil au créateur de Pinocchio, reflète la mission de l’outil : distinguer le vrai du faux dans les contenus scientifiques.
« L’augmentation des soumissions frauduleuses, notamment celles issues des paper mills [usines à articles scientifiques], constitue un défi majeur pour l’édition scientifique », explique Joris van Rossum, directeur de programme chez STM Solutions.
Geppetto est le fruit de plusieurs années de recherche menées par Springer Nature, qui l’a utilisé avec succès pour bloquer des centaines de faux articles avant publication, selon Chris Graf, directeur de l’intégrité scientifique du groupe. L’objectif n’est pas d’interdire les usages légitimes de l’IA, mais de détecter les dérives et de préserver la qualité des publications scientifiques.
Une intégration stratégique au STM Integrity Hub
La mise à disposition de Geppetto dans le STM Integrity Hub marque une avancée collective dans la lutte contre la fraude scientifique. Ce hub collaboratif, réunissant des éditeurs de toutes tailles, permet de partager des outils technologiques pour renforcer la fiabilité des publications et améliorer les processus d’évaluation.
Chris Graf, également président du comité de gouvernance du STM Integrity Hub, insiste sur la nécessité de mutualiser les efforts face aux nouvelles menaces posées par l’IA : « C’est une avancée majeure pour le secteur de la recherche scientifique. »
IA et édition scientifique : entre outils d’assistance et vigilance
L’intelligence artificielle transforme rapidement le paysage de l’édition académique. En janvier 2024, le groupe Elsevier a lancé Scopus AI, un assistant capable de générer des résumés de recherches et d’orienter les chercheurs dans l’exploration de la base de données Scopus, un référentiel mondial de citations scientifiques. Ces outils promettent un gain de temps significatif, mais soulèvent des questions éthiques majeures sur la qualité, la traçabilité des sources, et le rôle de l’expertise humaine.
Springer Nature, un acteur engagé dans l’innovation responsable
Dès 2021, Springer Nature avait lancé un outil de traduction automatique pour ses articles scientifiques, anticipant les besoins de diffusion multilingue des contenus. S’il permet de réduire les délais et les coûts, cet outil interroge sur la qualité des traductions et le rôle de l’interprétation humaine dans le traitement du savoir scientifique.
Par ailleurs, le groupe a également développé Snappshot, une technologie dédiée à l’analyse d’images manipulées, et un système de vérification des références, participant à un ensemble de dispositifs visant à renforcer l’intégrité des publications.
Vers une édition scientifique plus transparente et résiliente
Avec des outils comme Geppetto, Springer Nature s’impose comme un acteur moteur dans la mise en place de protocoles de détection et de prévention des dérives liées à l’intelligence artificielle. L’intégration de ces technologies au STM Integrity Hub offre aux éditeurs de toutes tailles des solutions concrètes pour faire face à la montée des contenus frauduleux.
Dans un contexte où l’automatisation des processus scientifiques ne cesse de croître, la mise en place d’outils fiables et partagés devient une priorité pour garantir la transparence, la fiabilité et la crédibilité de la recherche mondiale.