Intelligence Artificielle et Information : TV5MONDE se dote d'une charte

L’émergence et le développement très rapide des IA génératives (à l’image des robots conversationnels, comme ChatGPT), les possibilités éditoriales qu’elles offrent, fascinent, effraient et séduisent à la fois : elles ouvrent la voie à un « journalisme augmenté ». 

Il nous semble important, donc, dans cette charte de donner les éléments essentiels de contexte et de fixer les principales règles d’utilisation, au sein de la rédaction de TV5MONDE (journaux, magazines d’information, site internet et réseaux sociaux) – règles qui pourront être amendées, précisées voire renforcées en fonction de l’évolution de ces IA.  

Les IA génératives, ChatGPT par exemple, ouvrent des perspectives très intéressantes pour les journalistes. Elles peuvent les aider dans leur travail : illustration de concepts, données abstraites, production d’images non réalistes, transcription de sous-titrage, vérification d’images… Les aider sans les remplacer : les IA génératives ne pensent pas, elles ne peuvent pas rendre compte d’informations qui viennent de tomber et pour lesquelles il y a très peu d’éléments d’information, elles ne questionnent pas leurs sources et elles ne prennent pas de décisions éditoriales.
Dans leurs réponses, les IA génératives proposent ce qui paraît le plus probable, le plus vraisemblable, mais pas forcément le plus pertinent et surtout pas ce qui est le plus vrai.  

Les IA génératives ont donc aussi des défauts auxquels nous devons être très attentifs : il leur arrive de donner des éléments erronés – des erreurs factuelles nombreuses et graves (elles peuvent même « inventer » des faits, des références, des citations…). Qui plus est, les résultats de ces IA sont souvent orientés ou biaisés, volontairement ou involontairement, par leurs créateurs – en fonction des données dont se nourrissent ces IA.  

Par ailleurs, les IA génératives sont déjà utilisées pour produire des fausses informations (textes, images, vidéos, deep fakes, clonage…) et elles le seront de plus en plus car elles permettront une production automatisée à grande échelle et une diffusion plus rapide, de surcroît elles seront plus difficiles à détecter et beaucoup mieux ciblées. Lutter contre ces fausses informations fait partie de notre mission : nous le faisons déjà dans nos journaux, dans nos magazines sur notre site et nos réseaux sociaux avec la chronique « A vrai dire » et avec des sujets, des articles, des invités, qui nourrissent aussi notre dispositif d’éducation aux médias et à l’information. Nous devons continuer à le faire, en renforçant notre vigilance et nos connaissances. 

Enfin, beaucoup de modèles d’IA génératives sont formés et entraînés sur des contenus protégés par des droits de propriété intellectuelle, dont elles peuvent même se nourrir, sans l'autorisation des titulaires de ces droits, ce qui peut constituer un risque juridique de violation des droits d’auteur en particulier en cas d’utilisation en l’état de contenus générés par des IA. 

En tant qu’éditeur, nous devons veiller à garder le contrôle sur l’exploitation qui est faite de nos contenus. A ce titre, TV5MONDE, en coopération avec d’autres éditeurs en ligne français notamment, travaille sur l’analyse des répercussions de l’utilisation de ses contenus par les IA génératives. Les objectifs sont d’œuvrer à l’élaboration de règles transparentes et de dispositifs techniques standardisés en matière de fouille (“crawl”) et d’algorithmes ainsi qu’à la mise en place d’accords équilibrés pour à la fois favoriser la diffusion d’informations fiables et vérifiées, assurer un partage de la valeur équitable, préserver le pluralisme des médias et garantir la diversité des opinions. 

Il est nécessaire de baliser le champ d’application, dans notre rédaction, de ces IA génératives.   

Principes et mesures :  

1-    Supervision éditoriale constante :  

L’IA générative peut être un assistant des journalistes, pas leur « auteur fantôme ». La préparation d’un contenu éditorial avec une IA générative est autorisée uniquement sous contrôle éditorial. En revanche, la production d’un contenu directement avec une IA générative est proscrite. La traduction d’un article, d’une déclaration, d’une interview ou autre nécessite, sous l’autorité d’une rédactrice en cheffe ou d’un rédacteur en chef, une relecture par un ou une journaliste de la rédaction qui maîtrise la langue d’origine. 

2-    Maîtrise des sources :  

L’IA générative n’est pas une source : tout élément fourni par une IA générative doit systématiquement faire l’objet d’un recoupement, d’une vérification.
(Il faut connaître et justifier les sources.) 

3-    Utilisation collective et collaborative :  

Les initiatives isolées sont proscrites : les contenus produits avec l’aide de l’IA doivent être pensés collectivement. 

4-    Protection de nos sources :  

Aucune donnée confidentielle ne doit être transmise à une IA. Il ne faut pas l’alimenter avec des éléments de nature confidentielle (éléments qui concernent une source à protéger, ceux contenus dans un entretien non publié, données de l’entreprise…) voire sur des sujets hautement sensibles s’anonymiser pour l’utiliser (par le biais d’une adresse mail non identifiante) . 

5-    Transparence complète interne et externe :  

- Tout contenu généré (en totalité ou en partie) par une IA doit être identifié comme tel. L’identification doit être « brûlée » pour garantir sa présence dans les archives. (La génération d’images par une IA est autorisée pour l’illustration d’articles ou de sujets consacrés à l’IA publiés sur le site info, les réseaux sociaux ou sur l’antenne ; elle est proscrite, sauf exceptions (tableaux, graphiques, illustrations non réalistes…), pour l’illustration d’articles d’info ou magazine, pour l’illustration d’un sujet vidéo.) 

- Toute initiative doit être pensée en associant des membres de la rédaction 

- Toute production utilisant les IA génératives doit être présentée et expliquée à nos audiences 

Pour appliquer, enrichir et adapter ces règles (compte tenu de l’évolution très rapide des IA génératives), un comité éditorial sera créé. Il regroupera un représentant de chaque fonction éditoriale (rédacteur antenne, rédacteur numérique, chef d’édition, présentateur, graphiste, documentaliste, rédacteur en chef) sous l’autorité de la direction de l’information. Nous lancerons un appel à candidatures. 

Par ailleurs, une formation sera mise en place : les journalistes / membres de la direction de l’information ont besoin de comprendre comment les IA génératives fonctionnent et comment elles sont entraînées.