IA et désinformation : l’Académie des technologies alerte sur les « informations toxiques »

L’Académie souligne que la prolifération de fausses informations n’est pas un phénomène nouveau, mais qu’elle prend une dimension systémique inédite sous l’effet des algorithmes de recommandation et de l’IA. Par leur nature même, les grands modèles de langage sont sujets à des hallucinations structurelles, générant des contenus d’apparence très vraisemblable mais factuellement erronés. Ce phénomène est amplifié par les modèles économiques des grandes plateformes numériques, conçus pour capturer l’attention des internautes en favorisant les récits clivants ou sensationnels au détriment de la vérité historique ou scientifique.

L’impact de ce que l’Académie qualifie d’« informations toxiques » dépasse la simple circulation de rumeurs. Ces contenus exploitent délibérément nos biais cognitifs, nourrissent la défiance envers les institutions et accentuent la polarisation des opinions au sein de la société. Pour l’institution, le cœur du problème ne réside pas uniquement dans le rythme de l’innovation technologique, mais bien dans notre capacité collective à gouverner ses effets et à garantir un espace public partagé.
Le rapport met toutefois en lumière des motifs d’espoir, notamment à travers le développement de l’IA dite « curative ». Ces technologies d’analyse permettent de détecter plus efficacement les contenus artificiels, les manipulations d’images et les réseaux de faux comptes coordonnés en ligne. De plus, le document rappelle que l’Europe dispose d’une longueur d’avance en matière de régulation grâce au déploiement du Digital Services Act et de l’AI Act, des règlements qui contraignent les géants du web à évaluer et réduire les risques de désinformation sur leurs plateformes.

Pour contrer cette vulnérabilité informationnelle, l’Académie invite à actionner plusieurs leviers sociétaux complémentaires. Il s’agit d’abord de soutenir activement une information de qualité, pluraliste et indépendante, mais aussi d’accroître la transparence des contenus numériques en rendant leur origine et leur degré d’artificialité plus lisibles pour les usagers. Le renforcement de l’esprit critique, dès l’école et tout au long de la vie, s’impose comme une priorité absolue pour aider les citoyens à décoder les flux médiatiques.
Enfin, les auteurs du rapport insistent sur le rôle crucial de l’expertise et de la médiation scientifique pour éclairer le public. Pour des réseaux professionnels comme celui de l’OCIM, cette analyse réaffirme la responsabilité des institutions de culture scientifique, technique et industrielle. Les musées, les centres de sciences et les universités s’affirment plus que jamais comme des tiers-lieux de confiance indispensables pour structurer un débat public apaisé, fondé sur les faits, la méthode scientifique et le discernement collectif.