Alors que l’Union européenne se prépare aux prochaines élections, elle est confrontée au défi de taille de protéger ses processus démocratiques contre les menaces omniprésentes de désinformation et de manipulation numérique. Sa réponse robuste, soutenue par la loi sur les services numériques (DSA), a été de publier de nouvelles directives strictes pour les très grandes plateformes en ligne (VLOP) conçues pour empêcher les mensonges de devenir viraux.

Le DSA lui-même souligne non seulement l'engagement de l'UE à protéger l'intégrité électorale, mais crée également un précédent sur la manière dont les démocraties peuvent répondre aux défis numériques de notre époque, en garantissant que les piliers de l'engagement démocratique restent solides et intacts.

Le problème de la désinformation

La désinformation à l’ère numérique présente une menace profonde non seulement pour le caractère sacré des élections, mais aussi pour le tissu social et l’intégrité des entreprises. Cela érode la confiance du public dans les institutions, alimente l’instabilité politique et peut entraîner d’importants dommages financiers et de réputation pour les entreprises prises entre deux feux. L'impact commercial est particulièrement grave ; la désinformation et la mésinformation peuvent fausser le comportement des consommateurs, perturber les marchés et conduire à un contrôle réglementaire coûteux.

Des incidents récents illustrent les conséquences considérables des mensonges numériques incontrôlés. Par exemple, lors de l’élection présidentielle américaine de 2016, répandu des campagnes de désinformation ont été déployées, impliquant notamment des informations fabriquées qui ont été partagées sur les plateformes de médias sociaux pour influencer la perception des électeurs. L'infâme Le scandale de Cambridge Analytica a souligné comment les données personnelles pouvaient être exploitées pour influencer les décisions des électeurs, démontrant ainsi le potentiel des plateformes numériques pour influencer les résultats politiques. Puis, pendant la pandémie de COVID-19, les fausses nouvelles concernant le virus et les vaccins ont conduit à des crises de santé publique et perturbé les efforts de réponse dans plusieurs pays.

Dans ce paysage instable, les entreprises et les gouvernements sont aux prises avec le défi de distinguer le vrai du faux, tout en s’efforçant de maintenir un niveau de transparence et de fiabilité dans leurs communications. Si rien n’est fait, les mensonges en ligne menacent non seulement les processus démocratiques, mais pourraient également compromettre le paysage concurrentiel en sapant les pratiques commerciales équitables et la confiance des consommateurs.

L'approche réglementaire de l'UE

La loi sur les services numériques (DSA) représente le cadre stratégique de l'UE pour réglementer l'espace numérique, en mettant fortement l'accent sur la lutte contre la désinformation et la sécurisation des processus démocratiques. Cette mesure législative cible les VLOP, qui sont des canaux d’information essentiels en période électorale.

La loi européenne sur les services numériques définit les VLOP comme les services numériques qui atteignent au moins 45 millions d'utilisateurs au sein du bloc, soit environ 10 % de la population. Cette catégorisation cible les plateformes qui ont la plus grande portée et l’influence, ce qui nécessite une surveillance réglementaire plus stricte pour atténuer les risques et les impacts de la diffusion de fausses informations à grande échelle. En se concentrant sur ces plateformes, la DSA garantit que les principales sources de contenu et d'interaction numériques sont soumises à des normes plus élevées de responsabilité et de transparence.

Le DSA exige que ces plateformes mettent en œuvre des mesures plus rigoureuses pour gérer et modérer le contenu, améliorent la transparence autour des processus algorithmiques et garantissent que la publicité politique est clairement étiquetée pour empêcher les influences cachées.

Les nouvelles réglementations du DSA spécifiquement orientées vers la sécurisation des élections exigent que ces plateformes répondent rapidement aux menaces de désinformation et de désinformation et soient plus responsables dans leurs pratiques de modération de contenu. Les plateformes devraient également offrir aux utilisateurs un plus grand contrôle sur le contenu qu’ils voient, limitant ainsi potentiellement la propagation des fausses nouvelles.

Les VLOP devront s’assurer que toutes les publicités politiques sur leurs plateformes et les deepfakes d’IA sont clairement étiquetés. Et mettre en place des équipes dédiées pour surveiller les fausses nouvelles potentielles dans certains pays de l’UE. Les algorithmes doivent promouvoir des contenus diversifiés, et des processus d'urgence devraient être mis en place lorsque des deepfakes de dirigeants politiques apparaissent, aurait déclaré la Commission européenne. Le non-respect de ces règles pourrait entraîner des amendes pouvant aller jusqu'à 6 % du chiffre d'affaires annuel mondial.

Thomas Richards, consultant principal en sécurité chez Synopsys Software Integrity Group, estime que le DSA pourrait réduire considérablement la désinformation s'il était efficacement mis en œuvre par les VLOP.

« Si les VLOP parviennent à bien mettre en œuvre les orientations DSA, je pense que la prévalence de la désinformation diminuera. Cela créera un jeu du chat et de la souris… mais dans l’ensemble, je pense que les gens en verront moins », a-t-il déclaré à ISMS.online.

Adam Marrè, RSSI chez Arctic Wolf, ajoute que l'accent mis par la DSA sur la transparence et la responsabilité pourrait fondamentalement modifier la façon dont la désinformation est gérée.

« Les lignes directrices établissent des mécanismes solides de responsabilisation… S’il est exécuté efficacement, ce mécanisme d’application solide est crucial pour garantir que les plateformes respectent leurs engagements et leurs responsabilités », a-t-il déclaré à ISMS.online.

Défis et application

L’application du DSA pose plusieurs défis pratiques, notamment dans les domaines de la détection, de l’exactitude et de l’échelle. La grande quantité de données gérées par les VLOP nécessite l’utilisation de systèmes automatisés, principalement l’IA, pour surveiller et contrôler la désinformation. Cependant, comme le souligne Richards, « l’identification et la suppression du contenu, avec précision, seront le plus grand obstacle à surmonter ». Le recours à l’IA pour la détection peut conduire à des inexactitudes et à une censure involontaire, permettant potentiellement à la désinformation de s’infiltrer ou, à l’inverse, pénalisant à tort les contenus légitimes.

De plus, la nature dynamique des tactiques de désinformation signifie que dès que de nouvelles méthodes de détection sont développées, les acteurs malveillants élaborent de nouvelles stratégies pour les contourner. Richards soutient que ceux qui diffusent de la désinformation développent constamment des techniques pour « contourner ou tromper les mécanismes de détection en leur faisant croire que le contenu ne devrait pas être supprimé ».

Hannah Baumgaertner, responsable des recherches sur le renseignement chez Silobreaker, note que les élections qui ont déjà lieu cette année à Taiwan ont été entachées de campagnes de désinformation.

« De plus, la campagne Doppelganger en cours, liée à la Russie, est susceptible de se concentrer sur le Royaume-Uni », a-t-elle déclaré à ISMS.online.

Lors du référendum sur le Brexit, diverses plateformes ont vu se multiplier des articles trompeurs et des statistiques manipulées destinées à influencer l’opinion publique. De même, des comptes de robots automatisés ont été utilisés pour amplifier des contenus controversés, démontrant comment les stratégies de désinformation sont continuellement affinées pour exploiter les nouvelles avancées technologiques. Ces exemples mettent en évidence l’évolution incessante des tactiques de fausses nouvelles, faisant de leur application un défi complexe et dynamique.

Implications commerciales plus larges

La montée des deepfakes et de la tromperie numérique introduit de nouvelles vulnérabilités que les entreprises doivent prendre en compte dans leurs stratégies de gestion des risques. À mesure que ces technologies deviennent plus sophistiquées, le risque d’utilisation abusive visant à manipuler la perception du public et à nuire à l’intégrité de la réputation augmente.

En s’appuyant sur les principes plus larges énoncés dans le DSA, les entreprises peuvent renforcer leur résilience en mettant en œuvre des processus de vérification rigoureux et des mesures de transparence. En intégrant des technologies de détection avancées et en établissant des protocoles clairs pour gérer les menaces numériques, les entreprises peuvent mieux se prémunir contre les effets déstabilisateurs de la désinformation. De plus, en promouvant la transparence et la responsabilité, les entreprises peuvent non seulement se conformer aux réglementations émergentes, mais également instaurer la confiance avec leurs parties prenantes, renforçant ainsi leur position sur le marché.

Établir une référence mondiale

Le DSA marque un engagement ferme dans la lutte contre la désinformation et la désinformation, établissant une référence mondiale sur la manière dont les démocraties peuvent protéger l’intégrité électorale à l’ère numérique. En appliquant des directives strictes sur les principales plateformes en ligne, l’UE vise non seulement à réduire la propagation de fausses informations, mais également à renforcer les principes fondamentaux de la démocratie.

Ces efforts sont essentiels au maintien de la santé de l’économie numérique, où la confiance et la transparence jouent un rôle central. À l’avenir, l’adaptation et l’application continues de ces réglementations seront essentielles à la préservation des processus démocratiques et de l’intégrité du marché numérique.

Dans ce contexte, les entreprises sont confrontées à leurs propres batailles contre les deepfakes et la tromperie numérique. Ces technologies posent de sérieuses menaces à l'intégrité et à la sécurité de l'entreprise, nécessitant des systèmes de gestion de la sécurité de l'information (ISMS) robustes pour améliorer la sensibilisation, établir des protocoles de détection et développer des stratégies efficaces de réponse aux incidents. À mesure que les deepfakes deviennent plus sophistiqués, il est essentiel de garder une longueur d’avance sur ces menaces pour maintenir les opérations de l’entreprise et la confiance du public.