Les systèmes artificiels capables de penser et de prendre des décisions avec une intervention humaine minimale suscitent à la fois un immense espoir et une certaine inquiétude chez les professionnels de la cybersécurité. Connue sous le nom d'IA agentive, cette technologie transforme déjà radicalement le fonctionnement des centres d'opérations de sécurité traditionnels : elle permet de trier les menaces afin de réduire la surcharge d'alertes, d'adapter les politiques en fonction de l'évolution du cadre réglementaire, de contenir les cyberattaques, et bien plus encore.

Par conséquent, les professionnels de la cybersécurité ne sont plus distraits par des alertes inutiles ou des tâches administratives et peuvent se concentrer sur l'essentiel : la lutte contre la cybercriminalité. De plus, l'IA agentielle peut fonctionner 24 h/24 et 7 j/7, permettant ainsi d'identifier et de résoudre les problèmes de sécurité en dehors des heures de bureau ou lorsque les équipes de sécurité sont surchargées. C'est pourquoi 87 % des équipes de cybersécurité utilisent actuellement l'IA agentielle. donner la priorité le déploiement d'une IA agentive dans leurs départements.

Donner carte blanche à l'IA dans un domaine aussi crucial des entreprises modernes n'est pas sans risques. L'IA autonome étant encore à ses balbutiements, il est possible qu'elle catégorise ou gère les risques de manière inappropriée. Sans oublier que les cybercriminels sont… de plus en plus L'exploitation de l'IA agentive et sa disponibilité croissante ne feront qu'accroître la cybercriminalité. La prudence est donc de mise. Dès lors, une question se pose : l'IA agentive est-elle réellement pertinente dans le contexte de la cybersécurité ?

IA agentique dans le SOC

Bien qu'encore à ses débuts, l'IA agentielle a déjà un impact concret sur les opérations de cybersécurité. David Warshavski, cofondateur et directeur des produits d'une startup spécialisée en cybersécurité, témoigne : « L'IA agentielle a déjà un impact tangible sur les opérations de cybersécurité. » Sécurité tonique, soutient que cette technologie va au-delà de la simple fourniture de résumés d'alertes cybernétiques en prenant en charge des tâches avancées, telles que la coordination d'équipes d'analyse de sécurité étendues.

Warshavski explique qu'au lieu de simplement alerter les professionnels de la cybersécurité en cas d'activité suspecte, les systèmes d'agents peuvent fournir une vue d'ensemble du problème en combinant de multiples sources de données. En analysant des données allant des incidents et vulnérabilités historiques aux tickets d'assistance et aux bases de données de gestion de la configuration, cette technologie permet aux équipes de cybersécurité d'identifier la cause profonde des incidents et de déterminer les personnes responsables. Il ajoute : « Ce contexte détaillé permet aux analystes de gagner un temps précieux. »

Un autre domaine du centre des opérations de sécurité où l'IA agentive fait des progrès significatifs est la remédiation. Selon Warshavski, ces systèmes commencent à corriger des flux de travail très défaillants. Il explique qu'ils peuvent identifier les propriétaires des actifs vulnérables, créer les tickets d'assistance appropriés, trouver tout le contexte disponible, comprendre la différence entre les actifs liés à Internet et ceux basés sur l'identité, et, surtout, garantir la résolution effective des incidents.

Les agents d'IA ne se contentent pas d'identifier les cybermenaces. Ils y répondent même de manière autonome, selon Rob O'Connor, responsable de la sécurité des systèmes d'information pour la zone EMEA chez Insight, une société de conseil en informatique. Il explique que ces technologies peuvent réagir instantanément aux cyber-risques, par exemple en bloquant le trafic malveillant, et ce, sans aucune intervention humaine.

De plus, il affirme que les organisations peuvent intégrer des agents d'IA à leurs systèmes de cybersécurité actuels, notamment aux plateformes SOAR (Security Orchestration, Automation and Response). Ce faisant, elles peuvent bénéficier de fonctionnalités telles que l'analyse rapide et la classification des données. Selon lui, ces éléments permettront de garantir la protection des données sensibles.

Une nouvelle catégorie de risque

Bien que les systèmes d'IA agents aient le potentiel de rationaliser les opérations de cybersécurité à une échelle jamais vue auparavant, les experts affirment qu'ils introduisent également une nouvelle catégorie de risques que les organisations doivent prendre au sérieux.

Jake Moore, conseiller mondial en cybersécurité chez ESET, éditeur de logiciels antivirus, prévient que l'autonomie accordée à ces technologies, alors qu'elles sont encore nouvelles, entraînera « inévitablement » des erreurs. Il explique : « L'IA s'améliorera naturellement à mesure que nous l'utiliserons davantage, mais ces premières phases nous montrent que des erreurs peuvent se produire, et souvent à grande échelle. »

O'Connor, d'Insight, s'inquiète également des risques potentiels liés à l'utilisation d'IA agentielles au sein des services de cybersécurité. Il prévient que, à mesure que ces systèmes acquièrent « plus de responsabilités, d'autonomie et d'accès » au sein des équipes de cybersécurité, la surface d'attaque des organisations risque de s'étendre. Par conséquent, elles pourraient devenir victimes d'« injections de code malveillant et de fuites de données ».

D'après Warshavski de Tonic Security, l'erreur humaine peut également entraîner des dysfonctionnements de l'IA pour les équipes de cybersécurité. Il explique que si l'environnement dans lequel opère un agent d'IA est mal étiqueté ou si ce dernier bénéficie de trop d'autorisations, des problèmes risquent de survenir. « Il s'agit d'un nouveau type de risque : ce ne sont pas seulement les résultats erronés, mais les actions inappropriées qui sont les plus préoccupantes. »

La gouvernance est vitale

Compte tenu du niveau de risque que les systèmes d'IA agentsifs peuvent engendrer pour les équipes de cybersécurité et leurs organisations au sens large, des mesures d'atténuation et des cadres de gouvernance robustes sont clairement nécessaires.

Mais comme le souligne Moore d'ESET, cela représente un défi en soi. Selon lui, ces technologies étant impossibles à contrôler ou à responsabiliser comme le font les humains, l'industrie doit évaluer les risques et élaborer des garde-fous de toutes pièces. Il estime que cela « prendra du temps ».

Bien que complexe, la question des nouveaux risques liés à l'IA agentive suscite déjà des interrogations chez certains experts. Pour O'Connor d'Insight, un bon point de départ consiste à élaborer et à mettre en œuvre un cadre définissant les systèmes accessibles à l'IA agentive et les actions qu'elle est autorisée à entreprendre.

« Pour créer un tel cadre, les organisations devraient évaluer leurs risques, définir les domaines où l'IA est autorisée à intervenir, ajouter des garde-fous, mettre en place des mesures d'audit et vérifier la conformité aux réglementations du secteur », recommande-t-il.

En matière de gouvernance des systèmes d'IA agents, Warshavski de Tonic Security exhorte les organisations à déterminer les personnes autorisant les agents à effectuer des tâches, les systèmes et les données auxquels ils peuvent accéder, quand une approbation humaine est nécessaire et qui tenir pour responsable lorsque ces technologies commettent des erreurs.

Bien qu'il soit primordial de répondre à ces questions, Warshavski affirme que les équipes de cybersécurité et d'IA ne peuvent y répondre seules. Elles ont besoin d'une étroite collaboration entre les équipes de sécurité, d'informatique, juridiques, de conformité, d'ingénierie et d'exploitation. Il ajoute : « Sinon, nous risquons de retomber dans le modèle classique des entreprises : une technologie puissante intégrée à un flux de travail sans modèle de responsabilité clairement défini. »

En matière d'IA agentielle et de cybersécurité, les perspectives sont prometteuses. Les agents d'IA aident les équipes de cybersécurité à faire face à la multiplication des menaces en ligne grâce à des cas d'usage comme le tri automatisé des menaces et à respecter leurs obligations réglementaires toujours plus nombreuses grâce à des ajustements automatisés des politiques.

Mais en même temps, cette technologie suscite de nombreuses inquiétudes. Il s'agit d'un domaine de l'IA encore relativement nouveau et, comme l'ont averti de nombreux experts, des erreurs sont inévitables. C'est pourquoi la gouvernance est si essentielle. En réalité, cependant, élaborer des cadres de gouvernance pour une technologie encore méconnue ne sera pas une mince affaire et ne se fera certainement pas du jour au lendemain.

Élargissez vos connaissances

Blog: Une faille de sécurité liée à l'IA agentique est-elle inévitable en 2026 ?

Blog: Combler le fossé en matière de gouvernance de l'IA avec la norme ISO 42001

Podcast: Phishing for Trouble Épisode n° 05 : Qui détient les clés de votre entreprise ?