Wizbii : 10 ans d’innovation numérique au service du pouvoir d’achat
FR Média, Télécoms, TIC Actualités Regard d'experts
FR Média, Télécoms, TIC Actualités Regard d'experts
L’intelligence artificielle transforme les usages numériques. Elle révolutionne les systèmes d’information et les interactions humaines. D’après une enquête réalisée par IBM, 59 % des entreprises travaillant déjà avec l’IA ont l’intention d’accélérer leurs investissements dans cette technologie. Mais cette révolution s’accompagne de nouveaux risques. Les agents intelligents, les modèles génératifs et les systèmes autonomes deviennent des cibles. La cybersécurité de l’IA devient ainsi un domaine d’innovation stratégique. Elle ouvre des opportunités de recherche et développement éligibles au Crédit Impôt Recherche (CIR).
L’essor de IA transforme les systèmes d’information. Mais cette révolution technologique s’accompagne de nouveaux risques : modèles manipulés, données d’entraînement empoisonnées, agents détournés par des attaques automatisées, IA malveillantes (dark AI), ou encore exfiltration de données via des agents intelligents. Le livre blanc souligne que les agents IA, capables d’agir de manière autonome, doivent être identifiés, authentifiés et sécurisés comme des entités à part entière. La cybersécurité ne protège plus seulement les données ou les infrastructures, mais aussi les comportements intelligents.
Comme le souligne Onepoint, l’IA représente à la fois une source de vulnérabilités et un levier de défense. D’un côté, les cybercriminels exploitent les capacités des modèles génératifs pour produire des contenus malveillants à grande échelle : faux emails de phishing, deepfakes, scripts d’attaque polymorphes, ou encore usurpation d’identité numérique. Ces outils permettent de simuler des comportements humains avec un réalisme tel qu’ils échappent souvent aux filtres traditionnels.
De l’autre côté, les entreprises de cybersécurité intègrent l’IA dans leurs solutions pour renforcer la détection des menaces et anticiper les comportements suspects. L’IA permet d’analyser des volumes massifs de données en temps réel, d’identifier des schémas d’attaque complexes et de réagir plus rapidement que ne le pourraient des analystes humains seuls. Cette double dynamique offensive et défensive impose une évolution rapide des pratiques, des outils et des compétences dans le secteur.
La cybersécurité appliquée à l’intelligence artificielle constitue aujourd’hui un champ d’innovation stratégique. Face à l’émergence de nouvelles menaces spécifiques aux systèmes intelligents, les acteurs du secteur développent des solutions technologiques avancées.
Le premier pilier concerne la sécurité des modèles d’IA.
Ces derniers sont vulnérables à des attaques sophistiquées telles que les attaques adversariales. Elles consistent à manipuler les données d’entrée pour tromper le modèle, ou encore l’extraction de modèles, où un attaquant tente de reproduire un modèle propriétaire à partir de ses sorties. L’empoisonnement de données, qui vise à injecter des exemples malveillants dans les jeux d’entraînement, représente également une menace croissante. Pour y faire face, les chercheurs développent des techniques de robustesse algorithmique, de détection d’anomalies dans les données d’apprentissage, ainsi que des méthodes de chiffrement pour protéger les modèles en production.
Un deuxième axe d’innovation porte sur l’authentification et la supervision des agents IA. Avec la montée en puissance des agents autonomes, les bots et les systèmes embarqués, il devient essentiel de garantir leur identité numérique. Le livre blanc insiste sur la nécessité de doter chaque agent d’un identifiant unique, de mécanismes d’authentification forte, et d’une traçabilité complète de ses actions. Ces innovations s’inscrivent dans une logique de gouvernance algorithmique, où chaque entité intelligente est supervisée, auditée et certifiée.
La détection comportementale, ou UEBA (User and Entity Behavior Analytics), constitue un troisième levier d’innovation. Elle repose sur l’analyse des comportements des utilisateurs et des entités pour identifier des anomalies, souvent invisibles aux systèmes de détection traditionnels. En modélisant les comportements habituels, ces solutions permettent de repérer des signaux faibles, comme un accès inhabituel à des ressources sensibles ou une activité anormale d’un agent IA. L’UEBA s’appuie sur des algorithmes d’apprentissage non supervisé et de clustering pour détecter les écarts significatifs.
Un quatrième axe concerne les indicateurs d’attaque basés sur l’IA, ou IOA (Indicators of Attack). Contrairement aux indicateurs de compromission (IOC), qui signalent une attaque déjà en cours, les IOA visent à détecter les intentions malveillantes avant qu’elles ne se concrétisent. Cette approche prédictive repose sur l’analyse de séquences d’événements, la corrélation de signaux faibles et l’identification de patterns précurseurs d’attaque. Elle permet d’anticiper les comportements suspects et de déclencher des mesures de protection proactives.
Enfin, la réponse automatisée constitue un domaine en plein essor. Face à la rapidité des attaques, il devient indispensable d’automatiser certaines actions de remédiation : isolement d’un terminal compromis, suppression de fichiers malveillants, blocage d’un compte utilisateur, etc. Les plateformes modernes intègrent des capacités d’orchestration intelligente (SOAR) qui permettent de coordonner les outils de sécurité et de réagir en temps réel, tout en réduisant la charge des équipes opérationnelles.
Le futur repose sur une cybersécurité AI-native. Les plateformes à la pointe intègrent l’IA à tous les niveaux : détection, analyse, réponse. L’IA générative permet aussi de simuler des attaques, former les analystes et renforcer la résilience des systèmes. Le livre blanc sur la sécurité des agents IA insiste sur la nécessité de concevoir des architectures sécurisées dès la phase de développement.
Les porteurs de projets R&D peuvent bénéficier de plusieurs dispositifs :
Plusieurs projets emblématiques illustrent la dynamique actuelle autour de la cybersécurité de l’IA :
Gatewatcher, entreprise française fondée en 2015 et basée à Paris, est aujourd’hui un acteur de référence dans la Network Detection and Response (NDR). Sa plateforme illustre une approche innovante où l’intelligence artificielle – y compris générative – est intégrée au cœur de la détection et de l’analyse des menaces.
Contrairement aux solutions classiques qui reposent principalement sur des signatures ou des règles statiques, Gatewatcher exploite des modèles avancés de machine learning et de deep learning pour surveiller le trafic réseau en temps réel. Cette capacité permet ainsi d’identifier des attaques sophistiquées, même lorsqu’elles utilisent des techniques d’évasion destinées à tromper les systèmes traditionnels.
Un différenciateur clé de Gatewatcher est Gaia, son assistant basé sur l’IA générative. Intégré à la plateforme NDR, Gaia offre aux analystes de sécurité la possibilité d’interagir en langage naturel avec le système. Par exemple, demander « Quels flux réseau présentent un comportement suspect aujourd’hui ? » et obtenir immédiatement une analyse contextualisée avec recommandations d’action. Cette approche démocratise l’accès à l’investigation avancée et réduit le temps de réaction face aux menaces.
La plateforme intègre également des mécanismes de Threat Intelligence enrichie grâce à un réseau mondial de capteurs et à l’IA, permettant de corréler des signaux faibles et d’anticiper des campagnes d’attaque. L’IA améliore la hiérarchisation des alertes, limite les faux positifs et facilite l’automatisation de certaines réponses de remédiation.
En combinant détection comportementale, analyse prédictive et interface assistée par IA générative, Gatewatcher illustre la capacité française à développer une cybersécurité AI-native, souveraine et compétitive face aux solutions internationales.
Ce cas montre comment l’écosystème français peut s’appuyer sur l’intelligence artificielle pour non seulement renforcer la sécurité des réseaux, mais aussi simplifier et accélérer le travail des équipes de cybersécurité.
La cybersécurité de l’IA représente un nouveau terrain pour l’innovation. Elle répond à des enjeux critiques, mobilise des technologies avancées et bénéficie de soutiens publics. Les entreprises qui investissent dans ce domaine peuvent non seulement renforcer leur sécurité, mais aussi valoriser leurs efforts via le Crédit Impôt Recherche. En intégrant l’IA dans leurs stratégies de cybersécurité, elles deviennent plus résilientes, plus agiles et plus compétitives.
Ressources bibliographiques
Wizbii : 10 ans d’innovation numérique au service du pouvoir d’achat
Appel à projets européen CEF AFIF – Alternative fuels infrastructure facility
