{"id":15220,"date":"2025-10-08T01:46:37","date_gmt":"2025-10-08T05:46:37","guid":{"rendered":"https:\/\/www.inovia.vc\/?p=15220"},"modified":"2025-10-08T11:50:45","modified_gmt":"2025-10-08T15:50:45","slug":"cybersecurite-et-ia-agentique-une-course-pour-contenir-ce-nouvel-axe-de-risques","status":"publish","type":"post","link":"https:\/\/www.inovia.vc\/fr\/conversations-inovia\/cybersecurite-et-ia-agentique-une-course-pour-contenir-ce-nouvel-axe-de-risques\/","title":{"rendered":"Cybers\u00e9curit\u00e9 et IA agentique – Une course pour contenir ce nouvel axe de risques"},"content":{"rendered":"\n

De l’IA \u00e0 la s\u00e9curit\u00e9 agentique<\/strong><\/strong><\/h2>\n\n\n\n

L’adoption de nouvelles technologies et les changements de plateformes ont toujours introduit de nouvelles vuln\u00e9rabilit\u00e9s et de nouveaux vecteurs d’attaque que les acteurs malveillants peuvent exploiter. Ce sch\u00e9ma s’est r\u00e9p\u00e9t\u00e9 tout au long de l’histoire des technologies modernes utilis\u00e9es par les entreprises.<\/p>\n\n\n\n

\u00c0 la fin des ann\u00e9es 1980 et dans les ann\u00e9es 1990, la s\u00e9curit\u00e9 des r\u00e9seaux et des serveurs est devenue une priorit\u00e9, avec les pare-feu et les logiciels antivirus de pionniers tels que McAfee, Trend Micro, Symantec et Cisco, qui ont repr\u00e9sent\u00e9 la premi\u00e8re vague d’outils commerciaux de cybers\u00e9curit\u00e9. La s\u00e9curit\u00e9 des terminaux a pris de l’importance dans les ann\u00e9es 2000, avec l’expansion d’Internet et l’apparition d’appareils portables, tels que les ordinateurs portables qui ont commenc\u00e9 \u00e0 sortir de la s\u00e9curit\u00e9 du p\u00e9rim\u00e8tre de l’entreprise, cr\u00e9ant ainsi de nouveaux points d’exposition. Cette \u00e9volution a ouvert la voie \u00e0 des entreprises telles que CrowdStrike et SentinelOne, qui se sont impos\u00e9es comme des leaders. La prochaine \u00e9tape a \u00e9t\u00e9 celle de la s\u00e9curit\u00e9 du cloud et du SaaS, avec des acteurs tels que Wiz (r\u00e9cemment rachet\u00e9 par Google pour 32 milliards de dollars dans le cadre d’une transaction enti\u00e8rement en esp\u00e8ces) qui ont jet\u00e9 les bases de la protection du cloud, et des fournisseurs de s\u00e9curit\u00e9 d’identit\u00e9 tels qu’Okta qui ont s\u00e9curis\u00e9 et g\u00e9r\u00e9 les identit\u00e9s num\u00e9riques.<\/p>\n\n\n\n

Nous sommes d\u00e9sormais entr\u00e9s dans l’\u00e8re de l’IA. Pourtant, malgr\u00e9 la couverture m\u00e9diatique, l’adoption de l’IA g\u00e9n\u00e9rative par les entreprises a \u00e9t\u00e9 plus lente et moins fructueuse que pr\u00e9vu. Selon The GenAI Divide: State of AI in Business 2025 <\/em>(MIT), 95 % des impl\u00e9mentations d’IA g\u00e9n\u00e9rative livrent des r\u00e9sultats en dessous des attentes et objectifs fix\u00e9s. Bien que l’on puisse remettre en question la m\u00e9thodologie et que les chiffres puissent varier, il est juste de dire que la s\u00e9curit\u00e9 est un facteur d\u00e9cisif dans la r\u00e9ussite ou l’\u00e9chec de ces projets. Pendant ce temps, les attaquants ont d\u00e9j\u00e0 commenc\u00e9 \u00e0 cibler directement les LLMs et d’autres mod\u00e8les d’IA.<\/p>\n\n\n\n

En r\u00e9ponse \u00e0 ces risques croissants, un \u00e9cosyst\u00e8me sp\u00e9cialis\u00e9 dans la s\u00e9curit\u00e9 de l’IA a rapidement vu le jour au cours des trois derni\u00e8res ann\u00e9es, ax\u00e9 sur la protection des mod\u00e8les et la confidentialit\u00e9 des donn\u00e9es. Ce domaine conna\u00eet d\u00e9j\u00e0 une consolidation importante, avec des acquisitions majeures qui se succ\u00e8dent \u00e0 un rythme rapide. Nous avons vu Protect AI rejoindre Palo Alto Networks, Prompt Security passer sous le contr\u00f4le de SentinelOne et Aim Security \u00eatre rachet\u00e9 par Cato Networks. Le r\u00e9cent rachat de notre ancienne entreprise en portefeuille, Lakera AI, par Checkpoint est une autre acquisition r\u00e9alis\u00e9e dans ce domaine. Ces mouvements strat\u00e9giques montrent clairement que les entreprises de s\u00e9curit\u00e9 \u00e9tablies consid\u00e8rent la s\u00e9curit\u00e9 de l’IA comme un \u00e9l\u00e9ment essentiel et fondamental de leur future posture de s\u00e9curit\u00e9.<\/p>\n\n\n\n

Ceci dit, cet article ne se penchera pas en d\u00e9tail sur la s\u00e9curit\u00e9 de l’IA, car ce sujet a d\u00e9j\u00e0 largement  \u00e9t\u00e9 document\u00e9 dans d’autres blogs et rapports. Nous nous int\u00e9resserons plut\u00f4t \u00e0 un nouveau vecteur de menace \u00e9mergent : celui qui ne provient pas des mod\u00e8les eux-m\u00eames, mais de la mani\u00e8re dont ils sont utilis\u00e9s, c’est-\u00e0-dire via des syst\u00e8mes agentifs. Tout comme chaque changement de plateforme pass\u00e9 a apport\u00e9 de nouveaux d\u00e9fis aux \u00e9quipes de s\u00e9curit\u00e9, l’IA agentive ne fera pas exception. <\/p>\n\n\n\n

<\/div>\n\n\n\n

Pourquoi une approche diff\u00e9rente est-elle n\u00e9cessaire pour s\u00e9curiser les agents IA ?<\/strong><\/h2>\n\n\n\n

Les agents sont probabilistes et non d\u00e9terministes, ce qui signifie qu’au lieu de toujours renvoyer le m\u00eame r\u00e9sultat, leur objectif est d’interpr\u00e9ter des objectifs, de planifier des actions en plusieurs \u00e9tapes et d’ appeler des outils ou des API, ce qui conduit \u00e0 des comportements vari\u00e9s. Cette autonomie, si elle est adopt\u00e9e \u00e0 grande \u00e9chelle, amplifie les risques : un agent exploit\u00e9 ne se contente pas de divulguer des donn\u00e9es, il peut se d\u00e9placer d’un syst\u00e8me \u00e0 l’autre, prendre des mesures et provoquer des d\u00e9faillances en cascade.<\/p>\n\n\n\n

Comme les agents sont construits autour de LLM, ils h\u00e9ritent de tous les risques de base li\u00e9s \u00e0 la s\u00e9curit\u00e9 de l’IA (par exemple, injection de prompt, empoisonnement des donn\u00e9es d’entra\u00eenement, vol de mod\u00e8les, etc.). Cependant, la diff\u00e9rence est que lorsqu’un agent est compromis, les dommages s’aggravent, introduisant une nouvelle gamme de risques propres aux agents IA mal con\u00e7us :<\/p>\n\n\n\n