Sécurité informatique basée sur l’IA pour contrer les attaques basées sur l’intelligence artificielle

L’intelligence artificielle révolutionne la manière dont nous interagissons avec la technologie. Cependant, il est difficile de déterminer où elle peut avoir le plus grand impact opérationnel. L’IA peut être appliquée à une gamme étendue de cas d’utilisation, mais elle fonctionne mieux lorsqu’elle est appliquée à des tâches spécifiques en tant que multiplicateur de force pour les équipes humaines. Pour de nombreuses organisations, l’un des investissements les plus significatifs en matière d’IA concerne la cybersécurité.

Les attaques informatiques sont parmi les plus grands risques pour toute organisation moderne, quelle que soit sa taille. Notre recherche a identifié une augmentation de 8 % des attaques informatiques mondiales hebdomadaires au cours de la première moitié de 2023 seulement. Leur impact peut varier des demandes de rançon à l’interruption des services dans des secteurs économiques critiques, voire à la perturbation de services essentiels, comme nous l’avons vu avec la violation du Colonial Pipeline.

L’utilisation de l’IA dans la cybersécurité

Les acteurs malveillants adoptent rapidement de nouvelles technologies pour exploiter de manière plus efficace leurs objectifs, y compris et surtout l’intelligence artificielle. En 2021, lors de l’attaque du Colonial Pipeline, les incidents de cybersécurité ont conduit à une violation réussie 18 % du temps, selon le rapport sur les enquêtes sur les violations de données de Verizon. Depuis lors, le taux de réussite a augmenté à plus de 30 %. Les pirates informatiques utilisent l’IA pour être plus efficaces, et il est essentiel que les organisations du monde entier évoluent en parallèle, non seulement pour répondre à ces menaces, mais aussi pour les prévenir.

Les pirates informatiques exploitent actuellement massivement l’IA au niveau du cloud. Cela est particulièrement évident dans les attaques basées sur l’ingénierie sociale. Selon KnowBe4, au moins 70 % des violations malveillantes résultent d’attaques d’ingénierie sociale ou de phishing. Cela signifie que les attaquants n’exploitent pas nécessairement une vulnérabilité technique, mais persuadent les utilisateurs de divulguer leurs identifiants de connexion légitimes, généralement en envoyant un e-mail avec une pièce jointe malveillante se faisant passer pour un expéditeur légitime. Ce vecteur d’attaque est devenu encore plus dangereux après l’introduction des modèles génératifs d’IA en 2022.

L’IA générative renforce les attaques informatiques : comment contrer la menace

Les pirates informatiques sont experts pour trouver des applications malveillantes pour les progrès technologiques, et l’IA générative ne fait pas exception. Ils ont découvert que, malgré ses protections, ils pouvaient facilement utiliser l’outil pour rédiger des e-mails malveillants pour des campagnes de phishing. Avant cela, de nombreux e-mails de phishing présentaient des signaux évidents de danger : grammaire médiocre, choix de mots inhabituels, fautes d’orthographe et autres écarts qui suscitaient des questions.

Cette dernière ligne de défense chanceuse a disparu car les pirates informatiques utilisent l’IA générative pour rédiger des appâts de phishing formellement parfaits et souvent personnalisés. Ces moteurs d’IA générative présentent généralement une fonction de codage du langage naturel au code, qui peut être utilisée pour créer des fichiers malveillants à distribuer.

L’IA générative abaisse la barrière à l’entrée pour l’ensemble du cycle de vie de l’attaque. Le boom de l’IA générative pourrait déjà avoir un impact : notre recherche montre que les attaques livrées par e-mail ont augmenté en 2023, représentant 86 % de toutes les attaques basées sur des fichiers que nous avons enregistrées. D’autres types d’IA amplifient la capacité des acteurs malveillants en automatisant les attaques, en détectant les vulnérabilités, en gérant les botnets, etc. Ils utilisent l’intelligence artificielle comme multiplicateur de force.

Améliorer la résilience de la cybersécurité avec l’IA

Au cours des dernières années, nous avons assisté à des attaques contre des entités allant de multinationales à des entreprises de services publics régionaux, en passant par des écoles et des hôpitaux individuels. Une part significative de ces organisations a des compétences limitées en matière de cybersécurité, et les acteurs malveillants sont toujours prêts à saisir les opportunités. Au cours de la première moitié de 2023, par exemple, les organisations du secteur de la santé ont subi seules 1 634 attaques informatiques par semaine, soit une augmentation de 18 % par rapport à l’année précédente.

L’impact financier d’une attaque peut être grave et varié : les risques vont de la demande de rançon initiale à la divulgation d’informations commercialement sensibles, aux coûts des équipements inactifs et à une gamme étendue de possibilités. Dans certains cas, des actions en justice suivent, générant des indemnités de plusieurs millions de dollars. Avec l’augmentation des demandes et la prise de conscience des compagnies d’assurance quant au niveau de risque informatique, le secteur de l’assurance a révisé à la hausse les primes, les rendant prohibitives pour la plupart des organisations.

Défi décisif pour la cybersécurité du futur

Dans le même temps, même les organisations les mieux financées ne peuvent être tenues de financer des équipes de sécurité avec le personnel humain et les compétences nécessaires pour faire face à l’ensemble de l’environnement des menaces modernes sans un multiplicateur de force. C’est là que l’IA intervient en tant que fondement indispensable pour toute organisation. Quelle que soit la technologie ou l’innovation mise en œuvre, elle reste toujours exposée au risque d’une attaque informatique qui bloque les opérations ou expose l’entreprise à une responsabilité potentiellement catastrophique. De plus, les nouvelles technologies constituent également de nouveaux points d’entrée pour les acteurs malveillants, comme nous le constatons de manière aiguë avec les dispositifs Internet des objets (IoT).

À mesure que les cybercriminels s’adaptent et deviennent plus efficaces dans l’utilisation de l’IA dans leurs attaques, les organisations doivent utiliser l’IA pour contrer cette menace du point de vue de la prévention. Les suites actuelles de produits ponctuels produisent d’importants points aveugles et une interopérabilité limitée. La mise en place d’une plateforme de cybersécurité consolidée utilisant l’IA pour affiner la détection proactive et la suppression continue dans le temps, par exemple, ou pour identifier les comportements anormaux au sein de politiques de confiance zéro rigoureusement définies, renforce de manière exponentielle la résilience informatique contre tous les types d’attaques.