L’IA dans la cybercriminalité et la lutte contre les menaces : ce qu’en pense la NASA

L’intelligence artificielle est devenue un élément de plus en plus important dans le monde de la cybersécurité, tant pour les organisations criminelles que pour les États-nations. Selon Rob Joyce, directeur de la cybersécurité à l’Agence nationale de sécurité des États-Unis (NSA), l’utilisation de l’IA par les criminels et les pirates d’État n’est plus à démontrer. Toutefois, Rob Joyce souligne que les services de renseignement américains exploitent eux-mêmes les technologies d’IA pour détecter les activités malveillantes.

L’IA entre les mains des criminels et des pirates d’État

Selon M. Joyce, les criminels et les pirates d’ État utilisent largement les modèles d’IA générative proposés par les grandes entreprises. Ces outils leur permettent de créer des textes et des images artificiels qui peuvent être utilisés pour mener des cyberattaques et des campagnes d’espionnage. M. Joyce n’a pas fourni de détails précis sur les attaques par IA ni attribué certaines activités à un État ou à un gouvernement en particulier.

M. Joyce a souligné que les efforts déployés récemment par des pirates informatiques soutenus par la Chine pour cibler des infrastructures américaines essentielles illustrent la façon dont les technologies d’IA deviennent des outils de détection des activités malveillantes, donnant ainsi un avantage aux services de renseignement américains. Au lieu d’utiliser des logiciels malveillants traditionnels qui pourraient être facilement détectés, les pirates chinois exploitent les vulnérabilités et les défauts de mise en œuvre pour s’infiltrer dans les réseaux et se faire passer pour des utilisateurs autorisés.

L’IA au service du renseignement américain

Joyce a souligné que l’IA, l’apprentissage automatique et le big data contribuent à améliorer la capacité des services de renseignement américains à détecter les activités malveillantes. Grâce à ces technologies, il est possible de détecter des comportements anormaux qui ne correspondent pas à ceux d’opérateurs légitimes d’infrastructures critiques. Cela permet d’identifier les activités suspectes et de donner une longueur d’avance aux opérations des forces de l’ordre.

L’utilisation de l’IA dans le domaine de la cybersécurité n’est pas sans risque. M. Joyce a déclaré que l‘IA n’est pas un « super outil » capable de transformer une personne incompétente en une personne compétente, mais qu’elle rend ceux qui l’utilisent plus efficaces et plus dangereux. Par exemple, les attaquants peuvent utiliser l’IA pour créer des messages d’hameçonnage de plus en plus convaincants ou pour améliorer les aspects techniques d’attaques qu’ils ne seraient pas en mesure de mener à bien par eux-mêmes.

Les défis de l’IA dans la cybersécurité

L’utilisation de l’IA dans le contexte de la cybersécurité soulève d’importantes questions en matière de sécurité et de protection de la vie privée. Conscient de ces défis, le gouvernement américain a adopté un décret visant à définir de nouvelles normes de sécurité et de fiabilité pour l’IA. L’objectif est de protéger la société contre les abus et les erreurs en garantissant une utilisation responsable de ces technologies.

La Federal Trade Commission (FTC) a récemment mis en garde contre les menaces potentielles liées à l’utilisation de l’IA. Par exemple, des outils tels que ChatGPT peuvent être utilisés pour accroître la portée des fraudes et des escroqueries. Il est donc essentiel de développer des mécanismes de contrôle et des règles pour prévenir leur utilisation abusive.