Table des matières:
Les professionnels de la cybersécurité regardent l'intelligence artificielle (IA) avec enthousiasme et appréhension. D'une part, il a le potentiel d'ajouter des couches de défense entièrement nouvelles pour les données et infrastructures critiques, mais d'autre part, il peut également être utilisé comme une arme puissante pour contrecarrer ces défenses sans laisser de trace.
Comme toute technologie, l'IA a à la fois des forces à exploiter et des faiblesses qui peuvent être exploitées. Le défi pour les experts en sécurité d'aujourd'hui est de garder une longueur d'avance sur les méchants, ce qui devrait commencer par une compréhension claire de la façon dont l'IA peut être utilisée comme une arme de données offensive.
Piratage de l'IA
D'une part, explique Nicole Kobie de Wired, nous devons reconnaître que, comme tout environnement de données, l'IA elle-même peut être piratée. Au cœur de chaque processus intelligent, il y a un algorithme, et les algorithmes répondent aux données qu'ils reçoivent. Les chercheurs montrent déjà comment les réseaux de neurones peuvent être amenés à penser qu'une image d'une tortue est en fait une image d'un fusil et comment un simple autocollant sur un panneau d'arrêt peut amener une voiture autonome à conduire directement dans une intersection. Ce type de manipulation n'est pas seulement possible après le déploiement de l'IA, mais également lors de sa formation, ce qui donne potentiellement aux pirates la possibilité de faire toutes sortes de ravages sans avoir à toucher l'infrastructure de l'entreprise cliente.
