Des Israéliens ont réussi à induire en erreur un antivirus basé sur l'IA

La détection de l'intelligence artificielle devrait être l'avenir des antivirus. Skylight Cyber, fondé par des Israéliens en Australie, a constaté une faiblesse dans l'un des produits les plus en vue dans le domaine: l'utilisation d'un jeu informatique populaire.

Les produits de sécurité de l'information basés sur l'intelligence artificielle (IA) sont supposés être l'une des prochaines grandes étapes dans ce domaine.

Au lieu que la société de sécurité analyse de nouveaux fichiers nuisibles et distribue des mises à jour de ses produits afin de savoir comment les gérer, ces produits ont été "formés" pour détecter eux-mêmes les logiciels malveillants, même s'ils n'avaient jamais été vus auparavant.

Mais l'une des sociétés les plus connues, Blackberry Cylance, se trouve dans une situation problématique. Pour la première fois, des chercheurs en sécurité ont trouvé un détour universel pour un produit basé sur l'IA, qui est en fait un produit à part.

Les chercheurs de Skylight Cyber, fondé par des Israéliens en Australie, ont découvert que l’ajout de code à partir d’un fichier appartenant à un jeu populaire à tout fichier nuisible rend le fichier fiable en termes de Cylance. En clair en ajoutant un bout de code tous les fichiers nuisibles devenaient cleans et n'étaient pas détectés par l'anti-virus, ce qui veut dire que les fichiers nuisibles peuvent attaquer l'ordinateur, les fichiers, alors que l'anti-virus est actif.

Comment est-ce arrivé?
Bien que l'algorithme Cylance examine des millions de paramètres et les classe pour comprendre si un fichier est sûr ou non, il comporte une faille.

Les programmeurs ont défini les groupes de fichiers comme sécurisés, apparemment pour empêcher l’algorithme de les identifier comme nuisibles. Parmi ceux-ci étaient également des jeux populaires. Skylight ne divulgue pas exactement quels sont les produits afin de permettre à Cylance de bloquer la violation.

Lorsque les chercheurs ont ajouté le code d'un des fichiers du jeu dans un fichier malveillant, ils ont découvert que l'antivirus le classait comme étant sûrs.

Cela a fonctionné sur tous les logiciels malveillants, y compris ceux définis dans la version non modifiée comme nuisibles. Dans une interview avec VICE, le PDG de Skylight, Adi Ashkenazi, a affirmé que Cylance consacrerait beaucoup de temps et d'efforts à reprogrammer son algorithme de produit afin qu'il n'inclue pas des failles de ce type.

Ryan Fermat, qui a fondé Cylance et est le scientifique en chef de la société, a déclaré à VICE que la société ne comptait pas uniquement sur Amnesty International et estimait que dès qu'il connaîtrait les détails du détour,

L'algorithme peut être recyclé relativement rapidement. Mais, comme Ashkenazi l'a lui-même noté dans l'interview, la définition qui permettait au départ de faire un détour existe bel et bien parce que l'algorithme n'a apparemment pas réussi à traiter correctement les jeux.