Projet de fin d'étude : Détection Intelligente Des Fichiers Malveillants Par Le Deep Learning
Etudiant : LAHRACH REDA
Filière : LF Sciences Mathématiques et Informatique
Encadrant : Pr. RIFFI JAMAL
Annèe : 2025
Résumé : Ce projet a permis de développer un système hybride de détection de malwares combinant deux outils, dont une analyse statique avancée permettant d’identifier efficacement les menaces sans exécution directe. Deux approches complémentaires ont été mises en œuvre : la transformation des exécutables en images binaires, classées à l’aide d’un modèle Vision Transformer (ViT), afin de détecter avec précision des motifs malveillants, ainsi que l’analyse des processus en RAM, permettant de repérer en temps réel les comportements suspects en mémoire. Ces deux techniques statiques, à la fois sûres et complémentaires, renforcent la capacité de détection tout en préservant la stabilité du système. En parallèle, une approche d’analyse dynamique a été intégrée, reposant sur l’exécution contrôlée de fichiers dans un environnement isolé (sandbox) et l’observation de leur comportement en temps réel. Les rapports générés sont transformés en représentations vectorielles à l’aide du modèle BERT, puis équilibrés par la méthode SMOTE pour traiter les déséquilibres de classes. La classification finale est assurée par un perceptron multicouche (MLP), capable de distinguer automatiquement les familles de malwares à partir de leurs comportements. Cette combinaison intelligente entre analyse statique et dynamique permet de concevoir un système de détection robuste, automatisé et adapté aux menaces évolutives actuelles.