Projet de fin d'étude : Financial Fraud detection using Machine Learning and Deep Learning

Etudiant : EL ALAMI YASSINE

Filière : Master Big Data et Systèmes intelligents (BDSI)

Encadrant : Pr. BENNANI MOHAMED TAJ

Annèe : 2026

Résumé : La fraude par carte de paiement demeure l’une des formes les plus coûteuses decriminalité financière. Sa détection automatique est intrinsèquement difficile : les fraudesne représentent qu’une infime fraction des transactions, leur signature évolue sans cesse,et les systèmes doivent fonctionner sous de fortes contraintes de latence et de fauxpositifs. Ce rapport étudie la prédiction et la détection de la fraude financière au moyende l’apprentissage automatique et profond, appliqués au jeu de données public ULB(284807 transactions, dont 492 frauduleuses, soit 0,172%).En suivant la méthodologie CRISP-DM, nous construisons un pipeline expérimentalsûr contre les fuites de données et comparons cinq familles de modèles arborescents(LightGBM, XGBoost, Random Forest, ExtraTrees, HistGradientBoosting) selon troisstratégies exécutées de gestion du déséquilibre : base sensible au coût, SMOTE-Tomeket CTGAN. Nous évaluons également quatre architectures profondes (Deep MLP,TabNet, FT-Transformer, Wide&Deep), construisons des modèles hybrides LGBM +embeddings profonds, et cinq stratégies d’ensemble.L’évaluation repose principalement sur la PR-AUC. XGBoost BASE atteint la meilleurePR-AUC individuelle (0,8783), mais avec un risque visible de surapprentissage; leCTGAN produit des écarts de généralisation plus faibles, et l’ensemble pondéré atteint0,8812 sur le test. Mots-clés : Détection de fraude; Apprentissage automatique; Apprentissage pro-fond; Déséquilibre de classes; SMOTE-Tomek; CTGAN; Perte focale; TabNet; FT-Transformer; PR-AUC; SHAP