Analisis Empiris Algoritma Gradient Boosting untuk Deteksi Fraud pada Ketidakseimbangan Kelas Ekstrem

Fahmi Izhari* -  UIN Syekh Ali Hasan Ahmad Addary Padangsidimpuan
Rusnai Rahayu -  UIN Syekh Ali Hasan Ahmad Addary Padangsidimpuan
Hasanal Fachri Satia Simbolon -  UIN Syekh Ali Hasan Ahmad Addary Padangsidimpuan
Ade Linhar P -  UIN Syekh Ali Hasan Ahmad Addary Padangsidimpuan
Rafi Septiawan Putra -  UIN Syekh Ali Hasan Ahmad Addary Padangsidimpuan

Abstract


Mendeteksi transaksi keuangan yang curang memerlukan model machine learning yang kuat dan mampu menangani data tabular yang sangat tidak seimbang. Dalam skenario dunia nyata, rasio transaksi legitimasi terhadap penipuan sering kali melebihi 1:500, menjadikan metrik akurasi standar menyesatkan akibat adanya paradoks akurasi. Penelitian ini menyajikan benchmarking empiris yang ketat dari tiga algoritma Gradient Boosting Decision Tree (GBDT) terdepan XGBoost, CatBoost, dan LightGBM pada dataset standar ULB Credit Card Fraud yang terdiri dari 284.807 transaksi. Untuk mengatasi ketidakseimbangan kelas yang ekstrem (tingkat fraud 0,17%), penyesuaian penalti matematis, khususnya scale_pos_weight dan balanced auto_class_weights, diintegrasikan ke dalam fungsi objektif model. Hasil eksperimen menunjukkan bahwa XGBoost mencapai daya diskriminatif tertinggi dengan ROC-AUC sebesar 0,9812 dan Recall sebesar 0,8673, sembari mempertahankan latensi komputasi terendah yaitu 3,92 detik. CatBoost dan LightGBM juga menunjukkan kapabilitas recall yang luar biasa, melebihi 0,88, memvalidasi kemanjuran penalitas bobot algoritmik dibandingkan teknik resampling tradisional. Analisis ini mengonfirmasi bahwa XGBoost memberikan trade-off optimal antara ketahanan prediktif dan efisiensi komputasi untuk sistem deteksi fraud keuangan berskala besar secara realtime.


Full Text:

PDF

References


Anh Luong, N. D., & Xie, S. (2026). Explainable ensemble machine learning for financial transaction fraud detection: Insights from XGBoost and deep neural networks. The Journal of Finance and Data Science, 12, 100195. https://doi.org/https://doi.org/10.1016/j.jfds.2026.100195

Daswati, O., Wijayanto, H., & Afendi, F. (2026). Comparative Study Of Lightgbm, Catboost, And Random Forest In Modeling Public Complaints Classification. BAREKENG: Jurnal Ilmu Matematika dan Terapan, 20, 2535–2548. https://doi.org/10.30598/barekengvol20iss3pp2535-2548

Faqih, A., & Sugihartono, T. (2025). Perbandingan Algoritma XGBoost dan LSTM dalam Prediksi Harga Saham Tesla Menggunakan Data Tahun 2025. Jurnal Pendidikan dan Teknologi Indonesia, 5(6), 1563–1573. https://doi.org/10.52436/1.jpti.836

Hancock, J., & Khoshgoftaar, T. (2020). CatBoost for big data: an interdisciplinary review. Journal of Big Data, 7. https://doi.org/10.1186/s40537-020-00369-8

Hilal, W., Gadsden, S., & Yawney, J. (2021). Financial Fraud: A Review of Anomaly Detection Techniques and Recent Advances. Expert Systems with Applications, 193, 116429. https://doi.org/10.1016/j.eswa.2021.116429

Kraiem, M. S., Sánchez-Hernández, F., & Moreno-García, M. N. (2021). Selecting the Suitable Resampling Strategy for Imbalanced Data Classification Regarding Dataset Properties. An Approach Based on Association Models. Applied Sciences, 11(18). https://doi.org/10.3390/app11188546

Kumbhar, M., Bandaru, S., & Karlsson, A. (2025). Imbalanced data oversampling through subspace optimization with Bayesian reinforcement. Artificial Intelligence Review, 59(1), 1. https://doi.org/10.1007/s10462-025-11417-1

Le Borgne, Y.-A., Siblini, W., Lebichot, B., & Bontempi, G. (2022). Reproducible Machine Learning for Credit Card Fraud detection: Practical handbook.

Martínez, Ó., Sánchez, P., & Alcaraz, E. (2025). A Review of Machine Learning and Deep Learning Approaches for Fraud Detection Across Financial and Supply Chain Domains. https://doi.org/10.21203/rs.3.rs-7893661/v1

Nugraha, W., & Syarif, M. (2023). Teknik Weighting untuk Mengatasi Ketidakseimbangan Kelas Pada Prediksi Churn Menggunakan XGBoost, LightGBM, dan CatBoost. Techno.Com, 22, 97–108. https://doi.org/10.33633/tc.v22i1.7191

Pristyanto, Y., Mukarabiman, Z., & Nugraha, A. (2023). Extreme Gradient Boosting Algorithm to Improve Machine Learning Model Performance on Multiclass Imbalanced Dataset. JOIV : International Journal on Informatics Visualization, 7, 710–715. https://doi.org/10.30630/joiv.7.3.1102

Rizky, P., Hirzi, R., & Hidayaturrohman, U. (2022). Perbandingan Metode LightGBM dan XGBoost dalam Menangani Data dengan Kelas Tidak Seimbang. J Statistika: Jurnal Ilmiah Teori dan Aplikasi Statistika, 15, 228–236. https://doi.org/10.36456/jstat.vol15.no2.a5548

Saputra, G. E., Swari, M. H. P., & Nurlaili, A. L. (2025). Implementasi Algoritma XGBoost, CatBoost, dan LGBM untuk Klasifikasi Pencemaran Udara. JIIP - Jurnal Ilmiah Ilmu Pendidikan, 8(12), 14135–14139. https://doi.org/10.54371/jiip.v8i12.10102

Yang, H., Shukur, Z., & Sahran, S. (2026). A Review of Artificial Intelligence for Financial Fraud Detection. Applied Sciences, 16(4). https://doi.org/10.3390/app16041931

Zhao, X., Wang, S., Qiu, S., Suo, S., & Lu, L. (2026). Optimizing the Undersampling Technique by Feature Weighting for Software Defect Prediction. International Journal of Computational Intelligence Systems, 19(1), 118. https://doi.org/10.1007/s44196-026-01174-6


Refbacks

  • There are currently no refbacks.