Cara Membuat Interpretable AI dengan Metode SHAP

Video ini membahas kelemahan utama machine learning, yaitu kurangnya transparansi. Pengguna sering hanya menerima hasil tanpa mengetahui alasan keputusan model, seperti dalam deteksi phishing email. Dengan dataset phishing dan non-phishing, model seperti Random Forest dapat melakukan klasifikasi. Untuk memahami prediksi, digunakan metode SHAP (SHapley Additive Explanations) yang menjelaskan kontribusi setiap fitur berdasarkan teori nilai Shapley. Implementasinya mencakup pemuatan dataset, pemrosesan TF-IDF, pelatihan model, penyimpanan hasil, evaluasi prediksi, dan interpretasi dengan SHAP melalui tabel atau visualisasi. Jika terjadi error, debugging dilakukan dengan memahami pesan kesalahan dan merevisi kode. Pendekatan ini membantu pengguna memahami fitur utama seperti “account”, “verify”, “login”, “password”, dan “click” dalam email phishing.