Türkiye'deki Matematiksel Etkinlikler
Süreyya Akyüz
Bahçeşehir Üniversitesi, Türkiye
Explainable artificial intelligence (XAI) plays a crucial role in high-stakes fields like healthcare, finance, and law by providing transparent insights into model decisions. Counterfactual (CF) explanations—suggesting minimal changes to input features to alter model outcomes—are a vital approach within XAI. However, current CF generation methods face challenges in balancing proximity, diversity, and robustness, which limits their practical use.
One common framework, Diverse Counterfactual Explanations (DiCE), emphasizes diversity but often lacks robustness, making explanations sensitive to minor input variations. To overcome these limitations, we propose DiCE-Extended, an improved CF explanation framework that employs multi-objective optimization to enhance robustness while preserving interpretability. Our method introduces a new robustness metric based on the Dice-Sørensen coefficient to ensure stability against small perturbations, and uses weighted loss components to balance proximity, diversity, and robustness.
We tested DiCE-Extended on several benchmark datasets—such as COMPAS, Lending Club, German Credit, and Adult Income—using different machine learning platforms like Scikit-learn, PyTorch, and TensorFlow. The results show that our approach produces CF explanations that are more valid, stable, and better aligned with decision boundaries compared to standard DiCE explanations.
This work demonstrates the potential of DiCE-Extended in generating more reliable and interpretable counterfactuals for applications with significant real-world impact. Future research will focus on incorporating adaptive optimization techniques and domain-specific constraints to further improve CF generation in complex environments.
Akademik biriminizin veya çalışma grubunuzun ülkemizde gerçekleşen etkinliklerini, ilan etmek istediğiniz burs, ödül, akademik iş imkanlarını veya konuk ettiğiniz matematikçileri basit bir veri girişi ile kolayca turkmath.org sitesinde ücretsiz duyurabilirsiniz. Sisteme giriş yapmak için gerekli bilgileri almak ya da görüş ve önerilerinizi bildirmek için iletişime geçmekten çekinmeyiniz. Katkı verenler listesi için tıklayınız.
Özkan Değer ozkandeger@gmail.com
31. Journees Arithmetiques Konferansı Organizasyon Komitesi
Web sitesinin masraflarının karşılanması ve hizmetine devam edebilmesi için siz de bağış yapmak, sponsor olmak veya reklam vermek için lütfen iletişime geçiniz.