هوش مصنوعی قابل تفسیر ۲۰۲۲
Interpretable AI 2022

در کتاب هوش مصنوعی قابل تفسیر، خواهید آموخت:

چرا تفسیر مدل‌های هوش مصنوعی دشوار است؟
تفسیر مدل‌های جعبه‌سفید مانند رگرسیون خطی، درخت‌های تصمیم و مدل‌های جمع‌پذیر تعمیم‌یافته
نمودارهای وابستگی جزئی، LIME، SHAP و Anchors و سایر تکنیک‌ها مانند نقشه‌برداری برجستگی، تشریح شبکه و یادگیری بازنمایی
انصاف چیست و چگونه می‌توان سوگیری را در سیستم‌های هوش مصنوعی کاهش داد؟
پیاده‌سازی سیستم‌های هوش مصنوعی مستحکم که با GDPR مطابقت دارند

هوش مصنوعی قابل تفسیر جعبه سیاه مدل‌های هوش مصنوعی شما را باز می‌کند. این کتاب فنون پیشرفته و بهترین شیوه‌ها را آموزش می‌دهد که می‌تواند حتی سیستم‌های پیچیده هوش مصنوعی را قابل تفسیر کند. پیاده‌سازی هر روش با استفاده از پایتون و کتابخانه‌های متن‌باز آسان است. خواهید آموخت که چه زمانی می‌توانید از مدل‌هایی استفاده کنید که ذاتاً شفاف هستند و چگونه در مواقعی که مسئله شما نیازمند قدرت یک مدل یادگیری عمیق با تفسیر دشوار است، تیرگی را کاهش دهید.

درباره‌ی فناوری
اغلب توضیح اینکه مدل‌های یادگیری عمیق چگونه کار می‌کنند دشوار است، حتی برای دانشمندان داده‌ای که آن‌ها را ایجاد می‌کنند. بهبود شفافیت و قابلیت تفسیر در مدل‌های یادگیری ماشین، خطاها را به حداقل می‌رساند، سوگیری ناخواسته را کاهش می‌دهد و اعتماد به نتایج را افزایش می‌دهد. این کتاب منحصربه‌فرد شامل تکنیک‌هایی برای نگاه کردن به درون مدل‌های “جعبه سیاه”، طراحی الگوریتم‌های پاسخگو و درک عواملی است که باعث ایجاد نتایج مغرضانه می‌شوند.

درباره‌ی کتاب
هوش مصنوعی قابل تفسیر به شما می‌آموزد الگوهایی را که مدل شما آموخته است و چرایی تولید نتایج را شناسایی کنید. در حین مطالعه، رویکردهای خاص الگوریتم، مانند تفسیر رگرسیون و مدل‌های جمع‌پذیر تعمیم‌یافته را به همراه نکاتی برای بهبود عملکرد در طول آموزش فرا خواهید گرفت. همچنین روش‌هایی را برای تفسیر مدل‌های پیچیده یادگیری عمیق که در آن‌ها برخی فرآیندها به آسانی قابل مشاهده نیستند، بررسی خواهید کرد. شفافیت هوش مصنوعی یک حوزه با تحول سریع است و این کتاب تحقیقات پیشرفته را به روش‌های عملی ساده می‌کند که می‌توانید با پایتون پیاده‌سازی کنید.

آنچه در این کتاب خواهید یافت:

تکنیک‌هایی برای تفسیر مدل‌های هوش مصنوعی
مقابله با خطاهای ناشی از سوگیری، نشت داده و رانش مفهوم
اندازه‌گیری انصاف و کاهش سوگیری
ساخت سیستم‌های هوش مصنوعی سازگار با GDPR

درباره‌ی خواننده
برای دانشمندان داده و مهندسان آشنا با پایتون و یادگیری ماشین.
درباره‌ی نویسنده
آجی تامپی یک مهندس یادگیری ماشین است که بر هوش مصنوعی مسئولانه و انصاف تمرکز دارد.

فهرست مطالب

بخش اول: مبانی تفسیرپذیری
1 مقدمه
2 مدل‌های جعبه‌سفید
بخش دوم: تفسیر پردازش مدل
3 روش‌های مستقل از مدل: تفسیرپذیری سراسری
4 روش‌های مستقل از مدل: تفسیرپذیری محلی
5 نقشه‌برداری برجستگی
بخش سوم: تفسیر بازنمایی‌های مدل
6 درک لایه‌ها و واحدها
7 درک شباهت معنایی
بخش چهارم: انصاف و سوگیری
8 انصاف و کاهش سوگیری
9 مسیر به سوی هوش مصنوعی قابل توضیح

In Interpretable AI, you will learn:

Why AI models are hard to interpret
Interpreting white box models such as linear regression, decision trees, and generalized additive models
Partial dependence plots, LIME, SHAP and Anchors, and other techniques such as saliency mapping, network dissection, and representational learning
What fairness is and how to mitigate bias in AI systems
Implement robust AI systems that are GDPR-compliant

Interpretable AI opens up the black box of your AI models. It teaches cutting-edge techniques and best practices that can make even complex AI systems interpretable. Each method is easy to implement with just Python and open source libraries. You’ll learn to identify when you can utilize models that are inherently transparent, and how to mitigate opacity when your problem demands the power of a hard-to-interpret deep learning model.

About the technology
It’s often difficult to explain how deep learning models work, even for the data scientists who create them. Improving transparency and interpretability in machine learning models minimizes errors, reduces unintended bias, and increases trust in the outcomes. This unique book contains techniques for looking inside “black box” models, designing accountable algorithms, and understanding the factors that cause skewed results.

About the book
Interpretable AI teaches you to identify the patterns your model has learned and why it produces its results. As you read, you’ll pick up algorithm-specific approaches, like interpreting regression and generalized additive models, along with tips to improve performance during training. You’ll also explore methods for interpreting complex deep learning models where some processes are not easily observable. AI transparency is a fast-moving field, and this book simplifies cutting-edge research into practical methods you can implement with Python.

What’s inside

Techniques for interpreting AI models
Counteract errors from bias, data leakage, and concept drift
Measuring fairness and mitigating bias
Building GDPR-compliant AI systems

About the reader
For data scientists and engineers familiar with Python and machine learning.
About the author
Ajay Thampi is a machine learning engineer focused on responsible AI and fairness.

Table of Contents

PART 1 INTERPRETABILITY BASICS
1 Introduction
2 White-box models
PART 2 INTERPRETING MODEL PROCESSING
3 Model-agnostic methods: Global interpretability
4 Model-agnostic methods: Local interpretability
5 Saliency mapping
PART 3 INTERPRETING MODEL REPRESENTATIONS
6 Understanding layers and units
7 Understanding semantic similarity
PART 4 FAIRNESS AND BIAS
8 Fairness and mitigating bias
9 Path to explainable AI