عاملیت تبیین‌پذیر در هوش مصنوعی ۲۰۲۴
Explainable Agency in Artificial Intelligence 2024

این کتاب بر زیرشاخه‌ای از هوش مصنوعی توضیح‌پذیر (XAI) به نام عاملیت توضیح‌پذیر (EA) تمرکز دارد. عاملیت توضیح‌پذیر شامل تولید گزارش‌هایی از تصمیمات اتخاذشده در طول استدلال یک عامل، خلاصه‌سازی رفتار آن به زبان قابل فهم برای انسان، و ارائه پاسخ به سؤالاتی درباره انتخاب‌های خاص و دلایل آن‌ها است. ما عاملیت توضیح‌پذیر را از یادگیری ماشین قابل تفسیر (IML)، شاخه دیگری از XAI که بر ارائه بینش (معمولاً برای یک متخصص یادگیری ماشین) در مورد یک مدل یادگرفته‌شده و تصمیمات آن متمرکز است، متمایز می‌کنیم. در مقابل، عاملیت توضیح‌پذیر معمولاً شامل مجموعه گسترده‌تری از تکنیک‌ها، سیستم‌ها و ذینفعان با قابلیت هوش مصنوعی (به عنوان مثال، کاربران نهایی) است، جایی که توضیحات ارائه شده توسط عوامل EA بهتر است در زمینه مطالعات موضوعات انسانی ارزیابی شوند.

فصل‌های این کتاب به بررسی مفهوم اعطای عاملیت توضیح‌پذیر به عوامل هوشمند می‌پردازند، که برای اعتماد انسان‌ها به این عوامل در حوزه‌های حساسی مانند امور مالی، وسایل نقلیه خودران و عملیات نظامی بسیار مهم است. این کتاب، حاصل کار محققان از دیدگاه‌های مختلف را ارائه می‌کند و چالش‌ها، نتایج تحقیقات اخیر، درس‌های آموخته‌شده از کاربردها و توصیه‌هایی برای مسیرهای تحقیقاتی آینده در EA را شرح می‌دهد. دیدگاه‌های تاریخی عاملیت توضیح‌پذیر و اهمیت تعامل در سیستم‌های توضیح‌پذیر نیز مورد بحث قرار می‌گیرند. در نهایت، هدف این کتاب کمک به مشارکت موفقیت‌آمیز بین انسان‌ها و سیستم‌های هوش مصنوعی است.

ویژگی‌ها:

• کمک به موضوع هوش مصنوعی توضیح‌پذیر (XAI)
• تمرکز بر زیرشاخه XAI، یعنی عاملیت توضیح‌پذیر
• شامل یک فصل مقدماتی، یک بررسی کلی و پنج مشارکت اصلی دیگر

This book focuses on a subtopic of explainable AI (XAI) called explainable agency (EA), which involves producing records of decisions made during an agent’s reasoning, summarizing its behavior in human-accessible terms, and providing answers to questions about specific choices and the reasons for them. We distinguish explainable agency from interpretable machine learning (IML), another branch of XAI that focuses on providing insight (typically, for an ML expert) concerning a learned model and its decisions. In contrast, explainable agency typically involves a broader set of AI-enabled techniques, systems, and stakeholders (e.g., end users), where the explanations provided by EA agents are best evaluated in the context of human subject studies.

The chapters of this book explore the concept of endowing intelligent agents with explainable agency, which is crucial for agents to be trusted by humans in critical domains such as finance, self-driving vehicles, and military operations. This book presents the work of researchers from a variety of perspectives and describes challenges, recent research results, lessons learned from applications, and recommendations for future research directions in EA. The historical perspectives of explainable agency and the importance of interactivity in explainable systems are also discussed. Ultimately, this book aims to contribute to the successful partnership between humans and AI systems.

Features:

• Contributes to the topic of explainable artificial intelligence (XAI)
• Focuses on the XAI subtopic of explainable agency
• Includes an introductory chapter, a survey, and five other original contributions