کشف بازنمایی با استفاده از تحلیل هارمونیک ۲۰۲۲
Representation Discovery using Harmonic Analysis 2022

بازنمایی‌ها در قلب هوش مصنوعی (AI) قرار دارند. این کتاب به مسئله‌ی کشف بازنمایی اختصاص یافته است: چگونه یک سیستم هوشمند می‌تواند از تجربه‌ی خود بازنمایی بسازد؟ کشف بازنمایی، فضای حالت را دوباره پارامتری‌سازی می‌کند – قبل از اعمال بازیابی اطلاعات، یادگیری ماشین یا تکنیک‌های بهینه‌سازی – و با ساختن پایه‌های جدید و مختص وظیفه که با هندسه‌ی فضای حالت سازگار هستند، فرایندهای استنتاج بعدی را تسهیل می‌کند. این کتاب یک رویکرد کلی به کشف بازنمایی را با استفاده از چارچوب تحلیل هارمونیک، به‌ویژه تحلیل فوریه و ویولت، ارائه می‌دهد. روش‌های فشرده‌سازی بیومتریک، دیسک فشرده، توموگرافی کامپیوتری محوری (CAT) در پزشکی، فشرده‌سازی JPEG و تحلیل طیفی داده‌های سری زمانی از جمله کاربردهای فراوان تحلیل فوریه و ویولت کلاسیک هستند. هدف اصلی این کتاب نشان دادن این است که این ابزارهای تحلیلی را می‌توان از تنظیمات معمول خود در فضاهای اقلیدسی (بی‌نهایت بُعدی) به فضاهای گسسته (متناهی بُعدی) که معمولاً در بسیاری از زیرشاخه‌های هوش مصنوعی مطالعه می‌شوند، تعمیم داد. تعمیم تحلیل هارمونیک به فضاهای گسسته چالش‌های زیادی را به همراه دارد: یک بازنمایی گسسته از فضا باید به صورت انطباقی به دست آید. توابع پایه از پیش تعریف نشده‌اند، بلکه باید ساخته شوند. الگوریتم‌های محاسبه و نمایش کارآمد پایه‌ها نیازمند مقابله با نفرین ابعاد هستند. با این حال، مزایا می‌توانند بیشتر از هزینه‌ها باشند، زیرا توابع پایه‌ی استخراج‌شده از پایه‌های پارامتری عملکرد بهتری دارند، زیرا اغلب شکل نامنظم یک فضای حالت خاص را منعکس می‌کنند. مطالعات موردی از گرافیک کامپیوتری، بازیابی اطلاعات، یادگیری ماشین و برنامه‌ریزی فضای حالت برای نشان دادن مزایای چارچوب پیشنهادی و چالش‌هایی که هنوز باید به آنها رسیدگی شود، استفاده شده است. کشف بازنمایی یک زمینه‌ی در حال توسعه فعال است و نویسنده امیدوار است این کتاب سایر محققان را تشویق کند تا این حوزه‌ی تحقیقاتی هیجان‌انگیز را بررسی کنند. فهرست مطالب: مرور کلی / فضاهای برداری / پایه‌های فوریه بر روی گراف‌ها / پایه‌های چندمقیاسی بر روی گراف‌ها / مقیاس‌بندی به فضاهای بزرگ / مطالعه موردی: برنامه‌ریزی فضای حالت / مطالعه موردی: گرافیک کامپیوتری / مطالعه موردی: زبان طبیعی / مسیرهای آینده

Representations are at the heart of artificial intelligence (AI). This book is devoted to the problem of representation discovery: how can an intelligent system construct representations from its experience? Representation discovery re-parameterizes the state space – prior to the application of information retrieval, machine learning, or optimization techniques – facilitating later inference processes by constructing new task-specific bases adapted to the state space geometry. This book presents a general approach to representation discovery using the framework of harmonic analysis, in particular Fourier and wavelet analysis. Biometric compression methods, the compact disc, the computerized axial tomography (CAT) scanner in medicine, JPEG compression, and spectral analysis of time-series data are among the many applications of classical Fourier and wavelet analysis. A central goal of this book is to show that these analytical tools can be generalized from their usual setting in (infinite-dimensional) Euclidean spaces to discrete (finite-dimensional) spaces typically studied in many subfields of AI. Generalizing harmonic analysis to discrete spaces poses many challenges: a discrete representation of the space must be adaptively acquired; basis functions are not pre-defined, but rather must be constructed. Algorithms for efficiently computing and representing bases require dealing with the curse of dimensionality. However, the benefits can outweigh the costs, since the extracted basis functions outperform parametric bases as they often reflect the irregular shape of a particular state space. Case studies from computer graphics, information retrieval, machine learning, and state space planning are used to illustrate the benefits of the proposed framework, and the challenges that remain to be addressed. Representation discovery is an actively developing field, and the author hopes this book will encourage other researchers to explore this exciting area of research. Table of Contents: Overview / Vector Spaces / Fourier Bases on Graphs / Multiscale Bases on Graphs / Scaling to Large Spaces / Case Study: State-Space Planning / Case Study: Computer Graphics / Case Study: Natural Language / Future Directions