حریم خصوصی تفاضلی ۲۰۲۲
Differential Privacy 2022

در دهه‌ی گذشته، حریم خصوصی تفاضلی (Differential Privacy یا DP) به عنوان استاندارد *عملی* برای پژوهش در زمینه‌ی تحلیل و انتشار داده‌ها با حفظ حریم خصوصی مطرح شده است. مفهوم DP ضمانت‌های قوی برای حفظ حریم خصوصی ارائه می‌دهد و در بسیاری از وظایف تحلیل داده به کار گرفته شده است.

این سخنرانی تلفیقی (Synthesis Lecture) جلد اول از دو جلد درباره‌ی حریم خصوصی تفاضلی است. این سخنرانی با کتاب‌ها و بررسی‌های موجود در مورد حریم خصوصی تفاضلی تفاوت دارد، زیرا ما رویکردی متعادل بین تئوری و عمل را در پیش می‌گیریم. ما بر عملکرد دقت تجربی الگوریتم‌ها به جای تضمین‌های دقت مجانبی تمرکز می‌کنیم. در عین حال، تلاش می‌کنیم توضیح دهیم که چرا این الگوریتم‌ها چنین عملکردهای دقت تجربی‌ای دارند. ما همچنین رویکردی متعادل در مورد معانی معنایی حریم خصوصی تفاضلی اتخاذ می‌کنیم و هم ضمانت‌های قوی و هم محدودیت‌های آن را توضیح می‌دهیم.

ما با بررسی تعریف و ویژگی‌های اساسی DP و اصول اولیه‌ی دستیابی به DP شروع می‌کنیم. سپس، به یک بحث مفصل در مورد تضمین حریم خصوصی معنایی ارائه شده توسط DP و هشدارهای مربوط به استفاده از DP می‌پردازیم. در ادامه، مکانیسم‌های روزآمد برای انتشار هیستوگرام‌ها برای مجموعه‌داده‌های کم‌بعدی، مکانیسم‌هایی برای انجام وظایف یادگیری ماشین مانند طبقه‌بندی، رگرسیون و خوشه‌بندی، و مکانیسم‌هایی برای انتشار اطلاعات برای پاسخ به پرسش‌های حاشیه‌ای برای مجموعه‌داده‌های پربُعدی را بررسی می‌کنیم. در نهایت، تکنیک بردار پراکنده (sparse vector technique) را به همراه اشتباهات بسیاری که در ادبیات با استفاده از آن انجام شده است، توضیح می‌دهیم.

جلد دوم برنامه‌ریزی‌شده، استفاده از DP را در سایر تنظیمات، از جمله مجموعه‌داده‌های پربُعدی، مجموعه‌داده‌های گراف، تنظیمات محلی، حریم خصوصی مکانی و غیره پوشش خواهد داد. ما همچنین در مورد انواع تخفیف‌های DP بحث خواهیم کرد.

Over the last decade, differential privacy (DP) has emerged as the de facto standard privacy notion for research in privacy-preserving data analysis and publishing. The DP notion offers strong privacy guarantee and has been applied to many data analysis tasks.

This Synthesis Lecture is the first of two volumes on differential privacy. This lecture differs from the existing books and surveys on differential privacy in that we take an approach balancing theory and practice. We focus on empirical accuracy performances of algorithms rather than asymptotic accuracy guarantees. At the same time, we try to explain why these algorithms have those empirical accuracy performances. We also take a balanced approach regarding the semantic meanings of differential privacy, explaining both its strong guarantees and its limitations.

We start by inspecting the definition and basic properties of DP, and the main primitives for achieving DP. Then, we give a detailed discussion on the the semantic privacy guarantee provided by DP and the caveats when applying DP. Next, we review the state of the art mechanisms for publishing histograms for low-dimensional datasets, mechanisms for conducting machine learning tasks such as classification, regression, and clustering, and mechanisms for publishing information to answer marginal queries for high-dimensional datasets. Finally, we explain the sparse vector technique, including the many errors that have been made in the literature using it.

The planned Volume 2 will cover usage of DP in other settings, including high-dimensional datasets, graph datasets, local setting, location privacy, and so on. We will also discuss various relaxations of DP.