استانداردهایی برای کنترل سوگیری الگوریتمی ۲۰۲۳
Standards for the Control of Algorithmic Bias 2023

دولت‌ها در سراسر جهان از یادگیری ماشین در سیستم‌های تصمیم‌گیری خودکار برای طیف وسیعی از کارکردها استفاده می‌کنند. با این حال، سوگیری الگوریتمی در یادگیری ماشین می‌تواند منجر به تصمیمات خودکاری شود که تأثیرات نامتناسبی ایجاد کرده و تضمینات مندرج در منشور برابری اساسی را به خطر اندازد. این کتاب به دنبال پاسخ به این پرسش است که چه استانداردهایی باید در مورد یادگیری ماشین اعمال شود تا اثرات نامتناسب در استفاده دولت از تصمیم‌گیری خودکار کاهش یابد؟

چشم‌انداز نظارتی برای تصمیم‌گیری خودکار، در کانادا و سراسر جهان، هنوز قطعی نشده است. مدل‌های قانونی و سیاستی در حال ظهور هستند و نقش استانداردها در حمایت از اهداف نظارتی در حال تحول است. نویسندگان ضمن قدردانی از مشارکت سازمان‌های پیشرو در توسعه استانداردها، استدلال می‌کنند که منطق تدوین استانداردها باید از دل قانون بیرون بیاید و اجرای چنین استانداردهایی به کاهش شکایات آتی از سوی کسانی که تحت تأثیر تصمیم‌گیری خودکار قرار می‌گیرند کمک کرده و به‌طور فعالانه از حقوق بشر آنان محافظت می‌کند. این کتاب یک چارچوب پیشنهادی استاندارد برای تصمیم‌گیری خودکار ارائه می‌دهد و توصیه‌هایی برای اجرای آن در چارچوب دستورالعمل دولت کانادا در مورد تصمیم‌گیری خودکار ارائه می‌کند.

از این رو، این کتاب می‌تواند به سازمان‌های دولتی در سراسر جهان در توسعه و استقرار عادلانه سیستم‌های تصمیم‌گیری خودکار کمک کند، و همچنین برای کسب‌وکارهایی که از فرآیندهای تصمیم‌گیری خودکار استفاده می‌کنند، مفید باشد.

Governments around the world use machine learning in automated decision-making systems for a broad range of functions. However, algorithmic bias in machine learning can result in automated decisions that produce disparate impact and may compromise Charter guarantees of substantive equality. This book seeks to answer the question: what standards should be applied to machine learning to mitigate disparate impact in government use of automated decision-making?

The regulatory landscape for automated decision-making, in Canada and across the world, is far from settled. Legislative and policy models are emerging, and the role of standards is evolving to support regulatory objectives. While acknowledging the contributions of leading standards development organizations, the authors argue that the rationale for standards must come from the law and that implementing such standards would help to reduce future complaints by, and would proactively enable human rights protections for, those subject to automated decision-making. The book presents a proposed standards framework for automated decision-making and provides recommendations for its implementation in the context of the government of Canada’s Directive on Automated Decision-Making.

As such, this book can assist public agencies around the world in developing and deploying automated decision-making systems equitably as well as being of interest to businesses that utilize automated decision-making processes.