سوگیری الگوریتمی و تعاریف ریاضی انصاف (Algorithmic Bias & Fairness)

مبحث ۳: سوگیری الگوریتمی، انصاف و تبعیض‌زدایی

Algorithmic Bias, Fairness Metrics & Debiasing Techniques

فصل ششم: اخلاق، حاکمیت، امنیت و مقررات در هوش مصنوعی

۱. راهنمای مطالعه و هدف آموزشی

سوگیری الگوریتمی (Algorithmic Bias) و روش‌های تضمین انصاف ریاضی، داغ‌ترین و فنی‌ترین مبحث اخلاق هوش مصنوعی در آزمون نظام صنفی رایانه‌ای (نصر) است. داوطلب مشاور باید تفاوت میان مفهوم ذهنی «عدالت» و تعاریف متناقض «انصاف ریاضی» را بشناسد. محورهای کلیدی تستی عبارتند از: - ریشه‌های چهارگانه سوگیری: سوگیری تاریخی (Historical)، سوگیری بازنمایی (Representation)، متغیرهای پروکسی (Proxy Variables) و سوگیری برچسب‌گذاری (Measurement) - مغالطه «انصاف از طریق بی‌خبری» (Fairness through Unawareness) - فرمول‌بندی و تعاریف دقیق معیارهای ریاضی انصاف: Demographic Parity (برابری آماری)، Equal Opportunity (فرصت برابر)، Equalized Odds (شانس‌های برابر) و Individual Fairness - قضیه عدم امکان کلینبرگ (Kleinberg's Impossibility Theorem) و چرایی ناممکن بودن برآورده‌سازی همزمان تمام معیارهای انصاف - روش‌های سه‌گانه تبعیض‌زدایی: پیش‌پردازش (Pre-processing)، حین پردازش (In-processing) و پس‌پردازش (Post-processing).

۲. این مبحث درباره چیست؟

الگوریتم‌های هوش مصنوعی بی‌طرف متولد نمی‌شوند؛ آن‌ها جهان را از روی داده‌هایی می‌آموزند که حاصل دهه‌ها تبعیض، نابرابری و خطاهای انسانی است. اگر یک سیستم اعتبارسنجی بانکی بر داده‌های ۵۰ سال گذشته آموزش ببیند، یاد می‌گیرد که مردان مرفه صلاحیت بیشتری برای وام دارند!
این مبحث به مشاوران می‌آموزد که چگونه با استفاده از معیارهای آماری دقیق، سوگیری‌های پنهان مدل‌ها را کشف کرده، الگوریتم‌ها را ممیزی نمایند و با روش‌های فنی Debiasing، خروجی عادلانه‌ای را تضمین کنند.

۳. تعریف ساده

تعریف ساده: سوگیری الگوریتمی یعنی کامپیوتر تعصبات و پیش‌داوری‌های ناعادلانه انسان‌ها را یاد بگیرد و همان‌ها را در حق افراد تکرار کند. مثلاً یک سامانه استخدام، رزومه خانم‌ها را رد کند چون در گذشته مدیران بیشتر مرد بوده‌اند! انصاف یعنی با فرمول‌های ریاضی جلوی این قضاوت‌های ناعادلانه را بگیریم.

۴. تعریف تخصصی

تعریف تخصصی: انحراف سیستماتیک، تکرارشونده و غیرقابل توجیه در توزیع خروجی مدل نسبت به یک یا چند گروه جمعیتی محافظت‌شده بر پایه ویژگی‌های حساس (Protected Attributes: جنسیت، قومیت، سن، مذهب). این انحراف معمولاً ناشی از متغیرهای پروکسی، ناترازی توزیع نمونه‌ها یا بهینه‌سازی تابع زیان تک‌هدفه بوده و رفع آن نیازمند استقرار سازوکارهای مداخله‌ای پیش، حین و پس از پردازش بر مبنای معیارهای برابری آماری و برابری خطا است.

۵. مفاهیم و ارکان کلیدی

۵.۱. ریشه‌های چهارگانه سوگیری الگوریتمی 🔴

در آزمون نصر، تفکیک منشأ سوگیری بسیار اهمیت دارد:

+-------------------------------------------------------------------------------+
|                        چهار منشأ اصلی سوگیری در یادگیری ماشین                 |
+-------------------------------------------------------------------------------+
| ۱. سوگیری تاریخی (Historical Bias): داده‌ها تعصبات گذشته جامعه را منعکس می‌کنند |
| ۲. سوگیری بازنمایی (Representation Bias): داده‌های اقلیت در دیتاست بسیار کم است |
| ۳. سوگیری پروکسی (Proxy Bias): ویژگی‌های مجاز به عنوان جانشین ویژگی حساس عمل می‌کنند|
| ۴. سوگیری اندازه‌گیری (Measurement Bias): خطا در برچسب‌گذاری و سنجه‌های عملکرد  |
+-------------------------------------------------------------------------------+

1. سوگیری تاریخی (Historical Bias): حتی اگر فرآیند جمع‌آوری داده بدون نقص باشد، داده‌ها بازتاب‌دهنده واقعیت ناعادلانه تاریخی هستند (مانند پرونده‌های استخدامی گذشته که اکثریت با مردان بوده است).
2. سوگیری بازنمایی (Representation Bias): عدم تعادل در توزیع نمونه‌ها؛ مثلاً اگر در یک سیستم بینایی ماشین ۹۵٪ داده‌های آموزش چهره‌های روشن‌پوست باشند، مدل برای پوست‌های تیره نرخ خطای بسیار بالایی خواهد داشت.
3. متغیرهای پروکسی (Proxy Variables): ویژگی‌هایی که در ظاهر خنثی و بی‌ضرر هستند، اما همبستگی آماری شدیدی با ویژگی‌های حساس دارند (مانند «کد پستی» که در بسیاری از شهرها پروکسی قومیت یا طبقه درآمدی است، یا «نام رشته تحصیلی» که پروکسی جنسیت است).
4. دام «انصاف از طریق بی‌خبری» (Fairness through Unawareness): این تصور کاملاً غلط است که اگر ستون‌های حساس (مانند جنسیت، نژاد یا مذهب) از دیتابیس حذف شوند، سوگیری از بین می‌رود! الگوریتم با تکیه بر متغیرهای پروکسی، آن ویژگی‌ها را به سادگی بازتولید می‌کند.

۵.۲. معیارهای ریاضی انصاف در طبقه‌بندی (Fairness Metrics) 🔴

فرض کنید: - $A$: ویژگی حساس و محافظت‌شده (مثلاً $A=1$ گروه اکثریت و $A=0$ گروه اقلیت). - $Y$: برچسب واقعی (مثلاً $Y=1$ واجد شرایط وام). - $\hat{Y}$: پیش‌بینی مدل (مثلاً $\hat{Y}=1$ تایید پرداخت وام).

۱. برابری جمعیتی / برابری آماری (Demographic Parity / Statistical Parity)

احتمال دریافت خروجی مطلوب برای تمامی گروه‌ها باید دقیقاً یکسان باشد:

$$P(\hat{Y} = 1 \mid A = 0) = P(\hat{Y} = 1 \mid A = 1)$$

• معنی شهودی: نرخ قبولی در استخدام یا وام برای مردان و زنان باید کاملاً برابر باشد، فارغ از شایستگی‌های اولیه ثبت‌شده در داده.

۲. فرصت برابر (Equal Opportunity)

نرخ مثبت واقعی (True Positive Rate یا همان Recall) برای افرادی که در واقعیت شایسته بوده‌اند ($Y=1$) باید بین گروه‌ها برابر باشد:

$$P(\hat{Y} = 1 \mid A = 0, Y = 1) = P(\hat{Y} = 1 \mid A = 1, Y = 1)$$

• معنی شهودی: اگر یک زن و یک مرد هر دو در واقعیت صلاحیت بازپرداخت وام را دارند، شانس تایید شدن آن‌ها توسط هوش مصنوعی باید کاملاً مساوی باشد.

۳. شانس‌های برابر (Equalized Odds)

هم نرخ مثبت واقعی (TPR) و هم نرخ مثبت کاذب (FPR) بین تمام گروه‌ها باید دقیقاً مساوی باشد:

$$P(\hat{Y} = 1 \mid A = a, Y = y) = P(\hat{Y} = 1 \mid A = b, Y = y) \quad \forall y \in {0, 1}$$

• این معیار سخت‌گیرانه‌ترین سنجه برابری خطا است و تضمین می‌کند مدل برای هیچ گروهی آلارم کاذب بیشتر یا رد نادرست بیشتری تولید نمی‌کند.

۴. انصاف فردی (Individual Fairness)

«با افراد مشابه باید به شکل مشابه رفتار شود»؛ اگر فاصله دو فرد بر اساس یک تابع شباهت مشخص اندک باشد، خروجی پیش‌بینی برای آن‌ها باید یکسان باشد.

۵.۳. قضیه عدم امکان انصاف کلینبرگ (Kleinberg's Impossibility Theorem) 🔴

یکی از تست‌خیزترین و عمیق‌ترین قضایای ریاضیات هوش مصنوعی (طرح‌شده توسط جان کلینبرگ در سال ۲۰۱۶):

متن قضیه: سه معیار انصاف زیر یعنی: 1. کالیبراسیون درون‌گروهی (Predictive Parity / Calibration) 2. برابری شانس‌های مثبت واقعی (Equal Opportunity / TPR Parity) 3. برابری شانس‌های مثبت کاذب (FPR Parity)

از نظر ریاضی و آماری غیرممکن است که همزمان با هم برآورده شوند! (مگر در حالت تئوریک و ناممکنی که دقت مدل ۱۰۰٪ مطلق باشد یا نرخ شیوع پایه صفت در هر دو گروه ذاتاً یکسان باشد).

• نتیجه مشاوره‌ای نصر: یک مشاور هرگز نباید به کارفرما وعده دهد که «سیستم به تمامی معیارهای انصاف دست خواهد یافت». مشاور باید با توجه به پیامدهای حقوقی و ماهیت کسب‌وکار، انتخاب کند که کدام معیار را فدای دیگری نماید.

۵.۴. روش‌های سه‌گانه تبعیض‌زدایی (Debiasing Approaches) 🟠

۶. چگونه کار می‌کند؟ (پایپ‌لاین ممیزی و رفع سوگیری)

[داده خام] ---> [تشخیص متغیرهای حساس و شناسایی پروکسی‌ها با ماتریس همبستگی]
                                       |
                                       v
         [آموزش مدل پایه و محاسبه سنجه‌های انصاف: DP, EO, Equalized Odds]
                                       |
                                       v
                      آیا شاخص قانون ۴/۵ یا EO نقض شده است؟
                                  /         \
                                بله         خیر ---> [مدل عادلانه است؛ ادامه فرآیند]
                                /
                               v
            [انتخاب استراتژی تبعیض‌زدایی (Debiasing)]
                               |
       +-----------------------+-----------------------+
       |                       |                       |
       v                       v                       v
[۱. پیش‌پردازش]          [۲. حین پردازش]          [۳. پس‌پردازش]
Re-weighting نمونه‌ها    Adversarial Training     کالیبراسیون آستانه تصمیم
       |                       |                       |
       +-----------------------+-----------------------+
                               |
                               v
              [ارزیابی مجدد تقابل انصاف-دقت (Trade-off)]
                               |
                               v
          [تأیید نهایی کمیته ممیزی اخلاق و استقرار پروداکشن]

۷. سناریوی واقعی سازمانی

سامانه الگوریتمی تخصیص تخفیف‌های بیمه سلامت در یک شرکت بیمه تکمیلی: - مسئله: الگوریتم برای پیش‌بینی افراد پرخطر و تخصیص برنامه‌های مراقبت ویژه، متغیر «میزان هزینه درمانی پرداخت‌شده در سال گذشته» را به عنوان ویژگی اصلی در نظر می‌گرفت. در ارزیابی ممیزی مشخص شد بیماران از اقشار کم‌درآمد با وجود بیماری‌های مزمن بسیار خطرناک، نصف بیماران مرفه امتیاز ریسک دریافت کرده و از مراقبت ویژه محروم شده‌اند! - تحلیل مشاور نصر: 1. خطای سنجش و پروکسی (Measurement Bias): هزینه درمانی پرداخت‌شده نشان‌دهنده نیاز واقعی به درمان نیست؛ افراد ثروتمند بیشتر به پزشک مراجعه کرده و هزینه کرده‌اند، در حالی که قشر ضعیف به دلیل فقر مالی مراجعه نکرده‌اند! در واقع «هزینه درمان» به عنوان پروکسی ناعادلانه «شدت بیماری» عمل کرده بود. 2. نقض صریح معیار Equal Opportunity: شانس دریافت مراقبت ویژه برای بیماران نیازمند واقعی در طبقه کم‌درآمد به شدت پایین‌تر بود. - اقدام اصلاحی: 1. حذف ویژگی هزینه‌های مالی از مدل. 2. جایگزینی با نشانگرهای بالینی عینی (فشار خون، قند خون، تعداد بستری اورژانس). 3. اعمال الگوریتم کالیبراسیون پس‌پردازش (Equalized Odds Post-processing) که خطای سیستم را بین طبقات درآمدی برابر ساخت.

۸. مثال خیلی ساده و شهودی

فرض کنید مسابقه‌ای میان دو گروه فیل‌ها و زرافه‌ها برگزار می‌شود: - انصاف از طریق بی‌خبری: داور چشم‌بند می‌زند و می‌گوید من فیل یا زرافه بودن را نمی‌بینم، مسابقه چیدن برگ از بالای درختان ۱۰ متری است! (پروکسی قد فیل‌ها را بازنده می‌کند). - برابری جمعیتی (Demographic Parity): مسابقه هر چه باشد، باید نصف برندگان فیل و نصف زرافه باشند (فارغ از مهارت چیدن برگ). - فرصت برابر (Equal Opportunity): فقط فیل‌ها و زرافه‌های ماهر در برگ‌چینی وارد مسابقه شوند و داور مطمئن شود شانس برنده شدن یک فیل ماهر دقیقاً با یک زرافه ماهر برابر باشد.

۹. مقایسه عمیق مفاهیم مشابه

۱۰. مزایا و محدودیت‌ها

مزایا (✅)

1. تضمین حقوق اقلیت‌ها: ممانعت از به حاشیه‌رانده شدن جوامع کم‌برخوردار در اقتصاد دیجیتال.
2. کشف خطاهای پنهان در داده‌ها: شناسایی متغیرهای پروکسی که بینش مهندسان نسبت به داده را عمیق‌تر می‌کند.
3. مصونیت از دعاوی حقوقی تبعیض: انطباق با مقررات قانون کار و عدم تبعیض ناخواسته (Disparate Impact).
4. بهبود تعمیم‌پذیری مدل: مدل‌های عاری از سوگیری معمولاً در مواجهه با جوامع آماری جدید پایدارترند.

محدودیت‌ها و مخاطرات (⛔)

1. قید ریاضی Impossibility Theorem: ناممکن بودن ارضای همزمان تمام ابعاد انصاف.
2. افت دقت آماری (Accuracy Trade-off): الزام مدل به برابری خروجی‌ها ممکن است سودآوری عددی کوتاه‌مدت را کاهش دهد.
3. نیاز به جمع‌آوری متغیرهای حساس برای سنجش انصاف: برای اینکه ثابت کنید مدل نسبت به نژاد یا مذهب بی‌طرف است، باید آن ویژگی‌ها را جمع‌آوری و ممیزی کنید که خودش چالش حریم خصوصی ایجاد می‌کند!

۱۱. کاربردهای کلیدی در صنایع

+-------------------------------------------------------------------------------+
|                        کاربردهای ممیزی انصاف در بخش‌های گوناگون               |
+-------------------------------------------------------------------------------+
| ۱. سیستم‌های قضایی: جلوگیری از تخصیص نمرات خطر کاذب تکرار جرم (COMPAS)        |
| ۲. بانکداری و پرداخت: ممیزی متغیرهای پروکسی (کد پستی و تلفن) در تسهیلات بانکی |
| ۳. آموزش و دانشگاه‌ها: ارزیابی عادلانه آزمون‌های آنلاین و تصحیح هوشمند اوراق    |
| ۴. بیمه خودرو: حذف متغیرهای ناعادلانه جنسیتی در تعیین نرخ حق بیمه شخص ثالث    |
| ۵. الگوریتم‌های شبکه‌های اجتماعی: توزیع منصفانه آگهی‌های استخدامی برای زنان و مردان|
+-------------------------------------------------------------------------------+

۱۲. دیدگاه مشاوره‌ای (سناریوی آزمون نصر)

سناریوی آزمون نصر:

«یک مؤسسه اعتباری برای سیستم تایید وام‌های ازدواج از یک مدل یادگیری ماشین استفاده می‌کند. سازمان برای رعایت الزامات اخلاقی، ستون‌های جنسیت و شغل همسر را از دیتابیس حذف کرده است. با این وجود، ممیزی سالانه نشان می‌دهد نرخ قبولی درخواست‌های زنان متقاضی ۳۵٪ و نرخ قبولی مردان ۷۲٪ است. مدیرعامل استدلال می‌کند چون ویژگی جنسیت حذف شده، تفاوت نرخ قبولی ناشی از تفاوت درآمد است و هیچ تبعیضی وجود ندارد. به عنوان مشاور رتبه یک نصر، تحلیل شما چیست و چگونه مشکل را برطرف می‌کنید؟»

تحلیل مشاور ارشد هوش مصنوعی:

1. رد استدلال مدیرعامل بر اساس مغالطه Unawareness:
2. صرف حذف ستون جنسیت مانع تبعیض نمی‌شود. ویژگی‌هایی نظیر نوع شغل، سوابق بیمه و میزان تراکنش‌های کارتی با جنسیت همبستگی شدید داشته و به عنوان Proxy Variables عمل کرده‌اند.
3. اثبات وقوع اثر تبعیض‌آمیز ناخواسته (Disparate Impact):
4. نسبت قبولی گروه اقلیت به اکثریت برابر است با: $\frac{0.35}{0.72} \approx 0.48$ (۴۸.۶٪).
5. از آنجا که این نسبت به مراتب کمتر از ۸۰٪ (قاعده چهارپنجم) است، این سیستم از نظر موازین حقوقی و قضایی تبعیض‌آمیز غیرعمدی محرز شناخته می‌شود.

بسته راهکار مشاور:

1. شناسایی و خنثی‌سازی پروکسی‌ها: اجرای ماتریس همبستگی متقابل (Mutual Information) میان ویژگی‌های ورودی و جنسیت، و حذف متغیرهایی که نقش پروکسی دارند.
2. پیاده‌سازی روش In-processing (Adversarial Debiasing): آموزش مدل با یک شبکه رقابتی تا بازنمایی‌های درونی مدل نسبت به ویژگی جنسیت ناآگاه شوند.
3. اعمال Post-processing: تنظیم آستانه‌های تصمیم‌گیری مجزا برای هر گروه بر مبنای معیار Equal Opportunity تا زنان و مردانی که شایستگی بازپرداخت وام دارند، شانس تایید کاملاً برابری داشته باشند.

۱۳. قاعده تصمیم‌گیری مشاور (درخت تصمیم انتخاب معیار انصاف)

                 اولویت اصلی کسب‌وکار و الزامات رگولاتوری در این پروژه چیست؟
                                       |
    +----------------------------------+----------------------------------+
    |                                                                     |
[تضمین برابری مطلق سهمیه‌ها در خروجی]                             [شایسته‌سالاری و عدالت در فرصت‌ها]
    |                                                                     |
    v                                                                     v
[Demographic Parity]                                          آیا هزینه خطای مثبت کاذب و منفی کاذب
- فرمول: P(Ŷ=1|A=0) = P(Ŷ=1|A=1)                               بین گروه‌ها باید مساوی باشد؟
- کاربرد: تخصیص بودجه و سهمیه‌های دولتی                                     /          \
                                                                         بله          خیر (فقط شایسته‌ها)
                                                                         /              \
                                                            [Equalized Odds]      [Equal Opportunity]
                                                            - برابری TPR و FPR    - برابری فقط در TPR (Recall)
                                                            - کاربرد: احکام قضایی  - کاربرد: وام بانکی و استخدام

۱۴. 🔴 نکات طلایی آزمون نصر (۱۰ نکته کنکوری)

1. مغالطه Fairness through Unawareness: حذف ویژگی‌های حساس (جنسیت، نژاد) هرگز سوگیری را حذف نمی‌کند زیرا متغیرهای پروکسی (کد پستی، تحصیلات) آن را بازتولید می‌کنند.
2. قانون چهارپنجم (Four-Fifths Rule): معیار استاندارد اثبات تبعیض ناخواسته (Disparate Impact)؛ نسبت قبولی گروه اقلیت به اکثریت باید حداقل ۸۰٪ باشد.
3. قضیه عدم امکان کلینبرگ (Impossibility Theorem): اثبات ناممکن بودن برآورده‌سازی همزمان معیارهای Demographic Parity و Equalized Odds و Calibration در یک مدل.
4. تعریف Demographic Parity: برابری نرخ خروجی مثبت فارغ از شایستگی واقعی نمونه‌ها ($P(\hat{Y}=1|A=0) = P(\hat{Y}=1|A=1)$).
5. تعریف Equal Opportunity: برابری نرخ مثبت واقعی (Recall) منحصراً برای افرادی که در واقعیت شایسته هستند ($Y=1$).
6. روش‌های Pre-processing: تکنیک‌های اصلاح سوگیری در مرحله آماده‌سازی داده نظیر Re-weighting و Re-sampling.
7. روش In-processing با یادگیری تقابلی (Adversarial Debiasing): آموزش مدل اصلی همزمان با یک شبکه ناقض برای حذف اطلاعات حساس از فضاهای پنهان.
8. روش Post-processing با تنظیم آستانه: تغییر آستانه تصمیم‌گیری (Threshold) برای گروه‌های مختلف بدون نیاز به آموزش مجدد مدل.
9. سوگیری تاریخی (Historical Bias): خطایی که ناشی از ایراد فنی نیست بلکه بازتاب‌دهنده بی‌عدالتی‌های واقعی جامعه در گذشته است.
10. تعارض دقت و انصاف (Fairness-Accuracy Trade-off): اعمال قیدهای ریاضی انصاف معمولاً به افت جزئی در سنجه‌های دقت کلی (مانند Accuracy یا AUC) منجر می‌شود.

۱۵. ⚠️ دام‌های رایج آزمون

دام ۱: «اگر یک مدل یادگیری ماشین دقت ۹۹٪ داشته باشد، مطمئناً عاری از سوگیری است.»
❌ پاسخ دام‌شکن: دقت آماری بالا هیچ ارتباطی با انصاف ندارد. مدلی می‌تواند با دقت ۹۹٪ کار کند اما آن ۱٪ خطای باقیمانده را منحصراً روی یک گروه اقلیت محروم تخلیه نماید!

دام ۲: «در روش‌های ممیزی اخلاقی، همیشه باید مدل را طوری تنظیم کرد که هم به Demographic Parity و هم به Equalized Odds دست یابد.»
❌ پاسخ دام‌شکن: این دام کلاسیک قضیه کلینبرگ است! این دو معیار از نظر ریاضی با هم در تناقض هستند و ارضای همزمان آن‌ها غیرممکن است.

دام ۳: «Demographic Parity بهترین و عادلانه‌ترین معیار در تمامی سناریوهاست.»
❌ پاسخ دام‌شکن: خیر! در مسائلی نظیر استخدام یا پزشکی، Demographic Parity شایستگی واقعی افراد را نادیده می‌گیرد و ممکن است افراد فاقد صلاحیت را صرفاً برای پر کردن سهمیه تایید کند؛ در این حوزه‌ها Equal Opportunity مرجح است.

دام ۴: «متغیر کد پستی هیچ بار اخلاقی ندارد و همیشه ویژگی خنثی است.»
❌ پاسخ دام‌شکن: در جوامع شهری، کد پستی قوی‌ترین متغیر پروکسی (Proxy Feature) برای تفکیک قومیت، سطح درآمد و طبقه اجتماعی است.

۱۶. 🧠 خلاصه یک‌دقیقه‌ای

• منشأ سوگیری: داده‌های تاریخی، کمبود داده اقلیت‌ها و متغیرهای پروکسی؛ حذف ویژگی حساس ناکافی است.
• معیارها: برابری آماری (Demographic Parity)، فرصت برابر (Equal Opportunity بر پایه Recall) و شانس‌های برابر (Equalized Odds بر پایه TPR و FPR).
• قضیه کلینبرگ: ناممکن بودن ریاضی ارضای همزمان تمام معیارهای انصاف.
• تکنیک‌های Debiasing: پیش‌پردازش (Re-weighting)، حین پردازش (Adversarial) و پس‌پردازش (Threshold Tuning).

۱۷. نقشه ذهنی (ASCII Mind Map)

                              سوگیری الگوریتمی، انصاف و تبعیض‌زدایی
                                                |
    +--------------------+----------------------+--------------------+--------------------+
    |                    |                                           |                    |
[ریشه‌های سوگیری]        [معیارهای ریاضی انصاف]                      [قضیه عدم امکان]     [روش‌های Debiasing]
    |                    |                                           |                    |
    |-- سوگیری تاریخی    |-- Demographic Parity (خروجی مساوی)        |-- قضیه کلینبرگ     |-- پیش‌پردازش
    |-- سوگیری بازنمایی  |-- Equal Opportunity (Recall برابر در Y=1) |-- تناقض ریاضی      |   (Re-weighting)
    |-- متغیرهای پروکسی  |-- Equalized Odds (برابری TPR + FPR)       |   معیارهای انصاف   |-- حین پردازش
    |-- مغالطه Unawareness|-- Individual Fairness (شباهت فردی)        |-- الزام مصالحه     |   (Adversarial)
                         |-- قانون چهارپنجم (4/5ths Rule)            |   (Trade-off)      |-- پس‌پردازش (Threshold)

۱۸. ارتباط با سایر مباحث

• مبحث ۱ از همین فصل (AI Ethics): انصاف و عدالت به عنوان رکن اول هوش مصنوعی معتمد.
• مبحث ۴ از همین فصل (XAI): به‌کارگیری مقادیر SHAP برای کشف میزان اثرگذاری متغیرهای پروکسی بر سوگیری خروجی.
• مبحث ۷ از فصل ۴ (AI in HR): سوگیری در استخدام و کیس مطالعاتی آمازون ۲۰۱۸.
• مبحث ۵ از فصل ۴ (AI in Finance): سوگیری در امتیازدهی اعتباری وام و مقررات مبارزه با تبعیض.

۱۹. سؤالات احتمالی آزمون (۶ تست استاندارد نصر)

تست ۱ (🔴 — قضایای بنیادین ریاضیات انصاف)

قضیه عدم امکان کلینبرگ (Kleinberg's Impossibility Theorem) در حوزه اخلاق و یادگیری ماشین چه اصلی را به اثبات می‌رساند؟

الف) ساخت مدل‌های یادگیری عمیق بدون پردازنده‌های GPU غیرممکن است.
ب) برآورده‌سازی همزمان سه معیار انصاف «کالیبراسیون آماری»، «برابری شانس مثبت واقعی (Equal Opportunity)» و «برابری شانس مثبت کاذب (FPR Parity)» در یک مدل از نظر ریاضی غیرممکن است مگر در شرایط پیش‌پاافتاده.
ج) سوگیری داده‌های تاریخی با هیچ روشی قابل سنجش نیست.
د) مدل‌های زبانی بزرگ هرگز دچار توهم نمی‌شوند.

کلید: ب
تحلیل تشریحی:
- تأیید ب: قضیه کلینبرگ (۲۰۱۶) از نظر ریاضی اثبات کرد که تعاریف مختلف انصاف با یکدیگر در تضاد هستند؛ به طوری که اگر نرخ شیوع پایه صفت در دو گروه نابرابر باشد، هیچ مدل ناقصی (با خطای غیرصفر) نمی‌تواند همزمان هر سه معیار را ارضا نماید و طراح سیستم مجبور به انتخاب و مصالحه است.
- رد الف، ج، د: گزینه‌های انحرافی و غیرمرتبط هستند.

تست ۲ (🔴 — تحلیل متغیرهای پروکسی و خطای ناآگاهی)

سازمانی برای رفع تبعیض نژادی در سامانه تخصیص مسکن دولتی، متغیر قومیت و نژاد متقاضیان را از ورودی‌های مدل حذف می‌کند. با این حال سیستم همچنان متقاضیان یک اقلیت خاص را رد می‌کند. دلیل فنی این رخداد چیست و این رویکرد ناکارآمد به چه نامی شناخته می‌شود؟

الف) پدیده بیش‌برازش؛ رویکرد Early Stopping
ب) وجود متغیرهای پروکسی (مانند کد پستی و نام محله) که همبستگی شدیدی با نژاد دارند؛ رویکرد مغالطه‌آمیز «انصاف از طریق بی‌خبری» (Fairness through Unawareness)
ج) استفاده از فعال‌ساز ReLU به جای Sigmoid
د) خطای ناشی از حافظه Cache پردازنده

کلید: ب
تحلیل تشریحی:
- تأیید ب: این سناریو مصداق کلاسیک مغالطه Fairness through Unawareness است. الگوریتم‌های یادگیری ماشین به سادگی همبستگی‌های غیرمستقیم میان متغیرهای به ظاهر بی‌ضرر (مانند کد پستی، الگوهای خرید، مدرسه محل تحصیل) و ویژگی حساس را شناسایی کرده و سوگیری را به شکل پنهان بازتولید می‌کنند.
- رد الف، ج، د: همگی توجیهات نادرست و فنی نامربوط هستند.

تست ۳ (🔴 — فرمول‌بندی و تمایز معیارهای انصاف)

کدام معیار انصاف ایجاب می‌کند که «نرخ بازخوانی یا مثبت واقعی (TPR) برای تمام گروه‌های جمعیتی محافظت‌شده منحصراً در میان افرادی که در دنیای واقعی واجد شرایط و شایسته بوده‌اند ($Y=1$) کاملاً برابر باشد»؟

الف) Demographic Parity
ب) Equal Opportunity
ج) Total Accuracy
د) Mean Squared Error

کلید: ب
تحلیل تشریحی:
- رد الف: معیار Demographic Parity برابری نرخ خروجی را بدون توجه به شایستگی واقعی نمونه‌ها ($Y$) الزام می‌کند.
- تأیید ب: سنجه Equal Opportunity (فرصت برابر) صراحتاً شرط تساوی شانس مثبت را روی زیرمجموعه افراد شایسته واقعی ($Y=1$) وضع می‌نماید: $P(\hat{Y}=1|A=0, Y=1) = P(\hat{Y}=1|A=1, Y=1)$.
- رد ج و د: این موارد سنجه‌های دقت عمومی هستند و ارتباطی با تفکیک عادلانه گروه‌ها ندارند.

تست ۴ (🟠 — تکنیک‌های تبعیض‌زدایی در فازهای سه‌گانه)

کدام یک از روش‌های زیر نمونه‌ای از تکنیک‌های تبعیض‌زدایی در فاز «پیش‌پردازش» (Pre-processing Debiasing) به شمار می‌رود؟

الف) آموزش مدل با شبکه‌های رقابتی تخاصمی (Adversarial Debiasing)
ب) وزن‌دهی مجدد به نمونه‌ها (Re-weighting) بر اساس معکوس فراوانی گروه‌های جمعیتی حساس پیش از آغاز آموزش مدل
ج) تغییر آستانه تصمیم‌گیری (Threshold Tuning) پس از اتمام یادگیری
د) استفاده از الگوریتم کالیبراسیون پس‌پردازش کلینبرگ

کلید: ب
تحلیل تشریحی:
- رد الف: روش Adversarial Debiasing در فاز آموزش اعمال می‌شود و جزو روش‌های In-processing است.
- تأیید ب: روش‌های Re-weighting و Re-sampling مستقیماً بر روی مجموعه داده آموزشی قبل از خوراک‌دهی به الگوریتم اعمال می‌شوند و نمونه کلاسیک تکنیک‌های Pre-processing هستند.
- رد ج و د: این روش‌ها بر روی خروجی‌های مدل نهایی اعمال می‌شوند و جزو تکنیک‌های Post-processing هستند.

تست ۵ (🔴 — مبانی حقوقی و قاعده چهارپنجم)

در ممیزی استخدامی یک شرکت نرم‌افزاری، نرخ پذیرش کارجویان مرد ۵۰٪ و نرخ پذیرش کارجویان زن ۳۵٪ ثبت شده است. وضعیت این سیستم طبق «قانون چهارپنجم» (Four-Fifths Rule / 80% Rule) چگونه ارزیابی می‌شود؟

الف) سامانه کاملاً منصفانه است زیرا نرخ قبولی زنان بالاتر از ۳۰٪ است.
ب) نسبت نرخ پذیرش زن به مرد برابر با ۷۰٪ ($35 \div 50 = 0.70$) است که چون کمتر از ۸۰٪ (چهارپنجم) است، نشان‌دهنده تبعیض ناخواسته (Disparate Impact) است.
ج) قانون چهارپنجم فقط در دعاوی کیفری قتل معتبر است.
د) چون داده‌ها توسط هوش مصنوعی پردازش شده، قانون چهارپنجم کان‌لم‌یکن است.

کلید: ب
تحلیل تشریحی:
- تأیید ب: بر اساس قاعده استاندارد چهارپنجم در ممیزی استخدامی، نسبت نرخ گزینش گروه اقلیت به گروه اکثریت باید حداقل ۰.۸۰ (۸۰٪) باشد. در اینجا نسبت برابر با: $\frac{0.35}{0.50} = 0.70$ (۷۰٪) است که به طور محرز زیر ۸۰٪ بوده و نشان‌دهنده اثر تبعیض‌آمیز ناروا (Disparate Impact) است.
- رد الف، ج، د: همگی تفاسیر غلط و باطل حقوقی هستند.

تست ۶ (🟠 — سوگیری در مرحله بازنمایی)

اگر یک مدل تشخیص بیماری‌های چشمی بر روی ۱۰۰,۰۰۰ تصویر شبکیه آموزش داده شود که ۹۸,۰۰۰ تصویر آن مربوط به بیماران کشورهای اسکاندیناوی و تنها ۲,۰۰۰ تصویر مربوط به بیماران آسیایی و آفریقایی باشد، خطای سیستم بر روی بیماران آسیایی ناشی از کدام سوگیری است؟

الف) سوگیری بازنمایی (Representation Bias)
ب) خطای سرریز محاسباتی (Arithmetic Overflow)
ج) سوگیری حذف ویژگی (Feature Exclusion Bias)
د) نویز سنسورهای کوانتومی

کلید: الف
تحلیل تشریحی:
- تأیید ب: هنگامی که جمعیت‌های اقلیت یا خرده‌گروه‌ها در مجموعه داده‌های آموزشی سهم بسیار ناچیزی دارند (Under-represented)، مدل الگوهای اختصاصی و تفاوت‌های فیزیولوژیک آن گروه را یاد نمی‌گیرد و برای آن‌ها دچار افت شدید کارایی می‌شود؛ این چالش دقیقاً سوگیری بازنمایی (Representation Bias) نام دارد.
- رد ب، ج، د: گزینه‌های ساختگی و نامربوط هستند.

۲۰. سطح‌بندی مطالب جهت مرور سریع