مسئولیت‌پذیری حقوقی، پاسخ‌گویی و جبران خسارت (AI Legal Accountability)

مبحث ۵: مسئولیت‌پذیری، پاسخ‌گویی حقوقی و ممیزی سیستم‌های هوش مصنوعی

AI Accountability, Legal Liability & Algorithmic Auditing

فصل ششم: اخلاق، حاکمیت، امنیت و مقررات در هوش مصنوعی

۱. راهنمای مطالعه و هدف آموزشی

پاسخ‌گویی (Accountability) پل پیونددهنده میان مباحث فنی هوش مصنوعی و حقوق مدنی/کیفری است. در صورت بروز فاجعه یا خطای مرگبار توسط یک سیستم خودمختار، دادگاه‌ها نمی‌توانند یک الگوریتم ریاضی را به زندان بیندازند یا جریمه کنند! محورهای تستی بسیار مهم این مبحث در آزمون نظام صنفی رایانه‌ای عبارتند از: - چالش فلسفی و حقوقی «شکاف مسئولیت» (The Responsibility Gap) و مسئله هزار دست (Problem of Many Hands) - رژیم‌های حقوقی مسئولیت: مسئولیت مبتنی بر تقصیر (Fault-based) در برابر مسئولیت محض ناشی از عیب محصول (Strict / Product Liability) - مقررات نوین مسئولیت: دستورالعمل مسئولیت هوش مصنوعی (EU AI Liability Directive) و اصل فرض علّیت (Presumption of Causality) - سطوح سه‌گانه نظارت و عاملیت انسانی: HITL، HOTL و Human-in-Command - ارزیابی اثرات بر حقوق بنیادین (FRIA: Fundamental Rights Impact Assessment) - زنجیره تغییرناپذیر ثبت وقایع (Immutable Audit Trail) و مفهوم دامنه طراحی عملیاتی (ODD).

۲. این مبحث درباره چیست؟

وقتی یک سیستم هوش مصنوعی تشخیص پزشکی بیماری را به اشتباه سالم اعلام می‌کند و بیمار فوت می‌کند، یا یک خودروی خودران با عابر پیاده تصادف می‌کند، چه کسی مسئول پرداخت دیه و خسارت است؟ شرکت سازنده نرم‌افزار؟ راننده پشت فرمان؟ بیمارستان؟ یا دانشمند داده‌ای که مدل را آموزش داده است؟
این مبحث به مشاوران نصر یاد می‌دهد که چگونه چارچوب‌های فنی لاگ‌برداری، استانداردهای ممیزی و اسناد حقوقی شفاف را طراحی کنند تا مرز مسئولیت‌ها به دقت تفکیک شده و ریسک‌های قانونی سازمان به حداقل برسد.

۳. تعریف ساده

تعریف ساده: مسئولیت‌پذیری یعنی وقتی کارها عالی پیش می‌رود همه پاداش می‌گیرند، اما اگر سیستم هوشمند فاجعه به بار آورد، مشخص باشد کدام انسان یا شرکت باید پای میز محاکمه بنشیند و خسارت بدهد! در قانون هیچ بهانه‌ای به نام «تقصیر هوش مصنوعی بود» وجود ندارد.

۴. تعریف تخصصی

تعریف تخصصی: سازوکار جامع حاکمیتی، فنی و حقوقی که تضمین می‌کند تمامی تصمیمات و پیامدهای حاصل از عملکرد سیستم‌های هوش مصنوعی خودمختار در طول چرخه حیات، قابل انتساب (Attributable) به اشخاص حقیقی یا حقوقی مشخص باشد. این چارچوب بر پایه‌های ثبتی تبار داده و مدل (Traceability)، قابلیت ممیزی مستقل (Auditability)، نظارت فعال انسانی (Human Oversight) و رژیم‌های حقوقی جبران خسارت (Redress Mechanisms) استوار است.

۵. مفاهیم و ارکان کلیدی

۵.۱. چالش شکاف مسئولیت (The Responsibility Gap) 🔴

• مسئله هزار دست (Problem of Many Hands): یک سامانه هوش مصنوعی حاصل کار ده‌ها مهندس داده، صدها برچسب‌گذار انسانی، لایبرری‌های منبع‌باز، سرورهای ابری و تصمیم‌گیرندگان نهایی است؛ در زمان وقوع خطا، هر یک از طرفین مسئولیت را به گردن دیگری می‌اندازد!
• عدم اهلیت حقوقی AI: الگوریتم‌های هوش مصنوعی فاقد اراده آزاد، دارایی مالی یا شخصیت حقوقی هستند؛ بنابراین استناد به مفهوم «جعبه‌سیاه» یا «رفتار غیرقابل پیش‌بینی مدل» در هیچ دادگاهی رافع مسئولیت سازمان بهره‌بردار و سازنده نخواهد بود.

۵.۲. رژیم‌های حقوقی مسئولیت در هوش مصنوعی (Liability Frameworks) 🔴

در دادگاه‌ها و قراردادهای پیمانکاری، مسئولیت بر اساس دو دکترین بررسی می‌شود:

نکته آزمونی نصر (دستورالعمل EU AI Liability Directive):
برای حمایت از قربانیان خطاهای هوش مصنوعی، دو نوآوری حقوقی معرفی شده است:
۱. فرض علّیت (Presumption of Causality): اگر شرکت سازنده لاگ‌های ممیزی را ارائه ندهد یا استانداردهای AI Act را نقض کرده باشد، دادگاه فرض را بر این می‌گذارد که خطای مدل علت اصلی خسارت بوده است (انتقال بار اثبات دعوا).
۲. حق دسترسی به مدارک (Disclosure of Evidence): دادگاه می‌تواند شرکت هوش مصنوعی را ملزم کند کدهای منبع، لاگ‌ها و داده‌های آموزش را در اختیار کارشناسان رسمی بگذارد.

۵.۳. سطوح سه‌گانه نظارت و عاملیت انسانی (Human Oversight Levels) 🔴

+-------------------------------------------------------------------------------+
|                        طیف عاملیت و نظارت انسانی در هوش مصنوعی                 |
+-------------------------------------------------------------------------------+
| ۱. انسان در حلقه (HITL): انسان تصمیم‌گیرنده انحصاری نهایی است                 |
|                                       |                                       |
|                                       v                                       |
| ۲. انسان روی حلقه (HOTL): سیستم خودکار است اما انسان ناظر است و کلید قطع دارد |
|                                       |                                       |
|                                       v                                       |
| ۳. انسان در فرماندهی (HIC): انسان اهداف کلان و حدود اختیارات سیستم را کنترل می‌کند|
+-------------------------------------------------------------------------------+

1. Human-in-the-Loop (HITL):
2. سیستم هوش مصنوعی صرفاً یک توصیه یا امتیاز تولید می‌کند؛ اجرای هرگونه تصمیم نیازمند تایید، کلیک یا امضای کارشناس انسانی است (الزامی در پزشکی، احکام قضایی و مصاحبه استخدامی).
3. Human-on-the-Loop (HOTL):
4. سیستم تصمیم می‌گیرد و بلافاصله اجرا می‌کند؛ اما اپراتور انسانی به صورت لحظه‌ای عملیات را در داشبورد مشاهده می‌کند و مجهز به سوئیچ قطع اضطراری (Kill Switch / Circuit Breaker) است تا در صورت بروز انحراف، فوراً سیستم را متوقف سازد (مانند خودروهای خودران و خطوط مونتاژ رباتیک).
5. Human-in-Command (HIC):
6. نظارت بر چارچوب‌های کلان حکمرانی؛ انسان تصمیم می‌گیرد هوش مصنوعی در چه شرایطی و در چه دامنه‌هایی اصلاً اجازه فعالیت داشته باشد و چه زمان باید به طور کامل کنار گذاشته شود.

۵.۴. ارزیابی اثر بر حقوق بنیادین (FRIA) 🟠

• تعریف: ارزیابی پیش‌دستانه اثرات سیستم بر حقوق بشر، عدم تبعیض، حریم خصوصی و دسترسی عادلانه شهروندان قبل از عرضه به پروداکشن (مشابه فرآیند ارزیابی زیست‌محیطی EIA در سدسازی).
• طبق قانون EU AI Act، تمامی استقراردهندگان سیستم‌های رده High-Risk ملزم به تدوین و انتشار سند FRIA هستند.

۵.۵. دامنه طراحی عملیاتی (ODD) و حالت امن (Fail-Safe Fallback) 🟠

• ODD (Operational Design Domain): شرایط دقیق محیطی که مدل منحصراً برای کار در آن تایید شده است (مثلاً: خودروی خودران فقط در آب‌وهوای آفتابی و سرعت زیر ۸۰ کیلومتر در اتوبان مجاز به رانندگی است).
• اگر شرایط از ODD خارج شود (بارش برف شدید)، سیستم باید فوراً کنترل را به انسان پس دهد یا به یک حالت امن (Fail-safe State) مانند توقف آرام در شانه خاکی منتقل شود.

۶. چگونه کار می‌کند؟ (معماری زنجیره لاگ‌برداری تغییرناپذیر - Immutable Audit Trail)

[درخواست کاربر + تصویر / متن ورودی]
                  |
                  v
       [هش امنیتی و برچسب زمانی (SHA-256 Time-stamping)]
                  |
                  v
       [ورود به سرور لاگ تغییرناپذیر (WORM Storage / Blockchain)]
                  |
                  +---> ثبت نسخه دقیق مدل (Model Git Hash)
                  +---> ثبت نسخه دقیق دیتابیس آموزش (DVC Commit)
                  +---> ثبت مقادیر اطمینان و خروجی تصمیم مدل
                  |
                  v
       [آیا حادثه یا شکایتی رخ داده است؟]
                  |
        +---------+---------+
        |                   |
       خیر                 بله
        |                   |
        v                   v
[بایگانی دوره‌ای]     [بازخوانی دقیق در دادگاه و ممیزی رسمی نصر]
                      - بازسازی ۱۰۰٪ وضعیت سخت‌افزار و نرم‌افزار در لحظه حادثه
                      - تعیین سهم تقصیر مهندس، شرکت، یا کاربر نهایی

۷. سناریوی واقعی سازمانی

حادثه سامانه اتوپایلوت توزیع داروی بیمارستان تخصصی مهر: - مسئله: یک بازوی رباتیک هوشمند تزریق دارو به دلیل خطای استنتاج در خواندن بارکد سرم، دوز ده برابری پتاسیم را به یک بیمار تزریق کرد که منجر به ایست قلبی بیمار گردید. خانواده بیمار از شرکت سازنده نرم‌افزار، بیمارستان و پرستار شیفت شکایت کردند. - بررسی زنجیره پاسخگویی توسط کارشناس رسمی نصر: 1. بررسی لاگ‌ها (Audit Trail): سیستم مجهز به حافظه تغییرناپذیر بود و مشخص شد بارکد دارو کثیف بوده و سیستم با اطمینان پایین (Confidence = 42%) دوز را تزریق کرده است. 2. تعیین تقصیر سازنده: شرکت سازنده نرم‌افزار استاندارد HOTL را رعایت نکرده و آستانه توقف خودکار برای اطمینان‌های زیر ۹۰٪ تعریف نکرده بود (نقص در طراحی محصول / Product Liability). 3. تعیین تقصیر بیمارستان: بیمارستان پروتکل HITL ابلاغ‌شده توسط وزارت بهداشت را نادیده گرفته و دستور داده بود پرستاران دخالتی در کار ربات نکنند. - نتیجه دادرسی: تقسیم خسارت بر مبنای سهم تقصیر و الزام کلیه مراکز درمانی به ایجاد گیت تایید انسانی (HITL) پیش از تزریق داروهای پرخطر.

۸. مثال خیلی ساده و شهودی

مسئولیت‌پذیری در هوش مصنوعی مثل جعبه سیاه هواپیما است: - اگر هواپیمایی سقوط کند، خلبان نمی‌تواند بگوید «تقصیر کامپیوتر پرواز بود» و کارخانه هواپیماسازی هم نمی‌تواند بگوید «تقصیر خلبان بود». - کارشناسان جعبه سیاه را باز می‌کنند؛ می‌بینند خلبان چه دکمه‌ای زد، کامپیوتر چه فرمانی داد و سنسورها چه خواندند. - هوش مصنوعی پاسخگو سیستمی است که تمام تصمیماتش در یک جعبه سیاه غیرقابل انکار ثبت شود تا مقصر واقعی مشخص گردد.

۹. مقایسه عمیق مفاهیم مشابه

۱۰. مزایا و محدودیت‌ها

مزایا (✅)

1. شفافیت حقوقی و تسهیل قراردادها: مشخص بودن طرف جبران خسارت در قراردادهای کلان دولتی و خصوصی.
2. افزایش ایمنی سیستم: آگاهی از اینکه عملکرد لاگ می‌شود، تیم‌های توسعه را به طراحی دقیق‌تر وامی‌دارد.
3. پذیرش بیمه‌ای: امکان خرید بیمه‌نامه‌های مسئولیت مدنی هوش مصنوعی بر پایه لاگ‌های استاندارد.
4. تضمین حقوق شهروندان: فراهم شدن امکان شکایت موثر و اخذ غرامت برای قربانیان تصمیمات نادرست الگوریتمی.

محدودیت‌ها و مخاطرات (⛔)

1. سربار ذخیره‌سازی داده‌های ممیزی: نگهداری لاگ‌های چند ترابایتی استنتاج‌ها برای چندین سال هزینه‌بر است.
2. خستگی ناشی از هشدار برای انسان (Alert Fatigue): در سیستم‌های HITL، اگر تعداد هشدارهای مدل بیش از حد باشد، انسان بدون دقت تمام موارد را تایید می‌کند (تایید کورکورانه).
3. پیچیدگی دادرسی حقوقی: قضات و کارشناسان دادگستری اغلب دانش فنی کافی برای تحلیل لاگ‌های یادگیری عمیق ندارند.

۱۱. کاربردهای کلیدی در صنایع

+-------------------------------------------------------------------------------+
|                        کاربردهای سازوکارهای پاسخگویی در صنایع                 |
+-------------------------------------------------------------------------------+
| ۱. خودروسازی خودران: ضبط مداوم داده‌های سنسوری در جعبه سیاه خودرو (EDR)       |
| ۲. بانکداری و بورس: ثبت تغییرناپذیر علت انجام معاملات سنگین توسط الگوریتم‌ها  |
| ۳. درمان و پزشکی: ثبت تاییدیه پزشک پای هر نسخه تولیدشده توسط دستیار هوش مصنوعی|
| ۴. سامانه‌های قضایی: الزام امضا و انشای حکم صرفاً توسط قاضی انسانی             |
| ۵. هوانوردی و پهپادها: سوئیچ بازگشت به کنترل دستی در صورت از دست رفتن GPS     |
+-------------------------------------------------------------------------------+

۱۲. دیدگاه مشاوره‌ای (سناریوی آزمون نصر)

سناریوی آزمون نصر:

«یک شرکت فناوری ارائه‌دهنده ربات‌های گفتگوی مبتنی بر مدل‌های زبانی بزرگ، با شهرداری قراردادی برای سامانه مشاوره شهروندی منعقد کرده است. در متن قرارداد پیشنهادی شرکت آمده است: «با توجه به ماهیت احتمالی، غیرقابل پیش‌بینی و جعبه‌سیاه مدل‌های هوش مصنوعی مولد، شرکت توسعه‌دهنده هیچ‌گونه مسئولیتی در قبال محتواهای نادرست، توهین‌آمیز، خسارت‌بار یا اطلاعات گمراه‌کننده تولیدشده توسط چت‌بات بر عهده ندارد و مسئولیت کامل متوجه کاربر است». شهرداری شما را به عنوان مشاور ارشد فناوری اطلاعات فراخوانده است. نظر حقوقی-فنی شما درباره این بند چیست؟»

تحلیل مشاور ارشد هوش مصنوعی:

1. بطلان حقوقی سلب مسئولیت مطلق (Exclusion of Liability):
2. استناد به مفهوم «رفتار غیرقابل پیش‌بینی هوش مصنوعی» یا «جعبه‌سیاه» از نظر حقوق مدنی و استانداردهای نصر، اسقاط کافه خیارات باطل است. شرکت توسعه‌دهنده به عنوان تولیدکننده محصول، متعهد به رعایت استانداردهای ایمنی، پالایش محتوا (Guardrails) و پیشگیری از خطرات متعارف است.
3. تعارض با دکترین عیب محصول (Product Liability):
4. اگر سامانه‌ای بدون فیلترهای دفاعی کافی مستقر شود و خسارتی به شهروندان وارد کند، شرکت سازنده به دلیل عرضه محصول ناقص ضامن است.

اصلاحیه مشاور در قرارداد:

1. حذف بند سلب مسئولیت مطلق و جایگزینی با مسئولیت متناسب:
2. شرکت سازنده موظف است پادمان‌های امنیتی (Guardrails)، فیلترهای PII و مهار توهم را طبق چک‌لیست معتبر مستقر کند.
3. در صورت اثبات قصور در پیاده‌سازی گاردریل‌ها، شرکت مسئول جبران خسارت خواهد بود.
4. الزام سیاست ثبت لاگ‌های ره‌گیری (Audit Trail): تمامی ورودی‌ها و خروجی‌ها تا حداقل ۲ سال به صورت تغییرناپذیر آرشیو شوند.
5. الزام پوشش بیمه‌ای: شرکت توسعه‌دهنده موظف به اخذ بیمه‌نامه مسئولیت حرفه‌ای فناوری اطلاعات (Cyber & AI Liability Insurance) گردد.

۱۳. قاعده تصمیم‌گیری مشاور (درخت تصمیم تخصیص مسئولیت و نظارت)

                 آیا خطای تصمیم سیستم می‌تواند منجر به مرگ، نقص عضو یا حبس شود؟
                                       |
    +----------------------------------+----------------------------------+
    |                                                                     |
   بله                                                                   خیر
    |                                                                     |
    v                                                                     v
[الزام قطعی Human-in-the-Loop]                                 آیا عملیات نیازمند واکنش بلادرنگ میلی‌ثانیه‌ای است؟
- تصمیم نهایی منحصراً توسط انسان                                          |
- مسئولیت اولیه با امضاکننده انسانی                                     /   \
- مسئولیت ثانویه با سازنده در صورت عیب فنی                            بله   خیر
                                                                      /       \
                                                        [Human-on-the-Loop]   [Human-in-Command]
                                                        - نظارت بر خط تولید   - پایش دوره‌ای
                                                        - کلید قطع اضطراری    - ممیزی فصلی لاگ‌ها
                                                        - مسئولیت محض سازنده

۱۴. 🔴 نکات طلایی آزمون نصر (۱۰ نکته کنکوری)

1. دکترین عدم اهلیت هوش مصنوعی: سیستم هوش مصنوعی هرگز طرف دعوای حقوقی نیست و مسئولیت همواره متوجه اشخاص حقیقی یا حقوقی طراح، توسعه‌دهنده یا بهره‌بردار است.
2. استناد به جعبه‌سیاه رافع مسئولیت نیست: ادعای غیرقابل توضیح بودن مدل در محاکم قضایی به عنوان عذر پذیرفته نمی‌شود.
3. اصل فرض علّیت (Presumption of Causality): در صورت نقض الزامات ایمنی توسط شرکت سازنده، دادگاه فرض می‌کند خسارت ناشی از خطای هوش مصنوعی بوده است مگر اینکه شرکت خلاف آن را با لاگ اثبات کند.
4. تفاوت HITL و HOTL: در اولی انسان تاییدکننده تصمیم قبل از اجراست؛ در دومی سیستم خودکار اجرا می‌کند اما انسان بر آن نظارت داشته و کلید قطع اضطراری (Kill Switch) دارد.
5. ارزیابی FRIA: ارزیابی پیش‌دستانه اثرات سیستم بر حقوق بنیادین شهروندی پیش از استقرار در رده High-Risk.
6. زنجیره ممیزی تغییرناپذیر (Immutable Audit Trail): ثبت ورودی، خروجی، شناسه نسخه مدل (Git Hash) و شناسه دیتاست در حافظه‌های غیرقابل دستکاری (WORM).
7. دامنه طراحی عملیاتی (ODD): شرایط و مرزهای مشخصی که مدل مجاز به فعالیت در آن است؛ خروج از ODD مستلزم بازگشت به حالت امن است.
8. مسئولیت محض ناشی از محصول (Product Liability): سازنده ضامن عیوب سیستم هوش مصنوعی است حتی اگر مرتکب سهل‌انگاری عمدی نشده باشد.
9. پدیده خستگی ناشی از هشدار (Alert Fatigue): تایید شتاب‌زده و کورکورانه هشدارهای هوش مصنوعی توسط انسان در سیستم‌های HITL که زنجیره مسئولیت را مخدوش می‌کند.
10. بیمه مسئولیت هوش مصنوعی: ابزار استاندارد انتقال مالی ریسک‌های ناشناخته به شرکت‌های بیمه‌گر.

۱۵. ⚠️ دام‌های رایج آزمون

دام ۱: «در سیستم‌های Human-in-the-Loop، شرکت سازنده نرم‌افزار از هرگونه مسئولیتی مبرا است.»
❌ پاسخ دام‌شکن: اگر انسان تصمیم‌گیرنده به دلیل خروجی مسموم، پنهان‌کاری خطا یا باگ نرم‌افزاری فریب خورده باشد، شرکت سازنده به عنوان مسبب اصلی همچنان دارای مسئولیت مدنی و کیفری است.

دام ۲: «ثبت لاگ‌های متنی عادی در سرور وب، استاندارد Audit Trail را تامین می‌کند.»
❌ پاسخ دام‌شکن: لاگ‌های ممیزی هوش مصنوعی باید تغییرناپذیر (Immutable) و رمزنگاری‌شده باشند، نسخه داده و وزن مدل را ثبت کنند و در برابر حذف یا ویرایش مصون باشند.

دام ۳: «Human-on-the-Loop نیازی به دخالت انسان در طراحی ندارد.»
❌ پاسخ دام‌شکن: در HOTL انسان باید دائماً پارامترها را رصد کند و صلاحیت و توانایی فنی فشردن کلید قطع اضطراری را در کسری از ثانیه داشته باشد.

دام ۴: «قراردادهای پیمانکاری می‌توانند مسئولیت خطای هوش مصنوعی را به طور کامل سلب کنند.»
❌ پاسخ دام‌شکن: شروط سلب مسئولیت در برابر خسارات جانی، نقض حریم خصوصی و نقض قوانین آمره از نظر حقوقی باطل و بلااثر است.

۱۶. 🧠 خلاصه یک‌دقیقه‌ای

• پاسخگویی در AI: تعیین زنجیره شفاف انتساب خطا به انسان‌ها و سازمان‌ها.
• شکاف مسئولیت: چالش سیستم‌های پیچیده که با ثبت زنجیره لاگ (Audit Trail) و تبار داده برطرف می‌شود.
• سطوح نظارت: HITL (تایید انسانی)، HOTL (نظارت + سوئیچ اضطراری) و HIC (کنترل کلان).
• مقررات نوین: دکترین عیب محصول، فرض علّیت به نفع قربانی و ارزیابی اثر بر حقوق بنیادین (FRIA).

۱۷. نقشه ذهنی (ASCII Mind Map)

                            پاسخگویی و مسئولیت حقوقی در هوش مصنوعی
                                              |
    +--------------------+--------------------+--------------------+--------------------+
    |                    |                                         |                    |
[شکاف و اهلیت حقوقی]     [رژیم‌های مسئولیت]                        [سطوح نظارت انسانی]  [ابزارهای تضمین فنی]
    |                    |                                         |                    |
    |-- شکاف مسئولیت     |-- مسئولیت مبتنی بر تقصیر                |-- HITL (تایید فردی)|-- لاگ تغییرناپذیر
    |   (Responsibility) |-- مسئولیت محض محصول (Product Liability) |-- HOTL (Kill Switch|   (Audit Trail)
    |-- مسئله هزار دست   |-- دستورالعمل EU AI Liability            |   + نظارت برخط)    |-- ارزیابی اثرات FRIA
    |-- هوش مصنوعی فاقد  |-- فرض علّیت (Presumption)               |-- HIC (فرماندهی    |-- دامنه عملیاتی ODD
    |   شخصیت حقوقی      |-- بیمه مسئولیت AI                       |   و حکمرانی کلان)  |-- تبار داده و مدل

۱۸. ارتباط با سایر مباحث

• مبحث ۱ از همین فصل (AI Ethics): پاسخگویی به عنوان رکن چهارم هوش مصنوعی معتمد.
• مبحث ۴ از همین فصل (XAI): لزوم شفافیت و توضیح‌پذیری برای احراز علّیت در دعاوی حقوقی.
• مبحث ۶ از همین فصل (Governance): نهادهای متولی حاکمیت و بازرسی الگوریتم‌ها در سطح ملی.
• مبحث ۴ از فصل ۵ (Risk Management): استقرار کلید قطع اضطراری به عنوان اقدام مهار ریسک.

۱۹. سؤالات احتمالی آزمون (۶ تست استاندارد نصر)

تست ۱ (🔴 — مفاهیم بنیادین اهلیت و فلسفه حقوقی)

در دعاوی قضایی ناشی از خسارات فاجعه‌بار تصمیم‌گیری یک سیستم هوش مصنوعی کاملاً خودمختار، کدام استدلال حقوقی از نظر موازین قانونی و استانداردهای نصر صحیح است؟

الف) چون سیستم از یادگیری عمیق استفاده کرده، خود الگوریتم مجرم شناخته شده و حساب بانکی مدل مسدود می‌شود.
ب) سیستم هوش مصنوعی فاقد شخصیت حقوقی است؛ ادعای رفتار غیرقابل پیش‌بینی یا جعبه‌سیاه رافع مسئولیت نبوده و مسئولیت مدنی و کیفری بر عهده اشخاص حقیقی و حقوقی طراح، توسعه‌دهنده یا بهره‌بردار است.
ج) در صورت بروز خطا، مسئولیت به طور مساوی میان تمام شهروندان تقسیم می‌شود.
د) چون تصمیم توسط ماشین گرفته شده، هیچ خسارتی قابل مطالبه نیست.

کلید: ب
تحلیل تشریحی:
- تأیید ب: در کلیه نظام‌های حقوقی معاصر، هوش مصنوعی فاقد اهلیت و شخصیت حقوقی مستقل است؛ بنابراین مسئولیت تصمیمات آن مستقیماً بر عهده سازمان بهره‌بردار و تیم مهندسی طراح است و ادعای پیچیدگی یا جعبه‌سیاه مدل رافع مسئولیت نیست (رد شکاف مسئولیت).
- رد الف، ج، د: گزینه‌های مضحک و باطل حقوقی هستند.

تست ۲ (🔴 — الگوهای نظارت انسانی در امور حیاتی)

در کدام الگوی نظارت انسانی، هوش مصنوعی مجاز به اجرای خودکار هیچ تصمیمی نیست و تصمیم نهایی منحصراً منوط به بررسی، ارزیابی و امضای مستقیم یک کارشناس انسانی ذی‌صلاح است؟

الف) Human-out-of-the-Loop
ب) Human-in-the-Loop (HITL)
ج) Human-on-the-Loop (HOTL)
د) Unsupervised Autonomous Agent

کلید: ب
تحلیل تشریحی:
- تأیید ب: در الگوی Human-in-the-Loop، هوش مصنوعی صرفاً یک بازوی مشورتی و تولیدکننده پیش‌نویس است و چرخه تصمیم‌گیری تا زمان اقدام آگاهانه و تایید صریح انسان متوقف می‌ماند؛ این الگو برای امور با ریسک بالا نظیر درمان، استخدام و احکام قضایی اجباری است.
- رد الف و د: سیستم کاملاً خودکار است.
- رد ج: در HOTL سیستم تصمیم را خودکار اجرا می‌کند مگر اینکه انسان وتو کند.

تست ۳ (🔴 — رژیم‌های حقوقی مسئولیت مدنی)

دکترین «مسئولیت محض ناشی از عیب محصول» (Strict Product Liability) در خصوص خطاهای هوش مصنوعی بیانگر کدام مفهوم است؟

الف) شاکی حتماً باید کدهای پایتون را خط‌به‌خط بررسی کرده و خطای برنامه‌نویس را اثبات کند.
ب) شرکت سازنده هوش مصنوعی ضامن خسارات ناشی از نقص ایمنی و عملکردی محصول است، حتی اگر هیچ‌گونه تقصیر عمدی یا سهل‌انگاری از جانب مهندسان رخ نداده باشد.
ج) شرکت سازنده هیچ مسئولیتی ندارد و تمام مسئولیت با خریدار سرور است.
د) مسئولیت فقط در صورتی ایجاد می‌شود که شرکت از پرداخت مالیات خودداری کرده باشد.

کلید: ب
تحلیل تشریحی:
- تأیید ب: در مسئولیت محض (Strict Liability)، نیازی به اثبات تقصیر یا سوءنیت سازنده نیست؛ صرف وجود نقص در ایمنی محصول تجاری عرضه‌شده که منجر به ورود خسارت شده، برای محکومیت شرکت سازنده و الزام به جبران خسارت کافی است.
- رد الف: این تعریف مسئولیت مبتنی بر تقصیر است.
- رد ج و د: گزاره‌های انحرافی و غلط هستند.

تست ۴ (🟠 — قواعد نوین مسئولیت در اتحادیه اروپا)

نوآوری حقوقی «فرض علّیت» (Presumption of Causality) در مقررات مسئولیت هوش مصنوعی (EU AI Liability Directive) با چه هدفی تصویب شده است؟

الف) جلوگیری از خرید سرورهای ابری خارجی
ب) رفع نابرابری اطلاعاتی و حمایت از قربانی؛ به طوری که اگر شرکت سازنده الزامات ایمنی یا ارائه لاگ را نقض کرده باشد، دادگاه فرض را بر وجود رابطه علّیت میان نقص سیستم و خسارت وارده می‌گذارد.
ج) حذف کامل نقش دادگاه‌ها در پرونده‌های فناوری اطلاعات
د) اجباری کردن زبان انگلیسی در مستندات

کلید: ب
تحلیل تشریحی:
- تأیید ب: اثبات رابطه علّیت میان یک الگوریتم جعبه‌سیاه پیچیده و خسارت وارده برای شهروندان عادی غیرممکن است. قاعده «فرض علّیت» بار اثبات دعوا را تعدیل می‌کند تا در صورت عدم شفافیت یا نقض استانداردهای ایمنی توسط شرکت، مسئولیت خطای حاصله متوجه شرکت توسعه‌دهنده فرض شود.
- رد الف، ج، د: موارد نامربوط به اصول حقوقی هستند.

تست ۵ (🔴 — استانداردهای فنی ثبت لاگ و ممیزی)

ویژگی «تغییرناپذیری» (Immutability) در پایگاه‌های داده لاگ‌های ممیزی (Audit Trail) یک سامانه هوش مصنوعی به چه دلیلی الزامی است؟

الف) برای کاهش مصرف رم سرور
ب) برای اطمینان از اینکه پس از وقوع حادثه یا خطا، ردپای تصمیمات، وزن‌های مدل و ورودی‌های کاربر توسط پرسنل سازمان قابل دستکاری، ویرایش یا حذف مخفیانه نباشد و در محاکم قضایی قابل استناد بماند
ج) به منظور افزایش سرعت یادگیری تقویتی
د) برای تبدیل داده‌ها به تصاویر سه‌بعدی

کلید: ب
تحلیل تشریحی:
- تأیید ب: در پرونده‌های حقوقی و ممیزی، امکان استناد به شواهد دیجیتال منوط به حفظ زنجیره اصالت (Chain of Custody) است. لاگ‌های WORM (Write Once, Read Many) یا ثبتیات رمزشده تضمین می‌کنند که مدارک عملکرد مدل از دستکاری مصون مانده‌اند.
- رد الف، ج، د: عملکردهای نامربوط و ساختگی هستند.

تست ۶ (🟠 — دامنه طراحی عملیاتی و حالت امن)

اگر یک خودروی خودران مجهز به هوش مصنوعی در حین حرکت در بزرگراه با پدیده بارش شدید تگرگ مواجه شود که سنسورهای لیدار و دوربین آن را مختل می‌سازد و این وضعیت خارج از دامنه طراحی عملیاتی (ODD) تعریف‌شده خودرو باشد، سیستم باید چه واکنشی نشان دهد؟

الف) شتاب خودرو را افزایش دهد تا سریع‌تر از منطقه بارندگی عبور کند.
ب) بلافاصله وضعیت را به راننده هشدار داده و در صورت عدم کنترل، به صورت خودکار مانور رسیدن به حالت امن (Fail-safe Fallback / Minimal Risk Condition) نظیر توقف آرام در شانه راه را اجرا کند.
ج) اتصال اینترنت را قطع کرده و به رانندگی با سرعت قبلی ادامه دهد.
د) سیستم هوش مصنوعی را در حال حرکت فوراً ریستارت کند.

کلید: ب
تحلیل تشریحی:
- تأیید ب: بر اساس استانداردهای ایمنی سیستم‌های خودمختار (نظیر ISO 26262 و استانداردهای خودرو خودران)، در صورت خروج از محدوده مجاز عملیاتی (ODD) یا از کار افتادن سنسورها، سیستم موظف به انتقال خودرو به وضعیت با حداقل ریسک (Minimal Risk Condition) و توقف ایمن است.
- رد الف، ج، د: واکنش‌های فوق‌العاده خطرناک و فاجعه‌بار هستند.

۲۰. سطح‌بندی مطالب جهت مرور سریع