گسترش روزافزون فناوریهای مبتنی بر هوش مصنوعی و یادگیری ماشین، شیوه اداره فرآیندها، تحلیل دادهها و تصمیمگیریهای خرد و کلان را دگرگون کرده است. امروزه سامانههای هوشمند صرفاً ابزارهایی برای محاسبات ساده ریاضی یا بایگانی دادهها نیستند؛ بلکه در حوزههای حساسی مانند اعتبارسنجی بانکی، تشخیصهای پزشکی، غربالگری متقاضیان استخدام، هدایت خودروهای خودران و تحلیلهای اولیه حقوقی، بهطور مستقیم در فرایند تصمیمگیری مشارکت دارند.
با افزایش ضریب نفوذ این فناوری، چالشهای بنیادینی در عرصه حقوق مدنی و مسئولیت مدنی پدیدار شده است. اگر یک سیستم هوش مصنوعی در اثر خطای پردازشی، دادههای نادرست یا نقص الگوریتمی، تصمیمی اتخاذ کند که منجر به ورود خسارت مادی، معنوی یا جسمانی به اشخاص شود، جبران خسارت بر عهده چه کسی خواهد بود؟ از آنجا که سیستمهای نرمافزاری فاقد «شخصیت حقوقی مستقل» و «اهلیت تمتع و استیفا» هستند، پاسخ به این پرسش مستلزم واکاوی دقیق زنجیره علیت و شناخت بازیگران انسانی پشت صحنه این فناوری است.
منظور از «تصمیم» هوش مصنوعی چیست؟
برای تبیین مسئولیت حقوقی، ابتدا باید ماهیت حقوقی و فنی عملکرد سیستم را تفکیک کرد:
- تفاوت تصمیمگیری مستقل و خروجی تولیدشده: الگوریتمهای هوش مصنوعی بر اساس برازشهای آماری و تحلیل الگوها در کلاندادهها عمل میکنند. خروجی هوش مصنوعی اعم از متن، کد، درصد ریسک، تصویر یا پیشنهاد، در حقیقت یک پیشبینی یا توصیه محاسباتی است، نه یک اراده انشایی حقوقی. سیستمهای خودکار ممکن است در سطح اجرایی بدون دخالت لحظهای انسان دست به اقدام بزنند، اما این خودمختاری به معنای «اراده مستقل حقوقی» نیست.
- نقش انسان در استفاده از خروجی: در بیشتر کاربردهای اداری، تجاری و حقوقی، هوش مصنوعی در قالب سیستمهای پشتیبان تصمیمگیری فعالیت میکند. در این مدل، خروجی سیستم یک ماده خام یا پیشنهاد کارشناسی است و تصمیمگیرنده نهایی انسانی است که خروجی را بررسی، رد یا تایید میکند.
چرا تعیین مسئولیت در تصمیمات هوش مصنوعی پیچیده است؟
مفهوم مسئولیت مدنی بر ارکان سهگانه «فعل زیانبار (خطا/تقصیر)»، «ورود ضرر» و «رابطه سببیت» استوار است. احراز رابطه سببیت در هوش مصنوعی به دلایل زیر با پیچیدگیهای جدی روبهروست:
- پدیده جعبه سیاه: مدلهای عمیق یادگیری به گونهای عمل میکنند که حتی سازندگان اولیه نیز نمیتوانند مسیر دقیق استدلال و وزندهی درونی شبکه عصبی را به صورت خطی رهگیری کنند.
- تعدد و پراکندگی بازیگران: در چرخه حیات یک ابزار هوشمند، نهادهای متعددی نقش دارند:
- توسعهدهنده (Developer): مهندسان و برنامهنویسانی که معماری مدل و الگوریتم را کدنویسی کردهاند.
- شرکت ارائهدهنده یا مالک مدل (Platform/Vendor): شرکتی که زیرساخت، سرور و مدل پایه را به صورت سرویس (SaaS/API) عرضه میکند.
- تأمینکننده دادهها (Data-Provider): مجموعهای که وظیفه جمعآوری، برچسبگذاری و تغذیه دادههای آموزشی را بر عهده داشته است.
- کسبوکار استفادهکننده (Enterprise Client): سازمانی که مدل را برای امور مشتریان خود پیادهسازی و سفارشیسازی کرده است.
- کاربر نهایی (End-User): فردی که پرامپت یا ورودی را وارد کرده و بر مبنای خروجی اقدام میکند.
این زنجیره توزیعشده سبب میشود در زمان بروز خطا، هر یک از طرفین مسئولیت را به دیگری (از نقص داده تا کاربرد نادرست) نسبت دهد.
در چه شرایطی کاربر ممکن است مسئول باشد؟
کاربر نهایی در شرایط زیر مستقیماً مسئول جبران خسارات وارده شناخته میشود و نمیتواند تقصیر را متوجه ارائهدهنده سیستم بداند:
- استفاده خارج از هدف طراحیشده (Misuse): اگر ابزاری صرفاً برای پیشبینیهای عمومی طراحی شده باشد اما کاربر از آن برای تحلیلهای فوقحساس (مانند دوز دارویی یا هدایت مکانیکی) بدون مجوز فنی استفاده کند.
- اعتماد کورکورانه و فقدان بررسی (Blind Reliance): چنانچه کاربر هشدارهای مربوط به ماهیت تخمینی خروجی را نادیده بگیرد و بدون راستیآزمایی تخصصی، مبنای اقدام خود قرار دهد.
- ورودیهای ناقص یا فریبنده: ارائه اطلاعات نادرست به عنوان پرامپت یا متغیرهای ورودی که باعث سوگیری یا خطای آشکار سیستم شود.
مسئولیت توسعهدهنده یا ارائهدهنده سیستم
بر مبنای قواعد مسئولیت ناشی از عیب تولید، توسعهدهنده یا ارائهدهنده سرویس در موارد زیر مقصر و ضامن شناخته میشود:
- طراحی معیوب و سوگیری نهادینهشده: وجود سوگیریهای سیستمی، تعصبآمیز یا تبعیضآمیز در الگوریتم به دلیل ضعف در بهینهسازی مدل.
- نقص فنی در پردازش: خطاهایی که در اثر باگهای برنامهنویسی یا ناپایداری فنی مدل ایجاد میشوند و خارج از عرف مهندسی نرمافزار هستند.
- نبود شفافیت و کتمان محدودیتها: اگر ارائهدهنده میزان خطای سیستم یا خطرات احتمالی آن را به طور شفاف در اسناد فنی و شرایط استفاده ذکر نکرده باشد.
- مشکلات امنیتی و نقض حریم خصوصی: عدم تدوین لایههای محافظتی مناسب یا افشای دادههای محرمانه کاربران.
مسئولیت کسبوکارها در استفاده از هوش مصنوعی
سازمانها و بنگاههای اقتصادی که از ابزارهای هوش مصنوعی برای خدمترسانی به مشتریان بهره میبرند، نمیتوانند بار مسئولیت را صرفاً به شرکت مادر نرمافزار منتقل کنند. تعهدات این کسبوکارها عبارتند از:
- اعمال اصل نظارت انسانی: ایجاد سازوکارهایی که تصمیمات با ریسک بالا حتماً به تأیید یک کارشناس انسانی برسد.
- صحتسنجی خروجیها: پیادهسازی آزمونهای اعتبارسنجی دورهای و کنترل کیفیت دادهها و تحلیلهای ارائهشده توسط ابزار.
- شفافیت و اطلاعرسانی به مشتریان: آگاه ساختن شفاف مخاطب از اینکه بخشی از خدمات یا فرایندها توسط هوش مصنوعی پردازش شده است.
- مدیریت و سنجش ریسک: تخصیص پوششهای بیمهای مناسب و تدوین رویههای واکنش به بحران در صورت بروز اختلال در سامانه.
جدول خلاصه مسئولیتها
| بازیگر / نقش | منشأ ایجاد مسئولیت (نوع تقصیر / خطا) | مبنای حقوقی مسئولیت | نمونه مصداق عملیاتی |
| توسعهدهنده / ارائهدهنده سیستم | باگ نرمافزاری، سوگیری الگوریتم، نبود شفافیت، نقص امنیتی | مسئولیت ناشی از عیب | تولید خروجی معیوب ناشی از خطای کدنویسی یا نشت داده |
| کسبوکار بهکارگیرنده | عدم نظارت انسانی، اطلاعرسانی نکردن به کاربر، پیادهسازی غیراستاندارد | مسئولیت قراردادی | استفاده از خروجی تاییدنشده ابزار در ارائه خدمت به مشتری |
| کاربر نهایی / متخصص | اعتماد کورکورانه، ارائه ورودی ناقص، استفاده خارج از هدف | نقض استاندارد مراقبت حرفهای و تقصیر شخصی | استناد وکیل یا پزشک به خروجی توهمآمیز بدون راستیآزمایی |
بررسی یک سناریوی فرضی از ایجاد خسارت
برای روشن شدن موضوع، یک سناریوی عملیاتی را بررسی میکنیم.
سناریو: یک شرکت مشاور سرمایهگذاری، سیستم هوشمندی را برای پیشنهاد سبد سهام به مشتریان به کار میگیرد. الگوریتم به دلیل پردازش ناقص یک خبر مالی و عدم تشخیص شایعه بودن آن، پیشنهاد خرید سنگین سهام شرکتی در آستانه ورشکستگی را تولید میکند. مشاور بدون بررسی اعتبار دادهها، توصیه را برای مشتری ارسال کرده و سرمایه مشتری از بین میرود.
تحلیل مسئولیت در این سناریو:
- شرکت مشاور سرمایهگذاری (کسبوکار): به عنوان مباشر اصلی و طرف قرارداد با مشتری، به دلیل عدم رعایت استاندارد مراقبت حرفهای و نبود نظارت انسانی بر خروجی الگوریتم، مسئول مستقیم جبران خسارت مشتری است.
- توسعهدهنده سامانه: تنها در صورتی مقصر است که تضمین رسمی مبنی بر «قطعیت و صحت ۱۰۰ درصدی دادههای مالی بدون نیاز به تایید انسانی» داده باشد یا نقص فنی بحرانی در فرایند دریافت خوراک داده اثبات شود.
- مشتری: در صورتی که در قرارداد سرمایهگذاری صراحتاً اختیارات تام به الگوریتم نداده باشد و مشاور تعهد حسن اجرا داشته باشد، مستحق دریافت کامل خسارت است.
ارتباط مسئولیت با استفاده از هوش مصنوعی در خدمات حقوقی
مسئله مسئولیت در حوزه خدمات حقوقی و قضاوت اهمیت دوچندان پیدا میکند. استفاده از هوش مصنوعی برای اموری نظیر خلاصهسازی پروندهها، جستوجوی آراء وحدت رویه، شناسایی تعارضات قانونی و استخراج شروط قراردادی با استقبال فزایندهای روبهروست. با این حال، پدیدههایی نظیر «توهم هوش مصنوعی» (تولید استنادات ساختگی یا مواد قانونی غیرواقعی) ریسکهای حرفهای سنگینی به همراه دارند.
یک وکیل دادگستری یا مشاور حقوقی نمیتواند در صورت اشتباه در لایحه یا تنظیم نادرست مفاد قرارداد، تقصیر را به گردن ابزار نرمافزاری بیندازد؛ زیرا تعهد وکیل، تعهد به دقت، نظارت و انطباق مستندات با قوانین جاری کشور است. سیستمهای هوش مصنوعی صرفاً ابزارهای کمکیار هستند و تشخیص تطبیقی مفاهیم حقوقی، دفاع در محضر دادگاه و احراز شرایط انسانی پرونده صرفاً در صلاحیت و تحت مسئولیت مستقیم حقوقدانان باقی میماند.
جدول مقایسه هوشمصنوعی و وکیل یا متخصص انسانی
| مولفه / معیار | ابزار هوش مصنوعی | وکیل / کارشناس حقوقی انسانی |
| وضعیت شخصیت حقوقی | فاقد شخصیت و اهلیت | دارای شخصیت حقیقی/حقوقی و اهلیت کامل |
| تعهد حرفهای | فاقد تعهد و سوگند حرفهای | مقید به آییننامهها، سوگند وکالت و اخلاق حرفهای |
| ضمانت اجرای خطا | سلب مسئولیت در شرایط استفاده | جبران خسارت موکل و تعقیب در دادسرا و دادگاه انتظامی |
| نقش در تصمیمگیری | تولیدکننده پیشنهاد و ماده خام | تصمیمگیرنده، ناظر و امضاکننده نهایی لایحه/قرارداد |
آشنایی با ظرفیتهای تخصصی هوش مصنوعی در حوزه قضا و وکالت
پذیرش هوش مصنوعی در حوزه حقوق به معنای سپردن سرنوشت پروندهها به الگوریتمها نیست؛ بلکه تمرکز بر ابزارهایی است که با هدف ارتقای بهرهوری در بررسی دعاوی، استخراج مغایرتهای قراردادی، تنظیم پیشنویس لوایح و خلاصهسازی گردشکارهای طولانی طراحی شدهاند.
بررسیهای گروه حقوقی آساک درباره کاربرد هوش مصنوعی در وکالت و امکان جایگزینی وکیل نشان میدهد که سامانههای پردازش داده، هر اندازه هم که در بازیابی متون قانونی و تحلیل اطلاعات دقیق باشند، فاقد قوه تمیز، درک مصلحت موکل و مسئولیتپذیری انتظامی هستند. بنابراین، استفاده تخصصی از این ابزارها تنها زمانی ارزشآفرین و ایمن خواهد بود که در خدمت کارشناس حقوقی قرار گیرند و خطاهای احتمالی ناشی از توهم ماشینی با نظارت تخصصی مهار شود.
جمعبندی
هوش مصنوعی، علیرغم پیچیدگی محاسباتی و توانایی پردازش شگفتانگیز، کماکان یک «ابزار» است و فاقد اراده، قصد و در نتیجه فاقد مسئولیت اخلاقی و حقوقی است. مسئولیت نهایی هر تصمیمی که بر مبنای خروجیهای هوش مصنوعی اتخاذ میشود، بر دوش انسانها و اشخاص حقوقی پشت صحنه آن قرار دارد:
- توسعهدهندگان مسئول نقص فنی، طراحی ناصحیح و عدم شفافیت هستند.
- کسبوکارها مسئولیت نظارت انسانی، صحتسنجی خروجیها و نحوه پیادهسازی خدمات را بر عهده دارند.
- کاربران و متخصصان موظف به راستیآزمایی خروجیها، پرهیز از اتکای نابجا و حفظ استاندارد مراقبت حرفهای هستند.
بنابراین، راهکار مقابله با ریسکهای حقوقی هوش مصنوعی، نفی آن نیست؛ بلکه تدوین استانداردهای دقیق نظارتی، شفافسازی شرایط استفاده و تلفیق هوشمندانه قابلیتهای محاسباتی ماشین با تخصص و مسئولیتپذیری انسانی است.
بدون دیدگاه