پیشنهاد کانون وکلای دادگستری بوشهر برای تدوین قانون «عدالت الگوریتمی و اخلاق هوش مصنوعی»

ریاست محترم کمیسیون قضایی و حقوقی مجلس شورای اسلامی

با سلام و احترام؛

تحولات شتابان دنیای امروز، به ویژه در عرصه هوش مصنوعی و الگوریتم های تصمیم ساز، نظام های حقوقی را با پرسش ها و چالش های نوینی روبه رو ساخته است. بر همین اساس، نظام حقوقی ایران نیز ناگزیر است هم پای این پیشرفت ها در اندیشه ی طراحی سازوکارهای حمایتی تازه برای صیانت از عدالت اجتماعی و حقوق شهروندی در عصر دیجیتال باشد.

یکی از مهم ترین عرصه های نوپدید، آن چیزی است که در ادبیات جهانی با عناوینی همچون عدالت الگوریتمی (Algorithmic Justice) و اخلاق هوش مصنوعی (Al Ethics) شناخته می شود. مقصود از این مفاهیم، پیشگیری از تبعیض ها و بی عدالتی هایی است که در اثر تصمیم گیری‌های خودکار سامانه ها شکل می‌گیرند؛ تصمیماتی که در بسیاری موارد تأثیر مستقیم بر سرنوشت شهروندان دارند و به عنوان نمونه می توان اشاره کرد؛ مثلا؛ در برخی کشورها، سامانه های استخدامی مبتنی بر هوش مصنوعی به دلیل آموزش بر داده های گذشته زنان را کمتر از مردان به کار می گیرند، الگوریتم های بانکی و اعتباری متقاضیان وام از مناطق کم برخوردار را به طور سیستماتیک رد می کنند، در سیستم های بیمه سلامت، اولویت درمان به بیمارانی داده می‌شد که داده های پزشکی بیشتری از آنان ثبت شده است؛ بدین معنا که افشار ضعیف تر که کمتر دسترسی به خدمات داشته اند، باز هم محروم می ماندند، در حوزه عدالت کیفری نرم افزارهای تشخیص و پیش بینی مثلا در مناطق کم برخوردار با فقیر با دور افتاده بیشتر افراد را در معرض اتهام قرار می دهد کما این که ممکن است چنین اشخاصی مثل اشخاص سیاه پوست حتی در عبور از گیت های امنیتی خطرناک تر تشخیص داده و بیشتر از متهمان یقه سفید و سفید پوستان ارزیابی شوند و یا حتی در نتیجه جریمه های الگپرینمی بر شدت احکام صادره علیه آنان افزوده شود. همچنین حتی در فضای مجازی الگوریتم های تبلیغاتی برخی شبکه ها مشاغل با درآمد بالا را بیشتر به مردان و مشاغل سطح پایین تر را به زنان نمایش اختصاص می دهند و عملاً نابرابری شغلی را بازتولید می کردند.

این نمونه ها به روشنی نشان می‌دهند که اگر الگوریتم ها بر داده های ناقص جهت گیرانه و با تبعیض آمیز بنا شوند، تبعیض های جنسیتی قومی طبقاتی با جغرافیایی را در شکلی پنهان و پیچیده تر ایجاد خواهند کرد.

اکنون جامعه جهانی نیز برای مقابله با این خطر، گام های مهمی برداشته است و برای نمونه اتحادیه اروپا در مقررات عمومی حمایت از داده ها (GDPR) اصولی همچون حق اعتراض به تصمیمات کاملاً خودکاره و حق شفافیت الگوریتمی را شناسایی کرده است، یونسکو و شورای اروپا نیز استاد و اصولی در زمینه اخلاق هوش مصنوعی به تصویب رسانده اند.

در ایران نیز با توسعه بانکداری دیجیتال آزمون‌ها و گزینش‌های الکترونیک پرونده های قضایی هوشمند و بهره گیری از سامانه های هوش مصنوعی در خدمات عمومی خلا قانونی آشکار در زمینه صیانت از حقوق شهروندان احساس می شود.

از این رو کانون وکلای دادگستری استان بوشهر پیشنهاد می‌کند کارگروهی مشترک میان کمیسیون محترم قضایی مجلس اتحادیه سراسری کانون های وکلا وزارت ارتباطات و فناوری اطلاعات و پژوهشگاه قوه قضاییه تشکیل گردد تا با بهره گیری از تجربه های جهانی و نیازهای بومی کشور، پیش نویس طرح قانونی عدالت الگوریتمی و اخلاق هوش مصنوعی تدوین گردد.

این قانون میتواند مشتمل بر اصول بنیادینی زیر باشد:

حق شفافیت الگوریتمی: الزام نهادهای عمومی و خصوصی به اعلام معیارها و منطق تصمیم گیری ماشینی.

ممنوعیت تبعیض الگوریتمی: جلوگیری از به کارگیری داده های سوگیرانه با تبعیض آمیز در آموزش و اجرای الگوریتم ها، حق اعتراض و بازبینی انسانی اعطای حق به شهروندان برای اعتراض به تصمیمات خودکار و درخواست بررسی توسط مقام انسانی.

مسئولیت مدنی و کیفری طراحان و بهره برداران: در صورت بروز تبعیض با ورود خسارت ناشی از عملکرد الگوریتم ها.

نظارت و حسابرسی دوره ای: ایجاد نهادی مستقل برای کنترل عدالت دیجیتال و پایش اخلاق هوش مصنوعی در کشور.

بدیهی است ورود قانونگذار به این عرصه نه تنها می‌تواند از بروز بحران های حقوقی و اجتماعی در آینده جلوگیری نماید بلکه جایگاه حقوقی جمهوری اسلامی ایران را در سطح بین المللی ارتقا داده و زمینه ساز حمایت مؤثرتر از حقوق بنیادین شهروندان در عصر دیجیتال خواهد شد.

کانون وکلای دادگستری استان بوشهر آمادگی دارد در قالب نشست‌های تخصصی ارائه پیش نویس های کارشناسی و همکاری‌های علمی هر گونه همکاری لازم معمول دارد.

با احترام مجدد
دکتر سیروس شهریاری
رئیس کانون وکلای دادگستری استان بوشهر