هوش مصنوعی جانبدارانه؛ آیا بیطرفی همیشه یک فضیلت است؟
محمد کاظمیفرد، رئیس مرکز آمار و فناوری اطلاعات قوه قضاییه در یادداشتی در صفحه شخصی خود در فضای مجازی نوشت: هوش مصنوعی جانبدارانه، در نگاه نخست، مفهومی نگرانکننده است. «جانبداری» معمولاً در ادبیات فناوری، نشانهای از خطا، تبعیض و خروج از بیطرفی تلقی میشود؛ اما آیا هر نوع جانبداری در هوش مصنوعی نادرست است؟ اگر این جانبداری نه در خدمت تبعیض، بلکه در جهت ارزشهای انسانی باشد چه؟ اگر بتوان هوش مصنوعی را بهگونهای طراحی کرد که در مواجهه با اختلاف، به جای تشدید تعارض، نخستین گزینهاش گفتوگو، صلح و سازش باشد، آیا باز هم باید چنین رویکردی را یک «خطا» دانست؟
پاسخ به این پرسش، ما را به یکی از مهمترین چالشهای پیش روی حکمرانی هوش مصنوعی میرساند: آیا هوش مصنوعی باید صرفاً بیطرف باشد یا باید ارزشمحور نیز باشد؟ هوش مصنوعی از دادهها میآموزد و آنچه در دادهها میبیند، در پاسخهای خود بازتاب میدهد.
اگر بخش عمده دادههای قضایی و حقوقی در اختیار یک مدل، متشکل از شکایت، دادخواست، وکالت و فرایندهای رسمی حل اختلاف باشد، یک مدل به ظاهر بیطرف ممکن است در مواجهه با هر مسئلهای، سادهترین مسیر را پیشنهاد کند: «شکایت کنید» یا «دادخواست ارائه دهید»؛ اما مسئله اینجاست که هدف دستگاه عدالت صرفاً تولید پرونده نیست بلکه حل اختلاف و استقرار عدالت است.
فرض کنیم شهروندی تلفن همراه خود را برای تعمیر به مغازهای سپرده و صاحب مغازه از بازگرداندن آن خودداری کرده است. شهروند از یک دستیار هوشمند قضایی میپرسد: «چه کار کنم؟» یک هوش مصنوعی که صرفاً بر اساس دادههای موجود و بدون جهتگیری ارزشی پاسخ میدهد، ممکن است بگوید: «از مغازهدار شکایت کنید، برای طرح دعوا به دفاتر خدمات قضایی مراجعه کنید».
یک دستیار هوشمند با رویکرد ارزشمحور میتواند پیش از رسیدن به مرحله شکایت، مسیرهای دیگری را پیش روی شهروند قرار دهد، از جمله اینکه شخص، ابتدا با طرف مقابل تماس بگیرد و علت مسئله را جویا شود؛ اگر امکان گفتوگو وجود داشت، از طریق تفاهم مسئله را حل کند؛ در صورت بینتیجه ماندن، موضوع را از طریق صنف مربوط پیگیری کند؛ در صورت نیاز، اظهارنامه ارسال شود و در نهایت، اگر هیچیک از این راهها به نتیجه نرسید، مسیر قضایی پیشنهاد شود.
این تفاوت، تفاوت میان دو فناوری نیست بلکه تفاوت میان دو نگاه به فناوری است و در اینجا باید میان «جانبداری» و «تبعیض» تفکیک قائل شد. جانبداری زمانی نگرانکننده است که به تبعیض علیه افراد یا گروهها منجر شود؛ اما اگر جهتگیری هوش مصنوعی به سوی ارزشهایی همچون صلح، سازش، کاهش تعارض و حل مسئله باشد، نمیتوان آن را صرفاً یک نقص الگوریتمی تلقی کرد.
در حکمرانی قضایی هوشمند، شهروند نباید از همان نخستین مواجهه با یک سامانه هوشمند، به سمت تشکیل پرونده هدایت شود، بلکه نقطه آغاز باید «حل مسئله» باشد، نه لزوماً «طرح دعوا». فناوری باید به شهروند کمک کند پیش از آنکه یک اختلاف ساده به یک پرونده قضایی تبدیل شود، راههای ممکن برای حل آن را بشناسد و در صورت امکان، همانجا مسئله را خاتمه دهد.
این رویکرد همزمان میتواند به کاهش هزینه و زمان مردم، کاهش ورودی پروندهها و تقویت سرمایه اجتماعی کمک کند. شهروند در چنین مواجههای احساس نمیکند که نخستین راهحل پیش روی او، ورود به یک فرایند رسمی و پرهزینه است؛ بلکه درمییابد که دستگاه عدالت، پیش از هر چیز، به دنبال حل مسئله اوست.
اگر قرار است چنین دستیار هوشمندی طراحی شود، نخست باید دادههای آموزشی آن تغییر یابد و در کنار دادههای مربوط به دعاوی و آرای قضایی، باید نمونههای واقعی از صلح و سازش، میانجیگری، حل اختلافات از طریق اصناف و سایر شیوههای غیرقضایی حل مسئله نیز در اختیار مدل قرار گیرد. در مرحله بعد، هدفگذاری و سازوکار ارزیابی مدل باید بهگونهای باشد که پاسخهایی که شهروند را به سمت حل مسالمتآمیز اختلاف هدایت میکنند، ارزش بیشتری پیدا کنند. هیچ الگوریتمی را نمیتوان به حال خود رها کرد. ارزیابی انسانی، بهویژه از سوی قضات و کارشناسان، باید بخشی از این فرایند باشد تا پاسخهای هوش مصنوعی از منظر ارزشهای قضایی، اخلاقی و انسانی مورد سنجش قرار گیرند. هوش مصنوعی امروز دیگر صرفاً یک ابزار فناورانه نیست.
این فناوری بهتدریج در حال تبدیل شدن به یکی از عناصر مؤثر در تصمیمسازی، ارتباط با مردم و ارائه خدمات است. بنابراین، پرسش از اینکه «چه پاسخی بدهد» به همان اندازه اهمیت دارد که پرسش از اینکه «چگونه پاسخ بدهد».
ممکن است یک هوش مصنوعی از نظر فنی بسیار دقیق باشد، اما اگر در مواجهه با هر اختلاف، انسان را به سمت تعارض بیشتر سوق دهد، آیا میتوان گفت فناوری به درستی طراحی شده است؟
در مقابل، اگر همان فناوری بتواند پیش از ورود یک اختلاف به چرخه قضایی، به گفتوگو، تفاهم و سازش کمک کند، میتواند نقشی فراتر از یک ابزار پاسخگو داشته باشد و میتواند به بخشی از زنجیره پیشگیری و حل مسئله تبدیل شود.
البته این جهتگیری نباید به معنای تحمیل یک راهحل واحد بر شهروند باشد. هوش مصنوعی باید آگاه، منصف و شفاف باقی بماند و در مواردی که حل مسالمتآمیز ممکن نیست یا حقوق افراد اقتضا میکند، مسیر رسمی قضایی را نیز به روشنی معرفی کند. هدف، حذف عدالت قضایی نیست؛ بلکه هدف، این است که پیش از رسیدن اختلاف به دادگاه، همه راههای معقول حل آن دیده شود.
«هوش مصنوعی جانبدارانه» لزوماً یک تهدید نیست. آنچه باید از آن پرهیز کرد، جانبداری علیه انسان است؛ اما جانبداری آگاهانه در جهت صلح، کاهش تعارض، حفظ کرامت انسان و حل مسئله میتواند بخشی از طراحی مسئولانه فناوری باشد.
در همین مسیر، مرکز آمار و فناوری اطلاعات قوه قضاییه با اشتراکگذاری بخشی از دادههای ارزشمند قضایی گمنامسازیشده با شرکتهای دانشبنیان و فناور، زمینه را برای توسعه و شکلگیری دستیارهای هوش مصنوعی تخصصی در حوزه حقوق و خدمات قضایی فراهم کرده است که قرار است این دستیارها فناوری را از یک ابزار صرفاً پاسخگو، به همراهی هوشمند برای شهروند در مسیر شناخت و استیفای حقوق خود تبدیل کنند. در حال حاضر، هشت محصول هوش مصنوعی مبتنی بر این رویکرد در درگاه خدمات الکترونیک قضایی در دسترس شهروندان قرار گرفته است.
این مسیر، اما به همین نقطه ختم نمیشود. در گامهای بعدی، هدف آن است که شهروند در مواجهه با یک مسئله حقوقی، پیش از ورود به فرایندهای پیچیده و پرهزینه قضایی، بتواند با بهرهگیری از این ابزارهای هوشمند، راهکارهای ممکن را بشناسد و سادهترین، سریعترین و مناسبترین مسیر برای حل مسئله و احقاق حق خود را انتخاب کند. در این نگاه، هوش مصنوعی قرار نیست جایگزین انسان یا تصمیم قضایی شود؛ بلکه باید در کنار شهروند قرار گیرد، او را در شناخت حقوق و گزینههای پیش رو یاری دهد و با جهتدهی هوشمندانه، از سرگردانی میان مسیرهای متعدد جلوگیری کند.
اگر آینده عدالت، آیندهای هوشمند است، این هوشمندی تنها در سرعت پردازش دادهها و تولید پاسخ خلاصه نمیشود؛ هوشمندی واقعی آنجاست که فناوری بتواند انسان را پیش از رسیدن به تعارض، به سمت حل مسئله، پیش از طرح دعوا به سمت تفاهم و در نهایت، در صورت ضرورت، به سوی مناسبترین مسیر احقاق حق هدایت کند. این همان نقطهای است که هوش مصنوعی میتواند از یک فناوری نوظهور، به ابزاری برای ارزشآفرینی در حکمرانی قضایی هوشمند بدل شود.
انتهای پیام/
