عواقب سوءاستفاده از هوش مصنوعی

شمس‌الدین جلیلی‌پیران، قاضی دادگستری و دکترای حقوق بین‌الملل در گفت‌وگو با میزان، به بیان مسئولیت کیفری در حوزه هوش مصنوعی و اینکه آیا این سامانه در وضعیت فعلی حقوق ایران، مانند انسان یا شخص حقوقی، فاعل مستقل جرم محسوب می‌شود یا خیر، پرداخت. 

میزان: مسئولیت کیفری در حوزه هوش مصنوعی به چه صورت است؟

جلیلی‌پیران: برای پاسخ دقیق به این پرسش، ابتدا باید میان خود فناوری هوش مصنوعی و اشخاصی که آن را طراحی، توسعه، ارائه، در اختیار دیگران قرار می‌دهند یا از آن استفاده می‌کنند، تفکیک قائل شویم. هوش مصنوعی، الگوریتم یا سامانه هوش مصنوعی در وضعیت حقوقی فعلی ایران، صرفاً به دلیل برخورداری از قابلیت پردازش داده، تولید محتوا، ارائه پیشنهاد یا پیش‌بینی، شخصیت و مسئولیت کیفری مستقل ندارد.

هوش مصنوعی در وضعیت فعلی حقوق ایران، فاعل مستقل جرم محسوب نمی‌شود

به بیان روشن‌تر، هوش مصنوعی در وضعیت فعلی حقوق ایران، مانند انسان یا شخص حقوقی، فاعل مستقل جرم محسوب نمی‌شود که بتوان آن را به عنوان مرتکب جرم تحت تعقیب قرار داد و مجازات کرد. در حقوق کیفری ایران، مسئولیت کیفری شخصی است و اصل بر مسئولیت شخص حقیقی است؛ قانون در شرایط مشخص، مسئولیت کیفری شخص حقوقی را نیز پذیرفته است. مواد ۱۴۰ تا ۱۴۳ قانون مجازات اسلامی چارچوب این موضوع را بیان کرده‌اند. بنابراین، یک الگوریتم یا سامانه هوش مصنوعی، در جایگاه فعلی حقوق ایران، موضوع مجازات کیفری مانند یک انسان قرار نمی‌گیرد.

ابزار ارتکاب جرم با فاعل آن یکسان نیست

البته این نتیجه به هیچ وجه به معنای آن نیست که اگر جرمی با استفاده از هوش مصنوعی ارتکاب پیدا کند، مسئولیتی متوجه انسان‌ها نخواهد بود. اگر شخصی با استفاده از یک سامانه هوش مصنوعی رفتاری انجام دهد که قانون آن را جرم شناخته است، باید مسئولیت همان شخص بر اساس رفتار قابل انتساب و شرایط قانونی آن جرم بررسی شود. در چنین وضعی، هوش مصنوعی ممکن است ابزار ارتکاب جرم باشد؛ اما ابزار ارتکاب جرم با فاعل جرم یکسان نیست.

برای مثال، اگر شخصی آگاهانه و با قصد مجرمانه از یک ابزار هوش مصنوعی برای تسهیل یک رفتار مجرمانه استفاده کند، استفاده از فناوری جدید موجب از بین رفتن مسئولیت احتمالی او نمی‌شود. آنچه اهمیت دارد، احراز رفتار، عنوان قانونی رفتار و در جرایم عمدی، احراز علم و قصد لازم و در جرایم غیرعمدی، احراز تقصیر حسب مورد است. قانون مجازات اسلامی در مواد ۱۴۴ و ۱۴۵ نیز برای جرایم عمدی و غیرعمدی الزامات مربوط به علم، قصد و تقصیر را مشخص کرده است.

صرف استفاده از هوش مصنوعی برای انتساب جرم کافی نیست

در مقابل، صرف استفاده از هوش مصنوعی برای انتساب جرم کافی نیست. اگر خروجی یک سامانه هوش مصنوعی نادرست باشد یا استفاده از آن به ایجاد خسارت یا حتی یک نتیجه مجرمانه منجر شود، نمی‌توان صرف وقوع نتیجه را مبنای انتساب خودکار مسئولیت کیفری به کاربر، توسعه‌دهنده، ارائه‌دهنده یا تولیدکننده سامانه قرار داد. باید مشخص شود هر شخص چه نقشی داشته، چه رفتاری انجام داده یا چه تکلیف قانونی بر عهده داشته است، میزان اختیار و کنترل او چه بوده، آیا علم، قصد یا تقصیر لازم وجود داشته و آیا میان رفتار قابل انتساب به او و نتیجه، رابطه سببیت قابل احراز وجود دارد یا خیر.

در اینجا یک اصل مهم حقوق کیفری مطرح است: مسئولیت کیفری را نمی‌توان صرفاً بر مبنای وقوع نتیجه یا صرف ارتباط یک شخص با فناوری ایجاد کرد؛ بلکه باید انتساب رفتار و شرایط قانونی مسئولیت احراز شود. ماده ۱۴۲ قانون مجازات اسلامی نیز مسئولیت ناشی از رفتار دیگری را در شرایط مشخص قانونی یا در صورت تقصیر مرتبط با نتیجه قابل تصور دانسته است.

بنابراین، توسعه‌دهنده یک مدل، ارائه‌دهنده یک خدمت، مالک یا بهره‌بردار یک سامانه و کاربری که از آن استفاده می‌کند، صرفاً به دلیل قرار گرفتن در زنجیره فنی یک فناوری، وضعیت حقوقی یکسانی ندارند. مشارکت فنی در ایجاد یا ارائه یک سامانه، به خودی خود معادل مسئولیت کیفری نیست؛ همان‌گونه که استفاده از یک سامانه نیز به تنهایی برای انتساب جرم کافی نیست. مسئولیت هر شخص باید بر اساس رفتار و تکلیف قانونی خود او بررسی شود.

هر خسارت ناشی از فناوری را نمی‌توان جرم تلقی کرد

همچنین باید میان مسئولیت کیفری و سایر انواع مسئولیت تفکیک کرد. ممکن است عملکرد نامناسب یا استفاده نادرست از یک سامانه، حسب مورد، موجب مسئولیت مدنی، قراردادی، اداری یا حرفه‌ای شود، بدون آنکه لزوماً جرم کیفری محقق شده باشد. بنابراین، هر خسارت ناشی از فناوری را نمی‌توان جرم تلقی کرد و هر شخص مرتبط با یک سامانه را نیز نمی‌توان صرفاً به دلیل این ارتباط، مسئول کیفری دانست.

در نتیجه، پاسخ روشن این است که در چارچوب فعلی حقوق ایران، هوش مصنوعی به عنوان یک سامانه یا فناوری، فاعل مستقل مسئولیت کیفری و موضوع مجازات کیفری مانند انسان نیست. اما استفاده از آن می‌تواند در ارتکاب جرم نقش داشته باشد و در این صورت، مسئولیت اشخاص مرتبط با آن، نه به صورت خودکار، بلکه بر اساس قانون، رفتار قابل انتساب، عناصر جرم، علم و قصد یا تقصیر حسب مورد و سایر شرایط قانونی بررسی خواهد شد.

انتهای پیام/