استفاده وزارت کشور انگلیس از هوش مصنوعی علیه پناهجویان

گروه حقوق باز (ORG)، سازمانی مستقر در انگلیس که در زمینه محافظت از حقوق در حفظ حریم خصوصی و آزادی بیان آنلاین فعالیت می‌کند، می‌گوید: فناوری‌های خودکار، از جمله هوش مصنوعی (AI)، به‌طور فزاینده‌ای در اجرای قوانین مهاجرت این کشور مورد استفاده قرار می‌گیرند.

به گفته این سازمان، هوش مصنوعی در چندین حوزه تحت نظارت وزارت کشور انگلیس، از جمله خلاصه مصاحبه‌های پناهندگی، اولویت‌بندی پرونده‌های مهاجرت، برآورد سن پناهجویان و تجزیه و تحلیل داده‌های تلفن همراه، مورد استفاده یا آزمایش قرار می‌گیرد.

این گزارش همچنین فناوری‌های نظارت مرزی، از جمله تشخیص چهره زنده، پهپادهای مجهز به هوش مصنوعی و ماهواره‌ها را بررسی می‌کند.

تحقیقات آنها همچنین در گزارشی با عنوان «تبعیض خودکار: رمزگشایی از محیط خصمانه دیجیتال» بررسی می‌کند که چگونه می‌توان از هوش مصنوعی مولد در فرآیندهای تصمیم‌گیری داخلی استفاده کرد.

این گروه دریافته است که وزارت کشور انگلی، به عنوان مثال از سیستم‌های خودکار برای خلاصه کردن رونوشت‌های طولانی مصاحبه پناهندگی استفاده می‌کند و نگرانی‌هایی را در مورد خطاهای احتمالی در فرآیند پناهندگی ایجاد می‌کند.

همچنین پرونده‌های پناهندگی به‌طور خودکار با استفاده از سیستم‌ها و ابزارهای دیجیتال داخلی مرتب و اولویت‌بندی می‌شوند.

در همین حال، گزارش ORG تاکید می‌کند که مقام‌های وزارت کشور انگلیس تا حد زیادی جزئیات بیشتر در مورد تهیه، دقت و استقرار این ابزارها را با استناد به امنیت ملی پنهان کرده‌اند.

تنها اطلاعات عمومی در مورد این فناوری این است که از مدل GPT-4 OpenAI استفاده می‌کند.

با این حال، تحقیقات ایندیپندنت نشان می‌دهد که بررسی‌های موردی در مورد استفاده از برخی از این فناوری‌ها میزان قابل‌توجهی از خطا را نشان داده است.

همچنین مشخص شد که به پناهجویان در هنگام پردازش درخواست‌هایشان گفته نمی‌شود که آیا و چه زمانی از هوش مصنوعی استفاده می‌شود.

• بیشتر بخوانید:
• رکورد بی‌سابقه مصرف کوکائین در انگلیس؛ جهش ۱۰ درصدی جرایم مرتبط از ۲۰۱۹ تاکنون
• کارائیب خواهان غرامت و ترمیم خسارت‌های تاریخی تجارت برده ازسوی انگلیس

بررسی‌های مستقل و داده‌های نظارتی پیش از این به مواردی اشاره کرده‌اند که خلاصه‌های تولید شده توسط هوش مصنوعی نیاز به تغییرهای اساسی داشته‌اند یا نتوانسته‌اند به‌طور کامل از بررسی‌های کیفی عبور کنند.

به همین دلیل است که گروه‌های حقوق بشر نگرانی‌های متعددی را در مورد معرفی این ابزارهای دیجیتال و به‌ویژه هوش مصنوعی مطرح کرده‌اند و آسیب‌پذیری‌ها را در زمینه‌هایی از جمله شفافیت، پاسخگویی و خطاهای احتمالی برجسته کرده‌اند.

نیک بیلز، از موسسه خیریه عدالت پناهندگان و مهاجران انگلیس گفت که استفاده از فناوری جدید نباید به قیمت تصمیم‌گیری قوی و منطقی در پرونده‌های پناهندگی تمام شود.

وی افزود: بنابراین ما نگران این هستیم که سوابق مصاحبه‌های ناقص به نرم‌افزار هوش مصنوعی وارد شوند و تصمیمات غیرقابل اعتمادی بگیرند که شرایط واقعی زندگی که این مصاحبه‌ها در آن انجام می‌شوند را در نظر نمی‌گیرند.

در همین حال، گروه‌های کمک حقوقی می‌گویند که این گزارش بر اهمیت تأیید مستقل سوابق اداری تأکید می‌کند تا اطمینان حاصل شود که خطاهای خودکار بر درخواست‌های پناهندگی تأثیر منفی نمی‌گذارد.

سازمان ORG خواستار نظارت نظارتی سختگیرانه‌تر، حسابرسی‌های مستقل و ثبت عمومی تمام ابزارهای الگوریتمی و هوش مصنوعی مستقر در بخش دولتی شده است.

انتهای پیام/