دردسرهای تصاویر مستهجن هوش مصنوعی گروک برای ایلان ماسک
کمیسیون اروپا تحقیقاتی را در مورد شبکه اجتماعی ایکس ایلان ماسک در مورد تولید تصاویر صریح جنسی و انتشار مطالب احتمالی سوءاستفاده جنسی از کودکان توسط ربات چت هوش مصنوعی این پلتفرم یعنی Grok، آغاز کرده است.
به گزارش گاردین، این تحقیق رسمی که روز دوشنبه آغاز شد، تحقیقات در مورد سیستمهای توصیهگر ایکس، الگوریتمهایی را که به کاربران در کشف محتوای جدید کمک میکنند، گسترش میدهد.
رباتچت هوش مصنوعی این پلتفرم یعنی گروک با اجازه دادن به کاربران برای برهنه کردن دیجیتالی زنان و کودکان و قرار دادن آنها در حالتهای تحریکآمیز، خشم بینالمللی را برانگیخته است؛ به گفته محققان مرکز مقابله با نفرت دیجیتال، گروک در کمتر از ۲ هفته حدود ۳ میلیون تصویر جنسی ازجمله ۲۳ هزار تصویر که به نظر میرسد کودکان را به تصویر میکشند، تولید کرده است.
این کمیسیون اعلام کرد که تحقیقاتش ارزیابی خواهد کرد که آیا این شرکت خطرات ناشی از عملکردهای گروک در اتحادیه اروپا، ازجمله خطرات مربوط به اشتراکگذاری محتوای غیرقانونی مانند تصاویر جنسی دستکاریشده و محتوایی را که ممکن است به معنای سوءاستفاده جنسی از کودکان باشد، به درستی ارزیابی و کاهش داده است یا خیر.
این تحقیقات تحت قانون خدمات دیجیتال اتحادیه اروپا (DSA) آغاز شده است، قانونی نسبتا جدید که برای محافظت از کاربران اینترنت در برابر طیف وسیعی از آسیبها در نظر گرفته شده است.
یک مقام رسمی در گفتوگو با خبرنگاران گفت که کمیسیون با اقدامهای کاهشی که توسط شبکه اجتماعی ایکس برای رفع این مشکل انجام شده، قانع نشده است.
پس از اعتراض اولیه به تصاویر دستکاریشده، این شرکت دسترسی به این ابزار را به مشترکین پولی محدود کرد، اما تحت فشار نهادهای نظارتی اروپایی تغییر رویه داد؛ این شرکت اوایل این ماه اعلام کرد که اقدامهایی را برای جلوگیری از اجازه ویرایش تصاویر افراد واقعی با لباسهای باز توسط گروک انجام داده است.
یک مقام کمیسیون گفت که این اقدامها نگرانیهای گستردهتر در مورد گروک را از بین نمیبرد؛ این تحقیقات در حال بررسی خطرات نظاممند تولید محتوای غیرقانونی، ازجمله محتوایی که خشونت علیه زنان و مطالب سوءاستفاده جنسی از کودکان را به تصویر میکشد، است؛ آنها گفتند که شبکه اجتماعی ایکس کاهشدهنده موثری برای کاهش خطر در پلتفرم خود نداشته است.
- بیشتر بخوانید:
- هشدارها درباره افزایش تهدیدهای هوش مصنوعی علیه کودکان
- بالا گرفتن انتقادها از ساخت تصاویر مستهجن با هوش مصنوعی گروک
مقام ارشد کمیسیون در امور حاکمیت فناوری، امنیت و دموکراسی، با اعلام این تحقیقات گفت: دیپفیکهای جنسی بدون رضایت زنان و کودکان، نوعی تخریب خشونتآمیز و غیرقابل قبول است؛ با این تحقیقات، ما مشخص خواهیم کرد که آیا شبکه اجتماعی ایکس به تعهدات قانونی خود تحت DSA عمل کرده است یا اینکه حقوق شهروندان اروپایی ازجمله زنان و کودکان را بهعنوان خسارت جانبی خدمات خود در نظر گرفته است.
علاوه بر تحقیقات در مورد تصاویر صریح، این کمیسیون در حال گسترش تحقیقاتی است که در دسامبر ۲۰۲۳ در مورد سیستمهای بهاصطلاح توصیهگر شبکه اجتماعی با توجه به اعلام این شرکت مبنی بر انتقال به یک مدل مبتنی بر گروک برای فیلتر کردن اطلاعات و محتوا برای کاربران، آغاز شده بود.
این اقدام پس از آن صورت میگیرد که سازمان نظارت بر رسانههای انگلیس، آفکام، اوایل این ماه تحقیقات خود را در مورد محتوای مستهجن و غیرقانونی در شبکه اجتماعی اعلام کرد.
این کمیسیون به دلیل کندی در اجرای DSA، بهویژه در رابطه با شبکه اجتماعی ایکس، مورد انتقاد گسترده قرار گرفته است.
نماینده پارلمان اروپا از حزب سبز آلمان، گفت: این تحقیقات خیلی دیر انجام شد، اما همچنان میتواند سیگنال روشنی مبنی بر لزوم رعایت قوانین اروپا توسط پلتفرمها ارسال کند؛ این پرونده کاملا روشن است؛ آسیب واردشده به میلیونها زن و بسیاری از کودکان جبرانناپذیر است؛ امیدواریم که کمیسیون از این آموختهها برای اقدام سریعتر در آینده استفاده کند.
مقامهای اتحادیه اروپا چنین انتقادهایی را رد کردهاند و به ۱۵ تحقیق در حال انجام تحت DSA اشاره کردهاند که از فوریه ۲۰۲۴ برای شرکتها اعمال شده است.
نایب رئیس ایرلندی پارلمان اروپا از جناح راست میانه، گفت که از تحقیقات رسمی استقبال میکند.
وی گفت: وقتی گزارشهای معتبری از استفاده از سیستمهای هوش مصنوعی به روشهایی که به زنان و کودکان آسیب میرساند، منتشر میشود، ضروری است که قوانین اتحادیه اروپا بدون تاخیر بررسی و اجرا شوند.
کمیسیون اروپا ماه گذشته شبکه اجتماعی ایکس را به دلیل نقض قوانین اتحادیه اروپا ۱۲۰ میلیون یورو جریمه کرد؛ این پلتفرم کاربران را فریب داده، مانع محققان مستقل شده و از پاسخگویی طفره رفته بود.
نظارت اتحادیه اروپا گفت که ایکس بدون تایید، نشانهای تیک آبی «فریبنده» به حسابها داده است که بهطور بالقوه کاربران را در معرض کلاهبرداری و فریب توسط بازیگران مخرب قرار میدهد؛ ایکس همچنین با جلوگیری از تحقیق محققان در مورد تبلیغات جعلی و کارزارهای تهدید ترکیبی، الزامات قانونی اتحادیه اروپا در مورد شفافیت در مورد تبلیغات را نقض کرده است.
به این شرکت ۳ ماه فرصت داده شد تا جریمه را پرداخت کند.
انتهای پیام/