رسوایی بزرگ دیپ‌فیک و انتشار تصاویر غیراخلاقی میلیون‌ها نفر در استرالیا با هوش مصنوعی
گزارش تازه‌ای از آمار تکان‌دهنده‌ی سوءاستفاده از استرالیایی‌ها از طریق تصاویر مستهجن تولیدشده توسط هوش مصنوعی پرده برداشته است؛ این در حالی است که دولت فدرال استرالیا در حال پیشبرد یک قانون‌گذاری در زمینه ایمنی آنلاین است.
مطالعه دانشگاه «آر.ام. آی. تی» (RMIT) نشان می‌دهد که در استرالیا، انگلیس و آمریکا حدود یک نفر از هر ۱۵ بزرگسال (معادل ۷ درصد)، از زمان رسیدن به سن ۱۸ سالگی، دست‌کم یک نوع سوءاستفاده مبتنی بر تصاویر تولیدشده توسط هوش مصنوعی را تجربه کرده‌اند؛ این رقم در استرالیا اندکی بالاتر و برابر با ۷.۷ درصد است.
چنین سوءرفتاری شامل ایجاد و به اشتراک‌گذاری تصاویر خصوصی تولیدشده توسط هوش مصنوعی ازجمله تصاویر دیپ‌فیک (deepfake) با محتوای صریح جنسی، بدون رضایت فرد حاضر در تصویر، و همچنین تهدید به انجام این کار است.
حدود ۸۷ درصد از قربانیان دست‌کم به یک مورد تاثیر منفی بر زندگی روزمره خود (ازجمله در زمینه‌های سلامت و رفاه، کار، روابط یا وضعیت مالی) اشاره کرده‌اند.
میزان بروز این‌گونه سوءرفتار‌ها در میان افراد زیر ۳۵ سال، گروه‌های نژادی و قومی به حاشیه رانده‌شده، و افراد دارای معلولیت، بیشتر گزارش شده است.
نیکولا هنری، نویسنده اصلی این پژوهش از دانشگاه آر.ام. آی. تی اظهار کرد که اگرچه این نتایج چندان غافلگیرکننده نیستند، اما هیچ‌کس در برابر چنین سوءرفتار‌هایی مصون نیست و ابعاد واقعی وقوع آن هنوز به‌طور کامل مشخص نیست.
او گفت: با توجه به آنچه درباره دسترسی روزافزون افراد به ابزار‌های هوش مصنوعی می‌دانیم، این یافته برای ما جای تعجب ندارد. مقیاس واقعی ممکن است حتی بزرگ‌تر باشد، زیرا برخی از مردم ممکن است هرگز ندانند که تصاویر تولید شده توسط هوش مصنوعی از آنها ایجاد یا به اشتراک گذاشته شده است.
- بیشتر بخوانید:
- دادگاه فنلاند و پرونده ۳۶۱ کودک؛ بحران سوءاستفاده جنسی آنلاین در اروپا
- دیپ‌فیک و جای خالی قوانین برای جلوگیری از نقض حقوق بشر
مردان همچنین بیش از ۲ برابر زنان مورد هدف قرار گرفته‌اند، به‌طوری که ۱۰.۲ درصد از مردان در مقایسه با ۳.۸ درصد از زنان، مورد سوءاستفاده قرار گرفته‌اند، اما زنان اثر‌های منفی بیشتری از جمله ترس از ایمنی و سلامت جسمی و روانی نامطلوب خود را گزارش کرده‌اند.
محققان بیش از ۷ هزار و ۲۰۰ بزرگسال را در استرالیا، آمریکا و انگلیس مورد بررسی قرار دادند.
این گزارش در حالی منتشر می‌شود که دولت فدرال استرالیا و وزیر ارتباطات این کشور قوانین عمده‌ای در مورد ایمنی اینترنت وضع کرده‌اند که شرکت‌های رسانه‌های اجتماعی را هدف قرار می‌دهد و وظیفه مراقبت دیجیتالی را ارائه می‌دهد.
این قانون که ماه گذشته به پارلمان استرالیا ارائه شد، سرویس‌های آنلاین را ملزم می‌کند تا به‌طور پیشگیرانه از تولید محتوای صمیمی ایجاد شده بدون رضایت توسط هوش مصنوعی جلوگیری کنند. شرکت‌های فناوری در صورت عدم رعایت این قانون با جریمه‌هایی تا سقف ۱۰۹.۲ میلیون دلار مواجه خواهند شد.
این قانون پس از تصویب در مجلس عوام به سنا ارجاع داده خواهد شد.
هنری گفت که یک رویکرد چندجانبه و فراگیر در سطح جامعه برای مقابله با سوءاستفاده مبتنی بر هوش مصنوعی مورد نیاز است و از این ۳ کشور خواست تا اقدامات بیشتری فراتر از وظیفه مراقبت دیجیتال را در نظر بگیرند.
انتهای پیام/
