جنجال دیپ‎فیک؛ جهان تحت تاثیر تصاویر و ویدیوهای جعلی

خبرگزاری میزان - سیاست‎مداران آمریکا پس از انتشار عکس‌های جعلی در فضای مجازی که میلیون‌ها بازدید را تجربه کردند، خواستار تصویب قوانینی جدید برای جرم‌انگاری ساخت تصاویر دیپ‎فیک شدند.

جوزف مورل، یکی از قانون‌گذاران مجلس نمایندگان آمریکا به‎تازگی انتشار این تصاویر را وحشتناک خواند.

دیپ‎فیک چیست؟

عباراتی مانند deepfake احتمالا برای بسیاری از مردم جدید است.

دیپ‎فیک معمولا به ویدیو جعلی گفته می‌شود که با استفاده از هوش مصنوعی ساخته شده است. دیپ‎فیک اساسا یک ویدیو جعلی است که بسیار واقعی به نظر می‌رسد.

در چند سال گذشته، هوش مصنوعی ساخت تصاویر، ویدیو‌ها و صدا‌های جعلی را آسان‌تر کرده است. 

هوش مصنوعی فیلم‌ها، تصاویر و صدا‌های جعلی را متفاوت از روشی که به‌طور سنتی انجام می‌شد، می‌سازد. تصاویر و فیلم‌ها در روش سنتی با برش‎دادن صدا و یا فتوشاپ انجام می‌شد. در روش نوین این ماشین‌ها و خود کامپیوتر‌ها هستند که تصاویر و صدا را می‌سازند.

این یک نوع فناوری اساسا متفاوت بوده و بسیار واقعی‌تر به نظر می‌رسد.

دیپ‌فیک‌ها از هوش مصنوعی (AI) برای ساختن ویدیویی از فردی با دستکاری صورت یا بدن او استفاده می‌کنند. 

یک مطالعه در سال ۲۰۲۳ نشان داد که از سال ۲۰۱۹، افزایش ۵۵۰ درصدی در ایجاد تصاویر دستکاری شده وجود داشته که با توسعه هوش مصنوعی تقویت شده است. 

قانون‌گذاری برای دیپ‎فیک

در حال حاضر هیچ قانون فدرال علیه به اشتراک‌گذاری یا ساخت تصاویر دیپ‎فیک وجود ندارد؛ اگرچه اقداماتی در برخی کشور‌ها برای مقابله با این موضوع انجام شده است. 

در انگلیس به اشتراک‌گذاری برخی تصاویر دیپ‎فیک به‌عنوان بخشی از قانون ایمنی آنلاین آن در سال ۲۰۲۳ غیرقانونی اعلام شد.

جو بایدن، رئیس‌جمهور آمریکا در ماه اکتبر یک فرمان اجرایی گسترده در زمینه هوش مصنوعی امضا کرد که بر استفاده از فناوری‌های نوظهور و مدیریت خطرات آن تمرکز دارد.

اما کارشناسان و فعالان حوزه فناوری خواستار اقدامات جدی‌تر از سوی شرکت‌های رسانه‌های اجتماعی، دولت‌ها و قانونگذاران برای مقابله با پدیده مخرب دیپ‌فیک و سوءاستفاده از آن هستند.

در ماه می ۲۰۲۳ جوزف مورل، قانون پیشنهادی جلوگیری از دیپ‎فیک تصاویر خصوصی را معرفی کرد که به اشتراک‌گذاری تصاویر مستهجن ساخته‎شده با دیپ‎فیک غیرقانونی می‌کند.

مورل، گفت که این تصاویر و ویدیو‌ها می‌توانند آسیب‌های عاطفی، مالی و اعتباری جبران‌ناپذیری ایجاد کنند و متاسفانه، زنان به‌طور خاص تحت تاثیر قرار می‌گیرند. 

تام کین جونیور، نماینده جمهوری‌خواه کنگره نیز گفت: واضح است که فناوری هوش مصنوعی سریع‌تر از اقدامات حفاظتی لازم در حال پیشرفت است. فرقی ندارد قربانی چه کسی باشد؛ ما باید تدابیر امنیتی برای مبارزه با این روند هشدار دهنده را انجام دهیم. 

او لایحه مورل را حمایت و قانون برچسب‌گذاری هوش مصنوعی خود را معرفی کرده که مستلزم آن است که تمام محتوای تولید شده از سوی هوش مصنوعی (از جمله چت‌بات‌های بی‌ضررتر که در تنظیمات خدمات مشتری استفاده می‌شوند) به این عنوان برچسب‌گذاری شوند.

هوش مصنوعی و افراد مشهور

تیلور سوئیفت، سلبریتی آمریکایی جدیدترین قربانی تصاویر دیپ‌فیک به حساب می‌آید.

در روز‌های گذشته تصاویر جعلی از این سلبریتی میلیون‌ها بار در فضای مجازی دیده شد و جنجال بسیاری به‌پا کرد.

تصاویر جعلی سوییفت در شبکه‌های اجتماعی از جمله تلگرام و ایکس منتشر شده بود. شبکه اجتماعی ایکس در بیانیه‌ای اعلام کرد که این تصاویر را حذف و حساب‌های مرتبط با آن‌ها را محدود کرده است.

دیلی‌میل گزارش داد که تیم حقوقی این سلبریتی آمریکایی در حال بررسی اقدامات قانونی علیه سایتی بوده که تصاویر تولیدشده از سوی هوش مصنوعی را منتشر کرده است. 

این در حالی است که در آستانه انتخابات درون حزبی دموکرات‌ها در ایالت نیوهمپشایر، تماس‌های گرفته‌شده از سوی یک شماره‌گیر رایانه‌ای، آن هم با صدای جعلی رئیس‌جمهور آمریکا باعث شد تا یک پرونده تحقیق و تفحص در مورد این موضوع آغاز شود.

انتهای پیام/