هشدارها درباره افزایش تهدید‌های هوش مصنوعی علیه کودکان

کاسماس زاوازاوا، مدیر دفتر توسعه ارتباطات از راه دور در اتحادیه بین‌المللی ارتباطات از راه دور (ITU)، یکی از آژانس‌های تخصصی سازمان ملل، مجموعه‌ای گسترده از روش‌هایی را که کودکان هدف قرار می‌گیرند، فهرست کرد.

این موارد از دستکاری‌های شخصی گرفته تا جعل عمیق (دیپ‌فیک)، جاسازی ویژگی‌های مضر، زورگویی سایبری و محتوای نامناسب را شامل می‌شود. 

او گفت: ما شاهد بودیم که در طول همه‌گیری کووید-۱۹، بسیاری از کودکان، به‌ویژه دختران و زنان جوان، به‌صورت آنلاین مورد آزار و اذیت قرار گرفتند و در بسیاری از موارد این آزار و اذیت‌ها به آسیب فیزیکی منجر شد.

سازمان‌های مدافع حقوق کودکان گزارش می‌دهند که شکارچیان می‌توانند از هوش مصنوعی برای تجزیه و تحلیل رفتار آنلاین، وضعیت عاطفی و علایق کودک استفاده کنند تا استراتژی خود را برای آزار و اذیت تنظیم کنند.

هوش مصنوعی همچنین به مجرمان این امکان را می‌دهد که تصاویر جعلی آشکاری از کودکان واقعی تولید کنند و شکل جدیدی از اخاذی جنسی را به راه بیندازند.

موسسه جهانی ایمنی کودک چایلدلایت در گزارشی در سال ۲۰۲۵ دریافت که موارد سوءاستفاده از کودکان با استفاده از فناوری در آمریکا از ۴ هزار و ۷۰۰ مورد در سال ۲۰۲۳ به بیش از ۶۷ هزار مورد در سال ۲۰۲۴ افزایش یافته است.

چایلدلایت یک موسسه مستقل جهانی است که برای جمع‌آوری معتبرترین داده‌های موجود در مورد استثمار و سوءاستفاده جنسی از کودکان تاسیس شده است.

در گزارش سازمان ملل آمده که کشور‌های عضو این سازمان از مقیاس و شدت این مشکل آگاه بوده و اقدام‌های قوی‌تری را اتخاذ می‌کنند.

در پایان سال ۲۰۲۵، استرالیا نخستین کشوری در جهان بود که حساب‌های کاربری کودکان زیر ۱۶ سال را در رسانه‌های اجتماعی ممنوع کرد، براین اساس که خطر‌های ناشی از محتوایی که آنها به اشتراک می‌گذارند بسیار بیشتر از مزایای بالقوه آن است.

براساس گزارش‌ها، حدود دو سوم کودکان بین ۱۰ تا ۱۵ سال در استرالیا محتوای نفرت‌انگیز، خشونت‌آمیز یا ناراحت‌کننده را مشاهده کرده‌اند و بیش از نیمی از آنها مورد آزار و اذیت سایبری قرار گرفته‌اند. بیشتر این محتوا در سکو‌های رسانه‌های اجتماعی دیده شده است.

• بیشتر بخوانید:
• گسترش خشونت سایبری علیه زنان در اروپا
• بالا گرفتن انتقاد‌ها از ساخت تصاویر مستهجن با هوش مصنوعی گروک

به نظر می‌رسد چندین کشور دیگر، از جمله مالزی، انگلیس، فرانسه و کانادا، از استرالیا پیروی کرده و مقررات و قوانینی را برای ممنوعیت‌ها یا محدودیت‌های مشابه آماده می‌کنند؛ و در آغاز سال ۲۰۲۶، طیف گسترده‌ای از نهاد‌های سازمان ملل که در زمینه ایمنی کودکان نقش دارند، نام خود را در بیانیه مشترکی در مورد هوش مصنوعی و حقوق کودک که در ۱۹ ژانویه (۲۹ دی) منتشر شد، ثبت کردند. 

این بیانیه به فقدان سواد هوش مصنوعی در بین کودکان، معلمان، والدین و مراقبان و همچنین کمبود آموزش فنی برای سیاست‌گذاران و دولت‌ها در مورد چارچوب‌های هوش مصنوعی، روش‌های حفاظت از داده‌ها و ارزیابی تاثیر حقوق کودک اشاره می‌کند.

مسئولیت شرکت‌های فناوری

سازمان ملل می‌گوید که شرکت‌های فناوری نیز در این چارچوب قرار دارند. در این بیانیه آمده است که بیشتر ابزار‌های مبتنی بر هوش مصنوعی که این شرکت‌ها توسعه می‌دهند، به‌همراه مدل‌ها، تکنیک‌ها و سیستم‌های زیربنایی آنها، در حال حاضر با در نظر گرفتن کودکان و رفاه آنها طراحی نشده‌اند.

زاوازاوا گفت: ما واقعاً نگران هستیم و دوست داریم بخش خصوصی در کنار سایر آژانس‌های سازمان ملل و سایر بازیگرانی که معتقدند فناوری می‌تواند توانمندساز باشد، اما می‌تواند مخرب نیز باشد، درگیر شود و بخشی از داستانی باشد که ما در حال نوشتن آن هستیم.

انتهای پیام/