انتشار مجدد محتوای غیراخلاقی از کودکان؛ چالشی برای ایلان ماسک و ایکس

روزنامه نیویورک‌تایمز گزارش کرد که ایلان ماسک مدت‌هاست که متعهد شده مطالب مربوط به سوءاستفاده جنسی از کودکان را در سکوی رسانه اجتماعی خود، یعنی ایکس، حذف کند. اما برخی از این محتوا همچنان در این بستر دیده می‌شوند.

بررسی مرکز کانادایی حمایت از کودکان نشان داد که ربات چت هوش مصنوعی این سایت، یعنی گروک (Grok)، در ابتدای سال با ایجاد ده‌ها عکس مستهجن و گاهی اوقات صریح جنسی از کودکان، از جمله قربانیانی که قبلا برای مجریان قانون شناخته شده بودند، به درخواست‌های کاربران پاسخ داده است. این تصاویر شامل کودکانی در حالت‌های مستهجن بود.

یک تحلیل جداگانه توسط نیویورک‌تایمز نشان داد که در نیمه نخست سال ۲۰۲۶، برخی کاربران در ایکس مطالب سوءاستفاده جنسی از کودکان را که قبلا توسط مقام‌ها علامت‌گذاری شده بود، منتشر کردند.

این یافته‌ها نه از طریق بررسی داده‌های جامع (که دسترسی به آنها توسط ایکس محدود شده است) بلکه از راه بررسی‌های موردی و تصادفی در این رسانه اجتماعی به دست آمده‌اند. 

مجموع این ۲ تحلیل، تصویری از وضعیت رسانه‌ای اجتماعی ارائه می‌دهد که همچنان با معضل محتوای غیرقانونیِ دارای پتانسیل ایجاد آسیب در دنیای واقعی دست‌به‌گریبان است.

لوید ریچاردسون، مدیر فناوری مرکز کانادایی حمایت از کودکان، گفت: اینکه محتوای شناخته‌شده مربوط به سوءاستفاده جنسی از کودکان، که باید به‌طور خودکار حذف شود، در این سکو دیده می‌شود، به‌شدت غیرقابل‌قبول است. 

شرکت ایکس در بیانیه‌ای مدعی شد که علاوه بر استفاده از فناوری اختصاصی خود برای شناسایی چنین محتوایی، همچنان از فیلتر‌های خودکار برای جلوگیری از بارگذاری آنها بهره می‌برد.

در این بیانیه ادعا شده است: ما مسئولیت خود را در قبال حفاظت از افراد زیر سن قانونی بسیار جدی می‌گیریم. ایکس در برابر محتوای سوءاستفاده جنسی از کودکان، ازجمله محتوایی که با هوش مصنوعی تولید شده باشد، هیچ‌گونه تسامحی قائل نیست.

این درحالی است که ماسک در سال ۲۰۲۲ ایکس را، که در آن زمان با نام توییتر شناخته می‌شد، خریداری کرد و متعهد شد که مطالب مربوط به سوءاستفاده جنسی از کودکان را از سکوی خود حذف کند و آن را اولویت شماره یک نامید. 

سایر سکو‌های بزرگ رسانه‌های اجتماعی نیز در ریشه‌کن کردن تصاویر کودک‌آزاری، به‌ویژه تصاویر تازه ایجاد شده‌ای که مجریان قانون قبلا آنها را شناسایی نکرده‌اند، با مشکل مواجه هستند. 

مانند ایکس، سکو‌های دیگر ازجمله فیس‌بوک و گوگل، نیز برای شناسایی خودکار این تصاویر و جلوگیری از انتشار عمومی آنها، به فهرست‌هایی از تصاویر قبلا شناسایی‌شده که توسط گروه‌های ایمنی کودکان گردآوری شده‌اند، متکی هستند.

ماسک سال گذشته ایکس را با xAI ادغام کرد. سپس شرکت موشکی او، اسپیس ایکس، در ماه فوریه (بهمن/اسفند) xAI را خریداری کرد و یک شرکت بزرگ به ارزش حدود ۱.۵ تریلیون دلار ایجاد کرد.

در ماه‌های دسامبر (آذر/دی) و ژانویه (دی/بهمن) بود که گروک (Grok) در رسانه اجتماعی ایکس در پاسخ به درخواست‌های شماری از کاربران، میلیون‌ها تصویر غیراخلاقی از افراد تولید کرد. پس از اعتراض‌های عمومی، ایکس اعلام کرد که مانع از تولید چنین تصاویری توسط این بستر هوش مصنوعی خواهد شد.

بعدها، این مرکز کانادایی ۶۵ مورد را شناسایی کرد که در آنها گروک پیش از متوقف‌شدن فعالیت ربات توسط ایکس، تصاویری با ماهیت جنسی یا استثمارگرانه از کودکان تولید کرده بود. در همان بازه زمانی، تعدادی از کاربران همچنین از این چت‌بات خواستند تا عکس‌های افراد شناخته‌شده‌ای را که در کودکی قربانی آزار جنسی بوده‌اند ویرایش کرده و آنها را با اشکال غیراخلاقی به تصویر بکشد.

عمران احمد، مدیرعامل مرکز مقابله با نفرت دیجیتال، سازمانی که به مطالعه آزار و اذیت و سخنان نفرت‌انگیز آنلاین می‌پردازد، این یافته‌ها را یکی از بزرگ‌ترین شکست‌های شرکتی در طول عمر خود توصیف کرد. سازمان او دسترسی به بیش از ۴ میلیون لینک تصاویر تولیدشده توسط گروک را فراهم کرد؛ مجموعه‌ای که برای بررسی توسط پژوهشگران مرکز کانادایی گردآوری شده بود. 

انتهای پیام/