چت‌بات را محرم اسرارتان نکنید!/ اطلاعات شخصی، خوراک ارزشمند مدل‌های هوش مصنوعی برای کلاهبرداری است

تا همین یکی دو سال گذشته، اگر کسی می‌خواست درباره یک مسئله خانوادگی، اختلاف حقوقی، دغدغه پزشکی یا حتی یک راز شخصی صحبت کند، احتمالاً سراغ مشاور یا متخصص این حوزه می‌رفت، اما حالا یک «چت‌بات» همیشه در دسترس است که بدون قضاوت گوش می‌دهد، سؤال می‌پرسد و در چند ثانیه پاسخ می‌دهد. همین دسترسی آسان، بسیاری از کاربران را به جایی رسانده که خصوصی‌ترین بخش‌های زندگی خود را نیز بی‌محابا در اختیار سامانه‌های هوش مصنوعی قرار دهند، از عکس و مدارک هویتی گرفته تا جزئیات پرونده‌های خانوادگی و حقوقی.

اما یک سوال، اطلاعاتی که با چند کلیک وارد یک سامانه هوش مصنوعی می‌کنیم، کجا ذخیره می‌شود؟ چگونه پردازش می‌شود ؟ چه سرنوشتی پیدا می‌کند؟ از سوی دیگر، در شرایطی که کلاهبرداران نیز به ابزار‌های هوش مصنوعی مجهز شده‌اند، همین اطلاعات شخصی چگونه می‌تواند به ابزاری برای طراحی فریب‌های دقیق و هدفمند تبدیل شود؟

در این میان، مسئله فقط حفظ حریم خصوصی نیست، پاسخ‌های نادرست یا ناقص هوش مصنوعی نیز می‌تواند در حوزه‌هایی مانند حقوق و پزشکی، تصمیم‌های پرهزینه‌ای برای کاربران رقم بزند. از این رو، شناخت مرز میان «استفاده هوشمندانه» و «اعتماد بی‌محابا» به این فناوری، بیش از گذشته اهمیت پیدا کرده است.

در همین رابطه علیرضا رستم‌زاده رنانی، حقوقدان و پژوهشگر حوزه حقوق فناوری در گفت‌وگو با میزان با هشدار نسبت به استفاده بی‌محابای کاربران از سامانه‌های هوش مصنوعی گفت: امروز بسیاری از شهروندان خصوصی‌ترین اطلاعات خود را در اختیار چت‌بات‌ها قرار می‌دهند؛ افراد درباره مسائل خانوادگی، حقوقی، پزشکی و شخصی خود با این چت بات ها صحبت می‌کنند، عکس و اسناد در اختیار آنها قرار می‌دهند و از آنها برای تحلیل اطلاعات استفاده می‌کنند.

وی افزود: این مسئله از دو جهت اهمیت دارد؛ نخست اینکه افشای اطلاعات شخصی می‌تواند برای فرد مشکلات امنیتی و حریم خصوصی ایجاد کند و دوم اینکه پاسخ تولیدشده توسط هوش مصنوعی الزاماً اطلاعات دقیق و کافی برای تصمیم‌گیری تخصصی نیست.

اطلاعات شخصی، خوراک ارزشمند مدل‌های هوش مصنوعی

این پژوهشگر حقوق فناوری با اشاره به نحوه استفاده کاربران از چت‌بات‌ها اظهار کرد: گاها فردی درگیر یک پرونده خانوادگی یا حقوقی است و برای دریافت مشاوره، جزئیات زندگی خود را در اختیار یک بات هوش مصنوعی قرار می‌دهد. این اطلاعات می‌تواند شامل اطلاعات هویتی، خانوادگی، محل زندگی و سایر جزئیات محرمانه باشد. کاربران باید بدانند دقیقاً چه نوع حسابی در اختیار دارند و سیاست آن سامانه درباره نگهداری و پردازش داده‌ها چیست. تفاوت میان حساب‌های رایگان و حساب‌های حرفه‌ای یا سازمانی نیز می‌تواند در سیاست‌های پردازش داده مؤثر باشد.

رستم‌زاده رنانی تأکید کرد: در برخی سرویس‌ها، کاربر امکان انتخاب درباره استفاده از داده‌ها برای بهبود مدل را دارد، اما حتی در این شرایط نیز نمی‌توان امنیت مطلق را تضمین‌شده فرض کرد؛ بنابراین اصل مهم این است که کاربران در به اشتراک گذاشتن اطلاعات شخصی، محرمانه و حساس خود با سامانه‌های هوش مصنوعی نهایت دقت را داشته باشند.

قرارداد‌هایی که با یک کلیک امضا می‌کنیم

رستم‌زاده رنانی گفت: نکته مهم دیگری که کاربران باید به آن توجه کنند، قرارداد‌هایی است که هنگام استفاده از بات های هوش مصنوعی، با یک کلیک آنها را می‌پذیرند. یکی از اسناد مهم در کنار شرایط اصلی استفاده، سند مربوط به پردازش داده‌هاست که نحوه جمع‌آوری، پردازش و نگهداری اطلاعات کاربر را مشخص می‌کند.مقرراتی مانند مقررات عمومی حفاظت از داده‌های اتحادیه اروپا یا GDPR نیز در این حوزه نقش مهمی دارند و تلاش می‌کنند نحوه پردازش و نگهداری داده‌های شخصی را محدود و قاعده‌مند کنند. با این حال، کاربران نباید تصور کنند صرف وجود مقررات به معنای از بین رفتن همه خطرات است.

امکان کلاهبرداری و هتک حیثیت با محتوای تولیدشده توسط هوش مصنوعی

این پژوهشگر حقوق فناوری درباره انطباق جرایم مرتبط با محتوای تولیدشده توسط هوش مصنوعی با قوانین موجود گفت: در مواردی می‌توان تولید و استفاده از مضامین ایجادشده با هوش مصنوعی را با ماده ۷۴۱ قانون مجازات اسلامی از حیث کلاهبرداری مورد بررسی قرار داد. همچنین موضوع هتک حیثیت نیز در ماده ۷۴۴ مورد توجه قرار گرفته است.

وی تصریح کرد: محتوایی که با هوش مصنوعی تولید می‌شود الزاماً محتوای مستهجن نیست. ممکن است محتوایی تولید شود که حیثیت و آبروی یک فرد را از نظر خانوادگی، اجتماعی یا حتی شغلی به خطر بیندازد؛ بنابراین باید دامنه آثار و پیامد‌های استفاده مجرمانه از هوش مصنوعی را گسترده‌تر از صرفاً تولید محتوای مستهجن دید.

هوش مصنوعی می‌تواند کلاهبرداری را شخصی‌سازی کند

این حقوقدان در بخش دیگری از سخنان خود با اشاره به ظهور و گسترش استفاده از ایجنت‌های هوش مصنوعی گفت: این ابزار‌ها قابلیت برنامه‌ریزی برای انجام اقدامات مجرمانه را دارند و می‌توانند یک دستور اولیه را به صورت مستمر و حتی بدون دخالت روزانه انسان دنبال کنند.

وی افزود: برای مثال، در پیام‌رسان‌ها گاهی به کاربران پیام‌هایی ارسال می‌شود که در آن ادعا شده مبلغ مشخصی رمزارز مانند ترون یا تتر قرار است به کیف پول آنها واریز شود یا حتی با ایجاد یک وضعیت اضطراری از فرد خواسته می‌شود اطلاعات کیف پول خود را در اختیار ارسال‌کننده قرار دهد. بخشی از این اقدامات می‌تواند با استفاده از عامل‌های هوش مصنوعی انجام شود.

به گفته رستم‌زاده رنانی، ایجنت‌های هوش مصنوعی این قابلیت را دارند که همزمان با ده‌ها یا حتی صد‌ها کاربر، گفت‌و‌گو‌های شخصی‌سازی‌شده داشته باشند و همین ویژگی می‌تواند ظرفیت کلاهبرداری‌های هدفمند را افزایش دهد.

وی ادامه داد: اگر پایگاه‌های داده‌ای که معمولاً در نتیجه نشت اطلاعات در اختیار افراد قرار می‌گیرد و در بازار‌های غیرقانونی و دارک‌وب خرید و فروش می‌شود، در اختیار این ابزار‌ها قرار گیرد، زمینه برای کلاهبرداری بسیار شخصی‌سازی‌شده فراهم می‌شود. هوش مصنوعی می‌تواند با استفاده از جزئیات زندگی فرد، مسیر گفت‌و‌گو و حتی شیوه فریب او را متناسب با اطلاعات شخصی‌اش طراحی کند.

هوش مصنوعی مسئولیت مستقل ندارد

رستم‌زاده رنانی درباره مسئولیت حقوقی هوش مصنوعی در تولید محتوا اظهار کرد: هوش مصنوعی به خودی خود مسئولیتی در نظام حقوقی ندارد، چرا که فاقد اراده است و به عنوان یک شخص مستقل شناخته نمی‌شود. در ماده ۱۴۳ قانون مجازات اسلامی نیز اصل بر مسئولیت کیفری اشخاص حقیقی است و حتی در نظام حقوقی ایران، مسئولیت کیفری جمعی به رسمیت شناخته نشده است.

وی افزود: در حوزه دیپ‌فیک و محتوایی که با هوش مصنوعی تولید می‌شود، باید توجه داشت که هوش مصنوعی در اصل یک ابزار و عامل در اختیار انسان است و مسئولیت اعمال انجام‌شده با استفاده از آن، متوجه شخصی است که از این ابزار استفاده کرده است.

رستم‌زاده رنانی ادامه داد: البته با عبور از هوش‌های مصنوعی تک‌بعدی و حرکت به سمت ایجنت‌ها یا دستیار‌های هوش مصنوعی، شرایط تا حدی متفاوت می‌شود. این دستیار‌ها می‌توانند در برخی موارد نقش مهمی در انجام اعمال خلاف قانون داشته باشند و حتی بر اساس یک دستور اولیه، اقدامات مشخصی را به صورت مستمر و بدون دخالت مستقیم انسان ادامه دهند. با این حال، در نهایت باید مسئولیت حقوقی یا کیفری را به شخصی منتسب کرد که این فرآیند را طراحی، برنامه‌ریزی یا هدایت کرده است.

ضرورت احتیاط در حوزه پزشکی

این پژوهشگر حوزه حقوق فناوری درباره استفاده از هوش مصنوعی در پزشکی نیز اظهار کرد: تا جایی که اطلاع دارم، با همکاری تعدادی از متخصصان، توصیه‌نامه‌ای درباره استفاده پزشکان و کادر درمان از چت‌بات‌ها تدوین شده که به دنبال نظام‌مند کردن استفاده از این ابزارهاست.

وی ادامه داد: با توجه به توسعه این فناوری، توصیه شده است بیمارستان‌ها و مراکز درمانی به سمت استفاده از هوش‌های مصنوعی آموزش‌دیده و شخصی‌سازی‌شده بر اساس داده‌های همان مجموعه حرکت کنند تا کادر درمان در شرایط مناسب بتوانند از این ابزار‌ها استفاده کنند و اطلاعات بیماران بدون ضابطه در اختیار سامانه‌های عمومی قرار نگیرد.

رستم‌زاده رنانی در پایان تأکید کرد: هوش مصنوعی در ذات خود یک فناوری و ابزار است و مسئولیت حقوقی مستقل ندارد، اما همین ابزار می‌تواند ظرفیت‌های جدیدی برای کلاهبرداری، جعل، هتک حیثیت و نقض حریم خصوصی ایجاد کند. در نتیجه، همزمان با توسعه فناوری، نظام حقوقی، دستگاه قضایی، کارشناسان و خود کاربران نیز باید شیوه‌های جدید تشخیص، پیشگیری و مقابله با سوءاستفاده از این فناوری را جدی بگیرند.

انتهای پیام/