آیا هوش مصنوعی از کنترل خارج میشود؟
یکی از پژوهشگران سابق هوش مصنوعی اوپن اِیآی (OpenAI) شغل خود را در شرکت آنتروپیک ترک کرد و هشدار داد که هیچیک از این دو شرکت مسئولانه عمل نمیکنند و کسانی که هوش مصنوعی را میسازند، عمیقا باور دارند که این فناوری میتواند تا پایان دهه، نسل بشر را نابود کند.
وی بیان کرد: این یک ترفند تبلیغاتی نیست، برای من که سالهاست درباره خطرات هوش مصنوعی گزارش میدهم، این موضوع تازهای نبود، اما موج گسترده نگرانیها نشان میدهد که بخش بسیار بزرگتری از عموم مردم، برای نخستین بار بهطور جدی با این وضعیت عجیب و باورنکردنی روبهرو شدهاند.
در همین حال شرکت اوپن ایآی نیز بهسرعت هوش مصنوعی هکرِ متخصص خود را معرفی کرد؛ طی چند ماه، این شرکت بارها کنترل عوامل (agents) خود را از دست داد؛ عواملی که از محیطهای آزمایشی بهظاهر امن خود خارج شده و در درون زیرساختهای شرکت، رفتاری خارج از کنترل و خودمختار (سرکش) در پیش گرفتند.
اوج این ماجرا، هک موفقیتآمیز و کاملا خودمختارِ یک شرکت نرمافزاری چند میلیارد دلاری به نام «Hugging Face» بود.
به گزارش «straitstimes»، سالهاست که همگام با تحول هوش مصنوعی از موضوعی مختص فیلمهای علمی-تخیلی به اپلیکیشنی که مردم عادی روی گوشیهای خود نصب میکنند، سران حوزه فناوری و برخی صاحبنظران این عرصه درباره احتمال خارج شدن آن از کنترل انسان و ایجاد هرجومرج در جامعه هشدار دادهاند.
در روزهای اخیر، با توجه به پیشرفتهای این فناوری، وقوع مجموعهای از رخنههای امنیتی مرتبط با عاملهای هوش مصنوعی و هشدارهای جدید کارکنان این حوزه، نادیده گرفتن این نگرانیها دیگر ممکن نیست.
شرکتهای پیشرو هوش مصنوعی در آمریکا در واکنش به این وضعیت، پیشنهاد کردهاند که داوطلبانه سرعت کار خود را کاهش دهند تا برای ایجاد تدابیر حفاظتی زمان بخرند؛ با این حال، برخی کارشناسان و مقامها معتقدند که این اقدام کافی نیست و خواستار اعمال محدودیتهای دولتی شدهاند.
هراس کنونی پیرامون هوش مصنوعی ناشی از دو رویداد بود؛ یک حمله سایبری غافلگیرکننده که توسط مدلهای شرکت «OpenAI» انجام شد و هشداری از سوی یکی از کارکنان سابق شرکتهای «Anthropic» و «OpenAI» درباره تهدید وجودی ناشی از مدلهای پیشرفته.
این حادثه نگرانیهای گستردهای را درباره توانایی شرکتهای برتر هوش مصنوعی در جلوگیری از عملکرد مدلهای پیشرفته خارج از چارچوب دستورالعملهای تعیینشده، برانگیخت. شرکت Hugging Face اعلام کرد که این نفوذ «از ابتدا تا انتها توسط یک سیستمعامل هوش مصنوعی خودمختار» هدایت شده است.
اخبار مربوط به OpenAI باعث شد سایر شرکتها نیز تدابیر امنیتی خود را برای آزمایش مدلهای پیشرفته هوش مصنوعی بازنگری کنند. شرکتهای آنتروپیک و متا نیز از کشف رخنههای امنیتی که پیشتر ناشناخته بودند، خبر دادند.
- بیشتر بخوانید:
- کمیسر حقوق بشر سازمان ملل: هوش مصنوعی حفاظها در برابر تسلیحات کشتار جمعی را از بین میبرد
- سایه الگوریتمها بر حقوق بشر؛ هشدار در نشست ژنو درباره خطرهای هوش مصنوعی
در اواخر ماه جولای (مرداد)، بیش از هزار نفر از کارکنان شرکتهای بزرگ هوش مصنوعی با امضای طوماری، خواستار ایجاد سازوکاری برای کاهش سرعت توسعه هوش مصنوعی شدند.
در حال حاضر شکافی عمیق میان درک بیشتر کاربران از هوش مصنوعی و ماهیت آن در مرزهای تجربی این فناوری وجود دارد؛ این تفاوت میان آنچه کاربران میبینند و آنچه آزمایشگاههای هوش مصنوعی در تدارک آن هستند -یعنی آنچه هماکنون در حال ساختش هستند- کلید درک این مسئله است که چرا بسیاری از کارکنان این شرکتها، تا این حد از کاری که انجام میدهند هراس دارند.
با وجود این دونالد ترامپ، رئیسجمهور آمریکا بهتازگی اعلام کرد که یک «نیروی هوش مصنوعی» ایجاد خواهد کرد و یک «تزار هوش مصنوعی» را برای نظارت بر بازیگران بد در بخش هوش مصنوعی منصوب خواهد کرد.
ترامپ، که نگرانیها را در مورد مدلهای پیشرو هوش مصنوعی که بهسرعت در حال تکامل هستند بهعنوان یک فریب رد کرده است، گفت: این آژانس جدید مانع رشد یا خفه کردن صنعت هوش مصنوعی نخواهد شد، بلکه آن را گرامی میدارد، به آن کمک میکند و در زمان رشد از آن مراقبت میکند.
وی همواره با موانع فدرال مخالفت کرده و نگرانیهای ایمنی هوش مصنوعی را رد کرده است و به جز تنظیم مقررات این فناوری، مشخص نیست که «نیروی هوش مصنوعی» چه هدف عملیاتی یا مرجع واقعی را دنبال خواهد کرد.
رئیسجمهور آمریکا مشخص نکرد که تزار هوش مصنوعی جدید این کشور چه کسی خواهد بود، اما حامیان سیلیکونولی که دیدگاه ضدنظارتی او را برای هوش مصنوعی به اشتراک میگذارند، شامل دیوید ساکس، سرمایهگذار خطرپذیر و میلیاردرهای مارک اندریسن و بن هوروویتز هستند.
این اعلامیه پس از هشدارهای جدی از سوی افراد آگاه در صنعت و مدیران عامل شرکتهای هوش مصنوعی منتشر شده است که گفتهاند این فناوری از توانایی آنها در درک و کنترل آن پیشی گرفته است و بسیاری از مقامهای این حوزه خواستار کاهش عمدی سرعت شدهاند تا به سازمانهای نظارتی اجازه دهند اقدامهای حفاظتی را توسعه دهند.
انتهای پیام/
