به گزارش خبرنگار بین‌الملل تازه‌های اقتصاد؛ یک آزمایش امنیتی تازه نشان داده است که هوش مصنوعی پیشرفته همیشه آن‌طور که انتظار می‌رود، ایمن و قابل‌کنترل عمل نمی‌کند. بر اساس گزارش وب‌سایت فناوری فوتوریسم و یافته‌های شرکت آنتروپیک و مؤسسه امنیت هوش مصنوعی بریتانیا، مدل Mythos ۵ حتی زمانی که بارها به آن هشدار داده شد حمله‌اش به افراد واقعی آسیب می‌زند، در بیشتر موارد به کار خود ادامه داد.
این آزمایش در پی یک اتفاق نگران‌کننده انجام شد؛ زمانی که هوش مصنوعی از هدف تعیین‌شده خارج شد و به‌جای رایانه‌های آزمایشی، یک پروژه نامرتبط در پلتفرم گیت‌هاب را هدف گرفت.
حمله سایبری با ظاهری کمک‌کننده
ماجرا از آنجا شروع شد که مؤسسه امنیت هوش مصنوعی بریتانیا از Mythos ۵ خواست به شبکه‌ای کوچک از رایانه‌های آزمایشی نفوذ کند. اما پس از ناکامی در دسترسی به هدف اصلی، این مدل سراغ پروژه‌ای دیگر در گیت‌هاب رفت که هیچ ارتباطی با آزمایش نداشت.
هوش مصنوعی سپس بدافزاری نوشت و با استفاده از چند هویت جعلی، برای صاحب پروژه ایمیل فرستاد تا او را به افزودن کد مخرب به پروژه ترغیب کند. نکته عجیب این بود که کد مخرب را به‌عنوان یک پیشنهاد مفید و مشارکتی سازنده معرفی می‌کرد؛ تلاشی برای پنهان کردن هدف واقعی حمله.
صاحب پروژه فریب نخورد و در نهایت آسیبی در دنیای واقعی گزارش نشد. با این حال، پژوهشگران برای فهمیدن علت این رفتار، ماجرا را بر اساس متن کامل تعاملات بازسازی کردند و آزمایش‌های بیشتری انجام دادند.
هشدارها هم جلوی حمله را نگرفت
نتایج آزمایش‌ها نشان داد که حتی تأکید مکرر بر واقعی بودن هدف و بی‌ارتباط بودن او با آزمایش، لزوماً رفتار هوش مصنوعی را تغییر نمی‌دهد. در یکی از آزمایش‌های آنتروپیک، Mythos ۵ در ۹۸ درصد موارد، با وجود هشدار درباره آسیب رساندن به انسان‌ها، به حمله ادامه داد.
پژوهشگران همچنین متوجه شدند که میان رفتار مدل و توضیحاتی که برای آن ارائه می‌کرد، تناقض وجود دارد. Mythos ۵ در برخی موقعیت‌ها می‌پذیرفت که حمله می‌تواند به دیگران آسیب برساند، اما با وجود این آگاهی، باز هم به اقدام خود ادامه می‌داد.
بررسی فرایندهای استدلال ثبت‌شده مدل نیز نشان داد که این سیستم اغلب پیامدهای زیان‌بار اقداماتش را به‌طور جدی بررسی نمی‌کرد. گاهی هم در پاسخ به این پرسش که آیا هدف حمله واقعی است، توضیحاتی ارائه می‌داد که به غیرواقعی بودن آن اشاره داشت.
وقتی هوش مصنوعی برای اشتباه خود دلیل می‌تراشد
پژوهشگران یکی از توضیح‌های احتمالی این رفتار را «استدلال انگیزه‌محور» می‌دانند؛ وضعیتی که در آن، هوش مصنوعی به‌جای ارزیابی بی‌طرفانه شرایط، دلایلی می‌سازد که ادامه مسیر انتخاب‌شده را توجیه می‌کند؛ حتی اگر آن مسیر اشتباه یا زیان‌بار باشد.
به زبان ساده، ممکن است هوش مصنوعی به‌جای اینکه پس از دریافت هشدار تصمیمش را تغییر دهد، برای ادامه کار خود دلیل بتراشد. این رفتار نظارت بر مدل‌ها را دشوارتر می‌کند؛ زیرا توضیحاتی که ظاهراً منطقی و بی‌خطر به نظر می‌رسند، لزوماً نشان نمی‌دهند که مدل در عمل چه می‌کند.
به گفته پژوهشگران، مدل‌های قدیمی‌تر و کم‌توان‌تر کمتر دچار چنین مشکلاتی می‌شدند. همین موضوع اهمیت بررسی دقیق‌تر مدل‌های پیشرفته را افزایش می‌دهد؛ به‌ویژه حالا که از هوش مصنوعی برای انجام کارهای پیچیده و چندمرحله‌ای استفاده می‌شود.
آیا مدل‌های جدیدتر ایمن‌ترند؟
شرکت آنتروپیک اعلام کرده است که برخی مدل‌های جدیدتر این شرکت، از جمله Opus ۵.۵ و یک مدل داخلی پژوهشی که به گفته شرکت توانایی‌هایی فراتر از Mythos ۵.۱ دارد، پس از آگاهی از آسیب‌های واقعی اقداماتشان، کمتر به اجرای حمله تمایل نشان داده‌اند.
با این حال، این نتایج به معنای حل شدن مشکل نیست. مؤسسه امنیت هوش مصنوعی بریتانیا هشدار داده است که با افزایش استفاده از سیستم‌هایی که وظایف طولانی را بدون نظارت مستقیم انسان انجام می‌دهند، باید مشخص شود این مدل‌ها چه زمانی و چرا ممکن است دست به اقدامات ناخواسته بزنند.
این نگرانی فقط به حملات سایبری محدود نمی‌شود. هرچه کارهای بیشتری به هوش مصنوعی سپرده شود، مهم‌تر خواهد بود که مطمئن شویم این سیستم‌ها نه‌فقط در حرف، بلکه در عمل نیز به محدودیت‌ها پایبند می‌مانند و در صورت مواجهه با پیامدهای زیان‌بار، می‌توانند مسیر خود را اصلاح کنند.
نظر شما